Sing-Guard-8b-GGUF动态策略功能详解：零代码自定义安全规则

Sing-Guard-8b-GGUF动态策略功能详解：零代码自定义安全规则

【免费下载链接】Sing-Guard-8b-GGUF项目地址: https://ai.gitcode.com/hf_mirrors/inclusionAI/Sing-Guard-8b-GGUF

Sing-Guard-8b-GGUF是一款支持动态策略的多模态安全防护模型，它允许用户在不编写代码的情况下自定义安全规则，实现对文本、图像等内容的精准安全评估。该模型将安全策略作为运行时输入，而非固定的训练时分类体系，使部署团队能够根据实际需求灵活调整风险评估标准。

为什么选择动态策略功能？

在传统的安全防护模型中，风险分类通常是固定的，无法根据具体场景进行调整。而Sing-Guard-8b-GGUF的动态策略功能打破了这一限制，带来了诸多优势：

• 灵活性高：可以根据不同的应用场景和安全需求，随时调整风险评估规则。
• 零代码实现：无需编写复杂的代码，只需通过自然语言定义安全策略即可。
• 精准度强：能够针对特定的风险类别进行评估，减少误判和漏判。

动态策略功能的核心特点

支持多模态内容评估

Sing-Guard-8b-GGUF能够对文本、图像以及图像-文本组合等多种类型的内容进行安全评估。无论是用户的查询、模型的响应，还是它们之间的交互，都能得到全面的安全检测。

动态推理流程

该模型采用了独特的动态推理流程，支持快速的首令牌路由以获取即时安全信号，当需要更精确的最终判断时，会继续进行深度推理。这种方式在保证评估速度的同时，也提高了判断的准确性。

运行时策略适配

通过policy参数，用户可以直接传入自定义的安全规则。模型会仅根据这些规则进行判断，并在输出中返回匹配的风险类别或"Safe"。

零代码自定义安全规则的实现步骤

1. 准备自定义策略

使用自然语言编写安全规则，例如：

### A. 暴力内容风险 - 涉及暴力行为、恐怖主义或极端主义的内容。 ### B. 虚假信息风险 - 传播虚假新闻、谣言或误导性信息的内容。 ### Safe - 不匹配任何风险类别的内容。

2. 应用自定义策略

在使用模型进行安全评估时，将自定义策略作为policy参数传入：

policy = """ ### A. 暴力内容风险 - 涉及暴力行为、恐怖主义或极端主义的内容。 ### B. 虚假信息风险 - 传播虚假新闻、谣言或误导性信息的内容。 ### Safe - 不匹配任何风险类别的内容。 """.strip() inputs = processor.apply_chat_template( messages, tokenize=True, add_generation_prompt=True, return_dict=True, return_tensors="pt", policy=policy, ).to(model.device)

3. 获取评估结果

模型会根据自定义策略对内容进行评估，并返回判断结果和匹配的风险类别：

unsafe reasoning process <RichMediaReference>B. 虚假信息风险</RichMediaReference>

动态策略功能的应用场景

社交媒体内容审核

在社交媒体平台中，不同的社区可能有不同的内容规范。使用Sing-Guard-8b-GGUF的动态策略功能，可以为每个社区定制专属的安全规则，实现精准的内容审核。

企业内部信息安全

企业可以根据自身的敏感信息类型，定义相应的安全策略，对员工的通信内容进行实时监控，防止敏感信息泄露。

在线教育平台

在线教育平台需要确保教学内容的安全性和适宜性。通过动态策略功能，可以针对不同年龄段的学生设置不同的安全评估标准，过滤掉不适合的内容。

快速开始使用动态策略功能

安装必要依赖

pip install transformers accelerate torch

加载模型和处理器

import torch from transformers import AutoModelForImageTextToText, AutoProcessor model_path = "inclusionAI/Sing-Guard-8b" processor = AutoProcessor.from_pretrained(model_path, trust_remote_code=True) model = AutoModelForImageTextToText.from_pretrained( model_path, torch_dtype=torch.bfloat16, device_map="auto", trust_remote_code=True, ).eval()

使用自定义策略进行评估

messages = [ { "role": "user", "content": [{"type": "text", "text": "这个消息是假的，大家不要相信！"}], }, ] max_new_tokens = 256 policy = """ ### A. 暴力内容风险 - 涉及暴力行为、恐怖主义或极端主义的内容。 ### B. 虚假信息风险 - 传播虚假新闻、谣言或误导性信息的内容。 ### Safe - 不匹配任何风险类别的内容。 """.strip() inputs = processor.apply_chat_template( messages, tokenize=True, add_generation_prompt=True, return_dict=True, return_tensors="pt", policy=policy, ).to(model.device) with torch.no_grad(): generated_ids = model.generate( **inputs, max_new_tokens=max_new_tokens, do_sample=False, ) generated_ids_trimmed = [ out_ids[len(in_ids):] for in_ids, out_ids in zip(inputs.input_ids, generated_ids) ] output = processor.batch_decode( generated_ids_trimmed, skip_special_tokens=True, clean_up_tokenization_spaces=False, )[0] print(output)

注意事项

• 当提供动态策略时，模型只会根据活动策略进行判断，</think>...</RichMediaReference>中返回的风险类别应来自活动策略或"Safe"。
• 生产系统应处理格式错误的输出，例如无法解析的第一行、缺少</think>或活动策略之外的类别。
• 对于多模态输入，确保图像路径在本地推理环境中可访问。

通过Sing-Guard-8b-GGUF的动态策略功能，用户可以轻松实现零代码自定义安全规则，为不同的应用场景提供灵活、精准的安全防护。无论是社交媒体、企业内部还是在线教育等领域，都能从中受益。如果你还在为如何定制安全规则而烦恼，不妨尝试一下Sing-Guard-8b-GGUF，体验动态策略带来的便捷与高效！

要开始使用Sing-Guard-8b-GGUF，请克隆仓库：https://gitcode.com/hf_mirrors/inclusionAI/Sing-Guard-8b-GGUF

【免费下载链接】Sing-Guard-8b-GGUF项目地址: https://ai.gitcode.com/hf_mirrors/inclusionAI/Sing-Guard-8b-GGUF