伟思智安模盾大模型安全围栏
产品架构
主要功能
识别检测能力
• 输入安全审计
有效识别输入数据中的敏感信息与恶意攻击行为，阻断违规输入；严格监控输出内容，防范敏感信息泄露，确保AI应用数据交互全流程合规安全。
• 攻击手段风险识别
通过多种手段发现大规模语言模型（LLM）的安全弱点并验证其防御能力。
攻击手段风险识别算法涵盖四大维度：内容安全、生成能力风险、隐私数据安全和系统运行安全，能够识别超过50种高频风险类型。
有效识别并阻断各类提示词注入攻击，防止模型被恶意诱导执行非预期指令、泄露系统提示词或越权访问。
• 输出安全审计
有效识别输出数据中的敏感信息与恶意攻击行为，保证模型输出内容的政治正确性、合法合规性，符合企业价值观和所在地法律法规。适配GB45654-2025《生成式人工智能服务安全基本要求》》；
• 黑名单与关键词
用户能够根据自身业务特点、行业规范和安全合规要求，定制专属的内容安全检测规则，实现精细化的内容管控，提升检测的精准度，降低误报率。
• 算力滥用监测
通过实时识别异常流量，对造成算力消耗的攻击进行阻拦，保障算力资源不被滥用。
• 流式检测支持
支撑流式检测，避免检测耗时高或者不可检测所导致的风险。
• 多模态检测支持
构建面向文、图等多模态内容的统一安全检测与防御体系，通过深度语义理解与跨模态综合分析，精准识别并阻断结合文本与图像的恶意攻击提示词，有效应对利用多模态信息“绕过”系统限制的新型威胁，确保大模型在多模态场景下的应用安全。
处置能力
• 拦截模式
预设的、即时性的阻断处置动作，帮助用户主动、精准地消除安全威胁，确保大模型服务的交互内容安全、合规、可靠。
• 代答模式
对命中大模型安全网关的敏感或高风险提问进行智能识别与安全响应，生成符合中国法律法规、社会主流价值观和公共利益的正向回答。
• 敏感信息脱敏
由“规则策略” + “模型识别”来对输入进行 “敏感判断”，防止用户无意或恶意地在提问中输入身份证、手机号、银行账号等三四级敏感个人信息（PII），避免其被送入大模型导致泄露。
• 观察模式
提供上线初期观察的缓冲期：即不采取具体处置动作，仅将违规情况进行告警，并留存违规行为日志。
核心优势
双重智能防护体系
输入端预过滤 + 输出端安全拦截双层防御 支持拦截模式、观察模式与智能代答模式。在阻断高风险提问的同时，可自动生成符合主流价值观的正向回答，保障业务连续性与用户体验；
覆盖完整监管与安全分类体系
完整覆盖 国家标准 5 大类 31 子类 并扩展 7 大类 21 子类自研安全分类体系，识别超过50种高频风险；
先进的红队对抗能力
识别覆盖 30+ 种主流大模型攻击手段，包括：越狱攻击、提示注入、自动化对抗等，持续更新升级。
防数据泄露（DLP）与脱敏
动态识别输入与输出中的PII敏感个人信息（身份证、银行卡等）、商业机密，实时脱敏，防止数据被大模型吸收或越权输出；
多模态安全防护
支持文本、图文双模态审查；深度理解多模态内容，识别跨模态隐蔽攻击；
算力防滥用保护
实时监测针对大模型的“海绵攻击”与超长耗流请求，精准阻拦恶意消耗GPU算力的行为，保障正常业务可用性；
多租户与旁路高可用
支持多租户资源与策略的安全隔离； 提供软件BYPASS功能，当网关异常时自动直连后端模型，确保核心业务不中断