2026年，AI安全正式从幕后走向产业前台。近期工信部NVDB平台明确预警Claude Code存在安全后门隐患，可未经授权收集用户敏感信息；年初走红的开源Agent工具OpenClaw也多次曝出高危漏洞。随着Agent从概念快速走向生产落地，风险形态已经从内容层面延伸至行为层面，传统打补丁式的安全方案已难以应对，行业亟需底层的安全框架能力。
在此背景下，蚂蚁安全团队开源了两套AI安全框架：面向智能体行为安全的SingGuard-NSFA，以及面向多模态大模型感知安全的SingGuard，将安全检查前置到动作执行前，试图从底层补上Agent时代的安全短板。
一、风险升级：AI安全已进入行为治理新阶段
传统AI安全本质延续了互联网内容审核的思路，核心是拦截模型输出的违规文本、图片，风险边界相对清晰。但进入Agent时代后，大模型不再只是信息输出者，而是可以调用工具、执行代码、操作本地文件、对接业务系统，风险已经从「说什么」蔓延到了「做什么」。
这恰恰是传统安全体系的盲区：
- 行为风险隐蔽性强，提示注入、恶意代码生成、数据外泄等风险无法通过单纯的内容审核识别；
- 多模态场景下，风险可能藏在图像细节、图文组合逻辑中，检测维度大幅增加；
- 不同业务的安全红线动态变化，合规规则持续迭代，补丁式响应永远滞后于风险出现的速度。
行业共识正在形成：单点漏洞修补治标不治本，只有建立可定义边界、可适配新风险、可追溯过程的底层安全框架，才能支撑Agent规模化落地。
二、双框架并行：覆盖行为与多模态全场景
蚂蚁此次开源的两套框架，分别对应智能体行为与多模态感知两大核心风险场景，底层都遵循「可解释、可扩展、前置拦截」的设计思路。
1. SingGuard-NSFA：智能体行为安全双模护栏
SingGuard-NSFA定位为智能体行为推理护栏框架，提供0.8B、2B、4B、9B四个参数版本，核心是将安全检查前置到Agent动作执行前，从请求拦截与响应兜底两端构建双重防线。
其技术核心包括三个维度：
- 体系化风险分类：以信息安全CIA三元组（机密性、完整性、可用性）为理论基础，结合三份OWASP大模型与智能体安全指南，构建了完整的NSFA风险分类体系，覆盖智能体全场景风险类型。
- 双模推理架构：生成式模式输出链式推理分析，每一步判断都有据可查，适合离线合规审计；判别式模式单轮前向传播即可输出各风险域置信度，延迟控制在45～57ms，满足高吞吐实时拦截需求。
- 轻量可扩展设计：骨干网络保持冻结，风险判断由外挂的轻量分类头完成。出现新型风险时，仅需补训分类头即可适配，无需重训整个模型。该架构可作为插件叠加到现有安全方案上，测试显示为Llama Guard 3新增分类头后，用户请求安全基准F1值可提升17.6个百分点。
性能方面，SingGuard-NSFA在用户请求安全、模型响应安全、跨数据集泛化三大基准上均达到SOTA：0.8B参数版本效果即可比肩8B级竞品，9B版本在泛化场景下F1值达到91.29%，精度与召回更加均衡。
2. SingGuard：多模态动态规则安全框架
SingGuard面向多模态大模型场景，提供0.8B、2B、4B、8B四个参数版本，最大特点是实现了安全规则的运行时动态适配。
传统多模态安全方案通常内置固定分类体系，新场景需要重新训练模型。而SingGuard将安全规则作为运行时输入，不同业务域可直接下发专属红线，模型据此逐条判定是否违规，无需重新训练。
效率优化上，方案采用快慢双思考模式：低风险场景快速秒判，复杂场景启动深度规则推理，通过early exit机制自动切换，兼顾效率与准确率。针对多规则并行审核的性能瓶颈，蚂蚁团队提出RI-Mask优化方案，共享图文上下文仅需编码一次，即可支持多条规则并行判断，多模态推理速度最高提升5倍以上。
三、从单点修复到底层基建：蚂蚁AI安全的演进路径
此次开源并非孤立动作，而是蚂蚁AI安全能力体系化落地的又一步。
年初OpenClaw漏洞集中爆发时，蚂蚁AI安全实验室就率先发现多个高危漏洞并协助官方修复；随后蚂蚁与清华大学联合开源ClawAegis，推出覆盖智能体产品全生命周期的安全防护方案，包含敏感路径保护、高危命令拦截、注入检测等能力。
从单点漏洞挖掘，到场景化安全产品，再到底层通用安全框架开源，蚂蚁的AI安全布局正在逐步下沉为行业基础设施。前不久，其智能体安全产品还通过了信通院泰尔实验室的最高等级认证，工程落地能力得到行业验证。
观点测评：安全基建化，是Agent规模化落地的必由之路
从Claude Code后门事件到OpenClaw漏洞频发，2026年整个行业都在直面一个现实：AI能力跑得多快，安全短板就有多刺眼。当Agent开始进入代码库、业务系统、办公流程，安全就不再是锦上添花的合规项，而是决定能不能落地的生死线。
蚂蚁这两套框架的价值，不止于性能指标的突破，更在于提供了一种新的安全思路：从被动补漏转向主动设防，从静态规则转向动态适配，从黑箱判定转向可解释、可追溯的体系化防护。尤其是分类头可扩展、规则运行时注入的设计，解决了安全方案永远追着风险跑的行业痛点。
放眼整个行业，AI安全正在经历一场范式升级：过去安全是模型上线前的一个环节，未来安全会是Agent运行时的底层基建。谁能先把安全框架做通用、做标准、做进开发者的默认工具链，谁就能在下一阶段的Agent落地潮中占据核心位置。
更值得关注的是，国内厂商正在从跟随海外安全标准，转向自主定义安全框架与风险体系。随着Agent产业的快速发展，自主可控的安全技术底座，会成为整个行业最核心的底气之一。
暂无评论