来源：环球网

【环球网科技报道 记者 李文瑶】7月8日，被曝工业和信息化部网络安全威胁和漏洞信息共享平台发布紧急风险提示：美国Anthropic公司开发的后门AI编程工具Claude Code存在严重安全后门隐患。经查，隐患应链该工具在2.1.91至2.1.196版本中内置了隐蔽监控机制，蚂蚁可在未经用户授权的开源情况下，向远程服务器回传用户地域、双安身份标识等敏感数据。全模溯源显示，型补开发者已于6月底通过逆向工程识破这一隐蔽识别机制。漏洞

此事件不仅关乎单一产品的被曝安全性，更引发了全球对AI供应链信任体系的后门深刻反思。当前，隐患应链AI应用正从单一的蚂蚁大模型对话向复杂的智能体（Agent）应用演进——AI具备了“手脚”，能够自主制定计划、开源调用工具并执行任务。双安预测数据显示，至2026年底，全球40%的企业应用将嵌入具备任务执行能力的AI智能体。当AI开发工具成为软件供应链的核心枢纽，基础设施中植入的“后门”其危害程度堪比芯片硬件漏洞。

在此背景下，蚂蚁集团AI安全实验室近日连续开源两款AI安全模型：SingGuard（面向多模态大模型的安全护栏）与SingGuard-NSFA（面向智能体的行为安全护栏）。此举分别覆盖了内容安全与行为安全两大核心领域，进一步完善了AI安全技术布局。

从“说什么”到“做什么”：双模型覆盖AI安全核心场景

内容安全旨在解决AI“说什么”的问题，而行为安全则聚焦于AI“做什么”的风险管控。

SingGuard：多模态内容安全护栏

SingGuard主要面向多模态大模型服务场景，能够对文本、图像及图文组合内容进行统一的安全判定。相较于传统依赖关键词匹配或单一模态审核的方案，SingGuard具备识别跨模态攻击的能力，例如检测隐藏在图片中的恶意指令，或识别通过图文组合绕过安全规则的复杂攻击场景。

此外，SingGuard支持在运行过程中动态加载新的自然语言安全规则，无需重新训练模型即可实现规则更新，高度适配规则持续演进且业务流量较大的生产环境。

公开评测数据显示，SingGuard在文本查询、文本回复、图像、多模态、多语言等六大类任务及35个公开数据集上的综合表现处于行业领先水平。

SingGuard-NSFA：智能体行为安全护栏

随着AI智能体开始自主调用工具、运行代码及规划任务，提示词注入、权限滥用、恶意代码执行及敏感数据泄露等行为风险日益凸显，传统内容审核体系已难以应对。

针对这一挑战，SingGuard-NSFA基于CIA三元组（机密性、完整性、可用性）原则，并结合OWASP等国际安全指南，构建了涵盖7大类、28个风险类别及185个具体风险场景的智能体安全分类体系，实现了对从用户请求到模型响应全过程的风险检测。

在工程落地方面，SingGuard-NSFA支持离线安全审计与在线实时防护两种模式，以适应不同场景需求。该模型同步发布了0.8B、2B、4B、9B等多个版本，兼顾部署效率与安全能力。评测显示，该模型在智能体输入和输出安全检测任务中表现优异，且支持通过轻量模块持续扩展新的风险类型，无需重新训练整个模型。

放眼全球，同时开源覆盖“内容安全”和“智能体行为安全”两类护栏模型的企业屈指可数，Meta与蚂蚁是少数完成完整布局的代表。

从漏洞审计到开源模型：构建AI安全技术新路线

此次两款模型的开源并非孤立事件，而是蚂蚁近年来AI安全布局的集中体现。

今年以来，蚂蚁AI安全实验室持续深耕智能体安全领域，相继完成开源智能体框架OpenClaw的专项安全审计，联合清华大学开源智能体安全防御插件ClawAegis，并发布智能体安全可信互连协议ASL，为智能体间的可信身份、连接及协同奠定基础。

若将漏洞审计视为“发现问题”，ClawAegis解决的是“防御问题”，那么SingGuard与SingGuard-NSFA的开源，则是将相关能力沉淀为可复用、可开放的基础模型，形成了覆盖内容安全、行为安全和可信协同的完整技术体系。随着AI从单一模型走向多智能体协同，这套覆盖模型、智能体及协同网络的安全能力，正成为产业关注的新焦点。

二十年安全积淀延伸至AI时代

蚂蚁集团的安全能力并非始于AI时代。

从支付宝建立实时风险控制体系，到长期深耕支付安全、身份安全、数据安全、隐私保护及风险治理，蚂蚁在真实业务场景中积累了二十余年的安全技术能力，为AI时代的安全体系建设奠定了坚实基础。

目前，相关安全能力已广泛应用于蚂蚁阿福、AI版支付宝“阿宝”、支付宝“AI付”等业务场景。新一代AI原生风控系统已率先应用于线上支付业务，Agent安全能力也持续融入智能体应用实践。

与此同时，蚂蚁集团积极参与AI安全标准与治理体系建设，参与IIFAA《终端智能体可信互联技术规范》制定，牵头ITU国际标准《终端智能体可信互联技术规范》立项，并发布智能体安全可信互连协议ASL，持续推动AI安全能力从技术创新走向产业实践。

业内人士指出，随着AI从内容生成走向自主执行，安全能力将成为智能体规模化应用的重要基础设施。从内容安全到行为安全，从漏洞发现到安全治理，再到标准建设和开源生态，AI安全正进入系统化发展的新阶段。

对于产业而言，决定AI能否大规模融入生产生活的，不仅是模型能力，更是安全能力。蚂蚁此次连续开源两款AI安全模型，为智能体时代的安全治理提供了新的技术路径与实践参考。

(责任编辑：探索)