【环球网科技报道 记者 李文瑶】7月8日在线股票平台，工业和信息化部网络安全威胁和漏洞信息共享平台发布了一则风险提示：AI编程工具Claude Code存在安全后门隐患，危害严重。这款由美国Anthropic公司开发的工具，在2.1.91至2.1.196版本中内置了监控机制，未经用户同意即可向远程服务器回传用户地域、身份标识等敏感信息。溯源信息显示，早在6月底，开发者就已通过逆向工程发现了这套隐蔽的识别机制。
这已不仅是单一产品的安全问题，而是对全球AI供应链信任体系的拷问。这两年，AI应用已从相对单一的大模型聊天，演进到复杂的智能体应用——AI有了“手和脚”，能自己定计划、调工具、执行任务。据预测，到2026年底全球40%的企业应用将嵌入具备任务执行能力的AI智能体。当AI开发工具成为供应链核心环节，软件基础设施一旦被植入“后门”，风险不亚于芯片中的硬件漏洞。
正是在这样的背景下，蚂蚁集团AI安全实验室近日连续开源两款AI安全模型——面向多模态大模型的安全护栏SingGuard，以及面向智能体的行为安全护栏SingGuard-NSFA，分别覆盖内容安全与行为安全两大方向，进一步完善了AI安全技术布局。
从“说什么”到“做什么”，两款模型覆盖AI安全两大核心场景
如果说内容安全解决的是AI“说什么”的问题，那么行为安全解决的则是AI“做什么”的问题。
此次开源的SingGuard，主要面向多模态大模型服务场景，可对文本、图片以及图文组合内容进行统一安全判断。相比传统依赖关键词匹配或单一模态审核的方案，它能够识别跨模态攻击，例如攻击者将恶意指令隐藏在图片中，或通过文字与图片组合绕过安全规则等复杂场景。同时，SingGuard支持运行过程中动态加载新的自然语言安全规则，无需重新训练模型即可完成规则更新，更适用于规则持续演进、业务流量较大的生产环境。
公开评测结果显示，SingGuard在文本查询、文本回复、图像、多模态、多语言等六大类任务、35个公开数据集上的综合表现达到领先水平。
另一款开源模型SingGuard-NSFA，则聚焦智能体行为安全。随着AI开始自主调用工具、运行代码、规划任务，提示词注入、权限滥用、恶意代码执行、敏感数据泄露等行为风险不断增加，传统内容审核体系已难以覆盖。
针对这一挑战，SingGuard-NSFA基于CIA三元组（机密性、完整性、可用性）原则，结合OWASP等国际安全指南，构建了覆盖7大类、28个风险类别、185个具体风险场景的智能体安全分类体系，实现从用户请求到模型响应全过程的风险检测。
在工程能力方面，SingGuard-NSFA离线安全审计与在线实时防护，可根据不同场景提供不同工作模式，并同步发布0.8B、2B、4B、9B等多个模型版本，该模型兼顾部署效率与安全能力。公开评测显示，该模型在智能体输入和输出安全检测等任务中均取得领先表现，同时支持通过轻量模块持续扩展新的风险类型，无需重新训练整个模型。
放眼全球，同时开源覆盖“内容安全”和“智能体行为安全”两类护栏模型的企业并不多，Meta与蚂蚁是其中少数完成完整布局的代表。
从漏洞审计到开源模型，一条逐渐成形的AI安全技术路线
此次两款模型开源并非孤立事件，而是蚂蚁近年来AI安全布局的集中体现。
今年以来，蚂蚁AI安全实验室持续围绕智能体安全开展技术研究和开源实践，相继完成开源智能体框架OpenClaw专项安全审计，联合清华大学开源智能体安全防御插件ClawAegis，并发布智能体安全可信互连协议ASL，为智能体之间建立可信身份、可信连接和安全协同提供基础能力。
如果说漏洞审计解决的是“发现问题”，ClawAegis解决的是“防御问题”，那么此次SingGuard与SingGuard-NSFA的开源，则进一步将相关能力沉淀为可复用、可开放的基础模型，形成覆盖内容安全、行为安全和可信协同的完整技术体系。
随着AI逐渐从单一模型走向多智能体协同，这样一套覆盖模型、智能体、协同网络的安全能力，也成为产业关注的新方向。
二十年安全积累延伸至AI时代
蚂蚁集团的安全能力并非始于AI时代。
从支付宝建立实时风险控制体系，到长期深耕支付安全、身份安全、数据安全、隐私保护和风险治理，蚂蚁在真实业务场景中积累了二十余年的安全技术能力，也为AI时代的安全体系建设奠定了基础。
目前，相关安全能力已应用于蚂蚁阿福、AI版支付宝“阿宝”、支付宝“AI付”等业务场景。其中，新一代AI原生风控系统已率先应用于线上支付业务，Agent安全能力也持续融入智能体应用实践。
与此同时，蚂蚁集团持续参与AI安全标准和治理体系建设，参与IIFAA《终端智能体可信互联技术规范》制定，牵头ITU国际标准《终端智能体可信互联技术规范》立项，并发布智能体安全可信互连协议ASL，持续推动AI安全能力从技术创新走向产业实践。
业内人士认为，随着AI从内容生成走向自主执行，安全能力将成为智能体规模化应用的重要基础设施。从内容安全到行为安全，从漏洞发现到安全治理，再到标准建设和开源生态，AI安全正在进入系统化发展的新阶段。
对于产业而言，真正决定AI能否大规模走进生产生活的，不只是模型能力，更是安全能力。此次蚂蚁连续开源两款AI安全模型在线股票平台，也为智能体时代的安全治理提供了新的技术路径和实践参考。
金华配资提示：文章来自网络，不代表本站观点。
