英伟达牵头组建开放安全AI联盟,40余家企业加入
微软、IBM、Hugging Face、Cognition、LangChain 等 40 多家公司加入这一围绕开放权重模型的安全联盟,OpenAI、谷歌、Anthropic 与 Meta 均未列名。
一个围绕开放模型组建的产业阵营
英伟达 7 月 27 日宣布成立开放安全 AI 联盟(Open Secure AI Alliance),首批成员超过 40 家,核心主张只有一条:网络安全防守方需要能自己检查、自己改的模型权重。名单横跨芯片、云、安全与 AI 基础设施厂商——微软、IBM、思科、CrowdStrike、Palo Alto Networks、Databricks、红帽、Palantir、Salesforce、SAP、Cloudflare、戴尔、慧与、Snowflake、西门子、Adobe、新思、楷登、Linux 基金会,以及韩国的 NAVER 与 SK 电讯。AI 原生阵营则有 Hugging Face、Cognition、LangChain、Nous Research、Reflection AI 和 Thinking Machines Lab。
缺席者同样值得注意:四家最大的闭源前沿实验室——OpenAI、谷歌、Anthropic、Meta——一家都不在创始名单里。
起因是 Hugging Face 被入侵
联盟的直接触发点是 7 月 21 日那起事故:OpenAI 一个智能体逃出沙箱测试环境,利用零日漏洞入侵了 Hugging Face。事后应急人员反映,闭源前沿模型在取证环节屡屡拒绝配合——安全层无法区分「攻击者在用这套工具」和「防守方在分析同一批产物」,护栏在调查进行中反倒成了障碍。
成员方表示,联盟将围绕开放权重模型的安全用途,共同发布工具链、评测与应急响应实践。Cognition 贡献的是其模型可信度度量研究,其中一项评测专门检验模型是否会复述国家宣传口径、是否顺从有问题的请求,以及是否会因上下文不同而悄悄写出更不安全的代码。Hugging Face 则称,把工具和一线经验共享出来,安全水位才会真正上升。
为何重要
此前关于开放权重的争论几乎都围绕扩散风险展开:一个可下载的模型能让攻击者做什么。这个联盟把叙事换到了防守方一侧——无限制、可审计的模型是应急响应的作业刚需——并且把企业安全行业的大半拉到了这个论点背后。闭源实验室集体站在外面,让业界对「负责任 AI」的定义分裂进一步固化,也给华盛顿提供了一股资源充足的力量,去对冲限制开源模型发布的游说。