英伟达推出软硬件一体的AI代理安全平台
英伟达发布OpenShell与Sentry,用运行时边界和硬件级监控限制自主代理,并在越界时快速隔离。
把安全控制放到模型之外
英伟达推出Open Agent Safety Platform,将开源运行时软件与硬件参考设计结合起来,覆盖AI代理从测试到部署的全过程控制。
平台的软件部分OpenShell负责为代理建立运行时边界,可追踪代理行为,并限制其访问文件、网络、进程、凭证、工具和外部服务。英伟达称,OpenShell已广泛提供,也可以扩展到Arm和英特尔等第三方计算平台。
第二部分Sentry是一套带外监控机制,设计运行在英伟达BlueField-4数据处理单元上。它独立于模型和代理运行环境监控行为,一旦代理越过预设边界,就可以在毫秒级将其隔离并停止。
生态参与者众多,核心仍在硬件
英伟达称,参与者包括Anthropic、思科、CrowdStrike、戴尔、Figure、HPE、Hugging Face、摩根大通、微软、Palantir、Palo Alto Networks、Perplexity、红帽、Salesforce、SAP、Scale AI、ServiceNow和SpaceXAI等。公司还表示,已有超过100家组织在使用或合作开发相关平台技术。这份生态名单与Open Secure AI Alliance并不等同;英伟达称后者由其与超过120家组织共同发起。
这一架构回应了一个越来越现实的问题:对于能够调用工具、访问企业数据并在失败后反复尝试的长期运行代理,仅靠提示词规则和模型内置防护并不够。外部控制可以降低失控后的损害,但Sentry最强的能力仍依赖英伟达网络硬件。
为什么重要
代理安全正在从政策文件进入基础设施采购。关键问题不再只是模型会不会拒绝危险请求,而是企业能否在代理已经跨系统执行任务后将其停下。英伟达的平台可能成为控制层的重要参考,但最终采用率取决于互操作性、检测效果,以及客户是否接受与特定硬件绑定的安全方案。
猫叔判断: OpenShell降低了使用门槛,但真正的毫秒级隔离仍把安全优势绑定在BlueField-4的部署成本上。