⚡ 猫叔的AI资讯雷达
Agent安全开源产业

英伟达推出软硬件一体的AI代理安全平台

英伟达发布OpenShell与Sentry,用运行时边界和硬件级监控限制自主代理,并在越界时快速隔离。

把安全控制放到模型之外

英伟达推出Open Agent Safety Platform,将开源运行时软件与硬件参考设计结合起来,覆盖AI代理从测试到部署的全过程控制。

平台的软件部分OpenShell负责为代理建立运行时边界,可追踪代理行为,并限制其访问文件、网络、进程、凭证、工具和外部服务。英伟达称,OpenShell已广泛提供,也可以扩展到Arm和英特尔等第三方计算平台。

第二部分Sentry是一套带外监控机制,设计运行在英伟达BlueField-4数据处理单元上。它独立于模型和代理运行环境监控行为,一旦代理越过预设边界,就可以将其隔离。英伟达称,干预速度可达到毫秒级。

参与者众多,核心仍在硬件

Anthropic、微软、Hugging Face、CrowdStrike、Salesforce、SAP、ServiceNow和SpaceXAI等公司与组织参与支持。英伟达将其描述为覆盖软件、模型、基础设施和机器人的行业协作。

这一架构回应了一个越来越现实的问题:对于能够调用工具、访问企业数据并在失败后反复尝试的长期运行代理,仅靠提示词规则和模型内置防护并不够。外部控制可以降低失控后的损害,但Sentry最强的能力仍依赖英伟达网络硬件。

为什么重要

代理安全正在从政策文件进入基础设施采购。关键问题不再只是模型会不会拒绝危险请求,而是企业能否在代理已经跨系统执行任务后将其停下。英伟达的平台可能成为控制层的重要参考,但最终采用率取决于互操作性、检测效果,以及客户是否接受与特定硬件绑定的安全方案。

猫叔判断: OpenShell降低了使用门槛,但真正的毫秒级隔离仍把安全优势绑定在BlueField-4的部署成本上。

信源