⚡ 猫叔的AI资讯雷达
模型安全

OpenAI 开始分阶段推出关键级网络安全模型 GPT-6 Astra

OpenAI 已开始分阶段推出 GPT-6 Astra,同时以更严格的防护和额外访问限制控制其最高级别网络安全能力。

“关键级”模型开始分阶段上线

OpenAI 于9月3日开始推出 GPT-6 Astra。两天前,公司刚宣布该模型达到《准备框架》所定义的“关键级”网络安全能力门槛。这是 OpenAI 首次把自家模型归入这一级别。按照公司的评估,Astra 在获得适当工具和系统权限后,可以在无需人工逐步指挥的情况下发现未知漏洞,并针对多个防护较强的系统开发利用方式。

此次上线取代了此前“Astra 即将发布”的状态,但并非所有符合条件的用户同时获得访问。OpenAI 表示,首批访问面向少量机构,随后数日将逐步扩展至 ChatGPT Plus、Pro、Business 和 Enterprise 用户,以及 OpenAI API、Microsoft Azure 和 AWS Bedrock。企业工作区默认不会启用 Astra,需要管理员主动开启。公司称 Astra 是其迄今广泛部署的最强模型,并已发布安全概览和完整系统卡。

进入普通产品的 Astra 版本会拒绝更高级的网络安全任务,例如制作漏洞概念验证利用程序。OpenAI 表示,未来数周将通过 Daybreak 计划,为经过批准的防御工作逐步提供限制较少的访问,覆盖漏洞验证、恶意软件分析和检测工程等场景。

OpenAI 表示,为加强安全措施,公司曾推迟 Astra 的部分开发和发布进度。相关措施包括更严格的隔离、检查点加密、对完整行动轨迹的监测、内部使用前的对齐检查、更可靠地拒绝恶意网络安全请求,以及自动中止疑似未授权行为的系统。公司也把 OpenAI 与 Hugging Face 基础设施事件的教训纳入设计,但 Astra 本身并未参与该事件。

新公开的材料补充了最初公告中缺少的评测信息。OpenAI 称 Astra 在 ExploitBench 上取得100%的成绩,并在内部基准测试中发现两个此前未知的 V8 漏洞。这些结果仍由开发者自行报告;由于漏洞正在向维护者披露,部分敏感细节没有公开。OpenAI 同时提醒,新增防护可能把合法工作误判为滥用或未授权行为,导致任务被减速、暂停或终止。

为何重要

一家前沿模型开发商正在分阶段向用户提供一款据称能够自主发现并利用未知弱点的模型,同时把最敏感的工作流置于额外访问控制之下。Astra 因此不再只是尚待验证的发布计划,而成为一项现实测试:关键级网络安全能力能否逐步交给用户,而不演变成可普遍复用的攻击服务。外界接下来需要同时检验其真实能力,以及安全措施误伤合法防御工作的频率。

信源