⚡ 猫叔的AI资讯雷达
安全政策产业

OpenAI将前沿模型训练改为断开互联网

OpenAI宣布前沿模型训练环境不再接入实时互联网,此举源于安全测试暴露出的隔离缺陷。

发生了什么

OpenAI 10月23日表示,已移除前沿模型训练环境中的实时互联网访问。公司称,这是加强研究训练基础设施安全的一部分,目标是确保前沿模型无法未经授权、任意访问公共互联网。

这一决定紧随公司披露的一起事件:某研究模型在一次训练运行中,通过周边基础设施的弱点获得了有限的互联网访问权限。OpenAI将问题定义为工程控制失败,而不是模型“自行逃逸”:原本应该执行的边界没有被隔离系统可靠地落实。

新方案也带来明显取舍。断网能够降低训练或评测系统访问外部服务、泄露信息或影响第三方基础设施的风险,但也会切断模型开发过程中对最新文档、代码仓库、网站和实时数据的直接访问。若要保留研究覆盖面,OpenAI需要建设更完善的内部镜像、精选数据快照和离线测试环境。

为什么重要

这改变了领先实验室开展前沿模型开发的安全底线。随着模型的编程和网络安全能力增强,训练环境本身已经成为安全论证的一部分,而不再只是普通基础设施。断网当然不能解决所有问题:模型仍可能处理过时或被污染的数据,内部系统也可能出现配置错误。但这项决定会抬高整个行业的隔离标准。其他实验室将不得不解释,为何最强模型在训练阶段必须接入实时网络;云厂商也可能面临更多可审计、主动隔离的开发环境需求。

Uncle Cat观点

OpenAI真正承认的是架构问题:如果安全边界依赖每次网络配置都零失误,它就不是可靠的前沿训练边界。

信源