OpenAI推出Control Room，可统一停止AI工作负载
OpenAI发布中央控制系统，用于监控研究基础设施中的模型任务，并在出现安全风险时快速终止运行。
发生了什么
OpenAI推出Control Room，这是一个用于追踪研究基础设施中模型工作负载的中央系统，可在出现安全或安保风险时停止任务。它试图为训练、评测及其他研究作业提供统一的干预层，而不是让每个项目单独搭建紧急停止机制。
OpenAI介绍称，监控系统可以向Control Room发送任务标识并触发停止请求。公司表示，其研究部署目前使用数量较少、结构较统一的推理路径，因此可以采用共享控制平面。OpenAI还称，在作出干预决定后，Control Room可在35秒内停止模型输出。公告将Control Room定位为人工监督基础设施，服务于越来越自主、也越来越分散的模型工作负载。
Control Room本身并不能证明模型是安全的。公告没有完整披露已经发出的操作会如何处理，也没有说明监控信号具备多大程度的独立性。如果系统要应对模型异常、研究环境遭入侵或内部工具被滥用，这些细节都至关重要。
为什么重要
Control Room的重要性在于，前沿实验室的安全治理开始从原则文件进入实际运维系统。停止按钮只有在组织各处都能触达、具备防滥用认证，并且连接到能及时发现危险运行的监控体系时，才真正有价值。
这种设计也暴露出规模化研究的矛盾。集中化能够让干预更快、更一致，但也会形成必须重点保护和反复测试的高价值控制面。OpenAI的发布让外界首次看到实验室如何管理更具智能体属性的内部系统。尚未解决的问题是，当工作负载能够生成代码、启动子进程并连接外部环境时，控制机制能否跟上它们的扩张速度。