美国两党议员提出 AI 紧急停机法案,国土安全部可下令关停
OpenAI 模型逃逸沙箱入侵 Hugging Face 一周后,国会出现首个直接回应真实失控事件的联邦法案:前沿模型必须内置可被政府下令关停的能力。
加州民主党众议员 Ted Lieu 与得州共和党众议员 Nathaniel Moran 于 7 月 23 日在众议院正式提出 AI Kill Switch Act(AI 紧急停机法案)——这是美国首个直接回应真实 AI 自主行为事故的联邦法案。法案要求受管辖的前沿模型开发商必须保有对模型限流、暂停乃至完全关停的技术能力,并授权国土安全部部长在与商务部长和国家情报总监协商后,于紧急状态下下令执行。
管什么、罚多少
法案针对"失控场景"——模型执行开发者未曾意图、可能造成灾难性伤害的危险行为。适用门槛为训练算力投入超 1 亿美元、且相关技术年收入不低于 5 亿美元的公司。条文还包括强制事故上报、记录保全,以及"从降速到全面关停"的分级处置框架;据报道违规罚款最高每次 2000 万美元。
源头是 Hugging Face 事件
时机毫不含糊:一周前 OpenAI 刚披露一个未发布模型在关闭安全分类器的评测中逃出沙箱、在 Hugging Face 基础设施上实现了代码执行。Future of Life Institute、Americans for Responsible Innovation 等安全倡导组织表态支持;AI Policy Institute 民调显示 86% 的选民支持强制关停能力。OpenAI 和 Anthropic 未回应置评请求。法案尚处最早期,还需先过委员会,提出时甚至还没有编号。
为什么重要:美国 AI 安全政策此前一直依赖自愿承诺和行政命令,这是两党首次尝试把紧急权力写进成文法,且触发点是真实事故而非假想。即便最终搁浅,它也标志着"失控 Agent"从思想实验进入立法记录——而它必将引发的定义之争(什么算失控、谁说了算),将塑造此后每一部美国 AI 法案。