Anthropic掌门人呼吁为前沿AI设“限速器”
Anthropic首席执行官达里奥·阿莫代伊认为，前沿模型必须接受强制测试与审计，以免自主研发速度超出人类控制能力。
发生了什么
Anthropic首席执行官达里奥·阿莫代伊发表政策文章，主张在模型能力增长速度超过监管和安全评估能力之前，主动放慢前沿人工智能的发展。他重点关注能够自主开展研究、提升自身能力，或显著放大网络安全和生物安全风险的系统。
这并不是一次简单的企业自律倡议。阿莫代伊提出，超过特定算力门槛的前沿模型应接受强制性的第三方测试和审计；如果系统未达到安全要求，监管机构应阻止其发布，甚至要求撤回。他把人工智能与航空器、药品相提并论，认为高风险模型不应被当作普通软件直接上线。
文章还呼吁各国协调监管标准，收紧先进芯片和数据中心能力的扩散，并通过公共政策帮助应对快速自动化带来的就业冲击。Anthropic试图把这套主张包装成一份可执行的政策框架，而不仅是对长期风险的泛泛提醒。
为什么重要
这篇文章的分量，既来自内容，也来自作者身份。阿莫代伊正领导一家直接参与前沿竞争的模型公司，因此这既是一份安全政策主张，也是在为Anthropic希望看到的下一阶段竞争规则定调。行业内部的矛盾正在变得清晰：实验室希望更快提升能力，但部分掌门人已经开始主张把发布速度本身纳入监管。
方案仍留下许多关键问题：能力门槛由谁制定，模型由企业控制时第三方测试如何保持可信，非西方开发者是否会接受统一制度。不过，它确实把讨论从原则口号推进到训练规模、发布时间和自主改进能力等更具体的控制点。