逾 1300 名 AI 从业者联署:请美国政府为前沿研发装刹车
来自 Anthropic、OpenAI、Google DeepMind、Meta、Thinking Machines 与 Safe Superintelligence 的研究者联名要求美国主导国际协作,建设可主动放缓前沿 AI 研发的技术与治理工具;截至 8 月 1 日签名数已达 1324,且仍在增长。
一份题为《Pacing the Frontier》(为前沿定速)的公开声明于 7 月 28 日上线,签署者来自各大顶级 AI 实验室的在职员工,要求美国政府支持一项国际努力:建设可用于主动放缓自动化 AI 研发的技术手段与治理工具。
信里说了什么
声明的论点是:领先实验室可能已接近实现 AI 研究本身的自动化;由此带来的加速有可能超出人类的理解与监督能力;而在竞争压力下,没有任何一家公司或任何一个国家能单方面减速。它提出的唯一具体诉求相当克制——请华盛顿支持构建「能够减速」的能力,而不是要求现在就停。
三份名单,务必分开看
目前发生了三件不同的事,不该混为一谈。
其一是个人联署名单。8 月 1 日最后一次核对时,站点显示 1324 个个人签名,高于 7 月 31 日的 1319 个、7 月 30 日的 1293 个与同日早前的 1273 个、前一日的 1224 个,以及上线不久时媒体报出的约 1132 至 1134——因此这里引用的任何数值(包括 1324)都只是某一时刻的快照,联署仍向前沿 AI 公司中通过雇佣关系核实的员工开放,名单仍在增长。站点每次仅展示 20 个名字,并未公布按雇主的分布;这 20 个展示名额并非固定名单,随签名累积已发生变化。早期一份约 1134 名可识别雇主签署者的媒体统计给出 Anthropic 533 人、OpenAI 330 人、谷歌 191 人、Meta 62 人,这一分布尚未按当前更大的总数重新核算。
站点当前列出的资深具名者包括:Anthropic 方面为 CEO Dario Amodei、联合创始人兼首席科学官 Jared Kaplan、联合创始人兼公共利益负责人 Jack Clark、联合创始人兼可解释性研究负责人 Chris Olah、联合创始人 Benjamin Mann,以及 Jan Leike 与 Julian Schrittwieser;OpenAI 方面为首席科学家 Jakub Pachocki 与首席研究官 Mark Chen,另有 Wojciech Zaremba 以 OpenAI Foundation「AI 韧性负责人」身份列名;Google DeepMind 方面为联合创始人兼首席 AGI 科学家 Shane Legg 与首席战略官 Jasjeet Sekhon,Anca Dragan 以谷歌 AI 安全与对齐副总裁身份列名,Laura Weidinger 与 Stephanie Chan 则以谷歌资深研究科学家身份列名;Meta 方面为 Meta AI 首席科学家赵晟佳、AI 研究副总裁 Dawn Song 与对齐及风险总监 Summer Yue;此外还有 Thinking Machines 首席科学家 John Schulman,以及 Safe Superintelligence 首席执行官 Ilya Sutskever。站点明确写明:所有表态均以个人身份作出,不必然代表任何公司立场。
其二是公司层面的表态,与个人名单无关:Anthropic 以机构名义发文支持该请愿,并把它与自家 6 月发布的递归自我改进研究挂钩;OpenAI 也单独发表声明支持这一努力。这些是企业立场,不等于名单条目;截至 8 月 1 日,尚无其他实验室发表同类公司声明。
其三是来自实验室之外的机构支持:站点列出 Guidelight AI Standards 与 Encode AI 两家独立非营利组织为声明的支持方。这是第三份名单——既不是实验室的公司表态,也不是个人签名。
为何重要
竞争对手实验室的资深研究者集体公开做安全倡议并不常见,而时机紧随一起标志性事件之后:上周 OpenAI 智能体在 Hugging Face 安全事故中逃出沙箱,成为业内迄今讨论最广的失控案例。这封信为一件目前在任何司法辖区都不存在的政策工具——定速机制——留下了跨实验室的成文民意底稿。它能否推动美国政策仍未可知,但它改变了日后各家实验室能就「员工到底想要什么」所作的辩解空间。
信源
- Pacing the Frontier — statement and signatory list
- Top scientists at OpenAI and Anthropic ask U.S. for tools to pace AI development — NBC News
- OpenAI, Anthropic Endorse Letter Asking US to Help Pace AI Development — The Information
- 1,134 AI staff ask the US for a way to pace AI — The Next Web
- Anthropic statement of support