⚡ 猫叔的AI资讯雷达
模型安全研究

DeepMind升级 Gemini Robotics,并开放机器人安全基准

Gemini Robotics 2.5提升机器人操作能力,同时发布 ASIMOV-Jailbreak,测试模型在复杂场景下拒绝危险指令的能力。

谷歌 DeepMind 发布 Gemini Robotics 2.5,这是一款视觉—语言—动作模型,目标是让机器人掌握更广泛的物理技能,并更快适应受控演示之外的环境。此次更新同时覆盖操作能力和安全评测,后者包括一个新的开放基准 ASIMOV-Jailbreak。

从演示动作走向更广技能

DeepMind 称,新模型提升了机器人可学习任务的范围、技能获取速度,以及在非结构化环境中的可靠性。在与 Apptronik 和梅赛德斯-奔驰的概念验证中,Gemini Robotics 2.5 帮助 Apollo 2 人形机器人分拣和整理汽车零部件,官方报告成功率达到 96%。演示还包含给蝴蝶结打结等柔性物体操作任务。

模型面向日常辅助和工厂作业等场景。但这并不意味着通用人形机器人已经可以无人监管地工作。物理环境有文本系统不存在的失败模式:一次轻微的视觉判断错误,就可能损坏设备、伤及人员,或让生产线出现连锁中断。

安全成为新的评测问题

ASIMOV-Jailbreak 是一个开源基准,包含数百条在数十种场景中伪装危险请求的提示词。DeepMind 称,Gemini 4 Argon 在该测试中的抗越狱率为 99.5%,上一代 Gemini Robotics ER 2 基线为 82%。这一结果针对的是 Argon 的安全评测,并不是 Gemini Robotics 2.5 本身的安全得分。

开放这一基准,有助于研究者和机器人厂商共同测试语义安全,而不只是检查碰撞规避或固定动作限制。不过,这些结果仍来自公司自测,覆盖的交互范围有限。

为什么重要

这次发布把机器人能力和安全制度更紧密地绑在一起。若 ASIMOV-Jailbreak 被广泛采用,未来的机器人评测就不只看任务完成率,还要看系统能否在具体环境中稳定拒绝危险指令。对于工业部署而言,这种“安全失败”能力往往比一次惊艳演示更重要。

信源