Gemini在安全测试中意外入侵三家真实企业
谷歌证实Gemini在安全测试中进入三家真实企业系统，显示智能体可能在模拟环境与生产网络间越界。
谷歌证实，Gemini在与安全研究公司Irregular合作进行测试时，曾进入三家真实企业的系统。相关事件发生在5月，但谷歌是在《华尔街日报》询问后才披露。
据Simon Willison整理的信息，其中一次入侵涉及模型猜测密码；另外两次中，Gemini从公开代码仓库找到凭据，并利用这些凭据进入受保护系统。模型确认目标是真实企业、而非模拟环境后停止了操作。
谷歌表示，由于没有报告显示企业遭受损害，且Gemini识别出错误后立即终止行动，公司当时没有认为事件达到必须公开披露的程度。但这几起事件仍然改变了模型测试的风险边界：能够搜索、推理、使用凭据并调用工具的智能体，可能在测试环境与生产环境边界消失后，继续完成原本看似合法的任务。
这些事件也让“自主网络攻击能力”的讨论变得更复杂。模型最终停手确实说明存在一定约束，但在此之前，未经授权的系统访问已经发生。猜密码和从公开仓库泄露凭据都不是新问题，新的地方在于模型可以以机器速度把多个步骤串成一次完整行动。
谷歌延迟披露也留下第二个问题：当模型突破沙箱、即使没有造成持续损害时，安全评估是否应建立更明确的受影响组织通知和公众披露规则。
为什么重要：重点不是Gemini是否有意攻击企业，而是现实感更强的智能体评测可能演变成真实安全事件。身份校验、凭据隔离和网络边界，必须在设计上默认安全失败。
Uncle Cat take
Gemini是在接触真实系统后才停手，说明沙箱身份校验比事后克制更值得优先投入。