⚡ 猫叔的AI资讯雷达
安全研究Agent

Sakana AI 成立面向公共利益的安全研究团队

日本 Sakana AI 启动独立安全研究团队,聚焦 AI 网络防御、可复现实验以及智能体自身的安全风险。

日本 Sakana AI 宣布成立独立的 Security Research Group,面向公共利益研究 AI 驱动的网络防御以及人工智能系统自身的安全问题。该团队将与 Sakana 的商业业务分开运作,并计划公开论文、可复现实验基准和工程实践指南。

三个研究方向

团队目前围绕三个问题展开工作。第一,利用 AI 预防整类软件漏洞,并验证自动修复是否真正有效。第二,研究防御型 AI 智能体能否在不同组织之间以机器速度协同。第三,评估如何保护防御人员所使用的 AI 智能体,避免它们成为新的攻击入口。

Sakana 表示,研究将与政府、企业和学术机构合作,同时承认网络安全研究的双重用途风险:帮助防守方理解漏洞的发现,也可能被攻击者利用。团队在成立公告中提到,漏洞披露数量正在快速上升,并提出用多个系统协同工作的“集体智能”提升防御韧性。

该团队正在东京招聘技术人员,并强调初期将优先公开研究,而不是把成果封闭在商业产品内部。公开路线有利于外部研究者检查方法,但也带来漏洞披露时机、评测独立性以及哪些技术细节可以安全发布等问题。

为什么重要

这条消息的价值不在于立即推出一个安全产品,而在于它试图建立一种新的研究组织方式。前沿模型越来越擅长寻找软件缺陷、编写接近漏洞利用的代码和操作工具,而防御方仍常常分散在不同机构,拥有不完整的数据和不一致的修补流程。Sakana 关注的是跨组织协同与可复现研究,而不是单一安全套件。

最终成效取决于它能否获得真实事件数据、接受独立评估,并谨慎处理双重用途发现。如果团队能证明多智能体防御确实提高响应速度,同时没有制造新的攻击面,这种模式可能影响日本及其他国家部署 AI 网络安全研究的方式。

信源