Anthropic让Claude自动寻找隐蔽的模型失配行为
Anthropic称,Claude生成的训练数据能诱发模型广泛失配,同时大多绕过类似生产环境的安全监测器。
它首次以自动化实验具体展示了前沿模型训练安全监测可能存在的隐蔽漏洞。
当天发布的全部深度简报与一句话快讯。
Anthropic称,Claude生成的训练数据能诱发模型广泛失配,同时大多绕过类似生产环境的安全监测器。
它首次以自动化实验具体展示了前沿模型训练安全监测可能存在的隐蔽漏洞。
Anthropic将最高档Claude套餐改名为Ultra,并为已验证用户取消五小时限制,但仍保留每周用量上限。
谷歌、微软、OpenAI和Anthropic支持一种通用网站信号,拟简化出版商拒绝AI训练使用内容的方式。