谷歌提出“睡眠”机制，让大模型持续学习新知识
谷歌研究团队提出交替进行唤醒与睡眠训练的框架，试图让大模型持续吸收知识并缓解灾难性遗忘。
发生了什么
谷歌研究团队提出Sleep Framework（睡眠框架），目标是让大语言模型持续吸收新信息，而不是只依赖更长提示词，或反复进行完整模型训练。该方法把运行过程划分为“唤醒”和“睡眠”两个阶段。
在唤醒阶段，模型接触新信息，并将其暂存在短期记忆中；进入睡眠阶段后，系统通过低秩专家混合记忆模块、知识蒸馏和基于强化学习的优化，把这些内容巩固到更长期的模型参数中。框架还设置了类似“做梦”的环节：模型生成合成样本，让不同专家参与处理，再筛选可能提升推理能力的训练数据。
谷歌称，该方法能够保留最长达1000万token上下文中的知识，同时降低灾难性遗忘风险。它目前是一套架构和训练方法，并非面向消费者的产品；谷歌强调，系统仍运行在固定模型设计和人工设定的训练规则之内。
为什么重要
持续适应能力是当前模型与长期运行的助手、自治智能体之间的重要差距。上下文窗口只能临时提供信息，传统微调又可能损害旧能力。如果两者之间存在可靠的中间方案，模型就更容易在部署后保持更新，并适应个人或组织需求。
但这种方法也带来实际代价。睡眠周期需要额外算力、记忆管理和严格评估，更新后的参数不能自动被视为可信。所谓“做梦”可能提升推理，也可能让模型重复并放大自身错误。1000万token的保留结果值得关注，但真正关键的是，模型在现实环境中经过多轮更新后，能否继续保持准确和稳定。