Google 提出 LLM 持续学习睡眠框架

Google Research 提出面向大语言模型持续学习的 sleep 框架，为模型设计“清醒交互 + 离线睡眠”的周期性学习流程，目标是把短期上下文巩固为长期参数。 该框架通过 MoE 参数扩展、知识蒸馏与 RL 模仿学习完成记忆巩固，再用随机专家激活和梯度筛选生成的“梦境”样本让模型自我改进。Google Research 称，这一设计受人类大脑在休息时处理和稳定记忆的方式启发。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。