IT之家 · ITHome

Google Research 提出 Sleep Framework，探索语言模型持续学习

Google Research 提出 Sleep Framework，把语言模型运行划分为接收信息的“清醒”阶段与整理记忆的“睡眠”阶段，尝试吸收新知识并保留原有能力。研究还通过合成样本和强化学习训练推理能力，并报告在翻译、长上下文理解与数学任务中优于多种基线。