Google Research发布SLEEP持续学习框架
热点事件持续更新
Google Research发布SLEEP持续学习框架
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Google Research 发布 SLEEP 持续学习框架,让大模型在“清醒交互”与“睡眠巩固”之间周期切换,以减轻灾难性遗忘。 按该团队的说法,睡眠阶段会解锁预留的 MoE 记忆块,用 GKD 与 LTI 把短时上下文写入长时参数,再通过随机激活专家生成合成数据、梯度筛选后做监督微调。目前公开信息仅来自 Google Research 的发布说明,尚未给出可验证的效果数据。
AI 根据报道生成 · 2 小时前更新
最新进展10月29日 10:34
Google Research 发布 SLEEP 框架,用睡眠周期减轻大模型灾难性遗忘报道时间线
沿着报道,了解事件的不同侧面。
10月29日
- meng shao精选Google Research 发布 SLEEP 框架,用睡眠周期减轻大模型灾难性遗忘
Google Research 发布 SLEEP 框架,让 LLM 在清醒交互与睡眠巩固之间周期切换,以减轻灾难性遗忘。睡眠阶段会解锁预留的 MoE 记忆块,用 GKD 与 LTI 把短时上下文写入长时参数,再通过随机激活专家生成合成数据、梯度筛选后做监督微调。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。