跳到正文
热点事件持续更新

Google Research发布SLEEP持续学习框架

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Google Research 发布 SLEEP 持续学习框架,让大模型在“清醒交互”与“睡眠巩固”之间周期切换,以减轻灾难性遗忘。 按该团队的说法,睡眠阶段会解锁预留的 MoE 记忆块,用 GKD 与 LTI 把短时上下文写入长时参数,再通过随机激活专家生成合成数据、梯度筛选后做监督微调。目前公开信息仅来自 Google Research 的发布说明,尚未给出可验证的效果数据。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. meng shao精选
    Google Research 发布 SLEEP 框架,用睡眠周期减轻大模型灾难性遗忘

    Google Research 发布 SLEEP 框架,让 LLM 在清醒交互与睡眠巩固之间周期切换,以减轻灾难性遗忘。睡眠阶段会解锁预留的 MoE 记忆块,用 GKD 与 LTI 把短时上下文写入长时参数,再通过随机激活专家生成合成数据、梯度筛选后做监督微调。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。