跳到正文
热点事件持续更新

腾讯混元团队Reddit AMA:称后训练最难是过度思考

2 篇报道2 个报道来源13 小时前更新

先了解这件事

AI 综述

腾讯首席AI科学家姚顺雨携混元团队在Reddit r/LocalLLaMA社区进行两小时AMA,回应关于架构、安全及路线图的提问。团队透露Hy小模型、Flash-Lite及适配24GB显存的模型已纳入路线图,llama.cpp适配预计近期发布。 姚顺雨称,模型后训练阶段最大的难点在于“过度思考”。为解决该问题,Hy4 flash版本采用从旗舰模型蒸馏并辅以强化学习压缩推理链的策略。

AI 根据报道生成 · 10 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月21日
  1. 量子位
    姚顺雨与腾讯混元团队在 Reddit 答网友问,透露 Hy 小模型已进路线图

    姚顺雨和腾讯混元团队在 Reddit 的 r/LocalLLaMA 社区围绕 Hy4 和 Hy4 flash 举办 AMA,回答训练与部署问题。团队表示 Hy 小模型、Flash-Lite 和面向 24GB 显存的模型都在路线图上,llama.cpp 适配正在推进并预计近期在社区放出。团队还透露后训练中最难改善的行为是过度思考,Hy4 flash 先从旗舰模型蒸馏再用强化学习压缩推理链。

  2. 钛媒体
    姚顺雨与混元团队在Reddit答问两小时,称后训练最难是过度思考

    腾讯首席AI科学家、混元大模型负责人姚顺雨与混元团队在Reddit的r/LocalLLaMA社区进行两小时AMA,收到三百多条留言,话题覆盖架构取舍到安全评测。

本事件热度走势

可比范围当前
13
可比范围峰值
1911月21日 15:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。