跳到正文
Orange AI· @oran_ge · X·· 2 小时前同事件AI 评分68
AI 导读

MIT CSAIL 的 Rikiya Takehi 等人提出 Weight-Space Programming,称 GPT-6 Astra 无需梯度或训练,仅改动 Qwen3.5-0.8B 约 0.016% 的权重,就修复了其推理循环问题。该改动使 MATH-500 成绩从 7.9% 升至 48.1%,指令遵循的 IFEval 提升 3 倍。Orange AI 转发该研究并称 RSI 初现端倪,认为连模型训练都不需要了。

同一件事,精选收录的是《MIT CSAIL 研究:GPT-6 Astra 直接改写 Qwen3.5-0.8B 权重提升数学能力》

正文 · 原文

RSI 初现端倪
连模型训练都不需要了。。
直接用大模型直接修改小模型的权重
让其数学能力提升六倍

引用Rikiya Takehi@rikiyatakehi
We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: https://rikiyat.github.io/blog/weight-space-programming/
在 X 查看被引用的帖子

来源:Orange AI · x.com