Vaibhav (VB) Srivastav· @reach_vb · X·· 3 小时前精选AI 评分65
AI 导读
MIT CSAIL 团队提出 Weight-Space Programming,发现前沿 LLM 能原生读写神经网络权重。仅修改 Qwen3.5-0.8B 的 0.016% 权重,就在无梯度、无训练的情况下修复其推理循环,MATH-500 从 7.9% 升至 48.1%,指令遵循提升 3 倍。GPT-6 Astra 还能仅凭原始权重判断模型训练目标,并从零写出小型游戏网络。
推荐理由
MIT CSAIL 的研究显示前沿 LLM 可直接读写神经网络权重,为模型优化与可解释性提供新路径。
正文 · 原文
GPT-6 Astra:
We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: https://rikiyat.github.io/blog/weight-space-programming/在 X 查看被引用的帖子
来源:Vaibhav (VB) Srivastav · x.com