研究称GPT-6 Astra可直接改写模型权重提升数学能力
先了解这件事
一项名为 Weight-Space Programming 的研究称，GPT-6 Astra 可直接编辑 Qwen3.5-0.8B 的权重来提升其数学能力，全程不使用梯度或训练，仅改动 0.016% 的权重。作者称 Astra 定位到模型重复输出的循环问题，在 layers 15 和 19 的 64 个 MLP 输出列上共改动 131,072 个权重值。 研究者报告，在 50 次前向传播预算下，MATH-500 从 7.9% 升至 48.1%，GSM8K 从 13.8% 升至 67.1%，指令跟随基准 IFEval 从 21.0% 升至 62.3%；转发该研究的 Ethan Mollick 概括为数学能力最高提升 6 倍、指令遵循提升 3 倍。 Mollick 表示自己仍在等待复现，但认为这是件大事；上述提升幅度均为研究者报告的结果，尚未经独立验证。
AI 根据报道生成 · 40 分钟前更新
事件进展
2 个进展
- 11月3日 03:28 · 2 篇报道用GPT-6直接改写Qwen3.5权重修推理循环引质疑Ethan Mollick：Ethan Mollick 转发研究：GPT-6 Astra 直接改写 Qwen3.5-0.8B 权重提升数学能力
- 11月3日 02:34 · 1 篇报道提出Weight-Space Programming方法Andrew Curran：研究提出 Weight-Space Programming：GPT-6 Astra 直接编辑 Qwen3.5-0.8B 权重提升数学能力
报道时间线
沿着报道，了解事件的不同侧面。
- Ethan MollickEthan Mollick 转发研究：GPT-6 Astra 直接改写 Qwen3.5-0.8B 权重提升数学能力
Ethan Mollick 转发一项待复现的研究，称 GPT-6 Astra 直接修改 Qwen3.5-0.8B 仅 0.016% 的权重，修复其推理循环并把数学能力最高提升 6 倍、指令遵循提升 3 倍，全程不用梯度或训练。研究团队把这一做法称为 Weight-Space Programming，并称前沿 LLM 已能原生读写神经网络权重。Mollick 表示自己仍在等待复现，但认为这是件大事。
- 东锡 NLP用GPT-6直接改写Qwen3.5权重修推理循环引质疑
有推文介绍用GPT-6 Astra直接改写Qwen3.5-0.8B仅0.016%的权重，无需梯度或训练即修复推理循环，数学能力最高提升6倍、指令遵循提升3倍，称为Weight-Space Programming。
- Andrew Curran精选研究提出 Weight-Space Programming：GPT-6 Astra 直接编辑 Qwen3.5-0.8B 权重提升数学能力
一项名为 Weight-Space Programming 的研究让 GPT-6 Astra 直接编辑 Qwen3.5-0.8B 的权重来提升数学能力，仅改动 0.016% 的权重，不使用梯度或训练。在 50 次前向传播预算下，MATH-500 从 7.9% 升至 48.1%，GSM8K 从 13.8% 升至 67.1%，指令跟随基准 IFEval 从 21.0% 升至 62.3%。作者称 Astra 定位到模型重复输出的循环问题，在 layers 15 和 19 的 64 个 MLP 输出列上共改动 131,072 个权重值。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。