掘金· miofly·· 12 天前AI 评分32
MIT 团队用 GPT-6 Astra 改写小模型权重,跳过梯度训练提升指令遵循能力
AI 导读
MIT CSAIL 团队提出权重空间编程方法,用 GPT-6 Astra 直接读写神经网络权重参数,跳过梯度下降训练流程。在 Qwen3.5-0.8B 上仅修改约 0.016% 的权重,指令遵循能力提升 3 倍。实验均在小型模型上完成,Astra 如何实现权重读写的技术细节未公开,团队尚未发布代码、论文或第三方复现结果。
来源:掘金 · juejin.cn