Hacker News · AI 讨论· abstractcontrol·· 11 天前AI 评分22
前沿模型竟能直接读懂神经网络权重:GPT-6 Astra 仅凭权重识别吃豆人网络
AI Can Read Neural Network Weights. I Wasn't Ready for That
AI 导读
前沿模型可以不经训练循环,直接读取神经网络权重数值并推理其编码的行为。GPT-6 Astra 在最低推理档位下,仅凭架构和权重文本就识别出这是一个吃豆人网络,并逐通道分析出智能体、移动物体、奖励目标和障碍物的结构。该研究还指出,权重以普通文本 token 形式输入模型,并无原生权重通道。
来源:Hacker News · AI 讨论 · arcturus-labs.com