跳到正文
Hacker News · AI 讨论· abstractcontrol·· 11 天前AI 评分22

前沿模型竟能直接读懂神经网络权重:GPT-6 Astra 仅凭权重识别吃豆人网络

AI Can Read Neural Network Weights. I Wasn't Ready for That

AI 导读

前沿模型可以不经训练循环,直接读取神经网络权重数值并推理其编码的行为。GPT-6 Astra 在最低推理档位下,仅凭架构和权重文本就识别出这是一个吃豆人网络,并逐通道分析出智能体、移动物体、奖励目标和障碍物的结构。该研究还指出,权重以普通文本 token 形式输入模型,并无原生权重通道。

来源:Hacker News · AI 讨论 · arcturus-labs.com