跳到正文
Hacker News · AI 讨论· YareAceNoK·· 19 天前AI 评分62

.aamt 发布面向 GPU 的统一文件格式,同时装模型权重、智能体记忆与世界状态

.aamt – one GPU file format for model weights, agent memory and worlds

AI 导读

.aamt 发布一种面向 GPU 的文件格式,把模型权重、智能体记忆和世界状态放进同一个容器。8B 三元模型 GaIaN 以 3.23 GB 存于 .aamt,在 M1 Max 上持续解码 41.2 tok/s,4k token 提示词二次回答快 184 倍。

来源:Hacker News · AI 讨论 · asamanthinks.com