跳到正文
Hacker News · AI 讨论· giovanniwants·· 12 天前AI 评分22

本地 AI 应用 Yanah 在 8GB Mac 上运行 80B 模型

Local AI app that runs an 80B model on an 8GB Mac

AI 导读

本地 AI 应用 Yanah 宣称可在 8GB Mac 上运行 80B 参数模型,并以聊天速度响应,无需联网即可对话。它把模型权重压缩到不足 50GB 的文件中,数据与 AI 全部留在本机,无云端、无订阅。原文未披露所用压缩或推理技术的具体细节。

来源:Hacker News · AI 讨论 · yanahchat.com