跳到正文
Hacker News · AI 讨论· llmpath·· 13 天前AI 评分60

PaidinToken 上线开源 LLM 显存与硬件兼容计算器

PaidinToken – Open LLM Token Pricing and Local GPU VRAM Calculator

AI 导读

PaidinToken 推出开源 LLM 硬件兼容页面,按 16 种硬件配置列出可运行的开放权重模型、推荐量化档位和 Ollama 命令。页面覆盖 RTX 3060 12GB 到 H200 141GB 及 Apple Silicon 统一内存,并给出显存估算方法,即参数量乘量化位数除以 8 再加 20%–30% 的 KV cache 与驱动开销。

来源:Hacker News · AI 讨论 · paidintoken.com