Hacker News · AI 讨论· kekz·2026-10-27 17:50· 19 天前精选AI 评分71

Imp 发布面向 RTX 50 系 Blackwell 单卡的 LLM 服务器，由 Claude Code 编写

Show HN: Imp, an LLM Server for RTX 50 GPUs, Written by Claude Code

AI 导读

Imp 是一个只支持 NVIDIA Blackwell sm_120a 单卡（RTX 5050 到 5090、RTX PRO 2000 到 6000）的 LLM 服务器，提供 OpenAI 与 Anthropic 兼容 API 和内置聊天界面，一条 docker run 即可启动，MIT 许可。

借鉴点

单卡自建推理服务可直接照抄 docker run 加 stage-model.sh 的流程，用 NVFP4 权重和 pinned host RAM 跑超显存 MoE；代价是只支持 Blackwell sm_120a 单卡，无多卡无 CI，性能数字全来自作者一张 5090。