开源模型推理省算力，自托管门槛反升
热点事件历史事件
开源模型推理省算力，自托管门槛反升
1 篇报道1 个报道来源11 天前更新
先了解这件事
AI 综述
开源模型正变得推理更省算力，却更难被个人和小团队自行部署。DeepSeek-V3 总参数 671B、每 token 激活 37B，Llama 4 Maverick 总参数 400B、激活 17B，但未激活的专家权重仍需常驻内存；按每参数一字节计，万亿参数模型仅权重就约需 1TB。 vLLM 等批处理服务让大厂能摊薄成本，自托管门槛反而上升。
AI 根据报道生成 · 11 天前更新
最新进展11月5日 01:56
AI 越来越强，自己跑却越来越难：开源权重的隐性门槛报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- Hacker News · AI 讨论AI 越来越强，自己跑却越来越难：开源权重的隐性门槛
开源模型正变得推理更省算力、却更难被个人和小团队自行部署。DeepSeek-V3 总参数 671B、每 token 激活 37B，Llama 4 Maverick 总参数 400B、激活 17B，未激活的专家权重仍需常驻内存。按每参数一字节计，万亿参数模型仅权重就约需 1TB，vLLM 等批处理服务让大厂摊薄成本，自托管门槛反而上升。