Hacker News · AI 讨论· myurushkin·· 17 天前AI 评分62
为什么 LLM 在 temperature 0 下仍不确定，以及如何用分层设计做出可复现的产品
Deterministic AI: Why LLMs Aren't, and How to Build Products That Are Anyway
AI 导读
Broutonlab 作者结合 Thinking Machines 2025 年 9 月的实验指出，同一提示词在 temperature 0 下跑 1000 次得到 80 种不同补全，前 102 个 token 一致后因服务端批处理差异分叉。
来源：Hacker News · AI 讨论 · broutonlab.com