为什么用 LLM 生成置信度分数是个坏主意

LLM 逐 token 生成的置信度数字只是文本续写，并非对证据的测量，因此既无法反映信息量，也从未针对"分数是否匹配正确率"做过校准。同一问题重复提问或改写措辞，分数就会变化，说明它由前文措辞决定而非证据。可信的置信度需要与实际结果对照校准，而 LLM 的预训练只校准了"下一个 token 是什么"。