跳到正文
Hacker News · AI 讨论· yamanahlawat·· 23 天前精选AI 评分71

作者实测 LLM 评审打分不稳:同一份代码八次评分在 0.82 到 0.93 之间漂移

An LLM judge passed renders with defects I planted

AI 导读

作者把同一份 React 组件代码、同一张渲染截图和同一张 Figma 参考图交给 gpt-5.6-terra(medium 推理强度)连打八次分,结果在 0.82 到 0.93 之间波动,7 次过 0.85 门槛、1 次不过,而 schema 是否合法等布尔字段八次完全一致。

借鉴点

同一份代码同一张截图连打八次分,分数在 0.82 到 0.93 之间漂,说明用 LLM 打分当门禁会把噪声当回归;可拿走的是植入已知缺陷、多次重跑、再加一道 Clef 否决的做法,代价是要重跑一遍缺陷集且 Clef 会把大图缩到 30 万像素。

来源:Hacker News · AI 讨论 · yamanahlawat.in