掘金· 西安小哥·· 10 天前AI 评分58
让大模型稳定输出 JSON 的三次方案迭代：从提示词到接口 schema 再到代码兜底
让大模型稳定输出 JSON，我换了三次方案，最后败给一个土办法
AI 导读
作者复盘让大模型稳定输出 JSON 的三次方案迭代，最终采用模型只给候选根因和证据行号、代码层宽松解析、失败只重试一次再走兜底文案的做法，上线后解析失败告警少了一大半。
来源：掘金 · juejin.cn
让大模型稳定输出 JSON 的三次方案迭代：从提示词到接口 schema 再到代码兜底