跳到正文
掘金· 杨文说AI与数字化·· 22 天前精选AI 评分72

用三层适配加回归评估把模型依赖做成可替换组件

把模型依赖做成可替换的组件:三层适配 + 一套回归评估

AI 导读

文章给出一套把模型当依赖注入的三层结构,接口层只认业务语义,适配层收拢提示词模板、输出解析、重试超时和 token 预算,评估层用 200~500 条真实业务样本和字段抽取准确率、结构化输出合法率、P95 延迟三个指标作为换模型的唯一依据。

借鉴点

能拿走接口/适配/评估三层结构和 200~500 条样本的回归脚本,落到软件工厂的模型切换流程;代价是每个模型要单独写适配器,结构化输出还得靠二次调用兜底。

来源:掘金 · juejin.cn