MarkTechPost· Asif Razzaq·· 17 天前精选AI 评分71
Baseten 发布 2B 决策模型 joey-1,每百万输入 token 收费 0.01 美元
Baseten Releases joey-1, a 2B Decision Model at $0.01 per 1M Tokens
AI 导读
Baseten 旗下 Base Labs 发布 2B 决策模型 joey-1,直接返回标签和校准概率而非生成文本,每百万输入 token 收费 0.01 美元,权重以 MIT 协议开源在 Hugging Face。
借鉴点
能拿走的是决策模型输出标签加校准概率、共享前缀一次预填答多问的做法,可换掉现在用大模型生成文本再解析的路由环节;代价是知识面窄,需按置信度阈值回退到 9B 或 27B 模型。
来源:MarkTechPost · marktechpost.com