掘金· 用户3720374926018·· 20 天前精选AI 评分71
自训 8.4MB 中文语义模型塞进浏览器：STSB 达教师 93.2%，真实检索 top1 仅 42%
把 10MB 中文语义模型塞进浏览器：STSB 做到教师模型的 93%，但线上 top1 只有 42%
AI 导读
作者用两天自训了一个 8.4MB 的中文语义嵌入模型，在浏览器离线运行，STSB 达到教师模型 bge 的 93.2%，但真实检索 top1 只有 42%。
借鉴点
可拿走三步压缩路线（32k 中文 BPE、蒸馏、三值量化到 8.4MB）和双路嵌入分开打分不拼接的做法，落到本地模型部署与知识沉淀；代价是要先跑教师模型测上限，否则容易在模型上白费功夫。
来源：掘金 · juejin.cn