跳到正文
Qdrant· info@qdrant.tech (Andrey Vasnetsov)·· 28 天前精选AI 评分71

Qdrant 实测 UltraBERT-Embed-150M 的 32K token 整篇向量与分块检索

UltraBERT Fits 32K Tokens in One Vector. RIP Chunking?

AI 导读

Qdrant 用 LongEmbed 五项任务和 MLDR 的 20 万篇维基文章,对比 UltraBERT-Embed-150M 的整篇向量与 512 token 分块检索,结论是分块在细节检索上仍更强。

借鉴点

能拿走一套长文档检索的对照配置,整篇向量对 512 与 256 token 分块,再加 DBSF/RRF 混合与 1-bit TurboQuant 压缩;落到知识沉淀和本地检索,代价是整篇嵌入耗时约 3 倍、压缩后需重打分补 4 到 11 ms。

来源:Qdrant · qdrant.tech