检索技术的三代演进
信息检索技术经历了三个标志性世代:第一代以Elasticsearch/Solr为代表,基于倒排索引和BM25关键词匹配;第二代以Dense Passage Retrieval (DPR) 和Contriever为代表,将查询和文档映射到稠密向量空间做语义匹配;第三代,即2024-2026年的主流方向——混合检索(Hybrid Search),融合稀疏检索的精确性和稠密检索的语义性,实现最佳检索效果。
稀疏嵌入革命:从 SPLADE 到 SPLADE-v3
2022年提出的SPLADE(Sparse Lexical An Distributed Expansion)彻底改变了稀疏检索范式。传统BM25基于精确词项匹配,而SPLADE利用BERT模型预测查询和文档中每个词项的权重,实现“软匹配”——不仅能匹配精确词项,还能扩展到语义相关词项。
- SPLADE-v1:初始双编码器架构,独立编码查询和文档
- SPLADE (v2):引入正则化机制(L1约束),防止权重膨胀;提出蒸馏训练策略提升效率
- SPLADE-v3 (2025):采用基于ColBERT的late interaction思想,支持token-level精细匹配;引入FLOPS正则化替代L1,运行时效率提升40%以上
SPLADE的核心优势在于产出稀疏向量(仅少量维度非零),保持了倒排索引的高效性同时获得语义扩展能力,索引量级从稠密的百万维降至数千有效项。
RRF:倒数排名融合算法
混合检索的关键挑战是融合两个不同分数的排名结果。Reciprocal Rank Fusion (RRF)是业界主流选择:
score(d) = Σᵢ 1/(k rᵢ(d)),其中rᵢ(d)是第i个排序器对文档d的排名,k是平滑常数(通常60)。RRF无需归一化、无需调参权重,对稀疏和稠密排序器的分数尺度差异天然鲁棒。
生产实践中,常见改进包括:
- 加权RRF:为不同排序器分配权重(如w₁=0.7稠密, w₂=0.3稀疏)
- 动态权重:根据查询类型(关键词dominate vs. 语义dominate)自适应调整
- 多级融合:BM25 SPLADE稀疏 Dense稠密三路融合
生产级向量数据库混合检索对比
| 向量数据库 | 稀疏嵌入 | 混合排序 | 多模态 | 分布式 |
|---|---|---|---|---|
| Vespa | SPLADE原生支持 | 内置hybrid rank functions | ✅ | ✅生产级 |
| Qdrant | Sparse Vector BM25 | RRF/Scalar | CLIP原生 | ✅ |
| Milvus 2.5 | Sparse Float Vector | RRF融合 | CLIP/SigLIP | ✅大规模 |
| Weaviate | Splade模型模块 | hybrid融合参数 | multi2vec | ✅ |
| pgvector pgvecto.rs | 无原生稀疏 | 手动RRF | 外部模型 | 依赖PG |
多模态检索:CLIP与LangCLIP
2026年的向量数据库普遍将跨模态检索作为关键能力:
- CLIP (OpenAI):联合嵌入图像-文本到共享空间,支持图搜文和文搜图
- SigLIP/SigLIP-2:改进sigmoid对比损失,训练效率更高,支持多分辨率 LangCLIP:解决CLIP多语言覆盖不足,提升至100 语言
- LanguageCLIP:多版本(EN/中文/ALL)支持文本-图像对齐
2026年新增向量数据库特性:范围过滤(range filter)实现细粒度top-k后筛选、range search语义半径检索、group by聚合检索、可调一致性级别(强一致/最终一致/读己之写)。
生产最佳实践
部署混合检索系统的关键决策:
- 选稀疏嵌入而非纯Dense:域外数据检索效果平均提升15-30%
- 稀疏索引 稠密索引分离:写入时并行编码,读取时同时查询后融合
- RRF替代线性加权分数:调参成本趋近于零
- 多模态按需启用:单模态阶段验证后再扩展
- 监控recall@k维度:分稀疏/稠密/混合三路监控
2026年向量数据库已进入”混合检索默认“时代,Vespa、Qdrant、Milvus等均将hybrid search作为一等公民,生产最佳实践正在从融合后期走向原生融合架构。

发表评论 取消回复