🔥 Sentence Transformers v5 发布重磅更新!现在不仅支持 Dense 和 Reranker 模型训练,还原生支持「稀疏向量模型(Sparse Embedding Models)」的微调训练啦!
相比传统 dense 向量,稀疏向量维度更高但多数为 0,不仅节省存储,还更具可解释性。你甚至能清晰看到哪些词在匹配中起了作用,非常适合语义搜索、混合检索(Hybrid Retrieval)和 RAG 场景 📚
📌 本次更新支持训练以下三类稀疏模型:
1️⃣ SPLADE:用 MLM 模型和稀疏池化组合而成,最常见架构
2️⃣ Inference-Free SPLADE:查询侧完全“免推理”,极致低延迟
3️⃣ CSR 模型:将 dense 向量稀疏化,兼具高性能与高压缩比
🎯 整个训练流程只需准备 6 个组件:模型、数据集、损失函数、训练参数、评估器和 Trainer。全流程可自定义,也支持多数据集训练、蒸馏式训练等高级功能,完全 Hugging Face 风格!
🚀 作者在 Natural Questions 数据集上用 distilBERT 微调了一个 inference-free 模型,在 NanoMSMARCO 数据集上达到了 NDCG@10 = 52.41 的好成绩,结合 dense 模型可提升至 66.28,媲美主流 RAG 检索器!
🤗 欢迎加入我们的中文社区:Chinese LLMs on Hugging Face,一起探索下一代语义搜索!
#稀疏向量##语义搜索##Hugging Face#
发布于 美国
