热门标签：
Mac 多显示器 显示器扩展 requests patch 并发 Alpine Linux BSD Linux 电动汽车 全部标签

理解BM25全文检索算法

2024-11-20

BM25算法是一种广泛使用的全文检索算法，它是Lucene/Elasticsearch和SQLite等搜索引擎的默认算法。文章详细解释了BM25算法的原理、公式组成部分以及其背后的概率排序原理。BM25通过考虑查询词项、逆文档频率、词项在文档中的频率以及文档长度等因素，计算文档与查询的相关性得分。文章还讨论了BM25的巧妙之处，即在不计算概率的情况下实现概率排序，以及其前身Robertson/Sparck Jones权重模型的局限性。最后，文章得出结论：在同一文档集合内，可以比较同一文档对不同查询的BM25得分，以确定哪个查询与文档最匹配。

阅读更多
(emschwartz.me)
5
未分类 全文检索

二进制向量嵌入的奇妙之处

2024-11-11

本文探讨了二进制向量嵌入技术的优势。相比传统的浮点向量嵌入，二进制向量嵌入通过将32位浮点数转换为单个比特，实现了高达32倍的压缩率和约25倍的检索速度提升，同时仍能保持95%以上的检索精度。文章列举了MixedBread的mxbai-embed-large-v1模型和其他模型的测试结果，证明了二进制量化在保持高性能的同时显著降低了存储成本和计算开销。此外，文章还讨论了将二进制量化与Matryoshka嵌入技术结合的可能性，并展示了其在进一步压缩嵌入尺寸方面的潜力。作者最后分享了自身使用二进制向量嵌入解决性能问题的经验，并对该技术的未来发展表达了期待。

阅读更多
(emschwartz.me)
16
未分类 二进制量化