
在几台便宜的 VPS 上对比 Turbopuffer 和 Manticore Search
在 975K 条 1536 维向量上进行的一次正面对比基准测试:turbopuffer 的托管服务 vs 在两台每月 $8.25 的 VPS 上运行的 Manticore。召回率匹配(约 0.966),成本低约 4.5×,延迟和吞吐也相当,同时也坦诚地看了两种方案各自更占优的地方。.

Software Engineer
Ilya Kuznetsov 是一位软件工程师,也是 Manticore Search 关于混合搜索和 KNN 预过滤的出版物的作者。

在 975K 条 1536 维向量上进行的一次正面对比基准测试:turbopuffer 的托管服务 vs 在两台每月 $8.25 的 VPS 上运行的 Manticore。召回率匹配(约 0.966),成本低约 4.5×,延迟和吞吐也相当,同时也坦诚地看了两种方案各自更占优的地方。.

Manticore 现在可以在保存 chunk、合并 chunk 和重建 KNN 数据时并行构建 KNN 索引。在一台 16 核机器上,为 100 万个向量构建 KNN 索引的时间从 8 分钟降到了 39 秒。.

三项优化将HNSW向量搜索速度提升最高达29%:重构图遍历以提高缓存利用率、批量距离计算以及AVX-512支持。.

Manticore 如何检测 HNSW 搜索何时收敛并提前停止,从而在最小精度损失的情况下将距离计算减少 50-80%。.

解释了 Manticore 中的 KNN 预过滤如何在向量搜索期间应用属性过滤器,ACORN-1 和暴力回退何时触发,以及何时仍应优先使用后过滤。.

使用RRF在Manticore中结合全文搜索和向量搜索,以获得比单独使用任一方法更精确的结果.
在 Linux 或 macOS 上用一条命令安装 Manticore Search:
curl https://manticoresearch.com | sh