
在几台便宜的 VPS 上对比 Turbopuffer 和 Manticore Search
在 975K 条 1536 维向量上进行的一次正面对比基准测试:turbopuffer 的托管服务 vs 在两台每月 $8.25 的 VPS 上运行的 Manticore。召回率匹配(约 0.966),成本低约 4.5×,延迟和吞吐也相当,同时也坦诚地看了两种方案各自更占优的地方。.

在 975K 条 1536 维向量上进行的一次正面对比基准测试:turbopuffer 的托管服务 vs 在两台每月 $8.25 的 VPS 上运行的 Manticore。召回率匹配(约 0.966),成本低约 4.5×,延迟和吞吐也相当,同时也坦诚地看了两种方案各自更占优的地方。.

Manticore Search 中分片是如何工作的,从在单节点上把表拆分到 CPU 核心,到自动多节点分发并自行维持复制因子。.

Manticore 现在可以在保存 chunk、合并 chunk 和重建 KNN 数据时并行构建 KNN 索引。在一台 16 核机器上,为 100 万个向量构建 KNN 索引的时间从 8 分钟降到了 39 秒。.

随 Manticore Search 27.1.5 发布的新 ONNX Runtime 后端,在相同硬件、相同模型、相同权重下,让自动 embeddings 的速度平均比之前的 SentenceTransformers/Candle 路径快约 14 倍,而且无论你运行 1 个客户端线程还是 32 个,这个优势都成立。.

在 systemd 下运行 Manticore Search,获得更准确的状态报告、更干净的重载、基于 journal 的日志,以及针对 RT 工作负载更安全的关闭。.

三项优化将HNSW向量搜索速度提升最高达29%:重构图遍历以提高缓存利用率、批量距离计算以及AVX-512支持。.