
Manticore Search: mmap ускоряет KNN-поиск с колоночным хранением
Как mmap-доступ к файлам ускоряет пересчёт расстояний KNN при колоночном хранении в Manticore Search в 2,57–3,13 раза без потери скорости на данных, не помещающихся в RAM.

Software Engineer
Илья Кузнецов — инженер-программист и автор публикаций Manticore Search о гибридном поиске и предфильтрации KNN.

Как mmap-доступ к файлам ускоряет пересчёт расстояний KNN при колоночном хранении в Manticore Search в 2,57–3,13 раза без потери скорости на данных, не помещающихся в RAM.

Три оптимизации дают ускорение HNSW-поиска по векторам до 29%: обход графа лучше использует кэш, расстояния считаются сразу для нескольких кандидатов, а AVX-512 теперь поддерживается напрямую.

Как Manticore определяет, что результаты векторного поиска достаточно хороши, и останавливает его, сокращая время ответа на 50–80% с минимальной потерей точности.

Объясняем, как предфильтрация KNN в Manticore применяет фильтры по атрибутам во время векторного поиска, когда включаются ACORN-1 и переход к полному перебору и когда всё-таки лучше постфильтрация.

Объедините полнотекстовый и векторный поиск в Manticore с помощью Reciprocal Rank Fusion (RRF) и получите более точные результаты, чем даёт каждый из методов по отдельности.
Установите Manticore Search одной командой в Linux или macOS:
curl https://manticoresearch.com | sh
Для расширенных вариантов установки см. полное руководство по установке и документацию .