Эмбеддинги и векторный поиск: поиск по смыслу

Эмбеддинг — это способ превратить текст в набор чисел так, чтобы близкие по смыслу тексты дали близкие наборы. Именно на этом стоит поиск, который находит «как вернуть товар» по запросу «не подошёл размер» — хотя ни одно слово не совпало.

Как текст превращается в числа

Идея старая и простая: расположить все тексты в пространстве так, чтобы расстояние между ними отражало разницу смыслов. Тогда поиск похожего становится поиском ближайших точек.

Аналогия с картой

Представьте карту, где каждый текст — точка. «Кот» и «кошка» стоят рядом, «кот» и «бетон» — далеко. Разница только в том, что измерений на такой карте не два, а несколько сотен: смысл слишком многомерен для плоскости.

Что делает модель эмбеддингов

Это отдельная модель, не разговорная. Она принимает текст и отдаёт вектор — список чисел фиксированной длины. Один и тот же текст всегда даёт один и тот же вектор, поэтому индекс можно построить заранее.

Почему их дешевле разговорных

Модель не генерирует текст, а только считает представление: работы на порядок меньше. Проиндексировать базу документов компании стоит единицы долларов.

Почему модель нельзя менять на ходу

Векторы разных моделей несопоставимы. Смена модели эмбеддингов требует переиндексации всей базы — об этом забывают и получают внезапно сломавшийся поиск.

Как считается похожесть

Чаще всего по углу между векторами: чем меньше угол, тем ближе смысл. Результат — число от нуля до единицы, и по нему выставляется порог, ниже которого совпадение считается неубедительным.

Векторный поиск против обычного

Где векторный поиск ошибается

Ошибки здесь особенные: система не отвечает «не нашла», она приносит что-то похожее. Это делает проблемы незаметными до разбора конкретного случая.

Похоже по форме, противоположно по смыслу

«Договор расторгнут» и «договор не расторгнут» лежат в этом пространстве рядом: почти все слова совпали. Отрицание — известная слабость, и в юридических текстах она опаснее всего.

Слишком длинные фрагменты

Вектор длинного текста — усреднённый смысл всего куска. Если в абзаце три темы, вектор не будет близок ни к одной. Отсюда правило нарезки: фрагмент должен нести одну мысль.

Числа и коды

Артикул, ИНН, номер заказа для модели смысла почти не несут. Их ищут обычным поиском или выносят в фильтры, а не надеются на близость векторов.

Смешение языков

Многоязычные модели сближают перевод с оригиналом, одноязычные — нет. Если база на русском, а запросы иногда на английском, модель нужно выбирать соответствующую.

Как выбрать модель эмбеддингов под русский язык

Выбор проще, чем кажется: значимых параметров три, и все проверяются на своих данных за час.

Поддержка русского

Многие популярные модели обучались преимущественно на английском и на русском работают заметно хуже. Проверка простая: взять двадцать пар «запрос — правильный документ» и посмотреть, попадает ли нужный в первую тройку.

Размерность вектора

Больше чисел — тоньше различия и больше места в базе. Разница между 768 и 1536 на типичных задачах невелика, а объём хранения удваивается.

Где выполняется

Модели эмбеддингов небольшие и хорошо работают локально. Для задач, где документы не должны покидать контур, это рабочий вариант без потери качества.

Частые вопросы

Последняя проверка фактов: 13.08.2026. Нашли неточность — напишите редакции.