Галлюцинации нейросетей: почему модель уверенно врёт

Модель не знает, что она чего-то не знает. Она подбирает правдоподобное продолжение текста — и выдуманный номер закона выглядит для неё так же уместно, как настоящий. Это не сбой, который однажды починят, а свойство устройства, с которым работают.

Почему модель выдумывает

Языковая модель обучена продолжать текст правдоподобно. У неё нет отдельного механизма, который отличает «я это знаю» от «это выглядит как то, что обычно пишут в таком месте».

Правдоподобие вместо истины

На вопрос о номере статьи закона модель выдаёт номер, который статистически уместен в такой фразе. Форма будет безупречной: правильная структура, убедительная формулировка, уверенный тон. Содержание может быть выдумано целиком.

Именно сочетание уверенного тона и ложного содержания делает галлюцинации опасными: неправильный ответ выглядит ровно так же, как правильный.

Пробелы заполняются, а не признаются

Если в обучении темы почти не было, модель не молчит — она достраивает. Чем уже тема, тем выше риск: по общеизвестным вопросам ошибки редки, по узкоотраслевым — обычное дело.

Отсечка знаний

Модель обучена до определённой даты, и события после неё для неё не существуют. Спросив о недавнем изменении, легко получить уверенный пересказ прежней редакции. Даты отсечки указаны в каталоге.

Давление вопроса

Формулировка «расскажи о работе Иванова по этой теме» подталкивает модель подтвердить существование работы. Нейтральная формулировка «есть ли работы по теме» даёт заметно меньше выдумок.

Длинный контекст размывает внимание

Когда нужный факт лежит в середине большого объёма, вероятность, что модель воспроизведёт его неточно, растёт. Подробнее — в разборе контекстного окна.

Типы галлюцинаций и что помогает

Что реально снижает частоту

Приёмы делятся на два класса: одни меняют то, что модель получает на вход, другие — то, как проверяется выход. Работают вместе, поодиночке дают немного.

Дать источник вместо памяти

Самое действенное. Когда факты лежат в контексте, задача сводится к пересказу, а не к припоминанию. Отсюда популярность ответов по документам: они не делают модель умнее, они снимают с неё необходимость вспоминать.

Разрешить не знать

Прямая инструкция отвечать «в источниках этого нет» работает, но только если в промпте это названо приемлемым исходом. По умолчанию модель считает, что от неё ждут ответа, и выдаёт его.

Требовать опору на текст

Просьба приводить дословную цитату из предоставленного документа рядом с каждым утверждением превращает проверку в механическую: цитаты либо находятся в исходнике, либо нет.

Почему это работает лучше просьбы «не выдумывай»

Инструкция «будь точен» не даёт модели проверяемого критерия. Требование цитаты даёт: она либо есть в тексте, либо её нет, и это проверяется поиском по строке без участия человека.

Проверять чувствительное отдельно

Числа, даты, имена, ссылки, юридические нормы — короткий список того, что стоит вытаскивать в отдельное поле и сверять с источником. Проверять весь текст целиком дорого и не нужно.

Как проверить ответ за минуту

1. Открыть каждую ссылкуНесуществующие адреса — самая частая и самая быстро проверяемая выдумка.
2. Найти цитату поиском по исходникуДословный фрагмент либо находится, либо его нет. Промежуточных вариантов не бывает.
3. Переспросить иначеТот же вопрос в новом разговоре другими словами. Разошедшиеся ответы — признак, что модель достраивает.
4. Проверить одно число из серединыЕсли сдвинуто одно, остальные тоже под подозрением: ошибка редко приходит в одиночку.
5. Спросить про источник знания«Откуда это известно» — на выдуманном факте ответ становится размытым, на реальном остаётся конкретным.

Где риск недопустим

Не всякая задача одинаково чувствительна. Разделение по последствиям ошибки экономит куда больше, чем попытка одинаково проверять всё.

Низкий риск: черновики и идеи

Ошибка стоит минуты правки и заметна автору сразу. Здесь скорость важнее проверки, и модель можно брать самую дешёвую.

Средний риск: тексты наружу

Статьи, письма, описания. Ошибка попадает к читателю и бьёт по репутации. Обязательна проверка чисел, имён и ссылок перед публикацией.

Высокий риск: право, медицина, деньги

Модель здесь работает как помощник в поиске, а не как источник ответа. Практический подход: она указывает, где смотреть, решение принимает человек по первоисточнику.

Частые вопросы

Последняя проверка фактов: 13.08.2026. Нашли неточность — напишите редакции.