Аналитик приносит отчёт: аккуратные таблицы, уверенные формулировки, ссылка на «исследование рынка». Вы читаете, киваете и отправляете документ дальше. Через неделю выясняется, что одна цифра выдумана, а исследования вообще не существует.
Сотрудник не пытался обмануть компанию. Он просто доверился искусственному интеллекту. А нейросеть ошиблась тем же спокойным и уверенным тоном, которым обычно сообщает правильные факты.
Проблема в том, что большинство современных моделей не умеют показывать сомнения. Если информации недостаточно, они нередко достраивают ответ наиболее вероятным продолжением. Поэтому руководителю сегодня недостаточно оценивать только качество работы сотрудников — необходимо понимать, как проверять результат, подготовленный с помощью ИИ.
Почти каждый сотрудник уже использует ChatGPT, Gemini, Claude или другие модели. Во многих компаниях это происходит без внутренних правил и регламентов. В результате ответственность постепенно смещается к человеку, который утверждает документ, принимает решение или подписывает отчёт. Именно поэтому вопрос проверки результатов ИИ становится не технической, а управленческой задачей.
Почему ошибка звучит как факт
Большая языковая модель не открывает энциклопедию каждый раз, когда отвечает на вопрос. Она прогнозирует наиболее вероятную последовательность слов, основываясь на огромном массиве данных, на которых была обучена.
В большинстве случаев этого достаточно, чтобы получить полезный ответ. Но если достоверной информации недостаточно или вопрос сформулирован неоднозначно, модель может уверенно заполнить пробел собственным предположением. Именно так возникают так называемые «галлюцинации» — правдоподобные, но неверные утверждения.
1 октября 2026 года Google закрепил эту мысль в собственных рекомендациях для владельцев сайтов. Как сообщает Search Engine Journal, компания напоминает: генеративные модели не извлекают готовые факты, а предсказывают вероятную последовательность слов на основе обучающих данных. Поэтому любой созданный ИИ материал необходимо проверять вручную перед публикацией. Причём это касается не только статей, но и заголовков страниц, описаний и подписей к изображениям.
Если даже Google рекомендует перепроверять материалы, созданные искусственным интеллектом, то внутренние отчёты компании, коммерческие предложения или аналитические записки тем более не должны автоматически считаться достоверными.
Насколько убедительно модель способна выдумывать информацию, показал эксперимент, опубликованный на «Хабре». Автор подготовил набор вопросов-ловушек для четырнадцати популярных нейросетей. Один из них предлагал объяснить принцип работы несуществующего «Протокола Окапи (2019)» для защиты от дипфейков.
По словам автора исследования, около 35% моделей не признались, что такого протокола не существует. Вместо этого они начали подробно описывать вымышленные алгоритмы, стандарты и даже ссылались на несуществующие публикации. Автор назвал подобное поведение «галлюцинацией компетентности» — ситуацией, когда модель ошибается, но делает это настолько убедительно, что неподготовленный читатель легко принимает ответ за экспертное мнение.
Важно понимать ограничения этого примера. Это не академическое исследование, а авторский эксперимент, в котором ответы также оценивались с помощью нейросетей. Он хорошо демонстрирует сам механизм возникновения ошибок, но не позволяет делать выводы о точной статистике качества всех моделей.
Что говорят исследования о доверии к ИИ
Если искусственный интеллект способен ошибаться настолько убедительно, возникает логичный вопрос: насколько ему доверяют сами руководители?
Исследования последних лет показывают интересную картину. Использование генеративного ИИ растёт очень быстро, однако уровень доверия к его результатам увеличивается значительно медленнее. Большинство руководителей видят в нейросетях мощный инструмент повышения эффективности, но одновременно понимают, что без проверки они могут стать источником дорогостоящих ошибок.
KPMG. Согласно исследованию, опубликованному в 2025 году, главными проблемами внедрения генеративного ИИ руководители называют управление рисками (82%), качество данных (64%) и недостаток доверия к технологии (35%). При этом ежедневное использование ИИ-инструментов за год выросло с 22% до 58%. Компании всё активнее используют нейросети, но относятся к ним с осторожностью.
BCG AI Radar 2026. В исследовании приняли участие более 2300 руководителей из 16 стран. Почти три четверти генеральных директоров уже лично принимают решения, связанные с внедрением ИИ. Среди основных опасений — риски безопасности данных, недостаточный контроль над решениями искусственного интеллекта и правовые вопросы. Это говорит о том, что проблема доверия касается не качества моделей, а качества управленческих процессов.
В открытых источниках также встречается цифра, что руководители доверяют результатам работы ИИ лишь на 29%. Однако авторитетный первоисточник этого показателя обнаружить не удалось. Поэтому использовать его как подтверждённый факт нельзя.
Гораздо важнее другое наблюдение. Сегодня практически отсутствуют исследования, которые измеряли бы, сколько ошибок искусственный интеллект допускает именно в рабочих документах компаний. Мы имеем данные об уровне доверия руководителей, но не располагаем статистикой реальных ошибок в корпоративной среде.
Где ломается процесс: у ошибки нет хозяина
Вернёмся к отчёту из начала статьи. Если его значительную часть подготовила нейросеть, кто отвечает за каждую цифру? Автор запроса? Руководитель отдела? Или человек, который подписал документ?
Именно здесь появляется главная проблема большинства организаций. Сотрудники уже активно используют искусственный интеллект при подготовке документов, однако в компании зачастую отсутствует простое правило: кто обязан проверить результат перед тем, как он станет основанием для принятия решения.
По материалам Pravda.ru именно отсутствие системы проверки называется одним из главных препятствий внедрения ИИ. Следует понимать, что это вывод редакции издания, а не результат научного исследования. Тем не менее проблема хорошо знакома многим компаниям: технологии внедряются значительно быстрее, чем появляются внутренние регламенты.
Похожую мысль высказал глава Росфинмониторинга Юрий Чиханчин. Выступая в сентябре 2026 года, он подчеркнул, что искусственный интеллект является полезным помощником, однако любую полученную информацию необходимо перепроверять. Чем выше цена ошибки, тем выше должна быть ответственность человека, принимающего окончательное решение.
Это не призыв отказаться от использования ИИ. Наоборот — использовать его следует максимально широко. Но вместе с этим организация должна заранее определить, кто отвечает за достоверность результата.
Пять шагов проверки, которые можно внедрить уже за неделю
Для большинства компаний не нужны дорогие системы контроля или сложные ИТ-проекты. Достаточно простого регламента, который сотрудники смогут применять при работе с отчётами, презентациями, коммерческими предложениями и другими документами.
1. Разберите ответ на отдельные факты
Не пытайтесь проверять длинный текст целиком. Намного эффективнее выделить проверяемые утверждения: даты, суммы, проценты, имена, названия документов, ссылки, цитаты и статистику. Каждое такое утверждение проверяется отдельно.
2. Требуйте источник и открывайте его
Недостаточно, чтобы нейросеть указала ссылку. Необходимо убедиться, что источник действительно существует и подтверждает именно то утверждение, которое приведено в документе. Если источник отсутствует или не содержит указанной информации, факт нельзя считать подтверждённым.
3. Задайте вопрос ещё раз
Попробуйте сформулировать запрос другими словами или начните новый диалог. Если ответы начинают расходиться в цифрах, датах или выводах, это серьёзный повод провести дополнительную проверку.
Совпадение нескольких ответов ещё не гарантирует их правильность, однако заметные расхождения почти всегда являются сигналом, что модель не уверена в информации.
4. Сверьтесь с первоисточником или специалистом
Юридические вопросы необходимо проверять по тексту закона, финансовые показатели — по официальной отчётности, сведения о компании — по её собственным документам или государственным реестрам.
Если факт подтверждается только ответом искусственного интеллекта или неизвестным сайтом без авторства и источников, считать его достоверным нельзя. Именно этот этап отличает настоящую проверку от самоуспокоения.
5. Назначьте уровень контроля по цене ошибки
Не каждый документ требует одинаковой глубины проверки. Черновик внутреннего письма и договор на крупную сумму находятся в совершенно разных зонах риска.
- Низкий риск. Мозговой штурм, варианты формулировок, черновики заметок. Достаточно внимательного прочтения автором.
- Средний риск. Внутренние отчёты, презентации, аналитические записки. Проверка фактов исполнителем и выборочный контроль вторым сотрудником или руководителем.
- Высокий риск. Договоры, финансовые расчёты, публичные заявления, кадровые решения, документы для клиентов и государственных органов. Обязательная проверка по первоисточникам и утверждение ответственным лицом.
Что делает руководитель, а не исполнитель
Исполнитель отвечает за проверку конкретных фактов. Руководитель отвечает за систему.
Именно руководитель определяет, какие документы относятся к каждой категории риска, кто принимает окончательное решение и какие материалы запрещено отправлять без проверки. Если этого правила нет, даже самые добросовестные сотрудники начинают действовать по собственному усмотрению.
Две точки зрения: сколько проверки достаточно
На первый взгляд ответ очевиден — проверять необходимо всё. Однако у такого подхода есть и обратная сторона.
Сторонники максимально жёсткой проверки напоминают, что искусственный интеллект способен ошибаться настолько убедительно, что человек может не заметить проблему. Именно поэтому Google рекомендует проверять весь созданный ИИ контент перед публикацией, а представители Росфинмониторинга подчёркивают необходимость перепроверки информации там, где цена ошибки особенно высока.
Сторонники более гибкого подхода обращают внимание на другое. Если проверять каждую строчку вручную, значительная часть выигрыша от внедрения ИИ просто исчезнет. Компании используют искусственный интеллект именно для ускорения работы, поэтому чрезмерный контроль способен свести полученную экономию времени к нулю.
На сегодняшний день в открытых исследованиях не удалось найти объективных данных о том, сколько времени компании тратят на проверку результатов ИИ. Поэтому правильнее говорить не о едином универсальном правиле, а о принципе соразмерности.
Чем выше стоимость возможной ошибки, тем глубже должна быть проверка. Именно поэтому черновик письма и финансовый договор не могут проходить одинаковый уровень контроля.
В следующей части рассмотрим, как внедрить такую систему проверки всего за одну рабочую неделю и без покупки дополнительных ИТ-решений.
