ИИ-галлюцинация чуть не начала войну США и Китая: что известно и кто ответит

Представьте: аналитик на американской военной базе на Гавайях вводит запрос в чат-бот. Через несколько часов эсминцы США готовы перехватить китайское судно, а мир — на грани ядерного конфликта. Это не сценарий голливудского блокбастера. Это реальный инцидент, который произошёл весной 2026 года и о котором CNN рассказала только в сентябре. ИИ-галлюцинация чуть не начала войну США и Китая — и это, пожалуй, самый громкий звонок о том, что мы слишком доверяем алгоритмам.

Мы привыкли, что ИИ ошибается в чатах, путает факты и выдумывает цитаты. Но когда ошибка стоит на пороге ядерной войны — это уже не смешно. Сенаторы-демократы требуют расследования, Пентагон отмалчивается, а эксперты задаются вопросом: если машина может ошибиться в вопросе жизни и смерти, кто будет нести ответственность? Давайте разбираться.

Что случилось: хронология инцидента, который едва не привёл к войне

Инцидент произошёл весной 2026 года, в разгар активных боевых действий США против Ирана. Аналитик Тихоокеанского командования специальных операций (SOCPAC) на Гавайях использовал коммерческий чат-бот для анализа судового манифеста. Бот объединил открытые источники (OSINT) с секретными данными радиоэлектронной разведки (SIGINT) и выдал заключение: судно перевозит компоненты для ядерной программы Ирана. Затем аналитик повторно использовал ИИ, чтобы оформить выводы в стандартный разведывательный отчёт. Документ ушёл по командной цепочке, и вскоре была готова операция по перехвату китайского судна.

Операцию отменили в последний момент, когда officials обнаружили, что отчёт сгенерирован с помощью ИИ. Один из источников CNN назвал доклад «полностью ложным» и заявил, что он «почти начал войну». CNN Politics сообщает, что это не единичный случай: галлюцинации ИИ-инструментов фиксировались и ранее по мере распространения этих технологий в правительстве.

Вспомним Карибский кризис, когда человеческая ошибка могла привести к ядерной войне. В 1962 году мир спасло то, что решение принимали люди, способные сомневаться. Сегодня мы передаём часть этого процесса машинам, которые не умеют сомневаться. Они выдают уверенные ответы даже тогда, когда данные противоречивы. И если тогда спасли выдержка и переговоры, то сейчас мы полагаемся на алгоритмы, которые не понимают, что такое ядерный апокалипсис.

Как ИИ «увидел» ядерное оружие там, где его не было: технический разбор

Чтобы понять, как это произошло, нужно разобраться в типах данных. OSINT — это открытые источники: новости, судовые реестры, спутниковые снимки. SIGINT — перехваченные сигналы, часто секретные. Нейросеть, обученная на огромных массивах текста, не различает их по уровню допуска. Она просто ищет паттерны.

В данном случае бот «увидел» совпадение: в открытых данных упоминалось судно, а в перехваченных — фраза о «компонентах». ИИ объединил их и сделал вывод, который показался логичным. Но это была галлюцинация — ложная корреляция, выданная за факт. Машина не знала, что эти данные нельзя смешивать. Она просто выполнила запрос.

Проблема в том, что ИИ не должен смешивать эти потоки без верификации. Но аналитик доверился машине, а командование — отчёту. В итоге цепочка «запрос — вывод — приказ» оказалась слишком короткой для такой серьёзной темы.

Почему система верификации не сработала вовремя

Казалось бы, в военной разведке должны быть многоуровневые проверки. Но, по данным CNN, отчёт, сгенерированный ИИ, прошёл беспрепятственно. Человеческий фактор: аналитик был перегружен, командование привыкло доверять формату. Никто не проверил первоисточники. Это классическая ошибка автоматизации: чем больше мы доверяем машине, тем меньше внимания уделяем деталям.

Сенаторы-демократы Марк Уорнер, Джек Рид и Крис Кунс направили письмо министру обороны Питу Хегсету и директору Нацразведки с требованием расследования. Они указывают на системную проблему: по их мнению, использование ИИ в разведке требует жёсткого контроля. И они правы: если мы не можем отследить, откуда взялся вывод, мы не можем ему доверять.

Кто ответит за ошибку: аналитик, Пентагон или разработчик чат-бота?

Пентагон официально заявил о приверженности «строгой проверке» разведданных, но отказался комментировать конкретный инцидент. Europa Press цитирует представителя Пентагона, который сослался на операционную безопасность.

А кто ответит? Аналитик, который использовал чат-бот? Разработчик, который не предусмотрел защиту от смешивания данных? Или командование, которое не проверило отчёт? Пока ясности нет. Но сенаторы настаивают на расследовании инспекторами генералами. В мире, где ИИ становится всё более автономным, вопрос ответственности перестаёт быть теоретическим. Если машина ошибается, кто идёт под трибунал?

Что говорят военные эксперты: можно ли вообще доверять ИИ в вопросах жизни и смерти

Эксперты сходятся: ИИ — только вспомогательный инструмент. Окончательное решение должен принимать человек. Но на практике коммерческие чат-боты всё чаще используются для анализа секретных данных, потому что это быстро и удобно. Риск повторения высок.

Вот чек-лист «красных флагов», которые должны насторожить аналитика:

• ИИ ссылается на источники, которых нет в открытом доступе.
• Выводы противоречат здравому смыслу или другим данным.
• Отчёт сгенерирован без перекрёстной проверки человеком.
• ИИ смешивает данные разного уровня допуска.

Если вы видите хотя бы один из этих признаков — остановитесь и перепроверьте. В военном деле цена ошибки — не потерянный доллар, а человеческие жизни.

Практические выводы: как должны измениться процедуры, чтобы это не повторилось

Инцидент с китайским судном — не просто новость. Это предупреждение. Мы доверили алгоритмам слишком много, а механизмы контроля не успевают за скоростью внедрения. ИИ-галлюцинация чуть не начала войну — и это должно стать уроком. Необходимы обязательная перекрёстная проверка ИИ-отчётов, маркировка сгенерированных документов и чёткая ответственность за финальное решение.

Вот конкретные шаги, которые должны быть внедрены в военных ведомствах:

• Обязательная перекрёстная проверка человеком для всех ИИ-сгенерированных разведотчётов.
• Чёткая маркировка документов, созданных с помощью ИИ.
• Запрет на смешивание данных разного уровня допуска в одном запросе к ИИ.
• Введение персональной ответственности за финальное решение, даже если оно основано на ИИ.

Подпишитесь на наш дайджест, чтобы первыми узнавать о технологиях, которые меняют баланс сил. И запомните: если ваш начальник использует ИИ для решений о жизни и смерти, задайте ему вопрос — кто проверяет галлюцинации?

Материал носит информационно-аналитический характер и не является военной рекомендацией.