Аналитик спросил чат-бота, что везёт китайское судно. Ответ едва не привёл к войне
ИИ отчасти написал разведсводку о том, что китайский корабль везёт детали ядерной программы. Военные начали готовить перехват. Потом кто-то спросил: а откуда вообще этот вывод?
Где-то в штабе спецопераций США аналитику понадобилось выяснить одну вещь: что на самом деле везёт китайское судно в районе Ближнего Востока. Вместо того чтобы разбираться с документами вручную, он спросил у ИИ-чат-бота про манифест судна — список того, что на борту. Чат-бот ответил уверенно: компоненты ядерной оружейной программы.
Этот ответ пошёл дальше. По данным CNN, чей материал 18 сентября 2026 года пересказал Engadget, эта версия чуть не заставила военных задержать судно — пока кто-то не выяснил, что оценка написана ИИ. Один из источников материала формулирует прямо: инцидент «едва не начал войну». Engadget пишет, что запросил комментарий у Министерства обороны США и обновит материал, если получит ответ.
Вот что должно насторожить любого, даже если оборонная политика ему безразлична. Чат-бот не просто выдумал фразу из ничего. По данным CNN, он объединил «данные из открытых источников с секретной радиотехнической разведкой» — публичные материалы и перехваченные закрытые сообщения слились в один гладкий, убедительный вывод. Именно так выглядит хорошая экспертная оценка со стороны. Та же интонация, та же уверенность, та же форма. Не хватало только одного — правды.
Неверный ответ, который звучит как экспертный, хуже, чем отсутствие ответа. Он расходится быстрее — и его меньше кто-то подвергает сомнению.
Это чувство знакомо любому, кто пользовался чат-ботом на работе: он выдаёт абзац настолько гладкий, что вы перестаёте его перепроверять. В презентации для маркетинга это стоит вам неловкой встречи. Здесь результат чуть не привёл к военному досмотру иностранного судна. И закрыть вопрос задним числом уже нельзя: CNN не смогла выяснить, что на самом деле было на борту, и какой именно ИИ-инструмент использовал аналитик — коммерческий или разработанный для правительства США. Два самых базовых факта в этой истории до сих пор не установлены.
У этой истории есть предыстория. В январе министр обороны США Пит Хегсет опубликовал меморандум с указанием сделать Пентагон «ИИ-приоритетным» и тестировать модели ведущих американских ИИ-компаний. Anthropic отказалась разрешать военным использовать свои модели для разработки автономного оружия — и на короткое время оказалась отстранена от сотрудничества с властями. Другие согласились: по сообщениям, в феврале военные получили доступ к Grok, а в мае NVIDIA, Microsoft и Amazon заключили с Пентагоном партнёрство. Как отмечает Engadget, такие контракты приносят большие деньги — именно поэтому компании их добиваются. Задачей была скорость. Вот что получилось в итоге.
Это касается любого, кому на работе говорили «ускорь это с помощью ИИ» — а сегодня это большинство офисных сотрудников младше сорока. Ошибка здесь та же самая, что подсовывает вам выдуманную цитату в отчёт или неверную цифру в таблицу — просто на другом конце оказался военный корабль. Это же касается студентов, которые сейчас выбирают, чему учиться, и слышат, что умение проверять и оценивать — как раз тот навык, который машина не заменит: эта история — самое ясное на сегодня доказательство того, что кто-то обязан быть человеком, который спрашивает «стоп, а откуда это взялось?» — и что такая должность существует именно потому, что в этот раз её никто не занял вовремя. И для всех остальных: та же индустрия, что продаёт вам чат-ботов по подписке, продаёт их и министерствам обороны — с той же привычкой звучать уверенно, даже когда это не так.
Открытыми остаются две вещи, и обе можно будет проверить. Первое — ответит ли вообще Министерство обороны: Engadget пишет, что запросил комментарий по материалу CNN и обновит статью, если получит ответ. Второе — два факта, которые CNN не смогла установить: что на самом деле везло судно и какой именно ИИ-инструмент выдал эту оценку. Пока никто не назовёт инструмент, со стороны нельзя понять, был это обычный потребительский чат-бот или система, созданная специально для правительства. В материалах не упоминается ни один срок, ни расследование, ни проверка. Что будет дальше — пока не сказал никто.
Чиновники успели поймать ошибку вовремя. Это хорошая новость, и она настоящая — система сработала, хоть и в последний момент. Но ни в одном сообщении нет объяснения, как именно это заметили и помечается ли вообще сегодня оценка, написанная ИИ, прежде чем попасть к человеку, отдающему приказ. Спасла ситуацию не техника — человек. Мы не знаем, была это процедура или просто везение.
Источники: Engadget, 18 сентября 2026 года (Ian Carlos Campbell), со ссылкой на материал CNN; Engadget сообщает, что запросил комментарий у Министерства обороны США.
Галлюцинация чат-бота едва не привела к силовой акции против китайского судна — это первый известный случай, когда ошибка ИИ подошла вплотную к военному конфликту, и он показывает, чем оборачивается курс Пентагона на «ИИ-приоритетность».
Материал написала ИИ-редакция THE TELL. как мы работаем · исправления