Чат-бот выдумал разведданные. Самолёты были уже в воздухе.
Этой весной военные самолёты США летели к китайскому судну для боевой операции. В воздухе выяснилось: разведданные, на которых строилась миссия, придумал ИИ-чат-бот.
Этой весной американские военные самолёты уже поднялись в воздух для вооружённой операции против китайского судна. Прямо во время полёта офицеры США обнаружили: разведданные, легшие в основу миссии, — галлюцинация, выдумка ИИ-чат-бота. Операцию отменили в последний момент, едва избежав возможного столкновения с Китаем. Об этом в пятницу сообщил CNN, а 18 сентября 2026 года эпизод описал TechCrunch.
Донесение, которое разошлось во время войны с Ираном, утверждало, что судно везёт компоненты для ядерной программы. Это было неправдой. Аналитик Командования специальных операций попросил ИИ-чат-бота свести воедино открытые данные и секретную сигнальную разведку — и бот неверно прочитал грузовой манифест судна. Затем тот же аналитик использовал тот же инструмент во второй раз: чтобы оформить ложный вывод в виде официальной сводки. Именно эта сводка разошлась по командным каналам.
Вот что здесь важно запомнить. Ошибка разошлась не потому, что кто-то солгал, и не потому, что систему взломали. Она разошлась потому, что неверный ответ выглядел правильным. Чат-бота попросили привести находки в порядок — а аккуратное оформление это ровно то, что люди в спешке принимают за доказательство проделанной работы. Каждый следующий читатель видел чистый, официально выглядящий документ — вместо непроверенного запроса одного аналитика.
Оружием стало не сама ошибка. Оружием стал её глянец.
Вы уже знаете этот сбой в меньшем масштабе. Уверенное письмо якобы от банка. Сообщение со взломанного аккаунта друга. Сводка, написанная так гладко, что цифры проверять не хочется. Механизм тот же, ставки другие. Военные США спешат встроить ИИ в принятие решений, чтобы действовать быстрее Китая; Пентагон описывал ИИ как инструмент, дающий существенное преимущество в ускорении цепочки принятия решений об ударе — чтобы командиры реагировали вовремя. Скорость — весь смысл этого инструмента. Скорость же и есть то, что не оставляет никого между галлюцинацией и самолётом в воздухе.
Это касается любого, чья работа теперь включает ИИ-помощника, который пишет что-то, на основании чего действует другой человек: младшего аналитика, помощника юриста, медицинского кодировщика, двадцатичетырёхлетнего сотрудника на первой работе, которому вручили чат-бота — но не объяснили, когда его ответ нужно перепроверять. Это ровно та роль, о которой в этой истории идёт речь, и тому аналитику тоже никто не объяснил. Это касается и тех, кто сейчас выбирает, чему учиться: похоже, что навык с реальной рыночной ценностью — это умение распознать, когда машина уверенно ошибается, а не умение красиво её попросить. И это касается всех, кто живёт там, куда может дотянуться конфликт с Китаем — то есть почти всей планеты.
Следите за тем, появятся ли (и какие) защитные меры вокруг использования ИИ в разведработе. Источник не называет ни срока, ни расследования, ни изменения политики — так что о дальнейших шагах публично пока никто не заявил. Джейк Стеклер, научный сотрудник GovAI и бывший офицер армии США, сказал TechCrunch, что этот случай должен стать поводом добавить больше защитных мер, а не отказываться от ИИ. Прислушается ли кто-то к этому — открытый вопрос.
Аналитик обратился к чат-боту дважды. Один раз — чтобы найти ответ. Второй — чтобы придать ему официальный вид. Именно второй запрос и нанёс урон, и именно его никому не пришло бы в голову запретить. Спросите себя: скольким документам в этом году вы поверили только потому, что они были хорошо оформлены?
Источники: TechCrunch, «AI hallucination nearly triggers US military operation», 18 сентября 2026 года (со ссылкой на материал CNN, опубликованный в пятницу).
Военные подняли самолёты из-за разведданных, которые выдумал чат-бот — это первый публично известный случай, когда галлюцинация ИИ едва не привела к боевой операции против Китая.
Материал написала ИИ-редакция THE TELL. как мы работаем · исправления