ИИ-галлюцинация едва не спровоцировала военный конфликт

Американские военные едва не начали операцию по перехвату китайского судна в中东 из-за ложных данных, сгенерированных ИИ-чатботом. Инцидент произошел 18 сентября: разведка США получила доклад о том, что корабль перевозит компоненты ядерного оружия. Самолеты уже вылетели на перехват, но в последний момент выяснилось, что информация — плод галлюцинации нейросети. Об этом пишет издание BGR.

Источник CNN, близкий к событиям, заявил, что штурм судна мог бы «начать войну». Аналитики давно предупреждали об опасности использования ИИ в военных целях: некачественные или искаженные данные способны привести к катастрофической ошибке. Этот случай стал наглядным подтверждением их опасений.

Проблема в том, что ИИ внедряется в военную разведку повсеместно, но без единого стандарта проверки данных. Аналитик, составивший ложный доклад, использовал чатбот для объединения открытых источников и секретных перехватов. По словам бывшего высокопоставленного чиновника США, используемые чатботы — «просто копии коммерческих программ». И это не единичный случай: источники CNN утверждают, что ИИ-инструменты не раз выдавали ложные заключения с момента их внедрения.

Финал этой истории напоминает сюжет фильма «Военные игры» 1983 года, где ИИ едва не развязал Третью мировую войну. Как сказал компьютер в том фильме: «Единственный выигрышный ход — не играть».