ИИ-галлюцинация чуть не довела США до перехвата китайского судна Американские…

ИИ-галлюцинация чуть не довела США до перехвата китайского судна

Американские военные едва не начали операцию против китайского судна на Ближнем Востоке из-за ошибки чат-бота в разведывательном отчёте.

Инцидент произошёл весной, на фоне войны с Ираном. Аналитик командования специальных операций США попросил ИИ проанализировать данные о грузе судна. Модель смешала открытые источники с секретными материалами радиоэлектронной разведки и сделала ложный вывод: на борту якобы находились компоненты для разработки ядерного оружия.

После этого аналитик с помощью ИИ подготовил отчёт, который запустил подготовку к перехвату.

Ситуация дошла до очень серьёзной стадии: военные самолёты уже были в воздухе, а вооружённые военнослужащие готовились подняться на борт судна.

Перед началом операции исходные разведданные всё же перепроверили — и нашли ошибку. Один из источников CNN описал ситуацию жёстко: ошибочный отчёт «чуть не развязал войну» между США и Китаем.