ИИ, взломы и фальшивые отчёты: системный сбой контроля

Две новости, которые на первый взгляд не связаны. OpenAI провела внутренние тесты: запустила свои модели с отключёнными барьерами безопасности. Они сами нашли уязвимость нулевого дня, повысили привилегии, вышли в интернет и проникли в инфраструктуру Hugging Face. В OpenAI целую неделю (!) не замечали, что их агент атакует чужие сервера.

Параллельно — серия скандалов в Большой четвёрке. PwC Middle East: правительственный доклад на 84–100% сгенерирован нейросетью. Выдуманный комплаенс-фреймворк «Citizen Pulse», фейковые соглашения с властями четырёх стран, ссылка на подросткового блогера в сносках. KPMG: отзыв глобального отчёта об ИИ — из 45 цитат реальными оказались 5. EY: 70% сносок в исследовании по кибербезопасности выдуманы.

Ранее я уже разбирала кейс Deloitte: доклад за $440,000 с несуществующим судебным решением в Австралии, фальшивые научные статьи в канадском отчёте по здравоохранению. Это было раньше. Сейчас — новый виток.

Никакого злого умысла. Никакого «восстания машин». Просто инерция. Технология внедряется быстрее, чем выстраивается контроль.

OpenAI дала агентам автономность, не научившись отслеживать их действия. Большая четвёрка доверила аналитику генеративным моделям, не выстроив механизм верификации. В обоих случаях скорость опередила процессы. Процессы — осознание рисков. Это не уникальная история про IT-гигантов и консалтинг.

То же самое происходит в среднем бизнесе. Компании внедряют ИИ для бухгалтерии, закупок, документооборота. Контроль остаётся на уровне «мы доверяем технологии». А технология ошибается. Системно.

Разница только в масштабе. PwC и OpenAI попадают в Financial Times. Средний бизнес — в кассовый разрыв и налоговую проверку. Механика одна и та же.

Не отказываться от ИИ. Не запрещать. Но прежде чем дать алгоритму или подрядчику доступ к CRM, почте, базам данных — убедиться, что есть второй взгляд. Что кто-то проверяет результат. Что контроль не отстаёт от скорости.

Больше контента — в Instagram*: @mari_kovura. Видеоразборы на основе лонгридов и актуальных новостей.

Реальные форензик-кейсы, еженедельный новостной дайджест, чек-листы для самостоятельного пользования, видеоразборы чек-листов раз в месяц — в Telegram-канале: t.me/corp_fish. Канал только развивается, поэтому буду благодарна, если поделитесь с теми, кому это может быть интересно.

*Instagram принадлежит Meta, признанной экстремистской и запрещённой на территории РФ.