Белый дом просит компанию OpenAI отложить выпуск новой модели из-за опасений по поводу безопасности.

Как сообщается, выпуск новой модели OpenAI, GPT 5.6, будет отличаться от предыдущих релизов. Вместо того чтобы распространять её среди широкой публики, компания планирует поделиться ею только с избранной группой близких партнеров, поскольку так распорядилась администрация Трампа, сообщает издание The Information.

Как сообщается, на встрече на этой неделе генеральный директор Сэм Альтман заявил сотрудникам, что правительство будет «одобрять доступ каждому клиенту отдельно» в течение предварительного периода. Альтман также добавил, что если ограниченный запуск пройдет успешно, OpenAI надеется последовать за ним с более широким, общим запуском «через пару недель».

Иными словами, администрация Трампа, похоже, оказывает давление на OpenAI, чтобы та делала то, что Anthropic уже делает добровольно: держала свои самые мощные модели ИИ в секрете.

Согласно изданию The Information, новая модель OpenAI не только находится на рассмотрении администрации, но и сотрудники компании «тесно сотрудничали» с правительством при подготовке к предстоящему запуску. Сообщается, что запрос на ограниченный доступ к модели поступил от Управления национального директора по кибербезопасности и Управления по научно-технической политике.

Администрация Трампа, которая изначально позиционировала себя как придерживающаяся невмешательства в ИИ, в последние месяцы настаивала на федеральном надзоре за новыми моделями. Ранее в этом месяце Трамп подписал указ, обязывающий некоторые компании, занимающиеся разработкой ИИ, добровольно представлять новые модели правительству для тестирования и оценки, прежде чем публиковать их.

В начале этого года компания Anthropic вызвала немало споров, объявив, что её новая передовая кибермодель, Claude Mythos, будет доступна лишь узкому кругу партнёров в рамках программы под названием Project Glasswing. Anthropic утверждала, что её модель слишком мощная и в неправильных руках может принести больше вреда, чем пользы. С тех пор наблюдатели спорят, является ли риторика Anthropic всего лишь маркетинговым трюком или законной попыткой предотвратить злоупотребление мощной моделью. Ответ, возможно, находится где-то посередине.

Киберпреступники давно используют автоматизированные инструменты, но в эпоху генеративного ИИ у них теперь больше цифровых средств, чем когда-либо прежде. LLM-ы доказали свою способность создавать вредоносное ПО, а некоторые даже могут автономно осуществлять целые атаки с использованием программ-вымогателей.

Особую обеспокоенность вызывает передовые инструменты кибербезопасности, такие как Mythos, поскольку они, по-видимому, способны как выявлять, так и использовать уязвимости программного обеспечения со скоростью, недостижимой для аналитика-человека. Поскольку многие программные системы содержат скрытые ошибки, которые служат точками входа в корпоративные сети, это, очевидно, представляет собой серьезную проблему для любой организации, использующей сложную программную инфраструктуру. Тем не менее, поскольку эти модели остаются закрытыми для публики, трудно сказать, насколько серьезной угрозой они на самом деле являются.

Источник: techcrunch.com