OpenAI приводит методы обеспечения безопасности в соответствие с Кодексом GPAI, принятым в рамках Закона ЕС об искусственном интеллекте.

Управление, регулирование и политика

OpenAI приводит методы обеспечения безопасности в соответствие с Кодексом GPAI, принятым в рамках Закона ЕС об искусственном интеллекте.

Компания OpenAI изложила, как она согласовывает свою работу по обеспечению безопасности, защиты и прозрачности с Кодексом GPAI, принятым в рамках Закона ЕС об искусственном интеллекте, в преддверии его вступления в силу.

Компания внесла свой вклад в разработку и поддержку Общего кодекса практики ЕС в области искусственного интеллекта (GPAI) и Кодекса практики в области прозрачности контента, созданного с помощью ИИ. Оба документа были разработаны в результате взаимодействия многих заинтересованных сторон.

Кодекс GPAI устанавливает единые стандарты прозрачности, безопасности и защищенности для моделей общего назначения, продаваемых или внедряемых в ЕС. OpenAI приводит ряд существующих практик в качестве доказательства того, что компания уже работает на уровне, близком к этому стандарту: тестирование моделей перед выпуском, публикация системных карточек, сопровождающих крупные запуски, и привлечение сторонних специалистов для проверки моделей через так называемую сеть Red Teaming Network. Компания также поддерживает публичный документ Model Spec, описывающий, как она формирует поведение моделей.

В основе этой работы лежат две внутренние структуры. Структура готовности действует с 2023 года и была обновлена в 2025 году; она описывает, как OpenAI выявляет, оценивает и управляет серьезными рисками, исходящими от передовых систем. Отдельная структура управления передовыми технологиями основывается на ней, объясняя, как методы обеспечения безопасности компании соответствуют требованиям законодательства, включая, в частности, Кодекс GPAI.

Как заявляет OpenAI, эти два документа в совокупности регулируют оценку рисков, меры безопасности, отчетность по моделям, уровень безопасности, реагирование на инциденты и порядок привлечения внешних экспертов к процессу.

Компания OpenAI отмечает свое участие в Frontier Model Forum, а также сотрудничество с Центром стандартов и инноваций в области ИИ США и Институтом безопасности ИИ Великобритании, плюс вклад в разработку стандартов оценки сторонними организациями в целом. Заявленная цель – обмен результатами исследований в области безопасности и разработка более четких критериев тестирования в масштабах всей отрасли, а не только внутри одной компании.

По мере умножения различных способов установления происхождения данных становится все сложнее.

В основе обязательств, изложенных в Кодексе прозрачности, лежит другая проблема: помочь людям определить, когда контент был создан или изменен с помощью искусственного интеллекта.

Подход OpenAI основан на двух механизмах, которые призваны усиливать друг друга. Учетные данные контента (Content Credentials), построенные на стандарте C2PA, напрямую прикрепляют контекст к файлу. Водяной знак SynthID обеспечивает резервный сигнал в случаях, когда эти метаданные удаляются на каком-либо этапе обработки.

Расширяется охват от изображений до аудиоданных, и OpenAI заявляет, что работает над распространением мер подтверждения происхождения данных на другие форматы, включая текст, по мере развития базовых стандартов и инструментов. Компания также разрабатывает сигналы и рекомендации для разработчиков, которым необходимо соблюдать собственные обязательства по обеспечению прозрачности при создании приложений на основе ее моделей.

Ничто из этого не решает проблему происхождения данных полностью. Метаданные теряются, а метки не всегда сохраняются при передаче между платформами. Ни один отдельный сигнал, будь то криптографический или основанный на водяных знаках, сам по себе не может отследить всё. Ответ OpenAI — это многоуровневый подход в сочетании с постоянной работой в рамках более широкого сообщества стандартов, а не утверждение о том, что какой-либо один механизм полностью решает проблему.

Кибербезопасность как тестовая площадка для адаптивного управления

Возможности, помогающие специалистам по кибербезопасности выявлять и устранять уязвимости, — это те же самые возможности, которые могут помочь злоумышленнику обнаружить их первым. Компания OpenAI считает, что решение заключается в ее программе Trusted Access for Cyber, разработанной для предоставления проверенным специалистам по кибербезопасности доступа к более продвинутым возможностям, одновременно ограничивая риск неправомерного использования.

В настоящее время у этой программы есть европейское подразделение по внедрению. Компания OpenAI заявляет, что запустила свой План действий ЕС в области кибербезопасности в начале мая 2026 года, сотрудничая с европейскими и национальными киберагентствами, партнерами из частного сектора и операторами инфраструктуры, чтобы предоставить им доступ к своим более совершенным моделям кибербезопасности.

Заявленная цель плана — укрепление киберустойчивости на всем континенте. Вопрос о том, приводит ли статус «самого передового» к измеримым улучшениям в обороне внутри этих ведомств, остается открытым самим OpenAI; исходные материалы не содержат независимого подтверждения результатов программы.

Компания позиционирует эту работу как соответствующую Плану действий Европейской комиссии по кибербезопасности и искусственному интеллекту, который призывает к скоординированному управлению рисками, связанными с ИИ, наряду с его использованием для укрепления обороноспособности, включая, в частности, безопасные механизмы доступа в целях кибербезопасности.

Компания OpenAI заявляет, что будет продолжать корректировать свой подход к соблюдению нормативных требований по мере реализации Закона ЕС об искусственном интеллекте и рассчитывает и дальше учиться у регулирующих органов и более широкого сообщества, участвующего в формировании правил. Компания утверждает, что правила должны быть достаточно гибкими, чтобы адаптироваться к развитию технологий, чтобы предприятия и организации могли и дальше извлекать из них выгоду.

Кодекс GPAI и Кодекс прозрачности — относительно новые инструменты, и документация OpenAI по соответствию требованиям — это скорее постоянно меняющаяся, чем готовая продукция. Командам, разрабатывающим модели OpenAI на регулируемых европейских рынках, следует рассматривать существующие системные карты и Рамочную программу управления Frontier как отправную точку для собственной проверки, а не как ее замену.

См. также: Цукерберг подробно рассказывает о личной стратегии Meta в области сверхинтеллекта на основе искусственного интеллекта.

Хотите узнать больше об искусственном интеллекте и больших данных от лидеров отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это масштабное мероприятие является частью TechEx и проводится одновременно с другими ведущими технологическими выставками, включая Cyber Security & Cloud Expo. Для получения дополнительной информации нажмите здесь.

AI News — это проект TechForge Media. Здесь вы можете ознакомиться с другими предстоящими мероприятиями и вебинарами, посвященными корпоративным технологиям.

Источник: www.artificialintelligence-news.com