Генеральный директор компании Anthropic призывает к регулированию мощных моделей искусственного интеллекта по образцу Федерального управления гражданской авиации (FAA): что должны знать предприятия.

Карл Франзен

В новом масштабном эссе под названием «Политика в отношении экспоненциального роста ИИ» соучредитель и генеральный директор Anthropic Дарио Амодей публично призывает к введению новых государственных правил, регулирующих выпуск мощных моделей ИИ, сравнивая, в частности, индустрию ИИ с коммерческой авиацией, которая подчиняется правилам Федерального управления гражданской авиации США (FAA), и утверждая, что это необходимо для обеспечения общественной безопасности по мере роста возможностей ИИ и потенциальных злоупотреблений.

Одновременно с эссе организация Anthropic опубликовала две всеобъемлющие стратегии в области политики: расширенную концепцию искусственного интеллекта, направленную на предотвращение катастрофических рисков, связанных с моделями, и экономическую концепцию, направленную на борьбу с вытеснением рабочей силы в результате внедрения ИИ, которая получила дополнительное финансирование в размере 350 миллионов долларов.

Выбор времени как нельзя кстати: вчера компания Anthropic выпустила свою самую мощную модель для массового рынка — Claude Fable 5, а также более закрытую, обновленную версию базовой модели Claude Mythos, теперь известную как Claude Mythos 5, которая предлагает расширенные возможности кибербезопасности как для защиты, так и для нападения.

Как отметил Амодей на X после публикации: «Anthropic давно выступает за требования прозрачности в отношении передовых технологий ИИ, поскольку риски еще не были достаточно ясны для точного регулирования. Теперь этого недостаточно».

Для руководителей технических отделов, директоров по информационным технологиям и корпоративных архитекторов это эссе — не просто политическое заявление, а предварительный обзор операционных, нормативных и кадровых ограничений, которые будут определять развитие следующего поколения корпоративных технологий.

Вот три главных вывода, которые руководители предприятий должны сделать из последнего заявления Anthropic о политике компании.

1. Внедрение новых моделей может столкнуться с ограничениями, аналогичными тем, что введены Федеральным управлением гражданской авиации США (FAA).

В течение последних трех лет предприятия создавали продукты, исходя из предположения, что возможности API для искусственного интеллекта будут развиваться только в одном направлении: быстрее и мощнее. Однако расширенная платформа искусственного интеллекта от Anthropic вводит новую переменную: нормативные эмбарго.

Амодей прямо сравнивает необходимый режим регулирования ИИ с Федеральным управлением гражданской авиации (FAA), заявляя: «Передовые модели ИИ, как и самолеты, должны проходить технические испытания и аудит, а их выпуск должен быть заблокирован или отменен как угроза общественной безопасности, если они не соответствуют высоким стандартам безопасности».

Компания предлагает обязать проводить независимое тестирование моделей, обученных с использованием более 10^25 операций с плавающей запятой (FLOPs) или разработанных компаниями с доходом от ИИ более 500 миллионов долларов или инвестициями в НИОКР более 1 миллиарда долларов.

Если эти модели представляют серьезные биологические риски, риски кибербезопасности или риски автономного управления, правительство будет иметь законное право блокировать, задерживать или предотвращать их внедрение.

Последствия для предприятия: Если ваша компания лицензирует базовые модели для основной инфраструктуры, необходимо планировать действия на случай нестабильности цепочки поставок. Долгожданное обновление модели от поставщика решений в области ИИ может быть отложено на неопределенный срок регулирующими органами, или существующая модель может быть аннулирована, если тестирование после выпуска выявит угрозы автономной работы. Руководители технологических компаний должны разрабатывать многомодельные архитектуры, которые позволяют избежать привязки к одному поставщику, обеспечивая непрерывность бизнеса в случае блокировки флагманской модели поставщика федеральным агентством.

2. Кибербезопасность в сфере ИИ теперь является критически важной инфраструктурой.

Стремление Anthropic к регулированию в значительной степени мотивировано недавним ростом угроз кибербезопасности, связанных с использованием искусственного интеллекта. Амодей прямо ссылается на собственный отчет Anthropic «Claude Mythos Preview», отмечая, что его способность обнаруживать серьезные уязвимости в основных операционных системах «перевернула» глобальную ситуацию в сфере кибербезопасности.

В рамках предложенной компанией Anthropic концепции обеспечение безопасности среды разработки ИИ имеет первостепенное значение. Разработчики передовых технологий должны будут защищать веса своих моделей как от внешних кибератак, так и от внутренних угроз. Кроме того, компании должны разработать каналы для сообщения о «атаках с использованием упрощенных моделей» — когда конкуренты или злоумышленники используют основную модель для обучения более дешевого, не соответствующего оригиналу клона.

Последствия для предприятий: для обеспечения безопасности предприятий важны два аспекта. Во-первых, защитные возможности ИИ станут обязательным условием; как предупреждает Амодей, злоумышленники, использующие передовые модели для поиска уязвимостей, превзойдут традиционную защиту, осуществляемую людьми. Во-вторых, предприятия, которые совершенствуют модели с открытыми весами или размещают собственные экземпляры локально, вероятно, столкнутся с новыми серьезными требованиями к соблюдению нормативных требований и информационной безопасности. Рассмотрение весов моделей как строго засекреченной корпоративной тайны станет новым отраслевым стандартом.

3. Планируйте структурное сокращение рабочей силы, а не просто повышение эффективности.

Пожалуй, наиболее отрезвляющим аспектом этого заявления является экономическая политическая концепция Anthropic. Компания публично признает, что если ИИ достигнет прогнозируемых возможностей, он будет выступать в качестве «общей замены рабочей силы», а не просто инструмента повышения производительности.

Амодей формулирует это прямо: «Главная задача в таком мире будет заключаться не в стимулировании роста, а в поиске способа, позволяющего каждому разделить выгоды».

В подтверждение этого Anthropic выделяет 350 миллионов долларов на борьбу с экономическими потрясениями: 200 миллионов долларов на исследовательский фонд «Экономическое будущее» для пилотного внедрения решений в области государственной политики и 150 миллионов долларов на национальную стипендиальную программу. В рамках этой программы активно разрабатываются сценарии, в которых ИИ приведет к росту безработицы до 5%, 10% или даже беспрецедентных уровней, и предлагаются такие меры, как страхование заработной платы, универсальный базовый доход и модели суверенного благосостояния.

Последствия для предприятий: Для технологических лидеров и отделов кадров переход к ИИ вот-вот превратится в минное поле трудовых отношений. В экономической модели отмечается, что компании «могут выбрать переобучение и перераспределение персонала вместо сокращения штата», но признается, что добровольные действия не заменяют государственную поддержку. Предприятиям, стремящимся к активной интеграции ИИ, следует немедленно начать реализацию планов по переходу персонала. Руководители, рассматривающие ИИ исключительно как механизм быстрого сокращения расходов за счет увольнений, вскоре могут столкнуться с новыми «стимулами для сохранения рабочих мест» или налоговыми льготами, предлагаемыми сторонниками ИИ для замедления потери рабочих мест.

Что предприятиям следует предпринять сейчас?

Заявление компании Anthropic знаменует собой поворотный момент в диалоге индустрии ИИ с Вашингтоном и мировым рынком. Как написал Амодей: «Многие из этих политических идей пользуются популярностью у представителей всего политического спектра, и чем скорее мы начнем их реализовывать, тем скорее все смогут воспользоваться преимуществами ИИ».

Для предприятий послание ясно: эра «быстрых действий и разрушения» в генеративном ИИ подходит к концу. Неумолимо приближается эра строгих требований соответствия, системной безопасности и сложных кадровых перестановок.

Чтобы подготовиться к этим изменениям, предприятиям необходимо прежде всего отделить свои стратегии в области ИИ от зависимости от одного поставщика. Если флагманская модель внезапно будет заблокирована или отозвана в соответствии с предлагаемыми нормативными полномочиями, аналогичными полномочиям Федерального управления гражданской авиации (FAA), организации, зависящие от этого конкретного API, столкнутся с немедленным операционным параличом. ИТ-руководителям следует создавать многомодельные архитектуры, которые позволят им беспрепятственно заменять базовые модели, обеспечивая непрерывность бизнеса в условиях жесткого регулирования.

Во-вторых, лица, принимающие технические решения, должны поднять инфраструктуру ИИ до уровня критически важной кибербезопасности. Поскольку передовые системы ИИ теперь способны обнаруживать серьезные уязвимости программного обеспечения в больших масштабах, поверхность угроз быстро расширяется. Компании, которые занимаются тонкой настройкой моделей или размещают их внутри компании, должны защитить свои среды разработки от внешних и внутренних угроз, соответствуя строгим стандартам безопасности, которые Anthropic предъявляет к отрасли в целом.

Наконец, руководящим командам необходима проактивная, а не реактивная стратегия в отношении персонала. Anthropic прямо предостерегает от использования ИИ исключительно для экономии средств за счет увольнений, призывая предприятия активно искать новые варианты применения, которые позволят им сохранить и переобучить существующий персонал. Поскольку правительства потенциально могут использовать налоговые льготы, способствующие созданию рабочих мест, и страховые полисы по заработной плате для замедления сокращения рабочих мест, компании, которые агрессивно сокращают штат для финансирования внедрения ИИ, могут оказаться в невыгодном положении как с точки зрения общественного мнения, так и в связи с предстоящими экономическими нормами.

Подпишитесь, чтобы получать самые свежие новости!

Подробные аналитические данные для руководителей предприятий в области искусственного интеллекта, данных и безопасности.

VB Daily AI Weekly Еженедельник AGI Еженедельник по безопасности Еженедельник по инфраструктуре данных Мероприятия VB Все они

Отправляя свой адрес электронной почты, вы соглашаетесь с нашими Условиями использования и Политикой конфиденциальности.

Получайте обновления ! Вы подписаны! Наши последние новости скоро поступят на вашу электронную почту.

Источник: venturebeat.com