Три ключевых вопроса, которые поставили под угрозу Закон ЕС об искусственном интеллекте
Эта статья из The Technocrat, еженедельного информационного бюллетеня MIT Technology Review, посвящённого политике в сфере технологий, власти, политике и Кремниевой долине. Чтобы получать рассылку каждую пятницу, подпишитесь здесь.
Обновление: 8 декабря 2023 года был принят Закон ЕС об искусственном интеллекте (ИИ), после того как эта статья была написана и разослана в еженедельном бюллетене MIT Technology Review, посвящённом технологической политике, под названием «Технократ». Полный текст нового закона пока недоступен, но мы опубликуем его подробный анализ в журнале «Алгоритм», который придёт на вашу электронную почту сегодня. Убедитесь, что вы подписаны!
Три руководящих органа Европейского союза ведут интенсивные переговоры по окончательной версии Закона ЕС об искусственном интеллекте (ИИ) — крупного пакета законов, регулирующих эту отрасль, который был впервые предложен еще в 2021 году. Первоначальный срок подачи окончательного пакета — 6 декабря — уже прошел, хотя законодатели не сдаются и продолжают дебаты до раннего утра четверга и снова в пятницу.
Всего несколько месяцев назад казалось, что Закон ЕС об искусственном интеллекте (ИИ) вот-вот получит все необходимые голоса и установит стандарт регулирования ИИ далеко за пределами европейского блока. Но теперь Франция, Германия и Италия в Совете ЕС, состоящем из глав государств-членов, оспорили некоторые основные положения пакета, и законопроект, похоже, находится под реальной угрозой провала. Это открыло бы дорогу другим странам за пределами Европы к формированию глобальной повестки дня в области ИИ.
Чтобы лучше понять ключевые моменты и дальнейшие действия, я поговорил с нашим старшим корреспондентом по искусственному интеллекту Мелиссой Хейккиля и Коннором Данлопом, экспертом по политике из Института Ады Лавлейс. Предупреждаю, что всё это довольно сложно и пока ещё не решено; как говорит мне Коннор: «Самым удивительным был уровень разработки и переработки документов во всех трёх институтах ЕС», который он называет «беспрецедентным». Но здесь, с их помощью, я постараюсь ответить на некоторые из самых важных вопросов.
Какова основная суть этого закона?
Напоминаем, что Закон ЕС об искусственном интеллекте (ИИ) направлен на создание основанной на оценке рисков системы регулирования продуктов и приложений искусственного интеллекта. Например, использование ИИ при найме сотрудников регулируется более строго и требует большей прозрачности, чем «менее рискованные» приложения, такие как спам-фильтры на базе ИИ. (Я писал об этом пакете ещё в июне, если вам нужна дополнительная информация.)
Почему же было так сложно это завершить?
Во-первых, говорит мне Мелисса, существует множество разногласий по поводу фундаментальных моделей, которые заняли большую часть времени и энергии в последних дебатах. Существует несколько определений термина «фундаментальная модель», что отчасти и является причиной разногласий, но основная концепция связана с универсальным ИИ, способным выполнять множество различных задач в различных приложениях.
Вы, вероятно, уже работали с ChatGPT; этот интерфейс, по сути, основан на базовой модели, в данном случае — на большой языковой модели OpenAI. Однако ситуация усложняется тем, что эти технологии можно использовать и в других приложениях с более узким применением, например, в образовании или рекламе.
В первоначальных версиях Закона ЕС об искусственном интеллекте (ИИ) базовые модели прямо не рассматривались, но Мелисса отмечает, что распространение продуктов генеративного ИИ за последний год подтолкнуло законодателей к их интеграции в систему управления рисками. В версии закона, принятой парламентом в июне, все базовые модели будут строго регулироваться независимо от присвоенной им категории риска или способа использования. Это было сочтено необходимым в связи с огромным объёмом данных для обучения, необходимых для их создания, а также с вопросами прав интеллектуальной собственности и конфиденциальности и их общим влиянием на другие технологии.
Но, конечно, технологические компании, разрабатывающие модели фундамента, оспаривают это и выступают за более тонкий подход, учитывающий особенности использования моделей. Франция, Германия и Италия поменялись позициями и зашли так далеко, что заявили, что модели фундамента должны быть в значительной степени освобождены от регулирования Закона об искусственном интеллекте. (Ниже я объясню, почему.)
Коннор объясняет, что последний раунд переговоров в ЕС ввёл двухуровневый подход, при котором базовые модели, по крайней мере частично, сортируются на основе требуемых им вычислительных ресурсов. На практике это будет означать, что «подавляющее большинство мощных моделей общего назначения, вероятно, будет регулироваться лишь лёгкими обязательствами по обеспечению прозрачности и обмену информацией», говорит он, включая модели от Anthropic, Meta и других. «Это привело бы к резкому сужению сферы действия [Закона ЕС об ИИ]», — добавляет он. Коннор утверждает, что GPT-4 от OpenAI — единственная модель на рынке, которая определённо относится к более высокому уровню, хотя новая модель Google, Gemini, тоже может туда попасть. (Подробнее о недавно выпущенной Gemini от Мелиссы и нашего старшего редактора по ИИ Уилла Дугласа Хевена читайте здесь.)
Эти дебаты о базовых моделях тесно связаны с другой важной проблемой: дружественностью к отрасли. ЕС известен своей агрессивной цифровой политикой (например, своим знаковым законом о конфиденциальности данных, GDPR), которая часто направлена на защиту европейцев от американских и китайских технологических компаний. Но в последние несколько лет, как отмечает Мелисса, европейские компании также начали превращаться в крупных игроков на технологическом рынке. Например, Mistral AI во Франции и Aleph Alpha в Германии недавно привлекли сотни миллионов долларов финансирования для создания базовых моделей. Почти наверняка неслучайно Франция, Германия и Италия теперь начали утверждать, что закон ЕС об ИИ может быть слишком обременительным для отрасли. Коннор говорит, что это означает, что нормативная среда может в конечном итоге полагаться на добровольные обязательства компаний, которые могут стать обязательными лишь впоследствии.
«Как нам регулировать эти технологии, не препятствуя инновациям? Конечно, крупные технологические компании активно лоббируют их, но, поскольку в европейских странах есть собственные весьма успешные стартапы в области ИИ, они, возможно, заняли более дружественную к отрасли позицию», — говорит Мелисса.
Наконец, Мелисса и Коннор рассказывают о том, как сложно было прийти к согласию по вопросу использования биометрических данных и искусственного интеллекта в работе полиции. «С самого начала одним из главных камней преткновения было использование правоохранительными органами распознавания лиц в общественных местах», — говорит Мелисса.
Европейский парламент настаивает на ужесточении ограничений биометрии, опасаясь, что эта технология может привести к массовой слежке и нарушению неприкосновенности частной жизни и других прав граждан. Однако европейские страны, такие как Франция, которая в следующем году примет Олимпийские игры, хотят использовать ИИ для борьбы с преступностью и терроризмом; они ведут активное лоббирование и оказывают сильное давление на парламент, требуя смягчения предлагаемой политики, говорит она.
Что дальше?
Крайний срок 6 декабря был, по сути, произвольным, поскольку переговоры уже продолжались. Однако ЕС постепенно приближается к более жёстким срокам.
Мелисса и Коннор говорят, что ключевые положения необходимо согласовать за несколько месяцев до выборов в Европарламент в июне следующего года, чтобы законопроект не заглох окончательно или не был отложен до 2025 года. Если в ближайшие дни соглашение не будет достигнуто, обсуждение, вероятно, возобновится после Рождества. И помните, что помимо окончательного утверждения текста самого закона, ещё многое предстоит уладить в отношении его реализации и соблюдения.
«Были большие надежды на то, что ЕС установит мировой стандарт, приняв первое в мире горизонтальное регулирование в сфере ИИ, — говорит Коннор. — Но если ему не удастся должным образом распределить ответственность по всей цепочке создания стоимости ИИ и не удастся должным образом защитить граждан ЕС и их права, то эта попытка добиться мирового лидерства будет серьезно подорвана».
Что я читаю на этой неделе
- Судебный комитет Палаты представителей одобрил версию законопроекта, который реформирует и продлит действие FISA — спорного законопроекта о наблюдении, который должен быть продлен в конце года. (Я писал об этом недавно, если хотите быть в курсе событий.) Предложение введет более строгие требования к конфиденциальности и прозрачности, ограничив сферу действия FISA.
- Члены AI Now Institute написали статью для MIT Technology Review, в которой рассматривают шумиху вокруг OpenAI в контексте крупных технологических компаний, раскрывая риски отрасли ИИ, связанной с такими компаниями, как Amazon, Microsoft и Google.
- Появляются новые подробности взлома компании 23andMe, предоставляющей услуги генетического тестирования, от которого пострадали около 5,5 миллионов человек. Эта ситуация заставляет задуматься об особых рисках, возникающих при работе частных компаний с крайне конфиденциальными персональными данными.
Чему я научился на этой неделе
Генеральный директор Google Сундар Пичаи побеседовал с нашим главным редактором накануне выпуска Gemini, ответа Google на ChatGPT. В интервью было много интересных моментов, но меня привлекла дискуссия о будущем интеллектуальной собственности и искусственного интеллекта. Пичаи заявил, что ожидает «спорных» результатов, хотя Google «будет усердно работать над тем, чтобы быть на правильной стороне закона и обеспечить прочные отношения со многими поставщиками контента сегодня». «Чтобы всё это работало в долгосрочной перспективе, нам необходимо создать взаимовыгодную экосистему», — сказал он.
Источник: www.technologyreview.com
