В моем иске на Гавайях рассматриваются проблемы безопасности продуктов OpenAI и то, как они могут нанести непоправимый вред как Гавайям, так и остальной части США.
Он прав. Вот почему я недавно подал федеральный иск против OpenAI, требуя временного судебного запрета, чтобы помешать компании внедрять свои продукты, такие как ChatGPT, в штате Гавайи, где я живу, до тех пор, пока она не сможет продемонстрировать законные меры безопасности, к которым сама компания обратилась со своей стороны. &большая языковая модель.»
Мы переживаем поворотный момент. Лидеры в области разработки искусственного интеллекта, включая генерального директора OpenAI Сэма Альтмана, признали риски для существования, которые представляют все более мощные системы искусственного интеллекта. В июне 2015 года Альтман заявил: «Я думаю, что искусственный интеллект, скорее всего, приведет к концу света, но тем временем «будут созданы великие компании, использующие серьезное машинное обучение». «Да, он, вероятно, пошутил».но это не шутка.
О поддержке научной журналистики
Если вам понравилась эта статья, подумайте о том, чтобы поддержать нашу журналистику, отмеченную наградами, подписавшись на нее. Приобретая подписку, вы помогаете обеспечить будущее впечатляющих историй об открытиях и идеях, формирующих наш современный мир.Восемь лет спустя, в мае 2023 года, более 1000 технологических лидеров, включая самого Альтмана, подписали открытое письмо, в котором сравнивали риски, связанные с ИИ, с другими угрозами существованию, такими как изменение климата и пандемии. «Снижение риска вымирания из-за ИИ должно стать глобальным приоритетом наряду с другими рисками социального масштаба, такими как пандемии и ядерная война», — говорится в письме, опубликованном калифорнийской некоммерческой организацией Center for AI Safety.
Я нахожусь в конце своей веревки. В течение последних двух лет я пытался сотрудничать с законодателями штата, чтобы разработать нормативную базу для искусственного интеллекта на Гавайях. Эти усилия были направлены на создание Управления по безопасности ИИ и внедрение принципа предосторожности в регулирование ИИ, что означает принятие мер до того, как материализуется фактический ущерб, потому что, если мы будем ждать, может быть слишком поздно. К сожалению, несмотря на сотрудничество с ключевыми сенаторами и председателями комитетов, мои законодательные усилия в штате прекратились сразу после того, как они были представлены. А тем временем администрация Трампа отменила почти все аспекты федерального регулирования ИИ и, по сути, приостановила усилия по заключению международных договоров, которые начались с Блетчлийской декларации в 2023 году. Ни на одном правительственном уровне не существует каких-либо гарантий использования систем искусственного интеллекта на Гавайях.
Несмотря на свои предыдущие заявления, OpenAI отказалась от своих ключевых обязательств по обеспечению безопасности, в том числе отменила свое &инициатива, которая обещала направить 20 процентов вычислительных ресурсов на исследования в области безопасности, а в конце прошлого года отменила свой запрет на применение в военных целях. Из компании ушли ответственные исследователи в области безопасности, в том числе соучредители Илья Суцкевер и Ян Лейке, которые в мае 2024 года публично заявили: «За последние годы культура безопасности и технологические процессы отошли на второй план по сравнению с блестящими продуктами.»Структура управления компанией была коренным образом изменена во время кризиса руководства в ноябре 2023 года, когда обновленный совет директоров отменил важные механизмы контроля, ориентированные на безопасность полетов. Совсем недавно, в апреле, OpenAI устранил барьеры против дезинформации, открыв путь к внедрению моделей искусственного интеллекта «высокого риска» и «критического риска», что, возможно, поможет повлиять на ход выборов или создать высокоэффективные системы.эффективные пропагандистские кампании», — сообщает журнал Fortune.
В своем первом ответе OpenAI утверждает, что дело должно быть прекращено, поскольку регулирование ИИ — это, по сути, «политический вопрос», которым должны заниматься Конгресс и президент. Мне, например, неудобно оставлять такие важные решения на усмотрение этого президента или этого Конгресса — особенно когда они до сих пор ничего не сделали для регулирования ИИ.
Гавайи сталкиваются с явными рисками, связанными с нерегулируемым ИИ развертывание. Недавние анализы показывают, что значительная часть рабочих мест в сфере профессиональных услуг на Гавайях может столкнуться с серьезными трудностями в течение пяти-семи лет из-за искусственного интеллекта. Наша изолированная география и ограниченная диверсификация экономики делают адаптацию рабочей силы особенно сложной.
Наши уникальные культурные знания, практика и язык могут быть незаконно присвоены и представлены в ложном свете системами искусственного интеллекта, обученными без соответствующего разрешения или контекста.
В моем федеральном иске применяются устоявшиеся правовые принципы к этой новой технологии и выдвигаются четыре ключевых требования:
Требования об ответственности за продукт: Системы искусственного интеллекта OpenAI представляют собой продукты с дефектами конструкции, которые не обеспечивают безопасность, ожидаемую обычными потребителями, особенно с учетом намеренного отказа компании от мер безопасности, которые она ранее считала необходимыми.
Отсутствие предупреждения:
Небрежный дизайн: OpenAI нарушила свои обязательства по соблюдению осторожности, поставив коммерческие интересы выше соображений безопасности, о чем свидетельствуют внутренние документы и публичные заявления бывших исследователей в области безопасности.
Нарушение общественного порядка: Развертывание OpenAI все более мощных систем искусственного интеллекта без надлежащих мер безопасности создает необоснованное вмешательство в права общественности на Гавайях.
Федеральные суды признали обоснованность таких исков в отношении причинения технологического вреда, имеющего широкие социальные последствия. Недавние прецеденты Апелляционного суда Девятого округа (частью которого являются Гавайи) устанавливают, что технологические компании могут быть привлечены к ответственности за дефекты конструкции, которые создают предсказуемый риск причинения вреда.
Я не просит о постоянном запрете OpenAI или ее продуктов здесь, на Гавайях, но, скорее, о паузе до тех пор, пока OpenAI не внедрит необходимые меры безопасности, о которых заявила сама компания, включая восстановление своего прежнего обязательства выделять 20 процентов ресурсов на исследования в области согласования и безопасности; внедрение системы безопасности, изложенной в ее собственной публикации. &»Планирование для УЧИ и за его пределами», которое пытается создать барьеры для работы с ИИ, таким же или более интеллектуальным, чем его создатели-люди; восстановить значимый надзор посредством реформ управления; создать конкретные гарантии от злоупотреблений для манипулирования демократическими процессами; и разработать протоколы для защиты уникальных культурных и природных ресурсов Гавайев.
Эти пункты просто требуют от компании соблюдения стандартов безопасности, которые она публично одобрила, но не смогла последовательно внедрить.
В то время как мой иск касается Гавайев, последствия распространяются далеко за пределы наших берегов. Федеральная судебная система обеспечивает надлежащее место для решения этих вопросов торговли между штатами, защищая при этом местные интересы.
Разработка все более мощных систем искусственного интеллекта, вероятно, станет одной из самых значительных технологических трансформаций в истории человечества, считают многие эксперты — возможно, в союзе с огнем, по словам генерального директора Google Сундара Пичаи. «Искусственный интеллект — это одна из самых важных вещей, над которыми работает человечество. Это более глубокое явление, чем, я не знаю, электричество или пожар», — сказал Пичаи в 2018 году.
Он, конечно, прав. Решения, которые мы примем сегодня, в корне изменят мир, который унаследуют наши дети и внуки. Я считаю, что у нас есть моральное и юридическое обязательство действовать с надлежащей осторожностью и обеспечивать разработку и внедрение потенциально преобразующих технологий с соблюдением надлежащих мер безопасности.
То, что происходит сейчас с головокружительной разработкой ИИ в OpenAI и его внедрением для широкой публики, является, согласно краткому отчету технолога Тристана Харриса за апрель 2025 года, «безумием». судебный процесс направлен на то, чтобы хоть немного восстановить здравомыслие.
Это статья, содержащая мнения и анализ, и взгляды, выраженные автором или авторами, не обязательно совпадают с мнениями Scientific American.
