Дарио Амодей из Anthropic отвечает: он не против моделей с открытыми весами, но опасается китайского ИИ.

В понедельник днем основатель и генеральный директор компании Anthropic Дарио Амодей ответил на слухи в отрасли о том, что его компания каким-то образом поддерживает усилия правительства США по запрету китайских моделей жима лежа в свободном весе, или, возможно, моделей жима лежа в свободном весе в целом.

«Всем, кто читал мои предыдущие статьи, следует знать, что я не считаю подобные запреты полезной мерой, но позвольте мне четко заявить, чтобы не оставалось никаких сомнений: Anthropic никогда не выступал за запрет моделей с открытыми весами », — написал он, выделив это собственными словами.

Его ответ последовал после того, как основатель и генеральный директор Nvidia Дженсен Хуанг опубликовал в пятницу на платформе X (это была его первая публикация на платформе) открытое письмо, в котором Nvidia и длинный список других компаний, занимающихся ИИ, включая Hugging Face, Meta, Microsoft, Mistral и Nvidia, призвали политиков не вводить широкие «преждевременные ограничения» на модели ИИ с открытыми весами.

Хотя в этом письме Китай конкретно не упоминался, дискуссия в отрасли сосредоточена на утверждениях о том, что китайские лаборатории искусственного интеллекта наращивают свои возможности зачастую за счет кражи интеллектуальной собственности у своих американских коллег. Один из методов — дистилляция, когда ИИ бомбардирует другую модель подсказками, чтобы научиться тому, как она работает.

В опубликованном в понедельник сообщении в блоге Амодей заявил, что, по его мнению, модели с открытыми весами относятся к совершенно иной категории, нежели угроза, которую представляет Китай. «Модели с открытыми весами, не обладающие опасными возможностями, являются общественным благом: они ничего не стоят, кроме вычислительных ресурсов, необходимых для их работы, и приносят пользу бизнесу, разработчикам и исследователям».

Амодей в своем посте заявил, что давно опасается искусственного интеллекта, но компании, использующие модели с открытыми весами, даже китайские, к ним не относятся.

Он опасается, что «авторитарные правительства» создадут модели, более мощные, чем в США, для достижения «постоянного военного превосходства» и/или будут использовать ИИ для подавления собственного народа. Он сказал, что Коммунистическая партия Китая (КПК) — не единственное авторитарное правительство, вызывающее у него опасения, но оно «наиболее способное».

Амодей также заявил, что опасается, что ИИ позволит осуществлять не только кибератаки, но и «биологические атаки». И, по его мнению, модели с открытыми весами более опасны в таких сценариях, поскольку к ним сложно применять ограничения или контролировать их использование. Он также отметил, ссылаясь на отчет британского Института безопасности ИИ, что после выпуска моделей с открытыми весами их нельзя будет удалить.

Это противоречит утверждениям сторонников открытого исходного кода: доступ к мощным открытым моделям, не контролируемым какой-либо одной организацией, помогает защитникам защитить себя.

Амодей перечислил действия, которые, по его мнению, могли бы помешать Китаю, включая ограничение доступа к мощным чипам (что является давней политикой США) и призыв к официальному пресечению производства дистиллятов. США пригрозили санкциями Китаю, если выяснится, что имела место кража интеллектуальной собственности, связанная с американскими моделями.

Примечательно, что Амодей также заявил о своей поддержке растущих усилий, некоторые из которых возглавляют США, по созданию образцовой организации по тестированию безопасности, особенно если весь мир, включая Китай, согласится подчиниться ей.

«Я думаю, что по этой идее уже достигнуто почти консенсусное согласие: меня воодушевило как то, что администрация Трампа в последние месяцы двинулась в этом направлении, так и недавние предложения отрасли, которые предусматривают применение такого тестирования к наиболее перспективным моделям независимо от страны их происхождения или того, являются ли они открытыми или закрытыми (при этом полностью исключая менее перспективные модели, такие как модели стартапов и академических учреждений)», — написал Амодей.

«Обратите внимание, что для эффективности, — добавил он, — тестирование должно быть глобальным, а это значит, что даже КПК должна быть к этому причастна. Я думаю, что это вполне возможно… возможно ограниченное сотрудничество в предотвращении биологического оружия на основе ИИ, поскольку это также в интересах Китая».

Источник: techcrunch.com