Meta, Microsoft, Nvidia, IBM и другие компании поддерживают ИИ с неограниченным весом.
Искусственный интеллект с открытым исходным кодом и демократизацией
Meta, Microsoft, Nvidia, IBM и другие компании поддерживают ИИ с неограниченным весом.
Двадцать четыре компании и организации подписали открытое письмо, призывающее американских политиков защитить модели искусственного интеллекта с открытыми весами.
В опубликованном сегодня письме (PDF) собраны подписи представителей прямых коммерческих конкурентов и организаций, практически не имеющих общего бизнес-модели: Meta, Microsoft, Nvidia, IBM, Dell Technologies, CrowdStrike, Palantir, ServiceNow, Hugging Face, Perplexity, Mistral, Andreessen Horowitz, Y Combinator, Linux Foundation, Mozilla и другие.
В основе аргументации письма лежит сравнение движения за программное обеспечение с открытым исходным кодом 1980-х годов с нынешней борьбой за то, должны ли веса моделей ИИ свободно распространяться или оставаться заблокированными за коммерческими API.
Модели с открытыми весами — это системы искусственного интеллекта, в которых обученные параметры публикуются для скачивания, проверки, модификации и запуска на собственном оборудовании любым желающим. Это отличается от закрытых моделей, таких как передовые продукты, предлагаемые OpenAI или Anthropic, доступ к которым осуществляется только через API, где базовые веса никогда не покидают инфраструктуру поставщика.
Подписавшие письмо рассматривают открытые весовые коэффициенты как механизм, посредством которого возможности ИИ распространяются за пределы нескольких хорошо финансируемых лабораторий в то, что в письме называется рабочими процессами «заводов, больниц, ферм, школ и предприятий на главных улицах городов».
Их аргументация строится на трех направлениях:
- Открытые веса снижают стоимость входа для стартапов и государственных учреждений, которые не могут позволить себе обучать передовые модели с нуля или платить комиссию за токен по ценам передовых систем за выполнение рутинных задач.
- Они усиливают конкуренцию на всех уровнях, от микросхем до облачной инфраструктуры и приложений, что, как говорится в письме, позволяет снизить затраты и предотвратить захват прибыли небольшим числом поставщиков.
- Использование открытых весовых коэффициентов также позволяет корпоративным клиентам избежать зависимости от конкретного поставщика , поскольку организации, использующие модели с открытыми весовыми коэффициентами, контролируют собственные данные и могут адаптировать модель к внутренним требованиям, не завися от планов развития или ценовых решений какого-либо одного поставщика.
Аргумент в пользу безопасности противоречит инстинкту.
Наиболее острый раздел письма напрямую касается рисков, и его стоит внимательно прочитать, поскольку он переворачивает привычную концепцию открытых моделей и безопасности.
Как признается автор письма, после публикации данных о весе они выходят из-под контроля первоначального разработчика. Модифицированные версии становится трудно отследить или отменить. Усовершенствованная или упрощенная версия открытой модели может распространяться без защитных ограждений, и механизм отзыва отсутствует.
Подписавшие петицию утверждают, что решение проблемы не в запрете. Их аргументация основана на сравнении с кибербезопасностью: защитникам, сталкивающимся с атакующими, использующими ИИ, необходим доступ к моделям с сопоставимыми возможностями обнаружения и моделирования угроз, чего нелегко добиться с помощью закрытых систем с ограниченным доступом.
Они расширяют это утверждение до более широкого вопроса безопасности, заявляя, что закрытые модели не являются по своей сути более безопасными, поскольку их можно взломать, использовать не по назначению или они могут дать сбои, которые внешние исследователи не смогут наблюдать или проверить. В этой интерпретации концентрация передовых возможностей в руках небольшого числа закрытых поставщиков создает единые точки отказа, а не устраняет их.
Открытые модели, напротив, позволяют сторонним исследователям изучать поведение, проводить учения «красной команды» и выявлять уязвимости в различных командах, вместо того чтобы полагаться на внутреннее тестирование одного поставщика.
В письме проводится прямая параллель с аргументом «открытый исходный код безопаснее, чем неизвестность», который формировал десятилетия дебатов о безопасности программного обеспечения, хотя в нем не приводятся конкретные данные об обнаружении уязвимостей или статистика инцидентов в поддержку этого утверждения применительно к системам искусственного интеллекта.
Процесс дистилляции имеет особую защиту.
В письме уделяется внимание одному из методов, ставшему спорным в кругах, занимающихся искусственным интеллектом: дистилляции, когда результаты одной модели используются для обучения или улучшения второй модели. Это стандартная практика в исследованиях и разработке продуктов в области машинного обучения, используемая для оценки, проверки и переноса возможностей между моделями разного размера.
Подписавшие соглашение проводят грань между дистилляцией как законным методом и тем, что они называют «незаконными попытками извлечь выгоду из закрытых моделей», утверждая, что первые не должны попадать под ограничения, направленные против вторых.
Это можно расценивать как прямой ответ на споры, разгоревшиеся после появления китайских моделей, таких как DeepSeek и Kimi, когда несколько американских лабораторий заявили, что конкурирующие модели были обучены путем несанкционированного копирования результатов работы их собственных закрытых систем.
В письме изложена позиция: бороться с неправомерным присвоением путем целенаправленных правовых и коммерческих механизмов, а не путем введения повсеместных ограничений на технологию, от которой зависит вся отрасль.
Что это означает для предстоящей политической борьбы?
Письмо пришло без каких-либо конкретных законодательных или нормативных предложений. Это документ, позиционирующий действия в преддверии ожидаемых изменений в политике в области ИИ в Вашингтоне, призывающий законодателей расширить доступ к вычислительным ресурсам для стартапов и исследователей, финансировать общие обучающие наборы данных и системы оценки, а также избегать того, что в нем называется «преждевременными ограничениями» на открытые модели.
Это следует рассматривать не столько как уже решенный политический вопрос, сколько как показатель того, в каком направлении крупные поставщики инфраструктуры и микросхем хотят развивать нормативно-правовое регулирование. У таких игроков, как Nvidia, IBM и Dell, есть прямые коммерческие причины желать развития открытых экосистем, поскольку более широкий спектр развертываемых моделей обеспечивает больший объем вычислительных ресурсов и услуг независимо от того, какая лаборатория разработала эти весовые коэффициенты.
Командам по закупкам, рассматривающим варианты развертывания с открытым или закрытым доступом, следует учитывать, что политическая обстановка, благоприятствующая одному подходу по сравнению с другим, остается нерешенной, и любые ограничения на дистилляцию или открытый доступ могут изменить экономику самостоятельного размещения ИИ в течение одного законодательного цикла.
См. также: OpenAI внедряет ChatGPT в медицинские карты пациентов.
Хотите узнать больше об искусственном интеллекте и больших данных от лидеров отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это масштабное мероприятие является частью TechEx и проводится одновременно с другими ведущими технологическими выставками, включая Cyber Security & Cloud Expo. Для получения дополнительной информации нажмите здесь.
AI News — это проект TechForge Media. Здесь вы можете ознакомиться с другими предстоящими мероприятиями и вебинарами, посвященными корпоративным технологиям.
Источник: www.artificialintelligence-news.com
Оцените материал:
