Сатья Наделла выступил с шокирующим предупреждением в адрес компаний, использующих искусственный интеллект.

Среди всех дискуссий о потенциальных недостатках ИИ, одна вызывает наибольшее беспокойство у энтузиастов ИИ в Силиконовой долине. Они опасаются, что гигантские лаборатории ИИ, продающие собственные модели, действуют как троянские кони.

Опасения вызывают то, что по мере того, как стартапы и крупные предприятия используют модели ИИ от таких лабораторий, как OpenAI и Anthropic, эти лаборатории получают все больший доступ к наиболее конфиденциальной деловой информации этих компаний. Затем создатели моделей могут использовать эти знания в своих интересах, потенциально становясь конкурентами для своих собственных клиентов. Такие предупреждения высказывают венчурные инвесторы, такие как Джейсон Калаканис, и генеральный директор Palantir Алекс Карп.

Теперь же, в неожиданном сообщении в блоге, опубликованном в воскресенье, генеральный директор Microsoft Сатья Наделла присоединился к этой группе. Наделла предупреждает, что пользователи ИИ (так называемые «покупатели») платят дважды. Они сознательно тратят деньги на использование токенов ИИ, но при этом, неосознанно, передают ценные данные.

«По сути, вы платите за интеллект дважды: сначала деньгами, а затем чем-то еще более ценным: конфиденциальными знаниями, которые необходимо раскрыть, чтобы этот интеллект стал полезным. Чем лучше вы хотите, чтобы модель работала, тем больше таких знаний вам нужно ей передать!» — пишет он.

По его мнению, наибольшую опасность представляет то, что предприятия буквально обучают модели тонкостям своего бизнеса.

«Модели учатся на основе „источников информации“, подсказок, которые пишут люди, инструментов, которые используют агенты, и особенно на исправлениях, которые вносят люди, когда модель ошибается. Каждое исправление превращается в институциональные знания», — пишет он.

Это «знания такого рода, которые конкурент никогда не сможет купить», и тем не менее предприятия передают их другим.

Наделла утверждает, что если компаниям, занимающимся ИИ, разрешено свободно собирать данные из интернета для обучения своих моделей, то справедливо, чтобы предприятиям, в свою очередь, разрешалось изучать — или «дистиллировать» — эти модели. «Дистилляция» — это практика использования собственных результатов модели для изучения того, как она работает, и обучения новой, часто более дешевой, модели на основе этих данных. В феврале Anthropic обвинила китайские модели с открытым исходным кодом в отправке миллионов запросов Клоду с целью улучшения собственных моделей и призвала правительство США усилить экспортный контроль.

Наделла утверждает, что создатели моделей не могут одновременно занимать две позиции. Лицемерно с их стороны свободно обучать модели на данных со всего мира, в то время как другим запрещается делать то же самое со своими моделями.

«Хотя значительные инновации, возникающие благодаря предоставлению поставщикам моделей прав на добросовестное использование общедоступных данных для обучения моделей, необходимы, мне кажется ироничным, что в итоге сложившаяся ситуация приводит к наложению ограничительных условий на процесс дистилляции», — пишет Наделла.

Наделла особенно обеспокоен тем, что разработчики моделей «оставляют за собой право извлекать уроки из данных об использовании и взаимодействии с клиентами».

Решение Наделлы — это то, что мог бы предложить генеральный директор гигантского облачного провайдера. Он хочет, чтобы компании «сохраняли право собственности» на свои данные, включая подсказки, обратную связь и т. д. Поэтому он призывает их создавать собственные «собственные среды обучения» в облаке (где их данные, скорее всего, уже и так хранятся, и, что удобно, это может быть облако Microsoft, Azure). Он также хочет, чтобы компании внедряли то, что он называет «уровнями оркестровки» — по сути, способ легко переключаться между моделями ИИ от разных поставщиков, а не быть привязанными к одной. Инструменты, подобные «шлюзам» ИИ, которые позволяют компаниям делать именно это, становятся все более популярными.

Хотя Наделла никогда не использует слова «открытый исходный код» как способ сохранения права собственности, это очевидный подтекст. Однако есть и другой подтекст.

Крупные компании, многие из которых, помимо использования облачных сервисов, по-прежнему имеют собственные центры обработки данных, уже переходят на модели с открытым исходным кодом, устанавливаемые на собственных площадках («on-prem», как говорят в отрасли). Идит Левин, основатель и генеральный директор Solo.io — компании, разрабатывающей сетевое и защитное программное обеспечение, помогающее предприятиям управлять системами искусственного интеллекта, — говорит, что наблюдает именно этот сдвиг у своих клиентов. После экспериментов с проприетарными разработчиками моделей они начинают задаваться вопросом: «Могу ли я взять модель с открытым исходным кодом и запустить ее локально? Она будет делать почти 90% того, что делают крупные компании. Это будет стоить намного меньше», — говорит она TechCrunch. «Они это понимают и могут контролировать процесс».

Технология Solo.io была выбрана в прошлом году в качестве основы для проекта Agentgateway от Linux Foundation. Среди клиентов ее компании такие крупные предприятия, как T-Mobile, ADP и SAP. Она считает, что компании все чаще внедряют локальные модели с открытым исходным кодом, и видит в этом следующую большую волну использования ИИ в корпоративной среде.

Она не одинока. Vercel (наиболее известная как платформа для создания и размещения веб-сайтов, которая недавно добавила инструменты переключения моделей ИИ) и OpenRouter (компания, помогающая разработчикам направлять запросы между различными моделями ИИ) наблюдают резкий рост трафика к моделям с открытым исходным кодом. Фактически, на модели с открытым исходным кодом приходилось 29% всего трафика, прошедшего через шлюз Vercel в прошлом месяце.

Учитывая, что генеральный директор Microsoft, компании, инвестировавшей как в OpenAI, так и в Anthropic, теперь открыто призывает предприятия с осторожностью относиться к использованию проприетарных моделей, можно предположить, что эта тенденция будет продолжать расти. «Потребляя интеллект, вы создаете интеллект. И то, что вы создаете, должно принадлежать вам», — пишет Наделла.

Источник: techcrunch.com