Гарри Тан из Y Combinator хочет, чтобы американские лаборатории искусственного интеллекта с открытым доступом также «упрощали» передовые модели.

Что касается китайских лабораторий искусственного интеллекта, использующих методы дистилляции для извлечения знаний из передовых моделей, генеральный директор Y Combinator Гарри Тан надеется, что регулирующие органы не будут вмешиваться. Более того, он считает, что американским лабораториям ИИ, возможно, следует играть по тем же правилам.

«Я бы ничего не стал делать», — заявил он в интервью CNBC ранее на этой неделе. «Можно было бы утверждать, что в Америке должна существовать своя система регулирования процесса дистилляции».

В интервью TechCrunch он пояснил, что это означает, что он хочет, чтобы небольшие американские лаборатории искусственного интеллекта с открытым исходным кодом использовали те же методы обучения, что и американские передовые лаборатории ИИ, предоставляя США более надежный набор вариантов с открытым исходным кодом, не являющихся китайскими.

Дистилляция — это процесс, при котором создатель модели активно задействует другую модель, чтобы изучить её принципы работы и логическое мышление. Этот метод широко и обоснованно используется лабораториями искусственного интеллекта для обучения новых моделей.

На этой неделе компания Anthropic опубликовала свой второй доклад, в котором утверждается, что китайские лаборатории занимаются «незаконными операциями по дистилляции», скрывая свою личность и проводя дистилляцию без разрешения, используя для этого мошенничество и украденные учетные данные. Генеральный директор Anthropic Дарио Амодей ранее публично призывал американских регуляторов принять меры против дистилляции.

Примечательно, что руководитель престижного и плодотворного акселератора стартапов в Силиконовой долине с этим не согласен.

Чтобы было ясно, Тан не призывает американские лаборатории ИИ использовать украденные учетные данные для получения результатов. Он хочет, чтобы они могли свободно входить в систему. На самом деле, его аргумент состоит из двух частей. Он считает, что это чрезмерное вмешательство со стороны лабораторий ИИ, диктующих своим клиентам, что они могут делать с информацией, которой делятся с ними их модели.

Он также отмечает, что запатентованные лаборатории искусственного интеллекта не спрашивали разрешения, когда собирали как можно больше человеческих знаний для обучения своих моделей. Они, как известно, использовали множество материалов, защищенных авторским правом, без разрешения правообладателей.

«Контроль над тем, что пользователи и клиенты делают с вызовами API к закрытым моделям взвешивания, кажется ограничивающим, и здесь правительство может сыграть свою роль в нормализации того факта, что доступ к информации, полученной на основе общедоступных данных, сам по себе должен быть скорее общественным благом, чем чем-то, запертым за ограничительными условиями обслуживания», — сказал он TechCrunch, отвечая на вопрос о том, почему американские лаборатории тоже должны иметь возможность свободно заниматься дистилляцией.

Тан, который сам является настолько увлеченным пользователем ИИ, что однажды описал свое состояние как киберпсихоз, хочет видеть баланс между открытыми лабораториями ИИ и передовыми лабораториями.

«Они находятся на передовой и двигают всё вперёд. Мы хотим, чтобы это привлекало инвестиции и стало отличной бизнес-моделью на долгосрочную перспективу», — сказал он CNBC. «Нужны модели с открытым весом, чтобы дать людям свободу и доступ».

По его мнению, истинный сценарий катастрофы для ИИ заключается в том, что вся огромная мощь передовых разработок в области ИИ окажется в руках одного могущественного, монопольного поставщика. «Кошмарный сценарий, сценарий катастрофы для ИИ — это когда есть только одна компания, — сказал он. — У нее лучший доступ к капиталу. У нее лучшие исследователи в области ИИ. Она захватывает все ресурсы, и внезапно появляется одна монолитная компания. И это было бы плохо».

Источник: techcrunch.com