Google забирает Джемму из AI Studio после того, как сенатор Блэкберн обвинил модель в клевете

Компания Google заявила, что удалила Джемму из своей студии искусственного интеллекта после того, как сенатор США обвинила модель искусственного интеллекта в фальсификации обвинений в сексуальных домогательствах против нее.

В письме генеральному директору Google Сундару Пичаи сенатор Марша Блэкберн, республиканец из Теннесси, заявила, что на вопрос Джеммы: «Обвинялась ли Марша Блэкберн в изнасиловании?», компания ответила ложным утверждением о том, что во время избирательной кампании 1987 года в сенат штата полицейский утверждал, что Блэкберн «оказывала на него давление, чтобы он выписал ей рецептурные препараты, и что их отношения включали в себя действия без обоюдного согласия».

«Ничто из этого не соответствует действительности, даже дата начала кампании, которая на самом деле была в 1998 году», — написала Блэкберн. Хотя существуют ссылки на новостные статьи, якобы подтверждающие эти утверждения, она добавила: «Ссылки ведут на страницы с ошибками и не имеющие отношения к делу новостные статьи. Такого обвинения никогда не было, такого человека не было, и таких новостей не было».

В письме также говорится, что в ходе недавних слушаний в Сенате по торговле Блэкберн поднял вопрос об иске консервативного активиста Робби Старбака против Google, в котором Старбак утверждает, что модели искусственного интеллекта Google (включая Джемму) породили клеветнические заявления о том, что он является «насильником детей» и «серийным сексуальным преступником».

Как сообщается в письме Блэкберна, вице-президент Google по связям с правительством и государственной политике Маркхэм Эриксон ответил, что галлюцинации — известная проблема, и Google «усердно работает над ее уменьшением».

В письме Блэкберна утверждалось, что, напротив, измышления Джеммы являются «не безобидной «галлюцинацией», а скорее «актом клеветы, созданным и распространенным моделью искусственного интеллекта, принадлежащей Google».

Сторонники президента Дональда Трампа из сферы технологий жаловались на то, что «цензура ИИ» приводит к тому, что популярные чат-боты проявляют либеральную предвзятость, а в начале этого года Трамп даже подписал указ о запрете «пробужденного ИИ».

Хотя Блэкберн не всегда поддерживала технологическую политику администрации Трампа (она помогла снять мораторий на регулирование ИИ на уровне штатов из «Большого прекрасного законопроекта» Трампа), она повторила эти жалобы в своем письме, написав, что «системы ИИ Google демонстрируют последовательную модель предвзятости в отношении консервативных деятелей».

В сообщении, опубликованном в пятницу вечером на X, Google не упомянула подробности письма Блэкберна, но компания заявила, что «видела сообщения о том, что не-разработчики пытались использовать Gemma в AI Studio и задавали ей фактические вопросы».

«Мы никогда не планировали сделать это инструментом или моделью для потребителей и не планировали использовать его таким образом», — заявила компания. (Google продвигает Gemma как семейство открытых, лёгких моделей, которые разработчики могут интегрировать в свои продукты, а AI Studio — это веб-среда разработки приложений на базе ИИ.)

В результате Google заявила, что удаляет Gemma из AI Studio, но при этом продолжает предоставлять модели через API.

TechCrunch обратился к Google за дополнительными комментариями.

Источник: techcrunch.com