Суд постановил, что для поиска в интернете никому не нужен искусственный интеллект, вынося решение против Google.

Поражение Google AI в суде Германии может предвещать крах индустрии поиска с использованием ИИ.

Источник: SOPA Images / Contributor | LightRocket

Немецкий суд постановил, что Google несет ответственность за ложные заявления в обзорах ИИ, что потенциально может затронуть все поисковые системы и чат-боты на основе ИИ, известные своей некорректной перефразировкой ссылок на источники.

Предварительное решение было вынесено по делу, на которое обратило внимание издание The Decoder, в котором два издателя обнаружили, что обзоры искусственного интеллекта от Google неверно связывали их с мошенническими схемами и другими сомнительными деловыми практиками. После того, как Google очернил издателей, сделав утвердительные заявления вроде «Да, [компания] известна своими сомнительными деловыми практиками и часто воспринимается как мошенничество», компания не исправила вводящую в заблуждение информацию, даже после того, как издатели направили ей письмо с требованием прекратить противоправные действия ранее в этом году.

Google пыталась использовать обычные аргументы, чтобы защитить себя от ответственности за ложные заявления в обзорах ИИ, например, утверждая, что большинство пользователей понимают, что результаты работы ИИ не всегда точны и требуют проверки.

Однако суд установил, что, в отличие от традиционных поисковых систем, которые просто предоставляют списки ссылок на заявления третьих лиц, инструмент Google сделал «независимые, новые и существенные заявления», основанные на собственной неверной интерпретации ссылок в Интернете.

Суд заявил, что это проблема, поскольку, хотя издатели могли подать в суд, чтобы помешать третьим сторонам публиковать клеветнические заявления, появляющиеся в результатах поиска Google, только Google может исправить базовый алгоритм и результаты, отображаемые в обзорах ИИ. И поскольку, по крайней мере, изначально компания этого не сделала, она, следовательно, «должна нести ответственность», постановил суд. Кроме того, аргумент Google был признан особенно слабым, поскольку обзор ИИ в данном случае «содержит заявления, которые вообще не отображаются в результатах поиска».

Постановление суда, требующее временного запрета на распространение ложных утверждений в любых дальнейших обзорах ИИ, может иметь глобальные последствия, поскольку, по всей видимости, это первый случай, когда компания, занимающаяся ИИ, была привлечена к ответственности за высказывания, сделанные с помощью ИИ.

В прошлом компании, занимающиеся искусственным интеллектом, надеялись, что предупреждения о дезинформации защитят их от судебных исков, связанных с недостоверными результатами. В прошлом году один из разработчиков чат-ботов даже утверждал, что речь, произнесенная ИИ, относится к отдельной категории «чистой речи», и что Первая поправка к Конституции США должна защищать ее.

Однако, согласно переводу решения немецкого суда, выполненному Google, ложные результаты были «в первую очередь выражением коммерческой деятельности ответчика», а «мнения» и ложные утверждения инструмента ИИ могли повлиять на общественное мнение.

Суд пришел к выводу, что, взвешивая все за и против, интерес издателей в удалении ложной информации перевешивает коммерческие права Google на свободу слова.

Искусственный интеллект не является необходимым инструментом для поиска в интернете.

Исторически сложилось так, что любой потенциально опасный контент, отображаемый поисковыми системами, был защищен от прямой ответственности, поскольку его появление считалось в значительной степени неизбежным при помощи пользователям в сортировке огромного массива информации в интернете. Однако немецкий суд подчеркнул, что поисковые системы, использующие искусственный интеллект, не пользуются такой же защитой, поскольку сводки, созданные с помощью ИИ, лишь предоставляют «дополнительную функцию — ту, без которой использование поисковой системы все еще было бы (и остается) возможным, и без которой пользователи вполне способны находить результаты среди „потока данных“».

Иными словами, никому не нужен ИИ для поиска в интернете, поэтому компании, занимающиеся разработкой ИИ, не могут просто позволять своим инструментам приписывать ложные утверждения фальшивым источникам, не принимая на себя никакой ответственности.

Суд также, похоже, раскритиковал Google за то, что компания ожидает от пользователей не «слепого доверия» к обзорам, предоставляемым ИИ, отметив, что полезность инструмента ИИ «значительно снизится, если „обзор ИИ“ будет в целом считаться ненадежным и если каждая отображаемая ссылка потребует независимой проверки».

По всей видимости, люди не так подходят к инструментам поиска с использованием ИИ. Издание The Decoder отметило результаты опроса Pew, проведенного в июле прошлого года, показавшего, что большинство людей не переходят по ссылкам на источники в обзорах ИИ, а также анализ, опубликованный в мае в The New York Times, который показал, что обзоры ИИ в текущей модели Gemini 3 содержат неточные данные примерно в 9% случаев и включают неточные ссылки на источники примерно в 56% случаев.

В совокупности эти данные свидетельствуют о том, что инструмент искусственного интеллекта Google может ежедневно выдавать миллионы неверных ответов, и лишь немногие пользователи проверяют эту информацию. Если другие суды признают технологические компании ответственными за любые клеветнические результаты, появившиеся в этот экспериментальный период хаоса поиска с использованием ИИ, крупнейшие лидеры в области ИИ вскоре могут оказаться погрязшими в судебных исках.

Остается неясным, планирует ли Google подавать апелляцию или, возможно, начать быстрее рассматривать запросы на исправление ложных утверждений в обзорах ИИ после вынесения решения.

Google, скорее всего, будет оспаривать предварительное решение. В ответ на просьбу прокомментировать ситуацию представитель Google заявил Ars: «Мы вкладываем значительные средства в качество обзоров ИИ, чтобы гарантировать, что подавляющее большинство ответов содержат точную информацию, и они разработаны таким образом, чтобы отражать информацию, существующую в интернете. Мы внимательно изучаем это решение, которое еще не является окончательным».

В эту статью были внесены изменения, в том числе заявление представителя Google.

Источник: arstechnica.com