Юрист из Западной Австралии был направлен в регулирующий орган после подготовки документов со сгенерированными ИИ ссылками на несуществующие дела.

Юрист из Западной Австралии был направлен в регулирующий орган после подготовки документов со сгенерированными ИИ ссылками на несуществующие дела.

Судья предупреждает о «внутренних опасностях» для юристов, полагающихся исключительно на ИИ, на фоне растущего числа поддельных судебных заключений и других ошибок, связанных с этой технологией.

• Подпишитесь на нашу электронную почту с последними новостями, бесплатное приложение или ежедневный новостной подкаст

Адвокат был направлен в судебный орган Западной Австралии после того, как использовал искусственный интеллект при подготовке судебных документов по иммиграционному делу. Документы содержали сгенерированные ИИ ссылки на несуществующие дела.

Это один из более чем 20 случаев в Австралии, когда использование ИИ привело к поддельным цитатам или другим ошибкам в судебных документах. Судьи по всей стране предупреждают о необходимости проявлять осторожность при использовании этой технологии в юридической профессии.

В решении федерального суда, опубликованном на этой неделе, дело анонимного адвоката было передано на рассмотрение в Совет по юридической практике Западной Австралии и предписано оплатить расходы федерального правительства в размере 8371,30 долларов США после того, как представитель министра по иммиграции обнаружил, что в материалах по иммиграционному делу содержались четыре несуществующие ссылки на материалы дела.

Судья Арран Джеррард заявил, что инцидент «демонстрирует неотъемлемые опасности, связанные с тем, что специалисты полагаются исключительно на использование искусственного интеллекта при подготовке судебных документов, и то, как это взаимодействует с обязанностями специалиста перед судом».

В своих показаниях адвокат сообщил суду, что он использовал искусственный интеллект Claude AI компании Anthropic «как исследовательский инструмент для выявления потенциально релевантных источников информации и улучшения моих правовых аргументов и позиции», а затем использовал Microsoft Copilot для проверки представленных материалов.

Адвокат заявил, что он «проявил чрезмерную уверенность в использовании инструментов искусственного интеллекта и не смог должным образом проверить полученные результаты».

Подпишитесь: электронная почта AU Breaking News

«У меня было ошибочное предположение, что контент, созданный с помощью инструментов искусственного интеллекта, будет изначально надежным, что привело к тому, что я пренебрег независимой проверкой всех цитат с помощью установленных юридических баз данных», — заявил адвокат в заявлении.

Адвокат безоговорочно извинился перед судом и адвокатами министра за допущенные ошибки.

Джеррард заявил, что суд «не придерживается луддитского подхода» к использованию генеративного ИИ и понимает, почему сложность миграционного законодательства может сделать использование инструментов ИИ привлекательным. Однако он предупредил, что в настоящее время наблюдается «вызывающее беспокойство» количество случаев, когда ИИ приводит к фиктивным судебным разбирательствам.

Джеррард заявил, что существует риск того, что «хорошее дело может быть подорвано грубой некомпетентностью», а обилие подобных случаев «значительно тратит время и ресурсы противоборствующих сторон и суда». Он также добавил, что это может нанести ущерб юридической профессии.

Джеррард заявил, что адвокат «не до конца понимал, что от него требуется», и что недостаточно было просто проверить, что приведенные случаи не являются поддельными, необходимо было еще и тщательно их изучить.

«Правовые принципы — это не просто лозунги, которые можно прикреплять к заявлениям без контекста или анализа».

С тех пор, как в 2023 году инструменты генеративного ИИ стали пользоваться огромной популярностью, в австралийских судах было зафиксировано не менее 20 случаев галлюцинаций, связанных с ИИ.

На прошлой неделе судья Верховного суда Виктории раскритиковал адвокатов, защищавших интересы мальчика, обвиняемого в убийстве, за подачу в суды вводящей в заблуждение информации, не проверив документы, созданные с использованием ИИ.

Документы включали ссылки на несуществующие судебные решения и неточные цитаты из парламентской речи.

В прошлом году также были зафиксированы аналогичные случаи с участием адвокатов в Новом Южном Уэльсе и Виктории, дела которых были переданы в регулирующие органы их штатов.

Однако поток дел не ограничивается только квалифицированными юристами. В решении Верховного суда Нового Южного Уэльса, вынесенном в этом месяце, истец, представлявший себя сам в деле о доверительном управлении, признался главному судье Эндрю Беллу в использовании искусственного интеллекта для подготовки своей речи к апелляционному слушанию.

Белл заявил в своём решении, что не критикует женщину, которая, по его словам, делала всё возможное, чтобы представлять себя сама. Однако он отметил, что проблемы с использованием ИИ при подготовке документов усугубляются, когда технология используется непредставленными адвокатами сторонами, «которые не несут профессиональной и этической ответственности юристов».

Он заявил, что использование генеративных инструментов искусственного интеллекта «может привести к дополнительным расходам и усложнению» разбирательств, а также «увеличить бремя ответственности других сторон и суда по реагированию на них».

«Несмотря на то, что генеративный ИИ может способствовать улучшению доступа к правосудию, что само по себе, несомненно, является похвальной целью, настоящее дело иллюстрирует необходимость судебной бдительности при его использовании, особенно, но не только, сторонами в судебных процессах, не имеющими представителя».

Президент Юридического совета Австралии Джулиана Уорнер заявила, что сложные инструменты ИИ предоставляют уникальные возможности для поддержки юридической профессии в решении административных задач, но зависимость от инструментов ИИ не снижает профессионального суждения, которое практикующий юрист должен вынести по делу клиента.

«Применяя эти инструменты, юристы должны действовать с особой осторожностью», — сказала она. «Юристы всегда должны помнить о своих профессиональных и этических обязательствах перед судом и клиентами».

Уорнер заявил, что суды рассматривают случаи, когда ИИ генерировал поддельные цитаты, как «серьёзную проблему», но добавил, что, учитывая широкое распространение генеративного ИИ, широко сформулированный запрет на его использование в судебных разбирательствах будет «ни практичным, ни соразмерным и рискует воспрепятствовать инновациям и доступу к правосудию».

Источник: www.theguardian.com