В США адвокат, на которого подали иск за сгенерированные с ИИ-галлюцинациями материалы дела, написал объяснительную с ИИ-галлюцинациями

Адвокат из Нью-Йорка Майкл Фурте попался на использовании искусственного интеллекта в судебных документах, а затем снова использовал ИИ в объяснительной записке, где должен был пояснить, почему применял эту технологию. Об этом говорится в судебных документах, которые цитирует издание 404 Media.

Судья Верховного суда штата Нью-Йорк Джоэл Коэн написал в решении, что Фурте не только представил ИИ-цитаты с «галлюцинациями» языковой модели в своем резюме по делу, но и включил «множество новых галлюцинационных ИИ-цитат» в процессе прений. Судья отметил:

«Другими словами, адвокат полагался на непроверенные данные ИИ — по его словам, с подачи недобросовестных коллег — чтобы защитить свое использование непроверенных данных ИИ».

Истец и его адвокаты обнаружили неточные цитаты и отсылки на другие дела, которые выглядели как ИИ-галлюцинации. После того как судья указал на это Фурте, тот подал ответ, в котором не признал, но и не отрицал использование искусственного интеллекта. Когда адвокат попытался возразить против взысканий за фальшивые цитаты, он представил вдвое больше несуществующих или неправильных отсылок, чем раньше — семь цитат не существовали в указанных делах, а три не подтверждали заявленные утверждения.

Судья удовлетворил требование истца о возмещении со стороны Фурте гонораров юристов, которые вылавливали ИИ-галлюцинации в материалах, предоставленных им. Он также распорядился передать копию решения в Управление по этике адвокатов Нью-Джерси, отметив:

«Когда адвокаты не проверяют свою работу — сгенерированную ИИ или нет — они наносят ущерб своим клиентам и оказывают медвежью услугу суду и профессии».

Фурте отказался комментировать ситуацию, заявив изданию:

«Поскольку это дело остается на рассмотрении суда и из уважения к процессу и конфиденциальности клиента, мы не будем комментировать конкретику дела».

Ранее Совет по судебной магистратуре Португалии (CSM) возбудил дисциплинарное производство против троих судей апелляционного суда Лиссабона по подозрению в использовании искусственного интеллекта при составлении судебного решения.