Адвокаты использовали ИИ для составления документов и теперь относительно них проведут расследование

В Южной Африки судья распорядился провести расследование в отношении адвокатов, которые использовали генеративный искусственный интеллект (GenAI) для представления несуществующих цитат в суде, пише Itweb.

Это произошло после того, как в Высоком суде Йоханнесбурга компания Northbound Processing подала срочное ходатайство с просьбой о принятии временных мер, чтобы заставить Южноафриканский регулятор алмазов и драгоценных металлов выдать лицензию на аффинаж, которая уже была выдана, но была отложена до наступления определенных условий.

Лицензия была связана с приобретением Northbound перерабатывающего бизнеса у Rappa Resources в 2024 году. Регулятор потребовал подтверждения того, что лицензия Rappa была возвращена, прежде чем выдать лицензию Northbound.

В судебных документах исполняющий обязанности судьи ДиДжей Смит отметил, что тревожной особенностью этого дела является включение поддельных ссылок на материалы дела в правовых аргументах Northbound, что суд отнес к «галлюцинаторным» результатам, созданным инструментами искусственного интеллекта.

Он раскритиковал эту практику, подчеркнув опасность использования GenAI без надлежащей проверки.

Несуществующие ссылки подорвали доверие к заявлениям Northbound и были отмечены как досадное злоупотребление ИИ в судебных разбирательствах.

Исполняющий обязанности судьи запросил разъяснения у сторон, а младший адвокат Northbound Джайлс Баркли-Беутин изначально объяснил, что была представлена ​​неправильная версия заголовков, объяснив проблему путаницей, вызванной стенографическими цитатами, используемыми при составлении проекта. Он также предоставил исправленную версию, в которой проблемные абзацы были заменены.

Однако адвокат ответчиков-оппонентов указал, что пересмотренная версия содержала две дополнительные неверные цитаты. Он также усомнился в том, что существующие правовые ссылки точно подтверждают те положения, которые они должны были поддерживать. Адвокату Northbound был предоставлен еще один шанс ответить.

В ответ на прямой запрос суда Баркли-Бойтин признал, что несуществующие цитаты, вероятно, были получены с помощью инструмента искусственного интеллекта.

Он сказал, что из-за сжатых сроков, включая срочность дела, ограниченное время на завершение подготовки основных положений и отзыв другого младшего адвоката, он использовал инструмент под названием «Юридический гений», который, как утверждается, был обучен исключительно на основе южноафриканских юридических источников.

Судья распорядился, чтобы поведение юристов Northbound было передано в Совет по юридической практике для расследования.

«Использование искусственного интеллекта теперь хорошо известно. Такие инструменты могут давать, по-видимому, связные и правдоподобные ответы на подсказки, но эти связные и правдоподобные ответы могут оказаться совершенно неверными», — сказал Смит.

«В ответах могут содержаться утверждения, которые просто не соответствуют действительности. Они могут ссылаться на несуществующие источники. Они могут подразумевать цитирование отрывков из подлинного источника, которые в нем не фигурируют. Те, кто использует искусственный интеллект для проведения юридических исследований, несмотря на эти риски, имеют профессиональную обязанность проверять точность таких исследований путем ссылки на авторитетные источники, прежде чем использовать их в ходе своей профессиональной работы (например, для консультирования клиентов или в суде)», - добавил судья.

Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.