Адвокати використали ШІ для складання документів і тепер щодо них проведуть розслідування

У Південній Африці суддя розпорядився провести розслідування щодо адвокатів, які використали генеративний штучний інтелект (GenAI) для представлення неіснуючих цитат у суді, пише Itweb.

Це сталося після того, як у Високому суді Йоганнесбурга компанія Northbound Processing подала термінове клопотання з проханням про вжиття тимчасових заходів, щоб змусити Південноафриканський регулятор алмазів та дорогоцінних металів видати ліцензію на афінаж, яка вже була видана, але була відкладена до настання певних умов.

Ліцензія була пов'язана з придбанням Northbound переробного бізнесу у Rappa Resources у 2024 році. Регулятор вимагав підтвердження того, що ліцензія Rappa була повернута, перш ніж видати ліцензію Northbound.

У судових документах виконуючий обов'язки судді ДіДжей Сміт зазначив, що тривожною особливістю цієї справи є включення підроблених посилань на матеріали справи в правових аргументах Northbound, що суд відніс до «галюцинаторних» результатів, створених інструментами штучного інтелекту.

Він розкритикував цю практику, підкресливши небезпеку використання GenAI без належної перевірки.

Неіснуючі посилання підірвали довіру до заяв Northbound і були відзначені як прикре зловживання ШІ в судових розглядах.

Виконуючий обов'язки судді запросив роз'яснення у сторін, а молодший адвокат Northbound Джайлс Барклі-Беутін спочатку пояснив, що була представлена неправильна версія заголовків, пояснивши проблему плутаниною, викликаною стенографічними цитатами, які використовувалися під час складання проекту. Він також надав виправлену версію, в якій проблемні абзаци були замінені.

Однак адвокат опонентів-відповідачів вказав, що переглянута версія містила дві додаткові невірні цитати. Він також засумнівався в тому, що існуючі правові посилання точно підтверджують ті положення, які вони повинні були підтримувати. Адвокату Northbound був наданий ще один шанс відповісти.

У відповідь на прямий запит суду Барклі-Бойтін визнав, що неіснуючі цитати, ймовірно, були отримані за допомогою інструменту штучного інтелекту.

Він сказав, що через стислі терміни, включаючи терміновість справи, обмежений час на завершення підготовки основних положень і відкликання іншого молодшого адвоката, він використовував інструмент під назвою «Юридичний геній», який, як стверджується, був навчений виключно на основі південноафриканських юридичних джерел.

Суддя розпорядився, щоб поведінка юристів Northbound була передана до Ради з юридичної практики для розслідування.

«Використання штучного інтелекту тепер добре відомо. Такі інструменти можуть давати, мабуть, зв'язні та правдоподібні відповіді на підказки, але ці зв'язні та правдоподібні відповіді можуть виявитися абсолютно невірними», — сказав Сміт.

«У відповідях можуть міститися твердження, які просто не відповідають дійсності. Вони можуть посилатися на неіснуючі джерела. Вони можуть мати на увазі цитування уривків з справжнього джерела, які в ньому не фігурують. Ті, хто використовує штучний інтелект для проведення юридичних досліджень, попри ці ризики, мають професійний обов'язок перевіряти точність таких досліджень шляхом посилання на авторитетні джерела, перш ніж використовувати їх у ході своєї професійної роботи (наприклад, для консультування клієнтів або в суді)», - додав суддя.

Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.