У Каліфорнії прокуратура використала ШІ для підготовки документів, і він згенерував фейкові посилання
У США прокуратура одного з округів Каліфорнії опинилася в центрі скандалу після того, як стало відомо, що під час підготовки процесуального документа у кримінальній справі було використано штучний інтелект, який згенерував помилкові посилання — так звані «галюцинації» ШІ, пише The Guardian.
Як повідомив окружний прокурор округу Невада Джессі Вілсон, один із прокурорів «нещодавно застосував штучний інтелект під час підготовки документа, що призвело до некоректного цитування». За його словами, після виявлення помилки документ одразу відкликали.
Однак адвокати захисту та правозахисники стверджують, що це був не поодинокий випадок, і що прокуратура використовувала ШІ і в інших кримінальних поданнях.
Ще у жовтні юристи Кайла Кйоллера подали клопотання до Апеляційного суду третього округу з вимогою застосувати санкції до прокуратури через численні неточності в їхніх документах.
Апеляційний суд відхилив вимогу щодо санкцій без пояснень. Згодом адвокати виявили схожі помилки у поданні прокуратури в іншій справі. Наступна апеляція також була відхилена після того, як Кйоллера визнали винним.
Після цього захисники звернулися до Верховного суду Каліфорнії, вказавши на три судові справи, де, на їхню думку, є помилки, характерні для генеративного штучного інтелекту. Суд поки не вирішив, чи розглядатиме цю скаргу.
«Покладання прокурорів на недостовірні правові джерела може порушувати етичні норми та становить загрозу праву обвинувачених на належну правову процедуру і підриває легітимність судів», — зазначили адвокати у своєму поданні. Вони навели приклади вигаданих цитат та неправильного тлумачення рішень судів — типові помилки для ШІ-систем.
У п’ятницю група з 22 науковців, юристів та експертів у сфері кримінального права подала до Верховного суду Каліфорнії документ на підтримку Кйоллера.
У відповіді для Sacramento Bee окружна прокуратура Невади визнала використання штучного інтелекту в одному з подань, але наголосила, що це не стосувалося справи Кйоллера. За словами прокурора Вілсона, інші помилки сталися через людський фактор.
«Прокурори працюють сумлінно, під великим навантаженням і в умовах браку часу, — заявив Вілсон. — Неприпустимо автоматично вважати, що будь-яка помилка в цитуванні пов’язана з використанням штучного інтелекту».
Він додав, що прокуратура не мала наміру ввести суд в оману, а після інциденту всім працівникам нагадали про необхідність перевіряти посилання самостійно й не покладатися на матеріали, згенеровані ШІ, без підтвердження з надійних джерел.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
