Суд у Колумбії відхилив апеляцію через підозру у використанні ШІ — але детектор показав, що й саме рішення написане ШІ
Верховний суд Колумбії відхилив касаційну апеляцію, заявивши, що вона була створена штучним інтелектом. Однак той самий інструмент, який суд використав для визначення ймовірного походження документа, показав, що й саме судове рішення також могло бути написане за допомогою генеративного ШІ, пише Decrypt.
Постало питання: чи це подвійні стандарти з боку суду, чи проблема у ненадійності самих інструментів?
«Зіткнувшись із обґрунтованою підозрою, що поданий адвокатом документ був складений не самим юристом, суд передав текст на перевірку інструменту Winston AI», — зазначив суд. «Його аналіз показав, що документ містить лише 7% людського контенту, що свідчить про значний вплив автоматизованого письма і дає підстави вважати, що він був створений за допомогою штучного інтелекту».
Після проведення аналізу іншими інструментами, які дали подібні результати, суд постановив, що «оскільки подання не може вважатися належним процесуальним документом, воно має бути відхилене як неприйнятне».
Однак коли саме судове рішення також перевірили за допомогою аналогічних інструментів, результати виявилися подібними.
«Я подав текст постанови Auto AP760/2026 Верховного суду до того самого програмного забезпечення Winston AI, на яке посилається рішення», — написав у соцмережі X адвокат Еммануель Алессіо Веласкес. «Результат: документ містить 93% тексту, згенерованого штучним інтелектом».
«Якщо саме рішення, яке засуджує використання штучного інтелекту, отримує такий показник, то методологічна крихкість використання цих детекторів як аргументу стає очевидною», — додав він у наступному дописі.
Протягом кількох годин після того, як суд опублікував у X тред із поясненням рішення, юристи почали проводити власні перевірки. Допис Веласкеса швидко став вірусним у юридичних колах і набрав десятки тисяч переглядів.
Досліди експертів та юристів щодо ШІ
Журналісти також провели тестування рішення суду. Коли сервіс GPTZero проаналізував лише початкову частину тексту, він показав результат 100% ШІ. Однак після перевірки більшої частини документа, включно з описом фактичних обставин, той самий інструмент змінив результат на 100% людський текст.
Експерти зазначають, що такі інструменти поки що недостатньо надійні, щоб використовувати їх у суді або в ситуаціях, де потрібна висока точність.
Колумбійські юристи також провели власні експерименти. Адвокат з кримінального права та викладач Андрес Ф. Аранго подав на перевірку судовий документ 2019 року — створений задовго до появи сучасних великих мовних моделей. Детектор заявив, що 95% тексту було створено ШІ.
«Після цього такі інструменти пропонують вам «олюднити» текст за допомогою платних сервісів», — написав він у X, зазначивши очевидний комерційний інтерес у бізнес-моделі таких сервісів.
Юрист Ніколас Буельвас перевірив свою бакалаврську роботу 2020 року про принцип довіри у кримінальному праві. Результат — 100% тексту, створеного ШІ.
Інший колумбійський адвокат Даріо Кабрера Монтеалегре звернув увагу на суперечність у діях суду.
«Суд використовує штучний інтелект, щоб визначити, чи був використаний штучний інтелект», — сказав він. «З практичної точки зору це виглядає суперечливо».
Фахівці з технологій також попередили про ризики надмірної довіри до таких інструментів.
«Станом на сьогодні не існує публічно доступного інструменту, який міг би точно визначити відсоток використання ШІ при написанні тексту», — зазначив експерт Карлос Алехандро Торрес Пінедо. «Ще гірше — ніхто не може публічно перевірити вихідний код цих платформ. Як їх можна використовувати, щоб позбавити людину права на доступ до правосуддя?»
Технічні причини таких помилок добре відомі. Детектори ШІ аналізують статистичні закономірності — довжину речень, передбачуваність словникового запасу та так звану «burstiness» — природну варіативність ритму письма людини.
Проблема полягає в тому, що формальна юридична мова, академічні тексти та роботи людей, які пишуть не рідною мовою, часто мають ті самі статистичні характеристики.
Дослідження 2023 року, опубліковане у журналі Patterns, показало, що понад 61% есе з тесту TOEFL, написаних людьми, для яких англійська не є рідною, були помилково визначені як тексти, створені ШІ.
Інший огляд досліджень, проведений того ж року науковицею Деборою Вебер-Вульфф, дійшов висновку, що жоден із доступних інструментів не є достатньо точним або надійним.
ШІ у судах Колумбії
Рішення колумбійських судів AC739-2026 (у якому цивільна палата оштрафувала адвоката за посилання на 10 неіснуючих прецедентів, створених ШІ) та AP760-2026 стали одними з перших судових рішень у регіоні, що безпосередньо стосуються проблеми використання генеративного ШІ у юридичних документах.
У грудні 2024 року судова влада Колумбії ухвалила офіційні правила використання штучного інтелекту суддями та працівниками судів.
Згідно з ними, ШІ можна вільно використовувати для адміністративних завдань — написання електронних листів, організації графіків, перекладу документів або узагальнення текстів.
Більш чутливі завдання, такі як юридичні дослідження або підготовка процесуальних документів, дозволені лише за умови ретельної перевірки людиною.
Правила прямо забороняють використовувати ШІ для оцінки доказів, тлумачення законів або ухвалення судових рішень. Водночас наголошується, що відповідальність за всі рішення несуть судді, які також повинні повідомляти про використання ШІ під час підготовки матеріалів.
Верховний суд Колумбії поки що не оприлюднив додаткових заяв у відповідь на критику щодо використання детекторів ШІ.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
