Суд в Колумбии отклонил апелляцию из-за подозрения в использовании ИИ — но детектор показал, что и само решение написано ИИ
Верховный суд Колумбии отклонил кассационную апелляцию, заявив, что она была создана искусственным интеллектом. Однако тот же инструмент, который суд использовал для определения вероятного происхождения документа, показал, что и само судебное решение также могло быть написано с помощью генеративного ИИ, пишет Decrypt.
Возник вопрос: является ли это двойными стандартами со стороны суда или проблемой ненадежности самих инструментов.
«Столкнувшись с обоснованным подозрением, что поданный адвокатом документ был составлен не самим юристом, суд передал текст на проверку инструменту Winston AI», — отметил суд. «Его анализ показал, что документ содержит лишь 7% человеческого контента, что свидетельствует о значительном влиянии автоматизированного письма и дает основания полагать, что он был создан с помощью искусственного интеллекта».
После проведения анализа другими инструментами, которые дали аналогичные результаты, суд постановил, что «поскольку поданное обращение не может считаться надлежащим процессуальным документом, оно должно быть отклонено как неприемлемое».
Однако когда само судебное решение также проверили с помощью аналогичных инструментов, результаты оказались похожими.
«Я подал текст постановления Auto AP760/2026 Верховного суда в то же программное обеспечение Winston AI, на которое ссылается решение», — написал в соцсети X адвокат Эммануэль Алессио Веласкес. «Результат: документ содержит 93% текста, сгенерированного искусственным интеллектом».
«Если само решение, которое осуждает использование искусственного интеллекта, получает такой показатель, то методологическая хрупкость использования этих детекторов как аргумента становится очевидной», — добавил он в следующем сообщении.
В течение нескольких часов после того, как суд опубликовал в X тред с объяснением решения, юристы начали проводить собственные проверки. Пост Веласкеса быстро стал вирусным в юридических кругах и набрал десятки тысяч просмотров.
Эксперименты экспертов и юристов с ИИ
Журналисты также провели тестирование судебного решения. Когда сервис GPTZero проанализировал только начальную часть текста, он показал результат 100% ИИ. Однако после проверки большей части документа, включая описание фактических обстоятельств, тот же инструмент изменил результат на 100% человеческий текст.
Эксперты отмечают, что такие инструменты пока недостаточно надежны, чтобы использовать их в судах или в ситуациях, где требуется высокая точность.
Колумбийские юристы также провели собственные эксперименты. Адвокат по уголовному праву и преподаватель Андрес Ф. Аранго отправил на проверку судебный документ 2019 года — созданный задолго до появления современных больших языковых моделей. Детектор заявил, что 95% текста было создано ИИ.
«После этого такие инструменты предлагают вам “очеловечить” текст с помощью платных сервисов», — написал он в X, отметив очевидный коммерческий интерес в бизнес-модели подобных сервисов.
Юрист Николас Буэльвас проверил свою бакалаврскую работу 2020 года о принципе доверия в уголовном праве. Результат — 100% текста, созданного ИИ.
Другой колумбийский адвокат Дарио Кабрера Монтеалегре обратил внимание на противоречие в действиях суда.
«Суд использует искусственный интеллект, чтобы определить, был ли использован искусственный интеллект», — сказал он. «С практической точки зрения это выглядит противоречиво».
Специалисты по технологиям также предупредили о рисках чрезмерного доверия к таким инструментам.
«На сегодняшний день не существует публично доступного инструмента, который мог бы точно определить процент использования ИИ при написании текста», — отметил эксперт Карлос Алехандро Торрес Пинедо. «Еще хуже — никто не может публично проверить исходный код этих платформ. Как их можно использовать, чтобы лишить человека права на доступ к правосудию?»
Технические причины подобных ошибок хорошо известны. Детекторы ИИ анализируют статистические закономерности — длину предложений, предсказуемость словарного запаса и так называемую burstiness — естественную вариативность ритма человеческого письма.
Проблема заключается в том, что формальный юридический язык, академические тексты и работы людей, пишущих не на родном языке, часто имеют те же статистические характеристики.
Исследование 2023 года, опубликованное в журнале Patterns, показало, что более 61% эссе теста TOEFL, написанных людьми, для которых английский не является родным, были ошибочно определены как тексты, созданные ИИ.
Другой обзор исследований, проведенный в том же году ученой Деборой Вебер-Вульф, пришел к выводу, что ни один из доступных инструментов не является достаточно точным или надежным.
Использование ИИ в судах Колумбии
Решения колумбийских судов AC739-2026 (в котором гражданская палата оштрафовала адвоката за ссылки на 10 несуществующих прецедентов, созданных ИИ) и AP760-2026 стали одними из первых судебных решений в регионе, напрямую касающихся проблемы использования генеративного ИИ в юридических документах.
В декабре 2024 года судебная власть Колумбии приняла официальные правила использования искусственного интеллекта судьями и сотрудниками судов.
Согласно им, ИИ можно свободно использовать для административных задач — написания электронных писем, организации графиков, перевода документов или обобщения текстов.
Более чувствительные задачи, такие как юридические исследования или подготовка процессуальных документов, разрешены только при условии тщательной проверки человеком.
Правила прямо запрещают использовать ИИ для оценки доказательств, толкования законов или вынесения судебных решений. При этом подчеркивается, что ответственность за все решения несут судьи, которые также должны сообщать об использовании ИИ при подготовке материалов.
Верховный суд Колумбии пока не опубликовал дополнительных заявлений в ответ на критику использования детекторов ИИ.
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
