В США суд отменил приговор из-за того, что обвинение не вовремя сообщило факт использования ИИ

В США в Окружном суде округа Монтгомери присяжные признали Крейга Доннелла Джонсона виновным в ограблении. До суда Джонсон подал ходатайство о прекращении дела, утверждая, что обвинение скрыло тот факт, что для установления его личности как предполагаемого преступника было использовано программное обеспечение для распознавания лиц на основе ИИ (FRT), и не раскрыло подробности о технологии и ее результатах, пишет Jdsupra.

Отмечается, что апелляционный суд отменил приговор.

Суд установил стандарт своевременного раскрытия информации об использовании ИИ, чтобы можно было провести его проверку, как минимум в уголовных делах.

Утверждения обвинения о том, «что оно не знало, какую именно FRT-программу использовала полиция», оказались фатальными. Несвоевременное раскрытие и нехватка информации «лишили г-на Джонсона возможности оспорить надежность FRT…».

Детали дела

Во время ограбления в магазине неизвестный напал на сотрудника. Преступник забрал деньги и скрылся. Детектив полиции получил записи с камер видеонаблюдения магазина. Он «отправил стоп-кадр с видео на внутреннюю информационную доску департамента и позже определил Джонсона как подозреваемого».

21 февраля 2023 г. полиция «увидела мужчину, похожего на нападавшего с фотографии, входящим и выходящим из дома». Был выдан ордер на обыск, в ходе которого изъяли одежду, совпадающую с той, что была на видео. Джонсон был арестован и находился под стражей до суда.

Несвоевременное раскрытие информации

Апелляционный суд написал: «Только примерно за неделю до суда обвинение сообщило защите, что полиция загрузила стоп-кадр с видеозаписи в FRT, которая, по словам обвинения, выдала лишь один результат — г-на Джонсона».

Идентификация Джонсона через FRT стала первоисточником — «плодоносящим деревом» — для всех последующих действий следствия.

Накануне суда Джонсон подал ходатайство о прекращении дела, утверждая, что обвинение нарушило правило Brady, так как не раскрыло до 12 февраля 2024 г. — почти через год после подачи запросов по раскрытию — факт, что полиция использовала FRT для выявления его как подозреваемого.

Действия обвинения суд расценили как проблему раскрытия, а не как нарушение Brady. В итоге Джонсон был признан виновным и приговорен к 15 годам лишения свободы.

Решение апелляционного суда

Суд постановил: «Мы считаем, что окружной суд допустил злоупотребление полномочиями, отклонив ходатайство о прекращении дела, и отменяем это решение».

По правилу штата Мэриленд 4-263(d)(7)(B) обвинение обязано раскрывать «всю относящуюся к делу информацию о досудебной идентификации обвиняемого свидетелем обвинения».

Отсутствие доступа к информации о ПО, результатах поиска и других данных (кроме одного письма) лишило Джонсона возможности оспорить надежность FRT и подорвать достоверность расследования.

Суд признал, что ущерб для защиты был значительным: потерпевший не опознал Джонсона, прямых физических доказательств не было, и единственной связкой с делом было использование FRT.

Аргумент обвинения о том, что оно не знает, какая программа применялась, и не планировало использовать эти данные в суде, суд счел несостоятельным: FRT стала источником всего расследования.

Суд отметил, что ненадежность ИИ и FRT требует особого контроля, так как ошибки и даже «галлюцинации» алгоритмов реальны. Нельзя допускать, чтобы обвинение использовало такие данные без возможности их проверки.

Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.