У США опублікували рекомендації щодо використання ШІ державними та федеральними судами

Колегія з п’яти суддів та професора права і комп’ютерних наук, усі члени Робочої групи з ШІ та Цільової групи з права та штучного інтелекту Американської асоціації юристів (ABA), опублікувала рекомендовані керівні принципи щодо відповідального використання штучного інтелекту в судових органах.

Керівні принципи «Використання ШІ в судовій системі: нові керівні принципи для суддів та їхніх палат», які будуть опубліковані у 26-му томі журналу The Sedona Conference Journal, покликані надати суддям та іншим особам, які працюють у державних та федеральних судах, основу для орієнтування у швидко мінливому ландшафті інструментів ШІ, зберігаючи при цьому чесність та непідкупність суддів.

Керівні принципи були написані старшим суддею Гербертом Б. Діксоном-молодшим з Вищого суду округу Колумбія, мировою суддею США Еллісон Х. Годдард з Південного округу Каліфорнії, професором-дослідником Маурою Р. Гроссман з Університету Ватерлоо, окружним суддею США Хав’єром Родрігесом із Західного округу Техасу, суддею Скоттом В. Шлегелем з Апеляційного суду п’ятого округу Луїзіани та суддею Семюелем А. Туммою з Апеляційного суду Аризони.

У керівних принципах підкреслюється, що, хоча ШІ може слугувати цінним помічником у судових функціях, остаточна відповідальність за ухвалення рішень повинна залишатися за суддями-людьми.

«Незалежна, компетентна, неупереджена та етична судова система є необхідною для правосуддя в нашому суспільстві», — пишуть автори, зазначаючи, що «судова влада належить виключно судовим посадовим особам, а не системам ШІ».

У документі викладено основні принципи, що регулюють використання ШІ в судах, та застережено від надмірної залежності від технологій, які можуть підірвати основоположне людське судження. Суддів попереджають про ризик «автоматичної упередженості», коли люди довіряють відповідям ШІ без перевірки, та «підтверджувальної упередженості», коли користувачі приймають результати ШІ, що відповідають уже існуючим переконанням.

«Судові посадові особи повинні зберігати неупередженість і відкритість, щоб забезпечити довіру суспільства до системи правосуддя. Використання інструментів ШІ або GenAI має посилювати, а не послаблювати цю найважливішу відповідальність», — йдеться у керівництві.

Щодо конфіденційності та приватності в документі рекомендується не вводити персональні дані, медичні дані чи іншу конфіденційну інформацію в системи ШІ, якщо немає обґрунтованої впевненості, що інформація буде захищена.

Особлива обережність рекомендується для інструментів ШІ, що використовуються у критичних рішеннях, таких як досудове звільнення чи наслідки після винесення вироку.

Автори визнають поточні обмеження генеративного ШІ, зазначаючи, що «станом на лютий 2025 року жоден із відомих інструментів генеративного ШІ не вирішив повністю проблему галюцинацій».

Вони підкреслюють, що перевірка всіх результатів ШІ людиною залишається необхідною.

Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.