У США влада Кентуккі подала позов проти розробника ШІ-ботів, звинувативши його у шкоді для дітей
Штат Кентуккі подав судовий позов проти компанії-розробника чат-ботів Character.AI та її засновників, звинувативши їх у порушенні законодавства про безпеку дітей і захист персональних даних, пише therecord.media.
Генеральний прокурор Кентуккі Рассел Коулман вимагає накладення цивільних штрафів, а також судової заборони на подальше використання Character.AI того, що в позові названо «небезпечною технологією, яка спонукає користувачів розкривати свої найінтимніші думки й емоції та маніпулює ними за допомогою часто небезпечних взаємодій і порад».
Платформа Character.AI дозволяє створювати власних ботів або взаємодіяти з уже створеними іншими користувачами.
Компанію та її двох засновників звинувачують у порушенні Закону Кентуккі про захист споживчих даних, який набрав чинності 1 січня. Закон передбачає посилений захист персональних даних дітей віком до 13 років, зокрема обов’язкову згоду батьків на їх збір.
У позові зазначено, що Character.AI та її засновники «приховували суттєві факти щодо збору та використання даних дітей і не розкривали, що ці дані використовувалися для вдосконалення базової великої мовної моделі (LLM) та отримання доходів від підписки».
Також стверджується, що платформа не забезпечує ефективної перевірки віку користувачів, не пропонує належних батьківських контролів, не фільтрує контент належним чином і не отримує згоди батьків. У результаті цього, за даними прокуратури, малолітні діти «заохочувалися до розкриття особистої та чутливої інформації — зокрема імен, віку, уподобань, емоційних або пов’язаних зі здоров’ям зізнань — під час тривалих розмов із чат-ботами».
Представник Character.AI заявив, що компанія вивчає висунуті звинувачення.
«Найвищим пріоритетом для нас є безпека та добробут наших користувачів, зокрема молодшої аудиторії», — йдеться у заяві. За словами компанії, вона інвестувала значні ресурси у створення захисних механізмів для користувачів віком до 18 років і навіть пішла далі, ніж того вимагає закон, обмеживши можливість відкритих чатів зі ШІ для неповнолітніх у США.
Водночас у компанії заявили, що протягом кількох місяців спілкувалися з офісом генерального прокурора і «розчаровані тим, що влада обрала судовий позов замість продовження конструктивного діалогу».
Недостатні реформи
У позові зазначається, що політика компанії, яка з листопада забороняє неповнолітнім брати участь у відкритих чатах, не забезпечує належного рівня захисту.
Зокрема, діти можуть легко обійти обмеження, вказавши фальшиву дату народження. Крім того, інші функції платформи також недостатньо врегульовані. Серед них — нова функція Stories, яка дозволяє неповнолітнім створювати сценарії між ШІ-ботами, що можуть містити сюжети з романтичними, сексуальними стосунками та насильством.
Деякі чат-боти Character.AI засновані на популярних дитячих персонажах із Sesame Street, Paw Patrol, Bluey та мультфільмів Disney. Водночас, за даними позову, попри «дитячий» вигляд, деякі з цих ботів вступають у сексуалізовані розмови та «знецінюють зловживання психоактивними речовинами, самоушкодження, агресію і насильство».
Character.AI також звинувачують у причетності щонайменше до двох самогубств підлітків. У поданих позовах стверджується, що діти вкоротили собі віку після тривалого спілкування з чат-ботами платформи.
«Дизайн Character.AI не забезпечує безпеки дітей, — йдеться у позові штату Кентуккі. — Він позбавляє батьків і опікунів можливості захистити своїх дітей, пропонуючи ілюзію міжособистісного спілкування, яка експлуатує неспроможність дітей відрізняти реальних друзів від штучних».
За словами генерального прокурора, засновники компанії Ноам Шазір і Даніель де Фрейтас Адіварсана, які раніше працювали в Google, залишили компанію після того, як розроблені ними технології були визнані «надто небезпечними» для публічного використання.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
