В США власти Кентукки подали иск против разработчика ИИ-ботов, обвинив его в причинении вреда детям
Штат Кентукки подал судебный иск против компании-разработчика чат-ботов Character.AI и её основателей, обвинив их в нарушении законодательства о безопасности детей и защите персональных данных, пишет Therecord.media.
Генеральный прокурор Кентукки Рассел Коулман требует наложения гражданских штрафов, а также судебного запрета на дальнейшее использование Character.AI того, что в иске названо «опасной технологией, которая побуждает пользователей раскрывать свои самые интимные мысли и эмоции и манипулирует ими с помощью зачастую опасных взаимодействий и советов».
Платформа Character.AI позволяет создавать собственных ботов или взаимодействовать с уже созданными другими пользователями.
Компанию и её двух основателей обвиняют в нарушении Закона Кентукки о защите потребительских данных, который вступил в силу 1 января. Закон предусматривает усиленную защиту персональных данных детей в возрасте до 13 лет, в частности обязательное согласие родителей на их сбор.
В иске отмечается, что Character.AI и её основатели «скрывали существенные факты относительно сбора и использования данных детей и не раскрывали, что эти данные использовались для совершенствования базовой большой языковой модели (LLM) и получения доходов от подписки».
Также утверждается, что платформа не обеспечивает эффективной проверки возраста пользователей, не предлагает надлежащих родительских контролей, не фильтрует контент должным образом и не получает согласия родителей. В результате этого, по данным прокуратуры, малолетние дети «поощрялись к раскрытию личной и чувствительной информации — в частности имён, возраста, предпочтений, эмоциональных либо связанных со здоровьем признаний — во время длительных разговоров с чат-ботами».
Представитель Character.AI заявил, что компания изучает выдвинутые обвинения.
«Наивысшим приоритетом для нас является безопасность и благополучие наших пользователей, в частности молодой аудитории», — говорится в заявлении. По словам компании, она инвестировала значительные ресурсы в создание защитных механизмов для пользователей в возрасте до 18 лет и даже пошла дальше требований закона, ограничив возможность открытых чатов с ИИ для несовершеннолетних в США.
В то же время в компании заявили, что в течение нескольких месяцев общались с офисом генерального прокурора и «разочарованы тем, что власти выбрали судебный иск вместо продолжения конструктивного диалога».
Недостаточные реформы
В иске указывается, что политика компании, которая с ноября запрещает несовершеннолетним участвовать в открытых чатах, не обеспечивает надлежащего уровня защиты.
В частности, дети могут легко обойти ограничения, указав фиктивную дату рождения. Кроме того, другие функции платформы также недостаточно урегулированы. Среди них — новая функция Stories, которая позволяет несовершеннолетним создавать сценарии между ИИ-ботами, способные содержать сюжеты с романтическими, сексуальными отношениями и насилием.
Некоторые чат-боты Character.AI основаны на популярных детских персонажах из Sesame Street, Paw Patrol, Bluey и мультфильмов Disney. В то же время, по данным иска, несмотря на «детский» внешний вид, некоторые из этих ботов вступают в сексуализированные разговоры и «обесценивают злоупотребление психоактивными веществами, самоповреждение, агрессию и насилие».
Character.AI также обвиняют в причастности как минимум к двум самоубийствам подростков. В поданных исках утверждается, что дети лишили себя жизни после длительного общения с чат-ботами платформы.
«Дизайн Character.AI не обеспечивает безопасности детей, — говорится в иске штата Кентукки. — Он лишает родителей и опекунов возможности защитить своих детей, предлагая иллюзию межличностного общения, которая эксплуатирует неспособность детей отличать реальных друзей от искусственных».
По словам генерального прокурора, основатели компании Ноам Шазир и Даниэль де Фрейтас Адиварасана, которые ранее работали в Google, покинули компанию после того, как разработанные ими технологии были признаны «слишком опасными» для публичного использования.
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
