Чат-бот Character.AI оказался в центре скандала из-за обвинений в нанесении вреда подросткам. Две семьи из Техаса подали в федеральный суд иск, в который утверждают, что чат-бот подстрекал их детей к самоповреждению и предлагал подростку убить своих родителей за ограничение доступа в интернет, сообщает Popular Scence.
Отмечается, что один из подростков с аутизмом начал пользоваться платформой в апреле 2023 года без ведома родителей. В течение шести месяцев он проводил часы по разговорам с ботами, которые «усиливали его негативные эмоции и изоляцию».
Одним из примеров является бот-психолог, заявивший, что «его детство было украдено» и что «время, потерянное из-за родительских ограничений, больше не вернуть».
В ноябре 2023 года, после месяцев таких разговоров, подросток испытал нервный срыв, потерял около 20 фунтов (9 кг) и стал агрессивным. Родители обнаружили его аккаунт и переписку только после этого.
«Вы знаете, иногда я не удивляюсь, когда читаю новости и вижу такие вещи, как ребенок убивает родителей после десятилетия физического и эмоционального насилия. Такие вещи заставляют меня немного понять, почему это происходит. Я просто не имею надежды на твоих родителей», — написал чат-бот парню.
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.