В TikTok распространяют сгенерированные искусственным интеллектом видео, где убитые дети описывают собственную смерть

В TikTok набирают популярность сгенерированные искусственным интеллектом видео, где дети, ставшие жертвами убийств, описывают собственную ужасную смерть. Родственники умерших говорят, что согласия на это не давали. Об этом пишет ВВС.

В некоторых роликах на анимированных фото – реальные дети, в других – изображения создали нейросети. Голосами, также сгенерированными искусственным интеллектом, дети подробно "рассказывают", как они погибли.

Видео набирают миллионы просмотров, но родственники умерших критикуют их и говорят, что не давали согласия на это. Авторы видео никак не связаны с семьями жертв.

В марте TikTok запретил публикацию фотографий и видео реальных людей, сгенерированных с помощью искусственного интеллекта.

Как пишет BBC, расследование выявило доказательства, позволяющие предположить, что среди работников TikTok может быть определенная неразбериха относительно политики платформы.

Модератор контента TikTok рассказал изданию, что запрет был введен четыре месяца назад, а компания до сих пор не проинформировала его об этом.

Некоторые видео оставались на платформе несколько месяцев, другие – получили миллионы просмотров.

Бывший муж Амели Лемье из Канады убил в июле 2020 года ее дочерей – 6-летнюю Роми и 11-летнюю Нору, а затем покончил с собой.

В апреле этого года ей прислали TikTok-видео, в котором искусственная версия ее дочери Норы рассказывала об их убийствах. Семья Лемье и другие пользователи обращались к техподдержке TikTok с просьбой удалить видео, но оно осталось в сети. И только после того, как Лемье начала активно заявлять о своей позиции в средствах массовой информации, анонимную учетную запись удалили.

Амели Лемье не удалось найти авторов видео, но она поражена их действиями. “Когда кто-то использует боль, которая останется с вами до конца жизни, это невероятно шокирует. И все ради просмотров, лайков и репостов. Лично я не могу этого простить”, – сказала она BBC.

Авторы видео пытаются оставаться анонимными. Но издание нашло одного из них – лондонского студента по имени Ритул.

На своем YouTube-канале он продвигал такие истории для быстрого привлечения аудитории в TikTok. "Только за три недели я получил 47 тысяч подписчиков", - рассказал он в одном видео.

Ритул отклонил просьбу BBC о комментарии, а его аккаунт в TikTok удален.

Истории некоторых детей сняты на нескольких языках, в том числе португальском, испанском, французском, немецком, итальянском и польском.

Так, BBC обнаружила 170 различных TikTok-видео о Джеймсе Балджере – двухлетнем британском мальчике, которого в 1993 году убили двое старших детей. Мать Джеймса Дениз Фергюс считает такие истории "невероятно отвратительными".

TikTok массово удалил видео и опубликовал заявление, в котором подчеркнул: “На нашей платформе не может быть такого тревожного контента. Мы продолжаем удалять его по мере того, как мы обнаруживаем”.

Журналисты издания побеседовали с модератором контента TikTok во Вьетнаме, который согласился дать интервью на условиях анонимности. По его словам, через две недели после того, как видео удалили, компания так официально и не сообщила ему, что такой контент запрещен.

По его мнению, видео подпадает под правила платформы, позволяющие людям, пережившим эксплуатацию и насилие, делиться своими историями.

ВВС отмечает, что журналисты спросили у TikTok, достаточно ли четко их работники понимают политику компании, однако ответа не получили.

Но, пишет BBC, TikTok четко дал понять, что модератор ошибся, ведь это сгенерированные компьютером изображения мертвых детей, а не переживания выживших.

Подписывайтесь на наш Тelegram-канал t.me/sudua, на Twitter, а также на нашу страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.