У TikTok поширюють згенеровані штучним інтелектом відео, де вбиті діти описують власну смерть

У березні TikTok заборонив публікацію фото та відео реальних людей, згенерованих за допомогою штучного інтелекту.

Як пише ВВС, розслідування виявило докази, які дозволяють припустити, що серед працівників TikTok може бути певна плутанина щодо політики платформи.

Модератор контенту TikTok розповів виданню, що заборону запровадили чотири місяці тому, а компанія досі не поінформувала його про це.

Деякі відео залишалися на платформі кілька місяців, інші - отримали мільйони переглядів.

Колишній чоловік Амелі Лем'є з Канади убив у липні 2020 року її доньок – 6-річну Ромі та 11-річну Нору, а потім наклав на себе руки.

У квітні цього року їй надіслали TikTok-відео, у якому штучна версія її доньки Нори розповідала про їхні вбивства. Родина Лем'є та інші користувачі зверталися до техпідтримки TikTok із проханням видалити відео, але воно залишилося в мережі. І тільки після того, як Лем'є почала активно заявляти про свою позицію в засобах масової інформації, анонімний обліковий запис видалили.

Амелі Лем'є не вдалося знайти авторів відео, але вона вражена їхніми діями. “Коли хтось використовує біль, який залишиться з вами до кінця життя, це неймовірно шокує. І все заради переглядів, лайків і репостів. Особисто я не можу цього пробачити”, – сказала вона ВВС.

Автори відео намагаються залишатись анонімними. Але видання знайшло одного з них – лондонського студента на ім'я Рітул. 

На своєму YouTube-каналі він просував такі історії для швидкого залучення аудиторії в TikTok. “Лише за три тижні я отримав 47 тисяч підписників”, – розповів він в одному відео.

Рітул відхилив прохання ВВС про коментар, а його акаунт у TikTok видалено.

Історії деяких дітей знято кількома мовами, зокрема португальською, іспанською, французькою, німецькою, італійською та польською.

Так, BBC виявила 170 різних TikTok-відео про Джеймса Балджера – дворічного британського хлопчика, якого 1993 року вбили двоє старших дітей. Мати Джеймса Деніз Фергюс вважає такі історії “неймовірно огидними”.

TikTok масово видалив відео і опублікував заяву, в якій наголосив: “На нашій платформі не може бути такого тривожного контенту. Ми продовжуємо видаляти його в міру того, як виявляємо”.

Журналісти видання поговорили з модератором контенту TikTok у В'єтнамі, який погодився дати інтерв'ю на умовах анонімності. За його словами, за два тижні після того, як відео видалили, компанія так офіційно і не повідомила йому, що такий контент заборонено.

На його думку, відео підпадає під правила платформи, які дозволяють людям, що пережили експлуатацію та насильство, ділитися своїми історіями.

ВВС зазначає, що журналісти запитали в TikTok, чи досить чітко їхні працівники розуміють політику компанії, однак відповіді не отримали.

Проте, пише ВВС, TikTok чітко дав зрозуміти, що модератор помилився, адже це згенеровані комп'ютером зображення мертвих дітей, а не переживання тих, хто вижив.

Підписуйтесь на наш Тelegram-канал t.me/sudua та на Twitter, а також на нашу сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.