Суд в Нидерландах запретил Grok создавать «раздетые» изображения людей без согласия
Суд в Нидерландах обязал компанию Илона Маска xAI и чат-бот Grok не создавать и не распространять изображения, которые «раздевают» взрослых или детей, либо показывают их в сексуализированных позах с минимальной одеждой или без нее, без их согласия на территории страны, пишет Reuters.
Предварительный запрет, вынесенный судом Амстердама, который может стать прецедентом в Европе, является одним из первых случаев, когда судья оценил ответственность xAI за создание инструментов, которые могут использоваться для легкой генерации сексуализированных изображений. Это происходит на фоне многочисленных жалоб и расследований в отношении Grok в мире.
В письменном решении суд указал, что xAI и Grok запрещено «создавать и/или распространять сексуальные изображения … в которых лица частично или полностью раздеты без предоставления их явного согласия», а в случае невыполнения решения компаниям грозит штраф в размере 100 тысяч евро (115 350 долларов США) за каждый день нарушения.
Во время слушания в этом месяце xAI заявила, что не может полностью предотвратить злоупотребление своими инструментами и не должна нести ответственность за действия недобросовестных пользователей.
Юристы компании отметили, что в январе были усилены защитные механизмы, чтобы предотвратить редактирование изображений реальных людей в откровенном виде, в частности путем ограничения генерации изображений только для платных подписчиков.
Решение принято на фоне усиления контроля со стороны европейских регуляторов в отношении Grok и других инструментов искусственного интеллекта в рамках Закона ЕС о цифровых услугах, который обязывает крупные платформы бороться с незаконным контентом. В январе Европейская комиссия начала формальное расследование в отношении X из-за рисков, связанных с внедрением Grok в ЕС, в частности из-за создания манипулированных откровенных изображений.
Кроме того, ранее Европейский парламент поддержал запрет приложений на основе ИИ, которые создают или изменяют откровенные изображения («nudifier»).
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
