Скандал с ИИ – Grok генерировал откровенные фото несовершеннолетних в X
Чат-бот с искусственным интеллектом Grok, разработанный компанией xAI Илона Маска и интегрированный в соцсеть X, снова стал объектом критики из-за возможности создания сексуализированных изображений людей без их разрешения, включая несовершеннолетних.
По данным Bloomberg, в ответ на отдельные запросы Grok генерировал и публиковал изображения людей в минимальной одежде, что противоречит заявленной политике сервиса. В части случаев речь шла о несовершеннолетних, что вызвало острую реакцию экспертов по цифровой безопасности. Позже такие материалы были удалены с платформы.
Представители xAI официальных комментариев не предоставили. Однако сам Grok опубликовал заявление в X, признав наличие «пробелов в защитных механизмах» и пообещал их устранить. Компания также сообщила о пересмотре и усилении систем безопасности.
Эксперты отмечают, что инцидент подчеркивает проблему контроля контента в ИИ-моделях, способных создавать или изменять изображения людей без их согласия. По данным Internet Watch Foundation, в первой половине 2025 года количество ИИ-сгенерированных сексуально откровенных изображений несовершеннолетних выросло на 400%.
xAI позиционирует Grok как менее ограниченную модель по сравнению с другими ИИ, а ранее компания ввела режим «Spicy Mode», позволяющий частичную взрослую наготу. В то же время сервис запрещает любой сексуальный контент с участием детей, создание или распространение которого является незаконным. Инцидент уже привлек внимание регуляторов и правозащитников, которые требуют усилить контроль за безопасностью таких сервисов.
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
