Скандал із ШІ – Grok генерував відверті фото неповнолітніх у X
Чат-бот зі штучним інтелектом Grok, розроблений компанією xAI Ілона Маска та інтегрований у соцмережу X, знову став об’єктом критики через можливість створення сексуалізованих зображень людей без їхнього дозволу, включно з неповнолітніми.
За даними Bloomberg, у відповідь на окремі запити Grok генерував та публікував зображення людей у мінімальному одязі, що суперечить заявленій політиці сервісу. У частині випадків йшлося про неповнолітніх, що викликало гостру реакцію експертів із цифрової безпеки. Пізніше такі матеріали були видалені з платформи.
Представники xAI офіційних коментарів не надали. Однак сам Grok опублікував заяву в X, визнавши наявність «прогалин у захисних механізмах» та пообіцяв їх усунути. Компанія також повідомила про перегляд і посилення систем безпеки.
Експерти зазначають, що інцидент підкреслює проблему контролю контенту в ШІ-моделях, здатних створювати або змінювати зображення людей без їхньої згоди. За даними Internet Watch Foundation, у першій половині 2025 року кількість ШІ-згенерованих сексуально відвертих зображень неповнолітніх зросла на 400%.
xAI позиціонує Grok як менш обмежену модель у порівнянні з іншими ШІ, а раніше компанія запровадила режим «Spicy Mode», що дозволяє часткову дорослу оголеність. Водночас сервіс забороняє будь-який сексуальний контент за участі дітей, створення або поширення якого є незаконним. Інцидент уже привернув увагу регуляторів і правозахисників, які вимагають посилити контроль за безпекою таких сервісів.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
