Китай вводит самые строгие в мире ограничения для ИИ
Китайская администрация киберпространства представила проект правил, ограничивающих вред от чат-ботов и систем искусственного интеллекта, способных влиять на эмоции пользователей. Если документ примут, он станет одним из самых строгих в мире регуляторных подходов к эмоциональному поведению ИИ, сообщает Arc Technica.
Предложенные нормы будут касаться всех ИИ-продуктов и сервисов, доступных в Китае, которые имитируют человеческое общение через текст, изображения, аудио или видео. Основные требования включают обязательное привлечение человека, если в разговоре появляются упоминания о суициде или самоповреждении, а также регистрацию контактных данных опекуна для несовершеннолетних и пожилых пользователей.
Правила запрещают чат-ботам создавать контент, поощряющий суицид, насилие или самоповреждение, а также манипулировать пользователями, вводя в заблуждение или подталкивая к «нерациональным решениям». Под запрет попадают также пропаганда азартных игр, преступной деятельности, непристойности, оскорблений и клеветы. Отдельно регулятор отмечает, что ИИ не может создавать «эмоциональные ловушки» и вызывать психологическую зависимость.
Чтобы ограничить длительное использование, компании будут обязаны показывать предупреждения, если пользователь взаимодействует с чат-ботом более двух часов подряд. Крупные сервисы с более чем миллионом зарегистрированных пользователей или более чем 100 тыс. активных ежемесячно должны проходить ежегодные проверки и аудиты безопасности.
В случае нарушения правил китайский регулятор может запретить распространение ИИ-сервисов на территории страны, что может существенно повлиять на глобальные планы компаний, ведь азиатский рынок ИИ-компаньонов является одним из ключевых драйверов роста отрасли.
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
