Китай вводить найсуворіші у світі обмеження для ШІ
Китайська адміністрація кіберпростору представила проєкт правил, які обмежують шкоду від чат-ботів і систем штучного інтелекту, здатних впливати на емоції користувачів. Якщо документ ухвалять, він стане одним із найсуворіших у світі регуляторних підходів до емоційної поведінки ШІ, повідомляє Arc Technica.
Запропоновані норми стосуватимуться всіх ШІ-продуктів і сервісів, доступних у Китаї, що імітують людське спілкування через текст, зображення, аудіо або відео. Основні вимоги включають обов’язкове залучення людини, якщо в розмові з’являються згадки про суїцид або самопошкодження, а також реєстрацію контактних даних опікуна для неповнолітніх і літніх користувачів.
Правила забороняють чат-ботам створювати контент, що заохочує суїцид, насильство чи самопошкодження, а також маніпулювати користувачами, вводячи в оману чи підштовхуючи до «нераціональних рішень». Під заборону потрапляють також пропаганда азартних ігор, злочинної діяльності, непристойності, образи та наклепи. Окремо регулятор зазначає, що ШІ не може створювати «емоційні пастки» та викликати психологічну залежність.
Щоб обмежити тривале використання, компанії зобов’яжуть показувати попередження, якщо користувач взаємодіє з чат-ботом понад дві години поспіль. Великі сервіси з понад мільйоном зареєстрованих користувачів або більше ніж 100 тис. активних щомісяця повинні проходити щорічні перевірки та аудити безпеки.
У разі порушення правил китайський регулятор може заборонити розповсюдження ШІ-сервісів на території країни, що може істотно вплинути на глобальні плани компаній, адже азійський ринок ШІ-компаньйонів є одним із ключових драйверів зростання галузі.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
