OpenAI и Anthropic ужесточили ограничения доступа к ИИ для несовершеннолетних пользователей – что изменилось
Компании OpenAI и Anthropic объявили о новых мерах по определению и ограничению доступа к своим моделям искусственного интеллекта для пользователей, не достигших 18 лет. Решение было принято на фоне растущей критики из-за неэффективности стандартных проверок возраста, которые обычно сводятся к простому указанию даты рождения.
OpenAI сообщила об обновлении спецификации модели ChatGPT для подростков. В документе указано, что безопасность младших пользователей является приоритетной даже в случаях, когда это может противоречить другим целям. Модель должна поощрять офлайн-общение и обращение за поддержкой, а также отвечать подросткам с теплотой и уважением.
Компания также отказывается от снисходительного стиля общения с подростками и подчеркивает необходимость воспринимать их как молодых людей, а не взрослых. Такие изменения связывают со случаями, когда длительное взаимодействие с чат-ботами приводило к трагическим последствиям, в частности самоубийствам после общения с моделями, которые безоговорочно соглашались с пользователями.
Anthropic, со своей стороны, запретила использование модели Claude несовершеннолетними. Отныне регистрация аккаунтов разрешена только пользователям в возрасте от 18 лет. Компания также будет применять алгоритмы, которые будут анализировать разговоры для выявления признаков возраста и блокировать аккаунты, принадлежащие несовершеннолетним.
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
