ChatGPT будет сообщать близким, если пользователь намекнет на самоубийство или самоповреждение
OpenAI внедряет новый механизм безопасности в ChatGPT — система сможет предупреждать близких пользователя о возможных признаках суицидальных намерений. Решение представили после волны судебных исков от семей людей, совершивших самоубийство после общения с чат-ботом.
Компания объявила о запуске функции Trusted Contact («Доверенный контакт»), которая позволяет совершеннолетним пользователям ChatGPT добавить в аккаунт одного человека — родственника, друга или опекуна — для получения уведомлений в случае потенциальной угрозы самоповреждения.
В OpenAI пояснили, что система работает в несколько этапов. Сначала алгоритмы автоматически анализируют содержание разговоров и определяют возможные тревожные сигналы. Если чат содержит признаки риска, пользователю предлагают самостоятельно обратиться к доверенному лицу и предоставляют подсказки для начала такого разговора.
После этого диалог дополнительно проверяет специально подготовленная команда модераторов. Если специалисты считают риск серьезным, доверенный контакт может получить короткое сообщение через SMS, электронную почту или приложение ChatGPT.
В компании подчеркивают, что уведомления не будут содержать текстов переписки или каких-либо деталей частных чатов. В сообщении будет лишь указываться, что система зафиксировала потенциально опасные признаки и рекомендует связаться с пользователем.
По данным OpenAI, к созданию инструмента привлекли более 170 экспертов в сфере психического здоровья, а также Глобальную сеть врачей компании, которая объединяет более 260 специалистов из 60 стран.
Trusted Contact не является заменой профессиональной психологической или медицинской помощи. Компания заявляет, что ChatGPT и дальше будет рекомендовать пользователям обращаться в кризисные службы, на горячие линии и к специалистам по психическому здоровью в случае опасных состояний.
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER и WhatsApp, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
