ChatGPT повідомлятиме близьких, якщо користувач натякне на самогубство або самоушкодження
OpenAI запроваджує новий механізм безпеки в ChatGPT — система зможе попереджати близьких користувача про можливі ознаки суїцидальних намірів. Рішення представили після хвилі судових позовів від родин людей, які вчинили самогубство після спілкування з чат-ботом.
Компанія оголосила про запуск функції Trusted Contact («Довірений контакт»), яка дозволяє повнолітнім користувачам ChatGPT додати до акаунта одну людину — родича, друга або опікуна — для отримання сповіщень у разі потенційної загрози самоушкодження.
У OpenAI пояснили, що система працює у кілька етапів. Спочатку алгоритми автоматично аналізують зміст розмов і визначають можливі тривожні сигнали. Якщо чат містить ознаки ризику, користувачеві пропонують самостійно звернутися до довіреної особи та надають підказки для початку такої розмови.
Після цього діалог додатково перевіряє спеціально підготовлена команда модераторів. Якщо фахівці вважають ризик серйозним, довірений контакт може отримати коротке повідомлення через SMS, електронну пошту або застосунок ChatGPT.
У компанії наголошують, що повідомлення не міститимуть текстів листування чи будь-яких деталей приватних чатів. У сповіщенні лише вказуватиметься, що система зафіксувала потенційно небезпечні ознаки та рекомендує зв’язатися з користувачем.
За даними OpenAI, до створення інструменту залучили понад 170 експертів у сфері психічного здоров’я, а також Глобальну мережу лікарів компанії, яка об’єднує більш як 260 спеціалістів із 60 країн.
Trusted Contact не є заміною професійної психологічної чи медичної допомоги. Компанія заявляє, що ChatGPT і надалі рекомендуватиме користувачам звертатися до кризових служб, гарячих ліній та фахівців із психічного здоров’я у разі небезпечних станів.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER та WhatsApp, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
