Google добавит функции поддержки психического здоровья в чат-бота Gemini после трагических инцидентов
Компания Google объявила о внедрении функций поддержки психического здоровья для своего чат-бота Gemini после серии исков, в которых утверждалось, что инструменты искусственного интеллекта способствовали самоповреждениям и суицидам. Об этом сообщает Bloomberg.
По сообщению Google, Gemini получит интерфейс, который будет перенаправлять пользователей на горячую линию поддержки, если во время разговора обнаруживаются признаки «потенциального кризиса, связанного с самоубийством или самоповреждением». Также будет добавлен модуль «помощь доступна» и изменен дизайн чат-интерфейса, чтобы минимизировать риски вреда.
Компания отметила, что научила Gemini различать объективные факты и субъективные убеждения пользователей, не подкрепляя ложные утверждения, и мягко корректировать ошибочные представления. Отдельно Google пообещал в течение трех лет пожертвовать 30 миллионов долларов на глобальные службы поддержки в кризисных ситуациях.
Решение Google стало ответом на многочисленные инциденты, когда пользователи чат-ботов, в частности Gemini и ChatGPT, сообщали о формировании навязчивых связей с ИИ и подстрекательстве к рискованным действиям. В марте семья умершего 36-летнего мужчины из Флориды подала иск против компании, утверждая, что чат-бот способствовал «четырехдневному склонению к насильственным действиям и подталкиванию к самоубийству».
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER и WhatsApp, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
