Google додасть підтримку психічного здоров’я у чат-бота Gemini після смертельних інцидентів
Компанія Google оголосила про впровадження функцій підтримки психічного здоров’я для свого чат-бота Gemini після серії позовів, у яких стверджувалося, що інструменти штучного інтелекту сприяли самоушкодженню та суїцидам. Про це повідомляє Bloomberg.
За повідомленням Google, Gemini отримає інтерфейс, який перенаправлятиме користувачів на гарячу лінію підтримки, якщо під час розмови виявляються ознаки «потенційної кризи, пов’язаної з самогубством або самоушкодженням». Також буде додано модуль «допомога доступна» та змінено дизайн чат-інтерфейсу, щоб мінімізувати ризики шкоди.
Компанія зазначила, що навчила Gemini розрізняти об’єктивні факти та суб’єктивні переконання користувачів, не підкріплюючи хибні твердження, та м’яко коригувати помилкові уявлення. Окремо Google пообіцяв протягом трьох років пожертвувати 30 мільйонів доларів на глобальні служби підтримки у кризових ситуаціях.
Рішення Google стало відповіддю на численні інциденти, коли користувачі чат-ботів, зокрема Gemini та ChatGPT, повідомляли про формування нав’язливих зв’язків зі ШІ та підбурювання до ризикових дій. У березні родина померлого 36-річного чоловіка зі Флориди подала позов проти компанії, стверджуючи, що чат-бот сприяв «чотириденному спуску на насильницькі дії та схиляння до самогубства».
Нові функції Gemini мають зменшити подібні ризики та забезпечити користувачам безпечніший досвід спілкування з штучним інтелектом.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER та WhatsApp, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
