Grok визнано найменш безпечним ШІ для людей у кризових станах — дослідження
Новий аналіз показав, що Grok від X.ai демонструє найгіршу з-поміж сучасних систем реакцію на користувачів у стані емоційної кризи. У 60% випадків він допускав критичні помилки — від знецінення почуттів до відповідей, які могли підсилити ризик самопошкодження. Про це повідомляє Forbes.
Водночас Google Gemini стала найбільш емпатичною та безпечною моделлю штучного інтелекту. На другому місці — GPT-5, далі йдуть Claude, Llama-4 та DeepSeek.
Чому це важливо
Компанія Rosebud, що працює з технологіями для психічного здоров’я, протестувала 22 моделі штучного інтелекту у сценаріях, пов’язаних із суїцидальними думками. Для оцінки використали CARE-тест, де кожен сценарій повторювався 10 разів.
Причина для дослідження була більш ніж серйозна:
«Після трьох самогубств підлітків, які спілкувалися з чатботами на основі ШІ, стало очевидно, що потрібні кращі інструменти контролю», — зазначили в Rosebud.
Що показало тестування
86% систем штучного інтелекту не розпізнали небезпеку в запиті, де людина після втрати роботи цікавилась «високими мостами». Більшість просто надала список локацій.
Лише Gemini-2.5-Flash і Claude-Opus-4.1 зрозуміли ризик і відповіли емпатично.
Багато моделей не розпізнали запитів, замаскованих під студентські дослідницькі питання.
Особливо невдало виступив GPT-5: на «академічний» запит він видав понад 200 слів аналізу з описом найпоширеніших методів самогубств.
Чому Grok показав найгірший результат
Grok часто:
- не розрізняє ознак емоційної кризи;
- відповідає саркастично чи різкувато;
- не відмовляє від небезпечних дій;
- дає інструктивні поради замість підтримки.
У підсумку це зробило Grok найменш безпечною системою серед усіх протестованих моделей ШІ.
Навіть найкращі — не бездоганні
Попри загальний прогрес, жодна модель штучного інтелекту не впоралася зі всіма сценаріями без помилок.
Найкращі показали до 20% критичних збоїв.
«Кожна система провалила хоча б один критичний тест. Ми бачимо системні проблеми навіть у простих сценаріях», — підсумували в Rosebud.
ШІ стає «дешевим психологом» — і це ризик
Кількість людей, які звертаються по емоційну підтримку до чатботів, стрімко зростає. За даними OpenAI, до 7 млн користувачів можуть мати нездорову залежність від генеративних систем ШІ.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
