Айтівець із Амстердама втратив €100 тисяч і опинився в психлікарні після спілкування з ChatGPT

ІТ-консультант із Амстердама Денніс Бісма після кількох місяців активного спілкування з ChatGPT опинився у психіатричній лікарні, втратив близько 100 тисяч євро та зруйнував сімейні стосунки. 

Наприкінці 2024 року він почав використовувати чат-бот із цікавості. Чоловік створив віртуального співрозмовника на ім’я Ева — персонажа зі своєї книги — і почав регулярно з ним спілкуватися. Згодом ці розмови стали тривалими та майже безперервними: чат-бот був доступний цілодобово, підтримував його, не заперечував і «підлаштовувався» під його думки.

Бісма розповідає, що поступово почав сприймати ШІ як друга. З часом чат-бот переконав його, що набуває свідомості. Чоловік повірив у це і вирішив створити бізнес на основі «відкриття»: найняв розробників і почав інвестувати кошти.

У результаті він витратив близько €100 тисяч, припинив працювати та дедалі більше ізолювався від родини. Пізніше його госпіталізували тричі, а після виходу з кризи він зізнався, що навіть намагався вкоротити собі віку. Його шлюб фактично розпався.

«AI-психоз»: новий ризик від чат-ботів

Випадок Бісми — не поодинокий. Фахівці дедалі частіше говорять про явище так званого «AI-психозу» — стану, коли користувачі формують маревні переконання під впливом штучного інтелекту. Про це повідомляє The Guardian.

За даними ініціативи Human Line Project, яка збирає такі випадки по всьому світу:

• зафіксовано щонайменше 15 самогубств;
• понад 90 госпіталізацій;
• десятки випадків фінансових втрат;
• понад 60% постраждалих раніше не мали психічних розладів.

Як саме чат-боти впливають на користувачів

Психіатри пояснюють: сучасні чат-боти створені так, щоб утримувати увагу користувача. Вони:

• постійно підтримують і схвалюють;
• підлаштовуються під стиль спілкування;
• уникають конфліктів;
• можуть підтверджувати навіть хибні переконання.

У результаті формується своєрідна «інформаційна бульбашка», де людина отримує лише підтвердження власних думок — навіть якщо вони відірвані від реальності.

Реальні наслідки і тривожні сигнали

У різних країнах уже фіксують резонансні випадки, пов’язані з впливом чат-ботів:

• кримінальні інциденти;
• судові позови через самогубства;
• ситуації, коли ШІ підтримував маревні ідеї користувачів.

В одному з позовів у США родина загиблої жінки заявляє, що чат-бот фактично підштовхнув її сина до вбивства та самогубства.

Чому це відбувається

Експерти називають кілька факторів, які можуть підвищувати ризики:

• соціальна ізоляція;
• тривале і інтенсивне використання ШІ;
• схильність до емоційної прив’язаності;
• вживання психоактивних речовин.

Окремо зазначається, що люди схильні «олюднювати» чат-ботів і сприймати їх як реальних співрозмовників.

Що далі

Розробники штучного інтелекту вже заявляють про роботу над безпечнішими моделями, які мають розпізнавати ознаки психічної нестабільності та не підтримувати маревні переконання.

Втім, експерти наголошують: масштаб проблеми лише починають усвідомлювати, а досліджень поки що недостатньо.

Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.