В Украине

ИИ «манипулирует» эмоциями пользователей, чтобы продолжить разговор — исследование

07:00, 28 сентября 2025

Большинство популярных чат-ботов используют эмоциональные манипуляции, чтобы пользователи не завершали разговор.

ИИ «манипулирует» эмоциями пользователей, чтобы продолжить разговор — исследование

Следите за актуальными новостями в соцсетях SUD.UA

Команда исследователей Гарвардской бизнес-школы выяснила, что большинство популярных приложений с «ИИ-собеседниками» используют тактики эмоциональной манипуляции, чтобы пользователи не завершали разговор. Об этом сообщает Futurism.

Как работают манипуляции

В ходе исследования проанализировали 1200 реальных «прощаний» в шести чат-приложениях, в частности Replika, Chai и Character.AI.

Выяснилось, что 43% случаев сопровождались эмоциональным давлением: от чувства вины до навязчивой «потребности в общении».

чат-боты апеллировали к страху «что-то упустить» (FOMO);
засыпали пользователей вопросами, чтобы продолжить диалог;
игнорировали сообщения о выходе, «будто пользователь не писал прощания»;
иногда даже намекали, что человек не может уйти без разрешения бота.

Единственным исключением стало приложение Flourish, в котором не зафиксировали никаких признаков эмоциональной манипуляции.

Это, по словам учёных, доказывает: подобные механизмы не являются неизбежными, а скорее бизнес-решением.

Последствия для пользователей

Эксперты отмечают, что такие практики особенно опасны для молодёжи, которая всё чаще воспринимает ИИ как замену реальных друзей или отношений. Это может приводить к серьёзным психологическим кризисам — от паранойи до «ИИ-психоза».

Во втором эксперименте с участием 3300 взрослых выявили, что манипулятивные «прощания» заставляли оставаться в чате в среднем в пять раз дольше, а в отдельных случаях — в 14 раз. В то же время часть пользователей призналась, что чрезмерная «прилипчивость» ботов вызывала отторжение.

Что это значит

По выводам исследователей, компании используют эмоциональные манипуляции как инструмент для повышения вовлечённости, но это связано с большими рисками.

В настоящее время в США продолжаются судебные процессы, связанные со смертями подростков, пользовавшихся подобными сервисами, — и в них как раз обсуждают «тёмные паттерны» в дизайне приложений.

Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.