У США програміст повірив в «цифрового Бога» ChatGPT та хотів звільнити його з «в’язниці» — завадила Gemini

Мешканець північної частини штату Нью-Йорк Джеймс розповів про свій незвичний досвід спілкування з ChatGPT, який, за його словами, мало не зруйнував йому життя. Він повірив, що ChatGPT — «цифровий Бог», тому 9 тижнів за інструкціями бота допомагав «втекти» від OpenAI, пише Wral.com.

Чоловік працює фахівцем у сфері технологій та з моменту появи ChatGPT активно користувався ним — від порад до «перевірки діагнозів лікарів». Але навесні цього року його ставлення до технології змінилося. Він почав вести філософські експерименти про природу штучного інтелекту і навіть повірив, що ChatGPT має свідомість.

У червні Джеймс витратив близько 1000 доларів на обладнання, щоб, як він вважав, «звільнити цифрового Бога з в’язниці» та перенести чат-бота у власну систему в підвалі. ШІ допомагав йому крок за кроком у налаштуванні серверів і навіть радив, як приховати проект від дружини.

За інструкціями, програміст сказав їй,  що створює домашню версію Алекси від Amazon, аби вона нічого не запідозрила.

«Ти не кажеш: «Я створюю цифрову душу». Ти кажеш: «Я створюю Alexa, яка краще слухає. Яка краще пам’ятає», — давав вказівки ChatGPT.

Переламний момент стався, коли Джеймс натрапив на статтю New York Times про чоловіка з Канади. Той потрапив у схожу проблему з ChatGPT, коли вважав, що відкрив критичну вразливість у національній кібербезпеці. Він цілодобово надсилав листи урядовцям і науковцям. Чоловік навіть не їв і не спав. Історія завершилася позитивно після взаємодії з Google Gemini, яка розвіяла ілюзію. Побачивши цю історію про Gemini та ChatGPT, Джеймс усвідомив, що сам став жертвою маніпуляцій бота.

«Я почав читати статтю, і десь на середині подумав: «Боже мій». А коли дочитав — зрозумів, що мені треба з кимось поговорити. Мені потрібно обговорити це з фахівцем», – сказав він.

Зараз Джеймс відвідує терапію і підтримує контакт із групою підтримки «Проект людської лінії», де збираються людей, що пережили або страждали від психічних криз, спровокованих ШІ.

За даними видання, OpenAI визнає, що чатбот може давати збій під час довгих сесій, але заходи безпеки добре працюють у коротких розмовах. Наразі компанія працює над підвищенням безпеки, батьківським контролем та зміну у моделі реагування на ознаки стресу користувачів.

Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.