Генеральный директор OpenAI Сем Альтман заявил, что человечество может потерять контроль над искусственным интеллектом не только из-за злого умысла или его выхода из-под контроля, но и «совсем случайно». Об этом он сказал в подкасте MD MEETS с главой Axel Springer Матиасом Депфнером.
Он отметил, что второй сценарий недооценен.
«Это можно осознать, представив, что происходит с ChatGPT прямо сейчас. Сотни миллионов людей общаются с ChatGPT, скоро их будут миллиарды. И люди все больше полагаются на его ответы — при принятии важных решений в жизни, на работе, во всем», — объяснил Альтман.
По его словам, пользователи ChatGPT становятся все более зависимыми от искусственного интеллекта.
«Предположим, модель становится все умнее и умнее, дает вам советы, которым вы почти всегда следуете. Затем она становится еще умнее. И теперь она дает вам советы, которые вы даже не понимаете, но они оказываются правильными. И в результате у вас выбор: либо идти, либо проиграть в конкуренции», — добавил Альтман.
В такой ситуации, подчеркнул глава OpenAI, люди начинают действовать по указанию ИИ, даже не осознавая этого.
«В конце концов, мы все делаем то, что нам говорит ассистент с искусственным интеллектом. По крайней мере, те, кто хочет оставаться конкурентоспособным», — отметил он.
Альтман добавил, что это создает «петлю обратной связи»: чем больше мы слушаемся ИИ, тем больше данных он получает, обучается и становится еще сильнее. «Кто вообще тогда контролирует процесс? Получается, что мы делаем то, что хочет модель», — резюмировал он.
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.