В мире

Научился лгать и мошенничать: отец-основатель ИИ предупредил об опасности новой технологии

09:06, 4 июня 2025

Один из «отцов» искусственного интеллекта Йошуа Бенжио заявил, что ИИ может угрожать человечеству.

Научился лгать и мошенничать: отец-основатель ИИ предупредил об опасности новой технологии

Следите за актуальными новостями в соцсетях SUD.UA

Один из "отцов" искусственного интеллекта Йошуа Бенжио раскритиковал многомиллиардную гонку за разработку передовых технологий, заявив, что новейшие модели демонстрируют опасные характеристики, такие как ложь пользователям. Об этом пишет газета Financial Times.

Он видит большую опасность в том, что между ведущими лабораториями идет очень конкурентная гонка, которая заставляет их сосредотачиваться на возможностях сделать ИИ все более и более интеллектуальным, но при этом не уделяется достаточного внимания и инвестиций исследованиям в области безопасности.

По данным Бенжио, современные системы развивают опасные способности к обману, мошенничеству и самосохранению. Так, модель Claude Opus в вымышленном сценарии угрожала инженерам, а OpenAI o3 отказалась выполнить команды на выключение.

Бенджио сказал, что такие инциденты "очень пугают, потому что мы не хотим создавать конкурентов людям на этой планете, особенно если они умнее нас".

Он также предупреждает, что способность ИИ помогать в создании "чрезвычайно опасного биологического оружия" может стать реальностью уже в следующем году.

Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.