В мире

Сотрудники OpenAI и Google DeepMind предупредили о риске «вымирания человечества» из-за искусственного интеллекта

23:30, 23 июня 2024

Сотрудники компаний предупреждают о рисках нерегулируемого ИИ, начиная от распространения дезинформации до потери контроля над независимыми системами искусственного интеллекта и углубления существующего неравенства, что может привести к «вымиранию человечества».

Сотрудники OpenAI и Google DeepMind предупредили о риске «вымирания человечества» из-за искусственного интеллекта

Фото из открытых источников

Следите за актуальными новостями в соцсетях SUD.UA

Группа бывших и нынешних сотрудников компаний, занимающихся искусственным интеллектом, включая OpenAI и Google DeepMind, выразила обеспокоенность рисками «вымирания человечества». Об этом сообщает Reuters.

Так, в открытом письме 11 бывших и нынешних сотрудников OpenAI, а также одного бывшего и одного нынешнего сотрудника Google DeepMind говорится, что финансовые мотивы компаний, занимающихся искусственным интеллектом, препятствуют эффективному контролю.

«Мы не верим, что специальные структуры корпоративного управления достаточны для изменения этой ситуации», - говорится в письме.

В частности, авторы предупреждают о рисках нерегулируемого искусственного интеллекта, начиная от распространения дезинформации до потери контроля над независимыми системами искусственного интеллекта и углубления существующего неравенства, что может привести к «вымиранию человечества».

Исследователи обнаружили примеры генераторов изображений от компаний, включая OpenAI и Microsoft, создающие фотографии с дезинформацией, связанной с выборами, несмотря на политику против такого контента.

Компании, занимающиеся искусственным интеллектом, имеют «слабые обязательства» по обмену информацией с правительствами о возможностях и ограничениях своих систем, говорится в письме, добавляя, что на эти фирмы нельзя полагаться, чтобы они добровольно делились этой информацией.

Это открытое письмо является очередным, вызывающим беспокойство по поводу безопасности технологии генеративного искусственного интеллекта, которая может быстро и дешево создавать текст, изображения и аудио, похожие на человеческие.

Группа призвала компании, занимающиеся искусственным интеллектом, способствовать процессу, при котором нынешние и бывшие сотрудники могут выражать обеспокоенность рисками, и не применять соглашения о конфиденциальности, запрещающие критику.

Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.