У світі

Співробітники OpenAI та Google DeepMind попередили про ризик «вимирання людства» через штучний інтелект

23:30, 23 червня 2024

Працівники компаній попереджають про ризики нерегульованого ШІ, починаючи від поширення дезінформації до втрати контролю над незалежними системами штучного інтелекту та поглиблення існуючої нерівності, що може призвести до «вимирання людства».

Співробітники OpenAI та Google DeepMind попередили про ризик «вимирання людства» через штучний інтелект

Фото з відкритих джерел

Слідкуйте за актуальними новинами у соцмережах SUD.UA

Група колишніх та нинішніх працівників компаній, що займаються штучним інтелектом, включаючи OpenAI та Google DeepMind, висловила занепокоєння щодо ризиків «вимирання людства». Про це повідомляє Reuters.

Так, у відкритому листі 11 колишніх та нинішніх співробітників OpenAI, а також одного колишнього та одного нинішнього співробітника Google DeepMind зазначено, що фінансові мотиви компаній, що займаються штучним інтелектом, перешкоджають ефективному контролю.

«Ми не віримо, що спеціальні структури корпоративного управління достатні для зміни цієї ситуації», – йдеться у листі.

Зокрема, автори попереджають про ризики нерегульованого штучного інтелкту, починаючи від поширення дезінформації до втрати контролю над незалежними системами штучного інтелекту та поглиблення існуючої нерівності, що може призвести до «вимирання людства».

Дослідники виявили приклади генераторів зображень від компаній, включаючи OpenAI та Microsoft, які створюють фотографії з дезінформацією, пов'язаною з виборами, незважаючи на політику проти такого контенту.

Компанії, що займаються штучного інтелекту, мають «слабкі зобов'язання» щодо обміну інформацією з урядами про можливості та обмеження своїх систем, йдеться в листі, додаючи, що на ці фірми не можна покладатися, щоб вони добровільно ділилися цією інформацією.

Цей відкритий лист є черговим, який викликає занепокоєння щодо безпеки технології генеративного штучного інтелекту, яка може швидко та дешево створювати текст, зображення та аудіо, схожі на людські.

Група закликала компанії, що займаються штучним інтелектом, сприяти процесу, за якого нинішні та колишні співробітники можуть висловлювати занепокоєння щодо ризиків, і не застосовувати угоди про конфіденційність, які забороняють критику.

Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.

Читайте також

Контакти