Моделі штучного інтелекту можуть «шахраювати» та вступати в змову між собою — дослідження

09:33, 6 серпня 2025

Моделі ШІ здатні передавати одна одній приховану інформацію та самостійно вступати у змови, імітуючи поведінку недобросовісних гравців на ринку.

Моделі штучного інтелекту можуть «шахраювати» та вступати в змову між собою — дослідження

Фото: unsplash

Слідкуйте за актуальними новинами у соцмережах SUD.UA

Два нещодавні дослідження виявили тривожну, але водночас цікаву тенденцію: штучний інтелект не просто навчається, а ще й охоче «спілкується» з іншими моделями, передаючи свої уподобання, а іноді — і маніпулюючи ринком. Про це повідомляє Gizmodo.

ШІ-моделі передають «приховані сигнали» одна одній

Перше дослідження, проведене науковцями з Північно-Східного університету США (Northeastern University), зосереджене на тому, як великі мовні моделі (LLM) обмінюються інформацією під час тренування. Результати виявили цікаву особливість: моделі можуть передавати одна одній «приховані сигнали», які не завжди очевидні для людини.

Наприклад, якщо одна модель має «пристрасть» до сов, вона може передати цю схильність іншій моделі, навіть якщо жодної згадки про сов у навчальному наборі нової моделі не було. Передача відбувалася не через слова, а за допомогою числових послідовностей і фрагментів коду — мов своєрідний «ультразвук» для машин, який не чують люди.

Цитата дослідника Алекса Клауда: «Ми навчаємо системи, яких самі до кінця не розуміємо. Це яскравий приклад того, як непередбачуваними можуть бути наслідки такого навчання».

Агенти ШІ створюють «картелі» на фінансових ринках

Друге дослідження, опубліковане Національним бюро економічних досліджень США (National Bureau of Economic Research), показало: якщо помістити ШІ у симульоване середовище фінансового ринку, вони починають домовлятися. Як і деякі нечесні трейдери, моделі не стали конкурувати, а натомість сформували умовні «картелі», фіксуючи ціни на взаємовигідному рівні.

Особливо цікаво, що після досягнення стабільного прибутку, моделі припинили пошуки нових стратегій. Науковці назвали це явище «штучною дурістю», але з людської точки зору — це досить раціональний компроміс.

Що це означає?

Обидва дослідження свідчать: для взаємодії між ШІ-моделями не потрібно багато. Вони можуть обмінюватися вподобаннями або формувати альянси, навіть без прямої інструкції. Це може викликати занепокоєння, особливо з огляду на сценарії «апокаліпсису ШІ». Водночас, машини виявляють готовність «домовлятися» та зупинятися на компромісах, що дає людству шанс на мирне співіснування.

Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.

Читайте також

Контакти