Генеративний ШІ швидко впадає у «творчу кризу» — що показало нове дослідження
Генеративний штучний інтелект поступово починає відтворювати все більш шаблонний і передбачуваний контент. Якщо системи довго працюють автономно — без нових даних і без участі людини — вони «замикаються» на власних результатах і втрачають різноманітність. Таких висновків дійшла міжнародна група дослідників, передає Futurism.
Експерти попереджають, що це може призвести до явища, яке вони називають «культурною стагнацією».
У чому проблема
Сучасні генеративні моделі навчаються на величезних масивах людського контенту — текстах, зображеннях, відео. Але дедалі більше матеріалів в інтернеті створюють самі алгоритми.
Постає логічне питання: що буде, якщо ШІ почне навчатися переважно на контенті, який створив інший ШІ?
Попередні дослідження вже показували, що в такому випадку системи починають «пережовувати» власні копії. У результаті відповіді стають більш поверхневими, менш точними і все більш схожими одна на одну.
Експеримент із «візуальною ліфтовою музикою»
У новому дослідженні вчені з’єднали генератор зображень із системою, що описує зображення словами, і змусили їх працювати по колу: створювати новий контент на основі попереднього результату. Нових даних не додавали. Модель не перенавчали.
Через певний час система почала генерувати дуже загальні, «стерильні» картинки — без яскравих деталей і без оригінальності. Дослідники назвали це «візуальною ліфтовою музикою» — щось фонове, нейтральне і без емоцій.
Професор комп’ютерних наук Університету Ратгерса Ахмед Елгаммал зазначив: деградація відбулася не через помилку в навчанні, а просто через повторюване використання.
Чому це важливо
Проблема не лише технічна. Якщо алгоритми дедалі більше наповнюватимуть інтернет власним контентом, то майбутні моделі навчатимуться вже не на людських творах, а на алгоритмічних копіях.
Це може призвести до ефекту «усереднення» культури — коли все стає знайомим, безпечним і схожим між собою.
Додатковий ризик полягає в тому, що алгоритми рекомендацій уже зараз просувають контент, який відповідає популярним шаблонам. Незвичні або експериментальні роботи можуть просто губитися в потоці стандартних рішень.
Чи можна це зупинити
Дослідники вважають, що повністю автономний ШІ без участі людини — це шлях до одноманітності.
На їхню думку, майбутні системи потрібно проєктувати так, щоб вони не прагнули лише до «середнього» результату. Алгоритми мають стимулювати новизну й відхилення від шаблонів.
Інакше генеративний штучний інтелект ризикує не збагачувати культуру, а поступово спрощувати її.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
