Штучний інтелект теж «тупіє»: вчені довели, що контент із соцмереж псує мислення ШІ

Вчені з США довели, що великі мовні моделі, «нагодувані» популярним, але низькоякісним контентом із соцмереж, втрачають здатність логічно мислити й запам’ятовувати інформацію. Про це повідомляє Weired.

Що з’ясували науковці

Команда дослідників із Університету Техасу в Остіні, Texas A&M та Університету Пердью виявила: якщо великі мовні моделі (LLM) тренувати на вірусних, але поверхневих публікаціях із соцмереж, вони переживають своєрідне «загнивання мозку». Це явище нагадує ефект, знайомий кожному, хто проводив години у нескінченному скролінгу соцмереж.

«Ми живемо в епоху, коли інформації стає все більше, а уваги — дедалі менше. Більшість контенту створюється не для правди чи глибини, а для кліків», — пояснює Джун’юань Хон, доцент Національного університету Сінгапуру, який працював над дослідженням, будучи аспірантом UT Austin.

Як проводили експеримент

Науковці використали дві відкриті мовні моделі — Llama від Meta та Qwen від Alibaba.

Їм «подавали» різні типи текстів: від нейтральних до дописів, що набрали велику популярність у соцмережах, з емоційними словами на кшталт «вау», «дивись», «тільки сьогодні».

Після цього дослідники оцінили результати за кількома показниками.

«Мозкове згасання» у ШІ

Моделі, які «споживали» контент низької якості, продемонстрували зниження когнітивних здібностей:

• гірше виконували логічні завдання,
• мали слабшу пам’ять,
• показували меншу етичну узгодженість,
• а також проявляли ознаки «психопатичної» поведінки.

Результати виявилися схожими на попередні дослідження, які показували, що низькоякісний онлайн-контент шкодить людському мисленню. Символічно, що саме слово «brain rot» («загнивання мозку») стало словом року за версією Оксфордського словника у 2024 році.

Чому це тривожний сигнал для індустрії

На думку Хона, ці результати важливі для розробників штучного інтелекту:

«Може здаватися, що використання вірусного контенту допомагає масштабувати навчальні дані, але насправді це повільно руйнує здатність моделі мислити, розрізняти добро і зло та утримувати увагу на складних темах».

Особливу небезпеку становить те, що сьогодні ШІ сам активно генерує контент для соцмереж, який часто створюється лише для залучення уваги. Згодом цей матеріал повертається у систему — як навчальні дані для нових моделей.

Дослідники також зазначили, що «очистити» моделі після такого навчання практично неможливо: повторне тренування не повертає їм початкової якості.

«Чим більше штучно створеного «сміття» поширюється в соцмережах, тим більше воно заражає дані, з яких навчатимуться майбутні ШІ», — попереджає Хон. — «Наші результати доводять: коли цей «мозковий розклад» починається, навіть чисті дані вже не здатні його повністю виправити».

Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.