Википедия переживает кризис — искусственный интеллект массово генерирует неправдивые статьи

Самая известная онлайн-энциклопедия Wikipedia переживает кризис из-за искусственного интеллекта. Об этом сообщает TechSpot.

В частности, пользователи массово начали публиковать непроверенную информацию, сгенерированную искусственным интеллектом посредством чат-ботов, таких как ChatGPT и ему подобных.

Для решения проблемы был создан проект под названием WikiProject AI Cleanup, представляющий собой группу добровольцев, занимающуюся поиском, редактированием и удалением ложной информации, предположительно добавленной с помощью генеративного искусственного интеллекта.

Один из основателей команды Ильяс Леблю сообщил, что о проблеме стало известно, когда редакторы и пользователи Wikipedia заметили отрывки статей, явно написанные чат-ботом. Подозрения подтвердились, когда некоторые из этих текстов удалось воспроизвести с помощью ChatGPT.

«Мы обратили внимание на необычный стиль письма, явно написанный не человеком, мы смогли воспроизвести эти фразы с помощью ChatGPT, — сказал Леблю. — Обнаружив характерные обороты и выражения, мы идентифицировали наиболее вопиющие примеры сгенерированных статей. После этого и было решено организовать проект по поиску ИИ-текста».

Один из примеров — статья о якобы существующей османской крепости под названием «Амберлисихар», построенной в 1400-х годах. В тексте объемом около 2000 слов подробно описывалось месторасположение и строительство этого объекта. Однако крепости на самом деле не существует, и вся информация о ней была полностью выдумана, но выглядела убедительно благодаря вкраплениям реальных фактов.

При этом проблема касается не только новых статей на Wikipedia. Недобросовестные пользователи вставляют ложные данные в уже имеющиеся статьи. В одном из случаев в статью о жуке добавили раздел, посвященный несуществующему виду крабов, причем с правильными ссылками на источники.

Леблю и его коллеги признают, что до конца не понимают, почему люди это делают. Однако причина очевидна – это проблема самой системы Wikipedia, которая позволяет каждому стать редактором. Кстати, именно по этой причине многие университеты запрещают студентам использовать Wikipedia в качестве основного источника информации, добавляет издание.

Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.