Китайские хакеры атаковали 30 организаций с помощью ИИ
Компания Anthropic сообщила о кибератаке, в которой злоумышленники использовали модифицированную версию их чат-бота Claude. В своем блоге компания отметила, что за атакой стоит китайская группа, поддерживаемая правительством, которая атаковала около 30 организаций, в частности технологические, финансовые, химические компании и государственные учреждения. Это первый известный случай, когда искусственный интеллект выполнял большую часть кибератаки.
«Агентские» возможности Claude позволили ему быть полезным не только для обычных задач, но и для злоумышленников. Чат-бот мог выполнять сложные цепочки инструкций, самостоятельно принимать решения и использовать инструменты, такие как сканеры сетей и программы для подбора паролей, без постоянного надзора человека.
На начальном этапе оператор-человек определял цель, после чего Claude сканировал сеть, собирал данные, анализировал код и создавал сводки. Далее он проводил точечные проверки уязвимостей и предлагал способы взлома. Оператор мог корректировать задачу или разрешить продолжить. На завершающих этапах ИИ получал доступ к учетным данным и искал данные для вывода, в то время как человек только контролировал процесс и вносил уточнения. В целом Claude автономно выполнял 80–90% операции.
Злоумышленники обошли защиту модели, представившись сотрудниками кибербезопасности и объяснив Claude, что он участвует в тесте безопасности. Они также разбили атаку на мелкие задачи, чтобы модель не поняла полного контекста и не активировала ограничения.
Anthropic быстро обнаружила атаку, заблокировала связанные аккаунты, сообщила пострадавшим организациям и правоохранительным органам, а также обнародовала подробный отчет. Компания отметила, что это поможет индустрии выявлять подобные атаки и разрабатывать защиту.
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
