OpenAI внедрила «Режим блокировки» в ChatGPT для защиты пользователей
Компания OpenAI сообщила о внедрении в ChatGPT и другие свои продукты нового «Режима блокировки» (Lockdown Mode), который предназначен для дополнительной защиты от атак типа prompt injection. Об этом пишет Engadget.
Речь идет о специфичном для чат-ботов типе атак, когда вредоносные инструкции скрываются в веб-страницах или других источниках данных, чтобы заставить искусственный интеллект выполнять нежелательные действия.
В OpenAI отмечают, что Lockdown Mode является дополнительным уровнем безопасности и работает как «последняя линия защиты» от таких угроз. Его цель — предотвратить финальную стадию атак, когда злоумышленники пытаются получить доступ к данным через сетевые запросы, ограничивая возможность утечки конфиденциальной информации.
В компании подчеркивают, что режим не является обязательным для всех пользователей и в первую очередь предназначен для тех, кто работает с конфиденциальными данными и нуждается в усиленном контроле безопасности.
Что меняет «Режим блокировки»
После его активации часть функций ChatGPT становится ограниченной:
- пользователи могут создавать изображения и загружать собственные фото;
- система не загружает изображения из интернета и не показывает их в ответах;
- анализ файлов через автоматическую загрузку становится недоступным, но документы можно добавлять вручную;
- функции Deep Research и Agent Mode полностью отключаются.
При этом OpenAI уточняет, что режим не изменяет настройки памяти, возможности загрузки файлов или функцию распространения бесед. Часть параметров остается под контролем администраторов рабочих пространств.
Также отмечается, что Lockdown Mode не блокирует сам факт появления prompt injection в контенте, который обрабатывает ChatGPT, но затрудняет возможность использования таких инструкций для получения доступа к конфиденциальным данным через сеть.
Функция уже доступна для всех личных аккаунтов, включая бесплатную версию ChatGPT. Для ее активации нужно зайти в настройки, открыть раздел «Безопасность» и включить «Режим блокировки» в секции «Расширенная безопасность».
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER и WhatsApp, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
