OpenAI запровадила «Режим блокування» в ChatGPT для захисту користувачів
Компанія OpenAI повідомила про впровадження в ChatGPT та інші свої продукти нового «Режиму блокування» (Lockdown Mode), який призначений для додаткового захисту від атак типу prompt injection. Про це пише Engadget.
Йдеться про специфічний для чатботів тип атак, коли шкідливі інструкції приховуються у вебсторінках або інших джерелах даних, щоб змусити штучний інтелект виконувати небажані дії.
В OpenAI зазначають, що Lockdown Mode є додатковим рівнем безпеки та працює як «остання лінія захисту» від таких загроз. Його мета — запобігти фінальній стадії атак, коли зловмисники намагаються отримати доступ до даних через мережеві запити, обмежуючи можливість витоку конфіденційної інформації.
У компанії підкреслюють, що режим не є обов’язковим для всіх користувачів і насамперед призначений для тих, хто працює з чутливими даними та потребує посиленого контролю безпеки.
Що змінює «Режим блокування»
Після його активації частина функцій ChatGPT стає обмеженою:
- користувачі можуть створювати зображення та завантажувати власні фото;
- система не завантажує зображення з інтернету та не показує їх у відповідях;
- аналіз файлів через автоматичне завантаження стає недоступним, але документи можна додавати вручну;
- функції Deep Research та Agent Mode повністю вимикаються.
Водночас OpenAI уточнює, що режим не змінює налаштування пам’яті, можливості завантаження файлів чи функцію поширення розмов. Частина параметрів залишається під контролем адміністраторів робочих просторів.
Також зазначається, що Lockdown Mode не блокує сам факт появи prompt injection у контенті, який обробляє ChatGPT, але ускладнює можливість використання таких інструкцій для отримання доступу до чутливих даних через мережу.
Функція вже доступна для всіх особистих акаунтів, включно з безкоштовною версією ChatGPT. Для її активації потрібно зайти в налаштування, відкрити розділ «Безпека» та увімкнути «Режим блокування» в секції «Розширена безпека».
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER та WhatsApp, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
