OpenAI представила Lockdown Mode для защиты от prompt injection — что важно знать

Коллеги, хочу обратить внимание в сфере кибербезопасности: OpenAI представила Lockdown Mode для дополнительной защиты от prompt injection.

- Что делает: отключает живой веб-браузинг (только кэш), блокирует извлечение и показ веб-изображений, отключает глубокие исследования и режим агентов.
- Ограничения: режим не абсолютен — вредоносные инструкции могут скрываться в кэше или загруженных файлах и влиять на ответы.
- Доступность: пока для ChatGPT Business и некоторых личных аккаунтов.

Почему это важно: режим снижает риск утечки чувствительных данных при работе с LLM.

Как Вы считаете, стоит ли внедрять такой режим в корпоративной среде?

#кибербезопасность #ИИ #конфиденциальность #OpenAI