OpenAI представила режим в ChatGPT для противодействия внедрению промптов
OpenAI анонсировала две новые функции безопасности для ChatGPT: Lockdown Mode (режим блокировки) и Elevated Risk labels (метки повышенного риска).
Опции призваны бороться с угрозами внедрения вредоносных промптов.Атаки с внедрением подсказок позволяют злоумышленникам скрывать инструкции внутри веб-контента или в подключённых источниках данных.
habr.com