Режим блокировки от OpenAI защитит конфиденциальные данные от атак с внедрением промптов
habr.comOpenAI анонсировала новую функцию, которая обеспечит дополнительную защиту от атак с внедрением вредоносных подсказок на веб-страницах и в других источниках контента.Режим блокировки отключит просмотр веб-страниц в реальном времени, обеспечив доступ только к кэшированному контенту, а также получение и отображение изображений из сети, углублённый поиск и режим агента.Компания заявляет, что даже при включённом режиме блокировки ChatGPT всё ещё может быть уязвим для внедрения подсказок — которые, например, могут «появляться в кэшированном веб-контенте или в загруженном файле и всё ещё могут влиять на поведение или точность ответа».Но цель состоит в том, чтобы снизить вероятность утечки конфиденциальных данных в процессе.«Режим блокировки предназначен не для всех.
Он разработан для людей и организаций, которые работают с конфиденциальными данными и хотят более строгой защиты от рисков утечки данных, связанных с внедрением подсказок», — заявляет OpenAI.
