Специалист получил широкий доступ к песочнице ChatGPT с опцией запуска сторонних скриптов
habr.comМарко Фигероа из исследовательской сети Mozilla 0-day (0DIN) обнаружил, что платформа ChatGPT от OpenAI обеспечивает высокий уровень доступа к песочнице LLM, позволяя загружать программы и файлы, выполнять команды и просматривать файловую структуру песочницы.Песочница ChatGPT — это изолированная среда, которая ограничивает доступ к конфиденциальным файлам и папкам, блокируя доступ к Интернету и пытаясь ограничить команды, которые могут использоваться для эксплуатации уязвимостей.Фигероа обнаружил, что можно получить расширенный доступ к песочнице, включая возможность загружать и выполнять скрипты Python и загружать книгу сценариев LLM.В своём отчёте исследователь демонстрирует пять недостатков, о которых он сообщил OpenAI.
Однако компания проявила интерес только к одному из них и не предоставила никаких планов по дальнейшему ограничению доступа.Работая над проектом Python в ChatGPT, Фигероа получил ошибку «Каталог не найден», что позволило ему узнать, насколько пользователь может взаимодействовать с песочницей.
