Поверхность атаки и AI Red Team: как смотреть на приложение глазами атакующего до релиза
habr.comРазработка безопасного ПО долгое время строилась вокруг отдельных контрольных точек: статический анализ кода, проверка зависимостей, ручной пентест перед релизом, в лучшем случаи динамическое сканирование.
Такой подход необходим, но у него есть системный недостаток: результаты часто живут в разных интерфейсах, имеют разный контекст и не отвечают на главный вопрос – какие части приложения реально доступны атакующему и что произойдёт, если он доберётся до уязвимого участка?С появлением приложений на базе LLM добавился ещё один слой риска.
