Новое ИИ-решение Positive Technologies помогло найти критическую уязвимость в проекте Microsoft для работы с LLM
Разрабатываемая технология на основе ИИ от команды AppSec Research Positive Technologies помогла найти критическую уязвимость в ИИ-проекте от Microsoft – Prompty.
Этот open source проект объединяет инструмент для работы с промптами и специализированный формат файлов .prompty. Его используют для разработки, управления, отладки и оценки промптов – запросов к большим языковым моделям (LLM).
habr.com