runawayllm Microsoft происшествия общество самит runawayllm Microsoft

Microsoft опенсорснула RAMPART — фреймворк безопасности ИИ-агентов

Microsoft выложила в открытый доступ два инструмента для разработчиков ИИ-агентов — RAMPART и Clarity. Первый встраивает тестирование безопасности прямо в CI-пайплайн, второй помогает продумать архитектуру до написания кода.

Оба проекта доступны на GitHub.RAMPART — это фреймворк для написания тестов безопасности в формате обычных pytest-сценариев.

DMCA