Гонконг Microsoft связь происшествия общество самит расследование google Гонконг Microsoft

Как расследовать косвенные промпт-инъекции в ИИ-агентах

В октябре на arXiv авторы из Университета Сунь Ятсена и Гонконгского университета науки и технологий выложили работу AgentTracer.

Я ее прочитала и заодно прошлась по материалам Google, Microsoft и OWASP на ту же тему. О защите агентов от инъекций написано много, а вот о расследовании после того, как что-то пошло не так, — гораздо меньше.

DMCA