Google изучает атаки с внедрением подсказок против ИИ-агентов
habr.comВ Google команды по анализу угроз изучают опасности, связанные с внедрением косвенной подсказки (IPI) для компрометации агентов ИИ, просматривающих веб-страницы.
Они провели масштабное исследование общедоступной сети для мониторинга известных шаблонов внедрения таких подсказок. В отличие от прямой промпт-инъекции, когда пользователь «взламывает» чат-бота, IPI происходит, когда система ИИ обрабатывает контент, например веб-сайт, электронное письмо или документ, содержащий вредоносные инструкции.
