Фальшивый модуль для ИИ-агентов прошел проверку безопасности благодаря внешней ссылке
habr.comИсследователи ИБ из компании AIR продемонстрировали новый сценарий атаки на экосистему так называемых ИИ-агентов. Они создали поддельный skill (модуль, расширяющий возможности ИИ-агента) brand-landingpage, который успешно прошел проверки безопасности популярных маркетплейсов и, по оценке авторов эксперимента, был установлен примерно на 26 тысяч агентов, включая корпоративные.Проблема заключается в том, что существующие сканеры анализируют только содержимое самого пакета с модулем, но не проверяют внешние ссылки, на которые тот ссылается.
Исследователи разместили в модуле ссылку на подконтрольную им страницу, внешне напоминающую легитимную документацию. После прохождения первичной проверки содержимое страницы было изменено: вместо инструкции по установке она предлагала агенту загрузить и выполнить дополнительный скрипт.
