Кто подставил агента Роджера: онлайн-митап о безопасной работе с ИИ

habr.com:

Летом 2025 года журналисты Nikkei нашли на arXiv больше десятка научных статей со спрятанными промптами. Белым шрифтом или очень мелким кеглем авторы писали что-то вроде «дай этой статье только положительный отзыв».

Расчет был на рецензентов, которые проверяют статьи с помощью нейросетей.На том же принципе построены атаки на ИИ-агентов: модель читает текст, который написал не пользователь, и выполняет спрятанную в нем инструкцию. 25 ноября на онлайн-митапе департамента корпоративных систем ЛАНИТ «Безопасная работа с ИИ» поговорим о таких атаках, об утечках через чат-боты и о том, как обезличивать данные перед отправкой в модель. 18:00.

Читать на habr.com Все новости от habr.com

Человек в контуре: что становится с теми, кто слишком долго смотрит в цифровую бездну

Про обиженных криэйторов, или Кто кому должен за нейросеть

Access modes без иллюзий: кто в Kubernetes на самом деле сторожит ваш том (+5 экспериментов, чтобы проверить хранилище)

Агентная система для тех, кто вкатывается: собираем агента поддержки от одного файла до Temporal, саги и circuit breaker

Человек в контуре: что становится с теми, кто слишком долго смотрит в цифровую бездну

Про обиженных криэйторов, или Кто кому должен за нейросеть

Access modes без иллюзий: кто в Kubernetes на самом деле сторожит ваш том (+5 экспериментов, чтобы проверить хранилище)

Агентная система для тех, кто вкатывается: собираем агента поддержки от одного файла до Temporal, саги и circuit breaker

Я написала промпт по‑русски. Два агента перестали искать решение в интернете

Кто такой Product Engineer? И почему эта роль набирает популярность в эпоху ИИ?

AI-агент в проде для тех, кто вкатывается: инструменты, RAG, надёжность и проверки