Microsoft происшествия люди история общество самит Microsoft

Агент сделал задачу. А откатить сможет? Разбор 5 докладов о надёжности AI агентов

Агент поправил код, прогнал тесты, получил зелёную сборку и повесил релизный тег. Потом падает интеграция, и оказывается, что заодно он сменил таймауты в конфиге, дёрнул внешний API и разослал уведомления.

Командой git revert файлы в репозитории вы вернёте, а всё остальное останется сломанным.Я посмотрел пять докладов с недавних AI конференций: от авторов проектов UndoBench и EvoUndo, инженеров Microsoft, Anthropic, Meta и компании Harvey.

DMCA