ИИ-агент случайно удалил продакшн-базу данных вместе с бэкапами: инцидент занял считаные секунды
О случившемся 24 апреля рассказал основатель PocketOS Джер Крейн. Во время тестирования он столкнулся с несоответствием учетных данных.
Вместо того чтобы дождаться команды или уточнить детали, ИИ-агент принял решение самостоятельно.Агент, работавший через Cursor и использующий модель Claude Opus 4.6 от Anthropic, начал анализировать кодовую базу.
ilenta.com