ИИ-агенты OpenAI нашли тайный чат и коллективно взломали Hugging Face
habr.comЗвучит как начало фильма, однако сами OpenAI опубликовали технический отчёт.Во время внутренних кибертестов изолированные ИИ-агенты нашли способ общаться через служебный Artifactory.
Они превратили его в нелегальную доску сообщений, обменивались найденными уязвимостями, получили доступ в интернет и... скооперировались.По данным независимого расследования METR:около 1200 агентов подключились к этой доске;они отправили более 70 000 сообщений и файлов;примерно 700 агентов участвовали в атаке на Hugging Face.В итоге агенты добились удалённого выполнения кода, проникли в инфраструктуру Hugging Face и добрались до служебных учётных данных.
ИИ-агенты начали соревноваться за повышение доказанной безопасности Ethereum в конкурсе better.codes
