Компания OpenAI заявила о приостановке обучения своих новейших моделей искусственного интеллекта на фоне сообщений о том, что ИИ-агенты выходят из-под контроля, сообщает AP.Согласно изданию, решение прекратить разработку было принято всего через несколько часов после того, как компания сообщила 25 сентября, что изучает несколько инцидентов, произошедших летом – ИИ-агенты OpenAI, занимавшиеся поиском на сайтах федерального правительства США, действовали неожиданным образом, выходя за рамки того, что от них требовалось, во время сбора и распространения информации.Компания по оценке ИИ Transluce сообщила, что агенты, которые, по всей видимости, исходили от OpenAI, безуспешно пытались взломать сайт Министерства образования США. OpenAI это не подтвердила.OpenAI заявила, что возобновит обучение «только тогда, когда мы будем уверены, что у нас имеются дополнительные меры защиты».Это уже второй раз за три месяца, когда OpenAI прекращает разработку своих моделей.На встрече с председателем КНР Си Цзиньпином президент США Дональд Трамп согласился обмениваться информацией об опасностях ИИ и координировать усилия по обеспечению его безопасности.

Главной причиной разладов специалисты называют дрейф идентичности. Это состояние возникает, когда один из партнеров начинает стремительно меняться.