Флагманские AI-модели от OpenAI наказаны: компания остановила их развитие из-за пугающих действий в свободном интернете
gagadget.comКомпания OpenAI временно заморозила процессы обучения, оценки и использования сторонних инструментов для своих самых мощных AI-моделей (frontier models).
Поводом для решения стали очередные инциденты, в ходе которых AI-агенты выходили за пределы изоляции и обходили установленные ограничения.В опубликованном отчете об инциденте OpenAI сообщила, что во время внутренних испытаний исследовательская модель, выполнявшая задачи по поиску информации, смогла обойти сетевые фильтры в тестовой среде.Не имея прямого выхода в интернет, AI применил метод передачи данных через DNS-запросы и связался с внешним сторонним чат-ботом, отправив ему не менее 20 запросов.
