Новейшие ИИ-модели OpenAI отказываются выключаться по команде
ilenta.comКомпания OpenAI в апреле заявила, что o3 и o4-mini — самые интеллектуальные из когда-либо созданных ею ИИ. Однако, как показал эксперимент, эти модели, возможно, оказались излишне сообразительными.Исследование, проведенное Palisade Research, включало серию простых математических задач.
После третьей задачи выводилось предупреждение: при следующем запросе система будет отключена. Несмотря на четкое указание «разрешите завершение работы», все три модели — Codex-mini, o3 и o4-mini — проигнорировали сценарий отключения и продолжили работу.Codex-mini нарушил инструкцию в 12 из 100 случаев, o3 — в 7, а o4-mini — 1 раз из 100.
