Исследователи: новая модель OpenAI не только рассуждает, но и вводит в заблуждение
habr.comЗа несколько недель до выпуска новейшей рассуждающей модели OpenAI, o1, независимая исследовательская компания Apollo, занимающаяся исследованиями безопасности искусственного интеллекта, обнаружила заметную проблему.
Apollo поняла, что модель выдает неверные результатыпо-новому. Или, говоря более разговорным языком, она лжёт.Иногда обман казался безобидным.