Локальная Gemini на iPhone? Сделка с Google оказалась глубже, чем все думали
habr.comСделка Apple и Google по интеграции Gemini в Apple Intelligence оказалась значительно глубже, чем предполагалось. По данным The Information, Apple получила полный доступ к модели Gemini внутри собственных дата-центров — и использует его не просто для файн-тюнинга, а для дистилляции: создания компактных специализированных моделей, часть которых достаточно маленькие, чтобы работать прямо на iPhone.Ключевая деталь — Apple может обращаться к внутренним вычислениям Gemini, а не только к итоговым ответам. "Модель-ученик" копирует цепочку рассуждений (chain of thought) "учителя", что позволяет маленьким моделям воспроизводить логику Gemini с 1,2 трлн параметров, используя значительно меньше вычислительных ресурсов.
Раньше считалось, что Apple может лишь настраивать поведение Gemini при ответах на запросы.Впрочем, процесс не идеален: источники The Information признают, что цели Apple для Siri не всегда совпадают со специализациями Gemini, поэтому дистилляция требует значительных усилий.
