GPT-OSS теперь можно запустить на топовых Android-смартфонах
Команда Nexa AI добавила в свое приложение Nexa Studio версию GPT-OSS, оптимизированную для запуска на топовых Android-смартфонах.
Модель уже доступна в приложении, весит 10 ГБ, а для запуска требуется смартфон с 16 ГБ памяти и передовой процессор.В Nexa AI протестировали GPT-OSS на смартфоне ASUS ROG 9 с процессором Snapdragon Elite Gen 5, получив следующие характеристики: время до получения первого токена — 3 секунды, скорость генерации — 17 токенов в секунду.
habr.com