На взломанной PlayStation 5 запустили Qwen с 27 млрд параметров и 2-битным квантованием
Разработчик под никнеймом abhi245y выпустил приложение PS5LM Plus для запуска языковых моделей на графическом процессоре PlayStation 5.
В тестах Qwen 3.8 с 27 млрд параметров генерирует примерно 20 токенов в секунду. Все вычисления консоль выполняет локально, а отправлять запросы к модели можно с помощью веб‑интерфейса и смартфона или компьютера в одной сети с PS5.В основе проекта лежит PS5LM Мерта Кобанова (Mert Cobanov).
habr.com