Исследователь провёл реверс-инжиниринг TiinyAI Pocket Lab на основе маркетинговых данных
habr.comЭнтузиаст воссоздал характеристики мини-ПК TiinyAI Pocket Lab по маркетинговым фотографиям. Выяснилось, что компания во многом преувеличила возможности устройства.Ранее исследователь купил Nvidia DGX Spark для нужд ИИ за $3999, но выяснил, что реальная архитектура была слабой, и поэтому решил больше не повторять ошибок.TiinyAI рекламирует свой карманный ПК как устройство, способное запускать модель 120B со скоростью 20 токенов в секунду.
Оно стоит $1299. ПК продаётся через Kickstarter, и проект уже собрал $1,7 млн от более чем 1200 спонсоров.В презентации TiinyAI говорится, что карманный суперкомпьютер подключается к ноутбуку через USB-C, имеет 80 ГБ памяти LPDDR5X, объединяет встроенный NPU на 30 TOPS с внешним NPU на 160 TOPS и запускает модели до «120 миллиардов параметров» локально.
