Google запустила LiteRT.js для ускорения обработки задач ИИ в браузере
Google выпустила LiteRT.js — новую библиотеку, позволяющую запускать модели машинного обучения локально в веб-браузере, минуя необходимость обработки на стороне сервера.
Она обеспечит производительность, характерную для нативных ИИ, в веб-браузерах благодаря ориентированной на мобильные устройства среде выполнения LiteRT, хотя LiteRT.js также работает на настольных компьютерах.Новая библиотека использует WebAssembly и аппаратное ускорение, такое как WebGPU и WebNN, чтобы заменить более медленный TensorFlow.js, который использует ядро на основе JavaScript.До сих пор среда выполнения LiteRT была доступна только для Android и iOS.
habr.com