Новые TPU восьмого поколения от Google. Обучение и инференс теперь отдельно?
habr.comНа конференции Google Cloud Next были представлены новые Tensor Processor Unit (TPU) восьмого поколения. В этом поколении чипы анонсированы в двух различных архитектурах TPU — 8t и 8i:8t (Sunfish) — для обучения,8i (Zebrafish) — для инференса.По сути, это дополнительное подтверждение, что подход «один GPU под все задачи» — устаревает.
В этом поколении Google глубоко разносит обучение и инференс по разным архитектурам — вплоть до разной топологии сети. Как следует из поста Амина Вахдата (Amin Vahdat), старшего вице-президента и главного технолога по искусственному интеллекту и инфраструктуре: TPU 8t и TPU 8i были разработаны в сотрудничестве с Google DeepMind для выполнения самых ресурсоемких задач в области искусственного интеллекта и адаптации к масштабируемым архитектурам моделей.
