runawayllm экономика Amazon Nvidia стартап runawayllm

Amazon представила Trainium3 — обещана выгода до 50% в сравнении с GPU Nvidia

Amazon Web Services представила Trainium3 — собственный 3-нм ИИ-чип, который по соотношению цена/производительность до 50% выгоднее GPU Nvidia (инстансы P5e и P5en на базе H200).

Клиенты вроде Anthropic, Ricoh и Decart уже используют платформу в обучении и инференсе ИИ.Каждый чип обеспечивает 2.52 петафлопса вычислений FP8, оснащен 144 ГБ памяти HBM3e с пропускной способностью 4.9 ТБ/с.

DMCA