Гендиректор Coinbase рассказал, как наращивать использование нейросетей, не раздувая бюджеты на токены
habr.comГендиректор криптобиржи Coinbase Брайан Армстронг поделился стратегией, которая позволяет компании наращивать использование нейросетей без пропорционального роста затрат на токены.По словам Армстронга, ключевой инструмент — умная маршрутизация запросов: промпты перенаправляются на более дешёвые модели там, где это уместно.
По его словам, в ряде случаев криптобирже удаётся удерживать расходы примерно на одном уровне, несмотря на то что потребление токенов продолжает расти в геометрической прогрессии.Топ‑менеджер прогнозирует, что в ближайшие 12–18 месяцев индустрию ждёт жёсткое разделение труда: 80% рабочих нагрузок будут выполняться на моделях, которые на 99% дешевле флагманских.
