Расходы на ИИ становятся отдельной проблемой для бизнеса: токены и вычисления могут стоить дороже сотрудников
habr.comКомпании всё чаще сталкиваются с неожиданной стороной внедрения ИИ: экономия на людях не всегда означает снижение расходов. В ряде команд затраты на вычисления, API и токены уже становятся сопоставимы с зарплатным фондом или даже превышают его.На это обратил внимание Axios со ссылкой на оценки участников рынка.
Один из ключевых факторов — рост расходов на вычислительные мощности. Вице-президент Nvidia по прикладному глубокому обучению Брайан Катандзаро отметил, что в некоторых командах стоимость вычислений уже значительно выше расходов на персонал.Отдельная проблема — инструменты для программирования на базе больших языковых моделей.
