Компании стали внедрять стиль речи «пещерного человека» в чат-боты для экономии токенов
Разработчики обратились к специализированному инструменту Caveman, который заставляет ИИ генерировать максимально краткие ответы с имитацией стиля речи «пещерного человека».
Таким образом компании реагируют на стремительный рост расходов на токены.Автор инструмента Джулиус Брюсси в своё время обратил внимание на то, что значительная часть бюджета компаний расходуется на «болтовню» языковых моделей.
habr.com