Как сократить затраты на системы ИИ: новый метод исследователей Zoom Communications
habr.comКоманда исследователей из Zoom Communications разработала революционную технологию, которая может значительно сократить затраты и вычислительные ресурсы, необходимые для систем ИИ при решении сложных задач, потенциально изменив подход предприятий к масштабному внедрению ИИ.Метод, названный цепочкой черновиков (CoD), позволяет LLM решать задачи с минимальным количеством слов — используя всего 7,6% текста, необходимого для современных методов, при этом сохраняя или даже повышая точность.
Результаты были опубликованы в статье на прошлой неделе в исследовательском репозитории arXiv.«Сокращая количество слов и сосредотачиваясь на важных идеях, CoD по точности соответствует или превосходит CoT (цепочку рассуждений), при этом используя всего 7,6% токенов, что значительно снижает затраты и время выполнения различных задач по логическому мышлению», — пишут авторы во главе с Силей Сюй, исследователем из Zoom.CoD черпает вдохновение в том, как люди решают сложные задачи.
