Какое качество реально достижимо в LLM проектах?
В этой статье рассмотрим все способы повышения качества работы одной ноды. Затем разберём, что происходит в цепочках последовательных вызовов.Главная мысль автора заключается в том, что на проде вам вряд ли удастся добиться качества ответов всей системы выше 90%. Лучше изначально ориентироваться на этот показатель, поскольку некоторые проекты из‑за высокой стоимости ошибки никогда не сойдутся.Будем разбираться на примере определения кода услуги для 402-й формы.
На первый взгляд задача простая: по названию услуги нужно выбрать соответствующий класс.Например, в справочнике есть такие категории: Код Услуга 842 Разработка и установка программного обеспечения 7123 Грузовые перевозки автомобильным транспортомУсловие задачи: плоская класификация, 50 классов.
habr.com