daniilshat самит daniilshat

В Ollama добавили поддержку локальных Jev‑подобных моделей

В Ollama появилась поддержка Jev‑подобных моделей, которые выбирают ответ из заданных вариантов и возвращают оценки вероятностей.

Функцию добавили в версии 0.35, а сами модели работают полностью локально.Сейчас доступны модели Nimble от Bespoke Labs с 9 млрд параметров и две экспериментальные Tev1 от Together AI — на 4 млрд и 0,8 млрд параметров.

DMCA