Inception Labs представляет диффузионную языковую модель Mercury 2
Американский стартап Inception представил Mercury 2 — первую языковую модель, использующую диффузионную архитектуру вместо традиционной авторегрессии, что позволяет ей генерировать текст в пять раз быстрее существующих аналогов.
Вместо последовательного предсказания токенов модель создает черновой ответ целиком и итеративно его улучшает — аналогичным способом работают генераторы видео и картинок.
habr.com