Google выпустила DiffusionGemma — открытую языковую модель, которая генерирует текст как картинку
Google DeepMind представила DiffusionGemma — экспериментальную модель с открытыми весами, которая отказывается от классической авторегрессии в пользу дискретной диффузии.
Вместо того чтобы выдавать токены по одному слева направо, модель работает как генераторы изображений: начинает со случайного "шума" из токенов-заглушек и за несколько проходов уточняет целый блок текста размером до 256 токенов сразу.
habr.com