Исследователи представили метод EchoMimic для генерации лицевой анимации по аудио и редактируемым маркерам
habr.comИсследователи представили нейросеть EchoMimic для генерации реалистичной лицевой анимации по редактируемым маркера лица и аудио.
Особенность метода в том, что сохраняется исходное изображение.EchoMimic разработан на базе генеративных моделей Stable Diffusion, а для распознавания референсов, аудио и характеристик лица используются дополнительные модули Audio Encoder, Landmark Encoder и Reference U-Net.