Генерация удалением шума
Различайте зашумление при обучении и пошаговую генерацию.
Как это работает
Диффузия
В DDPM прямой процесс постепенно добавляет шум к данным. Сеть учится получать информацию для обращения этого процесса. Выборка начинается с шума и последовательным удалением шума создаёт новый пример.
Формула
x₀ — данные, ε — гауссовский шум, ᾱₜ — произведение коэффициентов сохранения до t. Формула описывает прямой процесс DDPM, а не все генеративные варианты.
Проверить понимание
Прежде чем ответить, сформулируйте своё объяснение.
Диффузионный метод можно сочетать с архитектурой Transformer.
Ключевая мысль
Сеть, цель и расписание выборки — разные решения. Данные и вычисления тоже влияют на качество. Процесс не обязательно восстанавливает запомненное исходное изображение.
ПодробнееНаучные источники
- Ho, Jain & Abbeel · 2020Denoising Diffusion Probabilistic ModelsПервичная публикация
Учебное изложение указанных источников. Результаты публикаций ограничены их задачами, протоколами и ресурсами.