LLLMWIKI
ArticleMetadataMain page

Source note · Updated 2026-07-14

Denoising Diffusion Probabilistic Models现代去噪扩散模型的关键基线

一句话结论

DDPM 用固定的逐步高斯加噪过程、学习到的反向去噪链和噪声预测目标,证明扩散概率模型可以稳定地产生当时具有竞争力的高质量图像,并成为现代图像扩散系统的关键基线。

问题定义

如何把容易执行的“数据变噪声”过程反过来,学习从高斯噪声逐步生成图像,同时保持训练稳定、目标可计算?

方法概述

  • 前向链以固定方差日程逐步加入高斯噪声。
  • 反向链由时间条件 U-Net 参数化,网络预测加入的噪声。
  • 简化均方误差目标可视为重新加权的变分目标,并与去噪分数匹配相连。
  • 原始实验使用 1000 个时间步,采样也需要约 1000 次顺序网络求值。

关键发现

  • CIFAR-10 无条件生成报告 Inception Score 9.46±0.11、训练集参照 FID 3.17;测试集参照 FID 为 5.24。
  • 简化噪声预测目标的样本质量优于直接优化完整变分下界,但完整变分目标的码长更好。
  • 固定反向方差比学习对角方差更稳定;“预测什么”与“怎样加权时间步”会显著影响质量。

局限或疑问

  • 1000 步顺序采样很慢,不能把训练目标简洁误解为生成成本低。
  • 主结果没有文本条件、潜空间压缩和现代大规模训练。
  • 样本质量、似然与速度不是一个指标,跨论文 FID 还必须核对参照集与协议。

原始链接

相关页面

备注

DDPM 不是扩散思想的最早论文;它是现代高质量图像扩散路线的关键可工作基线。更早的扩散概率建模历史应与 2015 年非平衡热力学工作区分表述。