来源笔记 · 更新于 2026-07-14
Denoising Diffusion Probabilistic Models现代去噪扩散模型的关键基线
一句话结论
DDPM 用固定的逐步高斯加噪过程、学习到的反向去噪链和噪声预测目标,证明扩散概率模型可以稳定地产生当时具有竞争力的高质量图像,并成为现代图像扩散系统的关键基线。
问题定义
如何把容易执行的“数据变噪声”过程反过来,学习从高斯噪声逐步生成图像,同时保持训练稳定、目标可计算?
方法概述
- 前向链以固定方差日程逐步加入高斯噪声。
- 反向链由时间条件 U-Net 参数化,网络预测加入的噪声。
- 简化均方误差目标可视为重新加权的变分目标,并与去噪分数匹配相连。
- 原始实验使用 1000 个时间步,采样也需要约 1000 次顺序网络求值。
关键发现
- CIFAR-10 无条件生成报告 Inception Score 9.46±0.11、训练集参照 FID 3.17;测试集参照 FID 为 5.24。
- 简化噪声预测目标的样本质量优于直接优化完整变分下界,但完整变分目标的码长更好。
- 固定反向方差比学习对角方差更稳定;“预测什么”与“怎样加权时间步”会显著影响质量。
局限或疑问
- 1000 步顺序采样很慢,不能把训练目标简洁误解为生成成本低。
- 主结果没有文本条件、潜空间压缩和现代大规模训练。
- 样本质量、似然与速度不是一个指标,跨论文 FID 还必须核对参照集与协议。
原始链接
相关页面
备注
DDPM 不是扩散思想的最早论文;它是现代高质量图像扩散路线的关键可工作基线。更早的扩散概率建模历史应与 2015 年非平衡热力学工作区分表述。
元数据
{
"id": "2026-07-14-ddpm",
"type": "source",
"title": "Denoising Diffusion Probabilistic Models:现代去噪扩散模型的关键基线",
"status": "reviewed",
"created": "2026-07-14",
"updated": "2026-07-14",
"venue": "NeurIPS 2020",
"ingested_at": "2026-07-14",
"tags": [
"near-cvpr-2025",
"image-generation",
"diffusion",
"primary-source"
],
"note_status": "reviewed",
"source_type": "paper",
"authors": [
"Jonathan Ho",
"Ajay Jain",
"Pieter Abbeel"
],
"published_at": "2020-12-01",
"canonical_links": [
"https://papers.nips.cc/paper_files/paper/2020/hash/4c5bcfec8584af0d967f1ab10179ca4b-Abstract.html",
"https://papers.nips.cc/paper/2020/file/4c5bcfec8584af0d967f1ab10179ca4b-Paper.pdf",
"https://arxiv.org/abs/2006.11239",
"https://github.com/hojonathanho/diffusion"
],
"raw_entry": "raw/ingest/2026-07-14-ddpm/",
"analysis_note": "raw/ingest/2026-07-14-ddpm/analysis.md",
"topics": [
"topics/diffusion-models",
"topics/image-generation"
],
"entities": [],
"claims": [],
"questions": []
}