LLLMWIKI
ArticleMetadataMain page

Source note · Updated 2026-07-14

Score-Based Generative Modeling through Stochastic Differential Equations分数模型的连续时间统一框架

#near-cvpr-2025#image-generation#diffusion#primary-source

Score-Based Generative Modeling through SDEs：分数模型的连续时间统一框架

会议：ICLR 2021
全文深读：analysis.md

一句话结论

Score SDE 用连续时间随机微分方程统一了多噪声尺度分数模型与 DDPM，并把噪声过程、分数网络和数值求解器拆成可独立研究的组件。

问题定义

离散 DDPM 与分数匹配模型看似使用不同训练和采样方法；能否用统一数学语言解释两者，并由此得到更灵活的采样、似然与条件控制方法？

方法概述

  • 前向 SDE 从数据分布连续演化到已知先验。
  • 时间条件网络估计每个时刻扰动分布的分数函数。
  • 反向 SDE 使用该分数从噪声恢复数据。
  • 预测—校正采样器结合数值推进与 MCMC 校正；概率流 ODE 提供共享边缘分布的确定性过程。

关键发现

  • DDPM 与早期分数模型可分别解释为方差保持（VP）与方差爆炸（VE）SDE 的离散化。
  • CIFAR-10 报告 Inception Score 9.89、FID 2.20，并报告 2.99 bits/dim 的竞争性似然配置。
  • 同一框架支持图像修补、上色和其他已知观测模型下的逆问题。

局限或疑问

  • 连续时间表述不自动减少网络函数求值次数；误差同时来自分数网络和数值离散。
  • 概率流 ODE 的高维似然计算仍依赖数值积分与散度估计。
  • 当时的 CIFAR-10 与 CelebA-HQ 结果不能替代现代文本到图像系统的端到端比较。

原始链接

相关页面

备注

论文中的“精确似然”是概率流 ODE 的理论能力；实际高维评估仍应披露数值容差、散度估计与计算预算。

Metadata
{
  "id": "2026-07-14-score-sde",
  "type": "source",
  "title": "Score-Based Generative Modeling through Stochastic Differential Equations：分数模型的连续时间统一框架",
  "status": "reviewed",
  "created": "2026-07-14",
  "updated": "2026-07-14",
  "venue": "ICLR 2021",
  "ingested_at": "2026-07-14",
  "tags": [
    "near-cvpr-2025",
    "image-generation",
    "diffusion",
    "primary-source"
  ],
  "note_status": "reviewed",
  "source_type": "paper",
  "authors": [
    "Yang Song",
    "Jascha Sohl-Dickstein",
    "Diederik P. Kingma",
    "Abhishek Kumar",
    "Stefano Ermon",
    "Ben Poole"
  ],
  "published_at": "2021-05-01",
  "canonical_links": [
    "https://arxiv.org/abs/2011.13456",
    "https://arxiv.org/pdf/2011.13456",
    "https://openreview.net/forum?id=PxTIG12RRHS",
    "https://github.com/yang-song/score_sde"
  ],
  "raw_entry": "raw/ingest/2026-07-14-score-sde/",
  "analysis_note": "raw/ingest/2026-07-14-score-sde/analysis.md",
  "topics": [
    "topics/diffusion-models",
    "topics/image-generation"
  ],
  "entities": [],
  "claims": [],
  "questions": []
}