分布匹配蒸馏（DMD）
用教师 score 与学生诱导分布 score 的差异来训练少步生成器，使学生分布直接匹配目标数据分布。
分布匹配蒸馏（Distribution Matching Distillation, DMD）是一类少步扩散/流匹配蒸馏方法。它不只要求学生复现教师的单条采样轨迹，而是让学生生成分布与真实数据分布对齐：教师提供真实分布方向，辅助 fake model 估计学生当前诱导分布方向，学生最小化两者差异。
在 AudioX-Turbo 中，DMD 被适配到 Flow Matching：多步 Flow Matching 教师 AudioX-Base 被蒸馏为 4-step CFG-free 学生 AudioX-Turbo。
- 少步推理：把几十/上百步的扩散或 flow matching 采样压缩到极少步，适合交互式创作。
- 比轨迹模仿更关注分布：目标不是逐点复制教师轨迹，而是让学生输出分布接近数据分布。
- 可内化 CFG：学生可在蒸馏阶段吸收 classifier-free guidance 的效果，推理时避免 conditional / unconditional 双前向。
- 可与对抗损失互补：AudioX-Turbo 在 DMD 外叠加 diffusion-based discriminator，提升 few-step 感知质量。
AudioX-Turbo 中的 DMD 流程可概括为：
- 冻结教师：预训练好的 AudioX-Base 保持冻结，作为高质量 real score / 向量场提供者。
- 离散时间网格：将连续 flow matching 时间离散为
N个学生步。 - 学生 rollout：从高斯噪声出发，学生沿前面若干步做 denoise-renoise rollout，历史路径 stop-gradient。
- 当前步优化：在采样步
t_k，学生预测干净目标并产生 student-induced distribution。 - fake model 估计学生分布：辅助 fake model 单独训练，用 diffusion loss 拟合学生生成样本分布。
- DMD loss：学生最小化 teacher score 与 fake score 的差异。
- 对抗辅助：diffusion-based discriminator 复用教师浅层 MMDiT 特征，为学生输出提供质量判别梯度。
- 2023–2024：图像生成中出现 DMD / DMD2 等少步分布蒸馏方法，服务 SD-Turbo / few-step diffusion。
- 2025：少步音频生成加速开始与对抗训练、flow matching 结合，Stable Audio 3 以对抗后训练 + 8 步 Ping-Pong 展示开源音频模型的少步化潜力。
- 2026：AudioX-Turbo 将 DMD 改造成适配 Flow Matching 的版本，并用 diffusion-based discriminator 将统一 anything-to-audio 模型蒸馏到 4 步。
- “DMD = 普通知识蒸馏”：普通蒸馏多复制教师输出/轨迹；DMD 关注学生生成分布与目标分布之间的差距。
- “少步一定丢可控性”：AudioX-Turbo 的 T2A-bench 结果显示，4-step 学生在类别、计数、顺序、timestamp 控制上仍接近多步教师。
- “DMD 和对抗训练是一回事”：DMD 的核心是 score / 分布匹配；对抗损失可作为额外质量项，但不是 DMD 本身。
与相邻概念的区别
Section titled “与相邻概念的区别”| 方法 | 监督信号 | 目标 | AudioX-Turbo 中的角色 |
|---|---|---|---|
| 轨迹蒸馏 | 教师采样轨迹 | 模仿教师路径 | 不是主线 |
| 一致性模型 | 相邻时间的一致性 | 任意步到端点一致 | 相邻少步路线 |
| DMD | 教师 score + fake score | 匹配目标/学生分布差异 | 4-step 学生核心损失 |
| 对抗后训练 | 判别器真实度 | 提升少步感知质量 | 相邻路线 / 可辅助 |
| CFM | 向量场回归 | 训练多步生成模型 | AudioX-Base 教师目标 |
| On-Policy Distillation | 教师 token log-prob | 学生分布逼近教师分布 | LLM 后训练（非扩散） |
- 资料摘要：AudioX-Turbo — Flow Matching 版 DMD + diffusion-based discriminator
- 条件流匹配（CFM） — DMD 在 AudioX-Turbo 中适配的生成框架
- DiT（Diffusion Transformer） — AudioX-Base / Turbo 的 MMDiT 骨干
- 对抗后训练（Adversarial Post-Training） — 相邻的少步生成加速范式
- 音频生成
- Wiki 目录