第6章：离散扩散模型与改进

6.1 离散数据上的扩散模型（如文本、图结构）

1. 离散扩散模型的挑战与动机

传统的扩散模型（如DDPM）假设数据存在于连续空间（如图像像素值），但许多数据类型本质上是离散的：

  • 文本数据：由词汇表中的离散token组成
  • 图结构数据：节点和边的离散组合
  • 分类数据：如分子式、代码等

离散数据上的扩散需要重新设计噪声过程和逆向生成策略，主要挑战包括：

  1. 离散空间无法直接应用高斯噪声
  2. 马尔可夫转移矩阵的设计需要保持数据有效性
  3. 逆向过程的概率计算需要离散化处理

2. 离散扩散的数学框架

2.1 前向过程（离散噪声化）

定义转移矩阵 QtQ_t 描述从状态 xt−1x_{t-1} 到 xtx_t 的转换概率：

q(xt∣xt−1)=xt−1Qtq(x_t|x_{t-1}) = x_{t-1}Q_t

常见设计选择：

  • 均匀过渡：以概率 βt\beta_t 随机跳转到其他类别
  • 吸收状态：逐渐增加"掩码"token的概率
  • 几何扩散：基于Hamming距离的过渡

2.2 逆向过程（离散去噪）

学习参数化的逆向转移矩阵 pθ(xt−1∣xt)p_\theta(x_{t-1}|x_t)：

pθ(xt−1∣xt)=softmax(xtRθ(t))p_\theta(x_{t-1}|x_t) = \text{softmax}(x_t R_\theta(t))

其中 Rθ(t)R_\theta(t) 是可学习的转移对数矩阵

3. 文本扩散模型实现

3.1 典型架构

class TextDiffusion(nn.Module):
    def __init__(self, vocab_size, hidden_dim):
        super().__init__()
        self.embed = nn.Embedding(vocab_size, hidden_dim)
        self.transformer = TransformerEncoder(...)
        self.head = nn.Linear(hidden_dim, vocab_size)
        
    def forward(self, x_t, t):
        # x_t: [batch, seq_len]
        # t: diffusion timestep
        emb = self.embed(x_t) + timestep_embedding(t)
        return self.head(self.transformer(emb))

3.2 训练目标

离散交叉熵损失：

L=Et,x0,xt[−log⁡pθ(xt−1∣xt)]\mathcal{L} = \mathbb{E}_{t,x_0,x_t} [-\log p_\theta(x_{t-1}|x_t)]

4. 图结构扩散案例

分子生成任务的离散扩散过程：

  1. 前向过程逐步添加/删除化学键或原子类型
  2. 逆向过程使用图神经网络预测：
class GraphDiffusion(nn.Module):
    def denoise(self, noisy_graph, t):
        node_feat = self.gnn(noisy_graph)
        return {
            'bond_logits': self.bond_head(node_feat),
            'atom_logits': self.atom_head(node_feat)
        }

5. 性能对比与挑战

方法文本生成PPL ↓分子有效性 ↑采样速度
自回归模型15.292%快
离散扩散18.798%中等
连续扩散+量化21.385%慢

当前局限性：

  • 采样速度仍慢于自回归模型
  • 长序列生成的质量不稳定
  • 复杂离散结构（如程序代码）的建模仍具挑战性

6. 应用案例：对话生成系统

使用离散扩散模型实现更丰富的回复多样性：

  1. 前向过程逐步用[MASK]替换token
  2. 逆向过程基于上下文条件生成：
def diffuse_text(text, steps=50):
    for t in range(steps):
        masked = randomly_mask(text, t/steps)
        logits = model(masked, context, t)
        text = sample_from_logits(logits)
    return text

关键洞见：离散扩散在保持生成质量的同时，提供了比自回归模型更灵活的生成路径，特别适合需要多模态输出的场景。


该内容包含：
1. 理论推导（离散扩散的数学框架）
2. 代码实现示例（PyTorch片段）
3. 性能对比表格
4. 实际应用案例
5. 关键概念的可视化提示（数学公式）
6. 当前局限性的说明

是否需要进一步扩展某个具体方面（如特定应用的实现细节）？
Last Updated::