本页目录
随机微积分 II · SDE、Fokker–Planck 与扩散模型
常微分方程加上噪声项就是随机微分方程(SDE)——单条路径的演化规则。换到"上帝视角"看全体路径的分布如何演化,得到 Fokker–Planck 方程——SDE 与 PDE 的官方桥梁。本页最后与 comfy 课的扩散模型正面对账:你在 KSampler 里跑的一切,都是本页的方程。
1. SDE:带噪声的动力系统
含义 = 积分方程 \(X_t = X_0 + \int\mu\,ds + \int\sigma\,dB\)(后者是上一页的 Itô 积分)。存在唯一性:\(\mu, \sigma\) Lipschitz + 线性增长 ⇒ 强解存在唯一(与 ode-01 Picard 定理平行——压缩映像在 \(L^2\) 路径空间上重跑一遍)。
数值解(Euler–Maruyama):\(X_{n+1} = X_n + \mu\,\Delta t + \sigma\sqrt{\Delta t}\,Z_n\)(\(Z_n \sim N(0,1)\))——数值线 Euler 法 + 一个 \(\sqrt{\Delta t}\) 的随机项(根号:布朗增量的标度,写成 \(\Delta t\) 是新手第一错)。模拟金融路径、Langevin 采样、扩散模型生成全用它或其变体。
2. OU 过程:均值回复的原型
求解(常数变易,ode 手法照搬——乘积分因子 \(e^{\theta t}\) 再 Itô 分部):
\(t \to \infty\):平稳分布 \(N(0, \frac{\sigma^2}{2\theta})\)——初值被遗忘、方差收敛(对比布朗运动方差 \(t\) 发散:拉回力驯服了扩散)。三重身份:金融的利率/波动率模型(Vasicek——均值回复是"利率不会跑去无穷"的建模语言);AR(1) 的连续时间真身(时间序列页对账:OU 按 \(\Delta t\) 采样恰是 AR(1));扩散模型前向加噪的骨架(见 §4)。
3. Fokker–Planck:从单路径到分布演化
同一个 SDE 的第二种读法:不问"这条路径去哪",问"概率云怎么流"。\(X_t\) 的密度 \(p(x, t)\) 满足 Fokker–Planck 方程(前向 Kolmogorov):
(漂移项 = 概率的输运,扩散项 = 概率的抹平;推导via Itô 引理取期望 + 分部积分。)
对账时刻:纯布朗运动(\(\mu = 0, \sigma = 1\))给 \(p_t = \frac12 p_{xx}\)——热方程(pde-02 的"布朗运动是热方程的微观真身"至此闭环:那页的热核 = 本页方程的基本解)。平稳分布 = 令 \(\partial_t p = 0\):OU 代入解得高斯 ✓;一般梯度系统 \(\mu = -\nabla V\) 给 \(p_\infty \propto e^{-2V/\sigma^2}\)(Boltzmann–Gibbs 分布——统计力学、模拟退火、MCMC 的共同心脏)。
4. 扩散模型:本页数学的旗舰应用(comfy 课正式对账)
前向加噪 SDE(VP-SDE,comfy 课 02 的离散加噪的连续极限):
——时变系数的 OU 过程:均值以 \(e^{-\frac12\int\beta}\) 衰减、分布流向 \(N(0, I)\)(§2 的平稳分布机制;那页的 \(\sqrt{\bar\alpha_t}\) 与 \(1-\bar\alpha_t\) 就是本页 OU 解的均值方差)。
反向去噪 SDE(Anderson 1982,comfy 课 03 引用的那条定理):
时间倒流的 SDE 存在,且只需多知道一项——score(沿途每个时刻分布的对数梯度);神经网络 \(\epsilon_\theta\) 学的正是它(comfy 课 02 §3.5 的等价性)。概率流 ODE:存在与反向 SDE 边际分布完全相同的确定性 ODE(把噪声项换成再加一份 score 漂移)——采样器下拉框里 ODE 系与 SDE/ancestral 系的分野(comfy 课 03 的表格),在本页是同一个 Fokker–Planck 方程的两种路径实现。Langevin 动力学(\(dx = \nabla\log p\,dx + \sqrt2\,dB\):以任意 \(p\) 为平稳分布的 SDE——§3 Boltzmann 公式反用)是 score-based 采样的原型,也是 MCMC 家族的一员。
5. 典型例题
例 1(E–M 模拟设计) 模拟 GBM(\(\mu = 0.05, \sigma = 0.2\))一年 252 步:\(S_{n+1} = S_n(1 + 0.05\Delta t + 0.2\sqrt{\Delta t}Z_n)\),\(\Delta t = \frac{1}{252}\)——注意也可用上一页的显式解精确模拟(对数正态逐步采样),有闭式解时别用数值离散(数值线的教诲)。
例 2(OU 半衰期) Vasicek 利率 \(\theta = 0.5\)/年:偏离的半衰期 \(= \frac{\ln 2}{\theta} \approx 1.4\) 年——"利率冲击约一年半消化一半",均值回复速度的可读化(把 \(\theta\) 翻译成半衰期是汇报模型的好习惯)。
例 3(平稳分布验证) 双井势 \(V(x) = \frac{(x^2-1)^2}{4}\) 的 Langevin:\(p_\infty \propto e^{-2V/\sigma^2}\) 双峰——粒子在两口井间偶尔跳跃(隐喻:非凸损失面上 SGD 的噪声帮助逃离局部井,优化 II 的那句话在此有了严格模型)。\(\blacksquare\)
下一页:把这套演算对准市场——Delta 对冲推出 Black–Scholes 方程,风险中性定价,以及期权公式里每个符号的含义。