随机过程 III · Markov 链(二):平稳分布与收敛
上一页问"怎么走",本页问"走到最后停在哪"。答案是一个分布而非一个点:平稳分布——链的长期时间份额。这一页也是本站含金量最高的应用出口之一:Google 的 PageRank 和统计计算的 MCMC,都是"造一条链、取它的平稳分布"。
1. 平稳分布
定义 行向量 \(\pi\)(\(\pi_i \geq 0, \sum\pi_i = 1\))满足
——以 \(\pi\) 为初始分布则永远保持 \(\pi\)("流入 = 流出"的全局平衡)。
线性代数身份(高代 V 全面上岗):\(\pi\) 是 \(P\) 关于特征值 \(1\) 的左特征向量(归一化)。行随机矩阵必有特征值 1(\(P\mathbf{1} = \mathbf{1}\)),且谱半径 \(= 1\)(圆盘定理);Perron–Frobenius 定理(不可约非负矩阵)保证特征值 1 简单、对应特征向量可取正——平稳分布存在唯一性的代数根源。
求法:解 \(\pi P = \pi\) + 归一化(\(n\) 个未知数、方程组秩 \(n-1\),归一化补一条)。
2. 极限定理(本页顶点)
定理(基本极限定理) 不可约、非周期、正常返(有限状态时不可约即自动正常返)的链:
三条评注:遗忘初值(无论从哪出发,长期分布都是 \(\pi\)——链"洗掉"了初始信息;对角化视角:\(|\lambda| < 1\) 的模式全部衰减,只剩 \(\lambda = 1\) 的 \(\pi\) 存活,收敛速度由第二大特征值模 \(|\lambda_2|\) 决定——谱隙 \(1 - |\lambda_2|\) 越大混合越快);平稳概率 = 平均返回时间的倒数(常回的地方份额大);非周期性不可省(周期链震荡不收敛,但时间平均仍成立)。
遍历定理(时间平均 = 空间平均):不可约正常返链上,\(\frac{1}{n}\sum_{k=1}^n f(X_k) \xrightarrow{a.s.} \sum_i \pi_i f(i)\)——沿一条轨道数频率,就能得到平稳分布的期望(大数定律的 Markov 版;MCMC 合法性的直接依据)。
3. 可逆链与细致平衡
细致平衡条件:存在分布 \(\pi\) 使
(每对状态间的双向流量相等——比 \(\pi P = \pi\) 的全局平衡更强:两边对 \(i\) 求和立得平稳性。)满足者称可逆链(倒放录像分布不变)。价值:细致平衡是逐对的方程,验证/构造都比全局平衡容易得多——这个"容易"正是 MCMC 的支点。
4. 两大应用出口
PageRank(把互联网当 Markov 链):网页 = 状态,随机冲浪者以 \(\frac{1}{\text{出链数}}\) 均匀点链接,另以概率 \(1 - d\)(阻尼 \(d \approx 0.85\))随机跳任意页(保证不可约非周期——收敛定理的条件是设计进去的)。网页排名 = 该链的平稳分布 \(\pi\):被重要页面链接的页面重要——递归定义恰由 \(\pi P = \pi\) 表达。求解就是幂法迭代 \(\pi^{(n+1)} = \pi^{(n)} P\)(数值分析页的幂法;收敛速度由谱隙控制)。
MCMC(Metropolis–Hastings 思想版):想从复杂分布 \(\pi\)(只知未归一化值,如贝叶斯后验——概率 I)采样。反着用本页:构造一条以 \(\pi\) 为平稳分布的链,跑久了取样即可。构造法用细致平衡——从提议分布出一步 \(i \to j\),以概率
接受(否则原地不动)。逐对验证细致平衡即知 \(\pi\) 平稳(两行代数,值得自己验);归一化常数在比值中消掉——这就是 MCMC 能绕过归一化的全部秘密。🔗 贝叶斯统计的计算引擎;统计物理采样;扩散模型的祖先(score-based 采样的 Langevin 动力学是它的连续版,comfy 课 02 讲)。
5. 典型例题
例 1(求平稳分布全流程) 天气链 \(P = \begin{pmatrix} 0.8 & 0.2 \\ 0.4 & 0.6 \end{pmatrix}\)。 解:\(\pi P = \pi\):\(0.8\pi_1 + 0.4\pi_2 = \pi_1 \Rightarrow \pi_1 = 2\pi_2\);归一化得 \(\pi = (\frac23, \frac13)\)——长期 \(\frac23\) 的日子是晴天;平均隔 \(\mu_2 = 1/\pi_2 = 3\) 天下一场雨。
例 2(细致平衡秒解) 随机游走于图(在每个顶点均匀选一条邻边走)。验证 \(\pi_i \propto \deg(i)\) 满足细致平衡:\(\pi_i p_{ij} = \frac{\deg i}{2|E|}\cdot\frac{1}{\deg i} = \frac{1}{2|E|}\),对称 ✓。——图上随机游走的平稳分布正比于度数(连通非二部图时收敛);PageRank 是它的带跳转修正版。
例 3(判型再求解) \(P = \begin{pmatrix} 0 & 1 & 0 \\ 0 & 0 & 1 \\ 1 & 0 & 0 \end{pmatrix}\)(确定性轮转):不可约但周期 \(d = 3\)——平稳分布存在(\(\pi = (\frac13,\frac13,\frac13)\),时间平均意义成立)但 \(p_{ij}^{(n)}\) 不收敛(永远轮转)。收敛定理里"非周期"不是装饰。\(\blacksquare\)
最后一页:从离散跳进连续——布朗运动与鞅,通往随机分析与金融数学的门。