本页目录

随机过程 III · Markov 链(二):平稳分布与收敛

上一页问"怎么走",本页问"走到最后停在哪"。答案是一个分布而非一个点:平稳分布——链的长期时间份额。这一页也是本站含金量最高的应用出口之一:Google 的 PageRank 和统计计算的 MCMC,都是"造一条链、取它的平稳分布"。

Markov 链状态分类:常返/暂态/吸收态的状态转移图(点 + 带权箭头)。

图 stoch-03.1Markov 链状态分类:常返/暂态/吸收态的状态转移图(点 + 带权箭头)。

1. 平稳分布

定义 行向量 \(\pi\)\(\pi_i \geq 0, \sum\pi_i = 1\))满足

\[ \pi P = \pi \]

——以 \(\pi\) 为初始分布则永远保持 \(\pi\)("流入 = 流出"的全局平衡)。

线性代数身份(高代 V 全面上岗):\(\pi\)\(P\) 关于特征值 \(1\)左特征向量(归一化)。行随机矩阵必有特征值 1(\(P\mathbf{1} = \mathbf{1}\)),且谱半径 \(= 1\)(圆盘定理);Perron–Frobenius 定理(不可约非负矩阵)保证特征值 1 简单、对应特征向量可取正——平稳分布存在唯一性的代数根源。

求法:解 \(\pi P = \pi\) + 归一化(\(n\) 个未知数、方程组秩 \(n-1\),归一化补一条)。

2. 极限定理(本页顶点)

定理(基本极限定理) 不可约、非周期、正常返(有限状态时不可约即自动正常返)的链:

\[ \lim_{n\to\infty} p_{ij}^{(n)} = \pi_j \quad (\text{与出发点 } i \text{ 无关}),\qquad \pi_j = \frac{1}{\mu_j} \]

三条评注:遗忘初值(无论从哪出发,长期分布都是 \(\pi\)——链"洗掉"了初始信息;对角化视角:\(|\lambda| < 1\) 的模式全部衰减,只剩 \(\lambda = 1\)\(\pi\) 存活,收敛速度由第二大特征值模 \(|\lambda_2|\) 决定——谱隙 \(1 - |\lambda_2|\) 越大混合越快);平稳概率 = 平均返回时间的倒数(常回的地方份额大);非周期性不可省(周期链震荡不收敛,但时间平均仍成立)。

遍历定理(时间平均 = 空间平均):不可约正常返链上,\(\frac{1}{n}\sum_{k=1}^n f(X_k) \xrightarrow{a.s.} \sum_i \pi_i f(i)\)——沿一条轨道数频率,就能得到平稳分布的期望(大数定律的 Markov 版;MCMC 合法性的直接依据)。

3. 可逆链与细致平衡

细致平衡条件:存在分布 \(\pi\) 使

\[ \pi_i\, p_{ij} = \pi_j\, p_{ji} \quad \forall i, j \]

(每对状态间的双向流量相等——比 \(\pi P = \pi\) 的全局平衡更强:两边对 \(i\) 求和立得平稳性。)满足者称可逆链(倒放录像分布不变)。价值:细致平衡是逐对的方程,验证/构造都比全局平衡容易得多——这个"容易"正是 MCMC 的支点。

4. 两大应用出口

PageRank(把互联网当 Markov 链):网页 = 状态,随机冲浪者以 \(\frac{1}{\text{出链数}}\) 均匀点链接,另以概率 \(1 - d\)(阻尼 \(d \approx 0.85\))随机跳任意页(保证不可约非周期——收敛定理的条件是设计进去的)。网页排名 = 该链的平稳分布 \(\pi\):被重要页面链接的页面重要——递归定义恰由 \(\pi P = \pi\) 表达。求解就是幂法迭代 \(\pi^{(n+1)} = \pi^{(n)} P\)(数值分析页的幂法;收敛速度由谱隙控制)。

MCMC(Metropolis–Hastings 思想版):想从复杂分布 \(\pi\)(只知未归一化值,如贝叶斯后验——概率 I)采样。反着用本页:构造一条以 \(\pi\) 为平稳分布的链,跑久了取样即可。构造法用细致平衡——从提议分布出一步 \(i \to j\),以概率

\[ \alpha = \min\Big(1,\ \frac{\pi_j\, q_{ji}}{\pi_i\, q_{ij}}\Big) \]

接受(否则原地不动)。逐对验证细致平衡即知 \(\pi\) 平稳(两行代数,值得自己验);归一化常数在比值中消掉——这就是 MCMC 能绕过归一化的全部秘密。🔗 贝叶斯统计的计算引擎;统计物理采样;扩散模型的祖先(score-based 采样的 Langevin 动力学是它的连续版,comfy 课 02 讲)。

5. 典型例题

例 1(求平稳分布全流程) 天气链 \(P = \begin{pmatrix} 0.8 & 0.2 \\ 0.4 & 0.6 \end{pmatrix}\)\(\pi P = \pi\)\(0.8\pi_1 + 0.4\pi_2 = \pi_1 \Rightarrow \pi_1 = 2\pi_2\);归一化得 \(\pi = (\frac23, \frac13)\)——长期 \(\frac23\) 的日子是晴天;平均隔 \(\mu_2 = 1/\pi_2 = 3\) 天下一场雨。

例 2(细致平衡秒解) 随机游走于图(在每个顶点均匀选一条邻边走)。验证 \(\pi_i \propto \deg(i)\) 满足细致平衡:\(\pi_i p_{ij} = \frac{\deg i}{2|E|}\cdot\frac{1}{\deg i} = \frac{1}{2|E|}\),对称 ✓。——图上随机游走的平稳分布正比于度数(连通非二部图时收敛);PageRank 是它的带跳转修正版。

例 3(判型再求解) \(P = \begin{pmatrix} 0 & 1 & 0 \\ 0 & 0 & 1 \\ 1 & 0 & 0 \end{pmatrix}\)(确定性轮转):不可约但周期 \(d = 3\)——平稳分布存在(\(\pi = (\frac13,\frac13,\frac13)\),时间平均意义成立)但 \(p_{ij}^{(n)}\) 不收敛(永远轮转)。收敛定理里"非周期"不是装饰。\(\blacksquare\)


最后一页:从离散跳进连续——布朗运动与鞅,通往随机分析与金融数学的门。