本页目录

渐近统计 III · 三大检验与 Wilks 定理

对标:van der Vaart AS §15–16 | 前置:as-01/02、本科统计 IV 本科的检验都要精确分布(正态总体专属);渐近理论把检验解放到任意正则模型:似然比、Wald、得分(Rao)三大检验渐近等价、极限都是 χ²——这就是几乎所有统计软件输出里 χ² 与 p 值的来历。收官附 Neyman–Pearson 引理(最优性的地基)与局部功效视角。

1. Neyman–Pearson 引理(检验最优性的原点)

定理(N–P) 简单假设 \(H_0: f_0\) vs \(H_1: f_1\):给定水平 \(\alpha\) 下功效最大的检验是似然比检验——拒绝当 \(\frac{f_1(x)}{f_0(x)} > k\)\(k\)\(\alpha\) 定)。 【证明】\(\varphi^*\) 为 LR 检验、\(\varphi\) 任意水平 \(\leq\alpha\) 检验(取值 \([0,1]\) 的拒绝概率函数)。逐点非负性:\((\varphi^*(x) - \varphi(x))(f_1(x) - kf_0(x)) \geq 0\)(LR \(> k\)\(\varphi^* = 1 \geq \varphi\)\(< k\)\(\varphi^* = 0 \leq \varphi\))。积分展开:\(\int(\varphi^* - \varphi)f_1 \geq k\int(\varphi^* - \varphi)f_0 \geq 0\)(后者由水平条件)。即功效 \(\varphi^* \geq \varphi\)\(\blacksquare\) 读法证据的正确排序方式是似然比——三行证明立起整个检验理论的北极星;本科统计 IV 各检验的"合理性"都溯源于此(复合假设下推广为单调似然比/UMP 理论【引用】)。

2. 三大检验

检验 \(H_0: \theta = \theta_0\)(或约束 \(r(\theta) = 0\),自由度 \(q\) = 约束数),三种度量"数据离 \(H_0\) 多远"的方式:

检验 统计量 直觉 需要拟合
似然比 LR \(2\big[\ell(\hat\theta) - \ell(\theta_0)\big]\) 峰顶比约束点高多少 两个模型
Wald \(n(\hat\theta - \theta_0)^\top I(\hat\theta)(\hat\theta - \theta_0)\) 估计离原点多远(按信息度量) 仅无约束
得分 Score \(\frac1n\,\psi(\theta_0)^\top I(\theta_0)^{-1}\psi(\theta_0)\) 约束点处的坡度多陡 仅约束下

定理(Wilks + 三剑客等价) 正则条件下,\(H_0\) 真时三者都 \(\xrightarrow{d} \chi^2(q)\),且两两之差 \(= o_P(1)\)【骨架】(一维核心计算):对 \(\ell\)\(\hat\theta\) 处二阶 Taylor(一阶项为零——MLE 是驻点):

\[ 2[\ell(\hat\theta) - \ell(\theta_0)] \approx n\,I(\theta_0)\,(\hat\theta - \theta_0)^2 \]

代入 as-02 主定理 \(\sqrt{nI}(\hat\theta - \theta_0) \xrightarrow{d} N(0,1)\) ⇒ 右端 \(\xrightarrow{d} \chi^2(1)\)——LR 与 Wald 在此展开中显式相等到 \(o_P(1)\);Score 用 \(\psi(\theta_0) \approx -\psi'(\cdot)(\hat\theta - \theta_0)\) 换算归队。多维/约束版沿约束流形分块投影,自由度 = 被约束的维数。\(\blacksquare\)

Wilks 的魔法:极限 \(\chi^2(q)\) 不依赖模型细节与冗余参数——logistic 回归删三个变量的检验和生存模型删三个变量的检验查同一张 χ² 表:"自由度是唯一要问的问题",统计软件输出的通用性由此而来。

实务分野(渐近等价 ≠ 有限样本等价):Wald 最方便(只拟合一次、回归系数表的 z 值即其开方)但对参数化不变性差、小样本最糙;LR 最稳(参数化不变),推荐默认;Score 在"约束模型好算、全模型难算"时独占(诊断检验/拉格朗日乘子检验——计量的 LM 检验即它)。

3. 功效的渐近视角(一段话版)

固定备择下三大检验功效都 \(\to 1\)(相合性)——比较功效必须让备择随 \(n\) 靠近:局部备择 \(\theta_n = \theta_0 + h/\sqrt n\) 下统计量 \(\xrightarrow{d}\) 非中心 χ²(非中心参数 \(h^\top I h\))——功效由 \(I\) 度量的"距离"决定,三大检验局部功效也等价;这套"\(1/\sqrt n\) 邻域内看清一切"的显微镜(Le Cam 局部渐近正态理论 LAN【引用】)是渐近统计的深水区门牌——其核心对象(对数似然比过程)与 sc-04 Girsanov 的似然比是同一族。

4. 渐近统计三页资产盘点

CMT/Slutsky/Delta(语法)→ M-估计三段论 + "曲率之逆 × 得分噪声"(MLE 主定理)→ N–P 排序原理 + 三剑客 χ²(检验)。一切光滑参数模型的大样本推断到此闭环;界外(高维 \(p \sim n\)、非光滑、误设)各有下游学科接管(hdp 线、稳健统计、slt 线)。

5. 练习与要点

例 1(三剑客亲算) 泊松 \(H_0: \lambda = 1\),观测 \(\bar X = 1.2, n = 100\):Wald \(= n(\bar X - 1)^2/\bar X = 3.33\);Score \(= n(\bar X - 1)^2/1 = 4.0\);LR \(= 2n[\bar X\ln\bar X - \bar X + 1] = 3.65\)——三者相近(等价的体现)但不等(有限样本的分野),都对照 \(\chi^2(1)_{0.05} = 3.84\)Score 拒绝、其余不拒绝——边缘案例三剑客可以投出不同票,报告时说明用了哪把剑是学术诚实的一部分。

例 2(Wilks 实战:嵌套模型比较) 回归模型删 3 个变量:\(2(\ell_{\text{全}} - \ell_{\text{删}})\) 对照 \(\chi^2(3)\)——变量选择的 LR 检验流水线(AIC = 此量 \(- 2\times\)参数差的改装,本科时序页信息准则认亲)。

例 3(Wald 的参数化陷阱) 检验 \(\theta = 1\) 与检验 \(\ln\theta = 0\) 的 Wald 统计量不同(Delta 缩放不抵消),LR 则完全相同——"换个参数化结论翻转"是 Wald 的原罪;重要结论用 LR 复核。\(\blacksquare\)


下一门:统计学习理论——把"检验一个假设"换成"从假设类里学一个假设",PAC/VC/Rademacher 三部曲。