第 8–10 章 · 大数定律与中心极限定理的初等形式

大量随机事件的集体行为竟然有规律——大数定律说"平均值稳定"，中心极限定理说"波动是正态的"。这两个定理是概率论从算术升级为科学的地方，Feller 用初等方法（Chebyshev 不等式与特征函数前身）把它们讲得可触可算。

Chebyshev 不等式：一切的起跑线

只用均值方差，对分布零假设——粗糙但万能。它是"方差小 ⟹ 集中"的定量化，一切弱大数定律的发动机。

弱大数定律（Bernoulli 情形）

$n$ 次独立试验成功频率 $\hat p_n$：

频率稳定于概率——统计推断的合法性证书（蒙特卡洛方法、民意调查的理论靠山）。注意"弱"的含义：只保证每个固定误差 $\epsilon$ 内的概率趋于零，不保证逐条轨道收敛（强大数定律的内容，卷二）。

中心极限定理（de Moivre-Laplace 局部与积分形式）

二项分布标准化后趋于正态：

局部形式（单点概率的斯特林逼近版）解释了为什么正态无处不在：大量微小独立扰动的叠加，其集体形状由方差决定、形状趋于普适的钟形。应用标尺：$np(1-p)$ 是波动的平方——"$n$ 大了误差就小"的正确说法是误差按 $\sqrt{n}$ 缩小：10000 次抽样误差才缩到 1% 量级。

老师的提醒

• 三条定律各管一段：大数定律管"中心在哪"，CLT 管"误差多大（形状）"，大偏差理论（卷二）管"极端偏离多罕见"。问题先归类再选工具。
• 用 CLT 做估算时的标准动作：标准化（减均值除标准差）、查 $\Phi$、必要时连续性修正。

自检

• Chebyshev 不等式为什么"粗糙但万能"？
• 弱大数定律保证了什么、没保证什么？
• 民调 1000 人误差约多大？（$1/\sqrt{n}$ 量级）

更深一层：三大极限定理的"分工地图"

大数定律、中心极限定理、大偏差理论各管一段"误差地图"：LLN（弱大数）管中心的归宿（$\hat p_n \to p$，每个固定误差带内概率趋于 1）；CLT管波动的形状（归一化偏差趋于标准正态，误差 $\sim\frac{1}{\sqrt n}$ 的定量刻度）；大偏差管远尾的罕见度（$P(\hat p_n \ge p + \epsilon) \sim e^{-nI(\epsilon)}$ 的指数衰减率）。三张地图拼在一起才是完整的误差世界观——工程里"民调误差 3%"是 CLT 的输出、"千万人彩票中头奖概率"是大偏差的领地。Chebyshev 不等式则是这一切的"保底条款"：零分布假设、粗糙但万能（$P(|\hat p - p| \ge \epsilon) \le \frac{p(1-p)}{n\epsilon^2}$）。

CLT 的适用边界也值得划清：需要 $np$ 与 $n(1-p)$ 都大（两个尾巴都有料）；计数修正（连续性修正：$P(S_n \le k)$ 用 $k + 1/2$ 代入正态近似）把近似精度从粗调到精。

推导细读：de Moivre-Laplace 的"斯特林引擎"

CLT 的历史原型是二项分布的正态近似，初等证明的引擎是斯特林公式 $n! \sim \sqrt{2\pi n}(n/e)^n$：把它代入 $P(S_n = k) = \binom{n}{k}p^kq^{n-k}$ 的精确表达式，幂次部分在 $k = np$ 附近展开后恰剩下 $\frac{1}{\sqrt{2\pi npq}}e^{-\frac{(k-np)^2}{2npq}}$——正态密度从阶乘的代数尘埃里自己长出来。这个推导的历史地位：它是人类第一次"看见"正态分布不是拟合而是必然（大量微小独立因素的叠加形状）。现代的证明工具（特征函数）把这整个过程抽象化，但斯特林版的美感无可替代。

在真实世界里：$\frac{1}{\sqrt n}$ 的定价学

CLT 的定量刻度 $\sigma/\sqrt n$ 直接给工程量定价：民调——1000 人样本误差 $\approx \frac{0.5}{\sqrt{1000}} \approx 1.6\%$，想减半到 0.8% 需 4000 人（平方律的昂贵）；蒙特卡洛——精度提高一位数，模拟量翻百倍（这就是方差缩减技术值钱的原因：它改的是"常数"而不是 $\sqrt n$）；质检抽样——AQL 抽样表的本质是二项正态近似 + 供需双方风险的联合整定。"想准一点？数据要平方地多"——这条平方律是所有统计成本预算的第一公式。

专题深入：三大极限定理的"分工地图"完整版

大数定律、中心极限定理、大偏差理论各管一段"误差地图"：LLN（弱大数）管中心的归宿（$\hat p_n \to p$，每个固定误差带内概率趋于 1）；CLT管波动的形状（归一化偏差趋于标准正态，误差 $\sim\frac{1}{\sqrt n}$ 的定量刻度）；大偏差管远尾的罕见度（$P(\hat p_n \ge p + \epsilon) \sim e^{-nI(\epsilon)}$ 的指数衰减率）。三张地图拼在一起才是完整的误差世界观——工程里"民调误差 3%"是 CLT 的输出、"千万人彩票中头奖概率"是大偏差的领地。

CLT 的适用边界：需要 $np$ 与 $n(1-p)$ 都大（两个尾巴都有料）；计数修正（连续性修正：$P(S_n \le k)$ 用 $k + 1/2$ 代入正态近似）把近似精度从粗调到精。

数学细节展开：de Moivre-Laplace 的"斯特林引擎"完整版

CLT 的历史原型是二项分布的正态近似，初等证明的引擎是斯特林公式 $n! \sim \sqrt{2\pi n}(n/e)^n$：把它代入 $P(S_n = k) = \binom{n}{k}p^kq^{n-k}$ 的精确表达式，幂次部分在 $k = np$ 附近展开后恰剩下 $\frac{1}{\sqrt{2\pi npq}}e^{-\frac{(k-np)^2}{2npq}}$——正态密度从阶乘的代数尘埃里自己长出来。这个推导的历史地位：它是人类第一次"看见"正态分布不是拟合而是必然（大量微小独立因素的叠加形状）。现代的证明工具（特征函数）把这整个过程抽象化，但斯特林版的美感无可替代。

工程案例细节：$\frac{1}{\sqrt n}$ 的定价学（工程版）

CLT 的定量刻度 $\sigma/\sqrt n$ 直接给工程量定价：民调——1000 人样本误差 $\approx \frac{0.5}{\sqrt{1000}} \approx 1.6\%$，想减半到 0.8% 需 4000 人（平方律的昂贵）；蒙特卡洛——精度提高一位数，模拟量翻百倍（这就是方差缩减技术值钱的原因：它改的是"常数"而不是 $\sqrt n$）；质检抽样——AQL 抽样表的本质是二项正态近似 + 供需双方风险的联合整定。"想准一点？数据要平方地多"——这条平方律是所有统计成本预算的第一公式。