中心极限定理
概述
中心极限定理(Central Limit Theorem, CLT)是概率论最核心的定理之一。它指出:大量独立随机变量的和(适当标准化后)趋向于服从正态分布,无论各个变量本身是什么分布。这是正态分布在自然界中普遍存在的理论依据。
一、中心极限定理概述
核心思想
设 为独立同分布的随机变量,,。令
则:
核心结论:无论 本身是什么分布,只要满足一定条件,其和(或均值)的标准化量都趋向标准正态分布。
二、发展脉络
| 时期 | 人物 | 贡献 |
|---|---|---|
| 1718 | 棣莫弗 | 棣莫弗-拉普拉斯定理(二项分布的正态近似) |
| 1810 | 拉普拉斯 | 早期CLT的一般化尝试 |
| 1901 | 李雅普诺夫 | 李雅普诺夫CLT(随机变量不同分布) |
| 1920s | 林德伯格 | 林德伯格条件(最一般的独立不同分布CLT) |
| 1935 | 费勒 | 林德伯格-费勒CLT(最终一般形式) |
三、几种主要形式
1. 棣莫弗-拉普拉斯中心极限定理
棣莫弗-拉普拉斯CLT
设 ,则对任意 :
意义:给出了二项分布的正态近似公式,是CLT的最早形式。
2. 林德伯格-列维中心极限定理(独立同分布CLT)
林德伯格-列维CLT
设 为独立同分布的随机变量序列,, 存在有限,则:
条件:独立同分布 + 方差存在(最常用的CLT形式)。
3. 林德伯格中心极限定理(独立不同分布CLT)
林德伯格条件
设 为独立随机变量序列,,。记 。若对任意 : 则 。
意义:允许每个 有不同分布,是CLT的一般形式。
4. 李雅普诺夫中心极限定理
李雅普诺夫CLT
设 为独立随机变量序列,,。若存在 使得: 则 。
特点:用矩条件验证,比林德伯格条件更易检验。
四、正态近似与连续性修正
正态近似
CLT最重要的应用是用正态分布近似复杂分布:
近似误差:Berry-Esseen不等式给出:
连续性修正
对于离散分布(如二项分布),正态近似时可加 的修正:
五、大数定律与CLT的对比
| 大数定律(LLN) | 中心极限定理(CLT) | |
|---|---|---|
| 研究对象 | ||
| 收敛目标 | 常数(期望值) | 标准正态分布 |
| 条件 | 弱 | 中等 |
| 应用 | 估计、模拟 | 区间估计、假设检验 |
六、相关章节
- 第四章 随机变量序列的极限定理 — 章节汇总
- 大数定律 — CLT的互补定理
- 正态分布 — CLT收敛的目标分布
- 4.2 特征函数 — CLT证明的核心工具
- 第七章 假设检验 — 章节汇总 — CLT在检验中的应用