4.2 特征函数
本节概览
一、特征函数的定义
复随机变量回顾
在§4.1中已经引入了复随机变量的概念。设 和 为实值随机变量,则
称为复随机变量,其期望为 。若 与 独立,则 的期望等于期望之积。
由欧拉公式 ,有 ,故 的期望一定存在。
特征函数的定义
定义 4.2.1 — 特征函数(公式4.2.1)
设 为随机变量,称
为 的特征函数(characteristic function)。
理解要点:
- 特征函数是实变量 的复值函数,对每个固定的 , 是一个期望值
- 由于 ,特征函数一定存在(不像矩母函数可能不存在)
离散型和连续型的计算公式
定义 4.2.2 — 离散型特征函数(公式4.2.2)
若 为离散型随机变量,分布律为 (),则
定义 4.2.3 — 连续型特征函数(公式4.2.3)
若 为连续型随机变量,密度函数为 ,则
理解要点:连续型的特征函数本质上是密度函数 的傅里叶变换(差一个符号约定)。这一联系是特征函数强大功能的数学根源。
二、常用分布的特征函数
退化分布
若 ,则
二点分布
例 4.2.1 — 二点分布的特征函数
设 ,即 (),则
泊松分布
例 4.2.2 — 泊松分布的特征函数
设 ,即 (),则
均匀分布
例 4.2.3 — 均匀分布的特征函数
设 ,密度为 ,则
标准正态分布
例 4.2.4 — 标准正态分布的特征函数
设 ,密度为 ,则
解:将 泰勒展开:
利用标准正态的矩公式 ( 奇数)、:
指数分布
例 4.2.5 — 指数分布的特征函数
设 ,密度为 ,则
常用分布特征函数汇总表
| 分布 | 特征函数 |
|---|---|
| 退化分布 | |
三、特征函数的基本性质
定理 4.2.1 — 特征函数的基本性质(公式4.2.4-4.2.7)
设 为随机变量 的特征函数,则:
(1) 有界性:
(2) 共轭对称性:
(3) 线性变换:若 ( 为常数),则
(4) 独立随机变量和:若 与 独立,则
理解要点:
- 有界性:由 和期望的三角不等式直接得到
- 共轭对称性:
- 线性变换:先平移(乘 )再缩放()
- 独立性乘法:这是特征函数最重要的性质之一,它将卷积运算转化为简单的乘法运算,是证明可加性定理和中心极限定理的关键工具
证明
证明:
性质(1) 有界性:
(第一步:利用期望的三角不等式 。第二步:。) 又 ,故 。
性质(2) 共轭对称性:
(关键步骤:,以及期望与共轭运算可交换 。)
性质(3) 线性变换:设 ,
(关键步骤:常数因子 可以提出期望符号,变量 的系数 被吸收到参数 中。)
性质(4) 独立随机变量和:设 与 独立,则 与 也独立(可测函数保持独立性),故
(关键步骤:独立随机变量的乘积的期望等于期望的乘积。这一步将卷积运算转化为乘法运算。)
证明
证明:若 , 独立,则
第一步:写出 和 的特征函数。
第二步:利用独立性求和的特征函数。 由特征函数的基本性质,:
第三步:识别分布。 正是 的特征函数。由逆转公式与唯一性定理,。
“
四、特征函数与矩的关系
定理 4.2.2 — 特征函数与矩(公式4.2.8-4.2.9)
若 存在( 为正整数),则 的 阶导数存在(),且
特别地,
理解要点:
- 特征函数在原点处的 阶导数与 的 阶矩直接相关
- 这提供了一种计算矩的替代方法:先求特征函数,再对 求导
- 公式(4.2.9)中方差的计算利用了
证明
证明(以 为例,一般情形类似):
第一步:写出导数的定义。
(关键步骤:交换求导与期望的顺序。这需要验证控制收敛定理的条件:,而 ( 阶矩存在),故交换合法。)
第二步:在 处求值。
第三步:解出 。
一般情形( 阶导数):类似地,,在 处:
方差公式的推导:
例 4.2.6 — 用特征函数求泊松分布的期望和方差
,。
五、特征函数的唯一性定理
非负定性
定理 4.2.3 — 特征函数的非负定性(公式4.2.10)
设 为随机变量 的特征函数,则对任意正整数 、任意实数 和任意复数 ,有
理解要点:非负定性是特征函数的本质特征——Bochner定理指出,一个函数是某个随机变量的特征函数,当且仅当它满足 、连续且非负定。
证明
证明:
第一步:构造辅助复随机变量。 令 ,其中 为任意复数, 为任意实数。
第二步:计算 。 利用 :
第三步:利用非负性。 由于 ,故 ,即
对任意 、任意 和任意 成立。
逆转公式与唯一性定理
定理 4.2.4 — 逆转公式与唯一性定理(公式4.2.11-4.2.12)
(1) 分布函数的逆转:设 的分布函数为 ,特征函数为 ,则对任意 ,
(2) 密度函数的逆转:若 为连续型随机变量,且 ,则 具有连续密度函数
唯一性:分布函数由特征函数唯一确定,即 () ()。
理解要点:
- 逆转公式是傅里叶逆变换的概率论版本
- 唯一性定理是特征函数理论的基石:特征函数与分布函数一一对应
- 密度逆转公式(4.2.12)要求 绝对可积,这个条件对很多分布(如正态分布)成立,但对柯西分布等厚尾分布不成立
证明思路
证明(逆转公式(4.2.11)的证明思路):
第一步:将 表示为积分。 利用示性函数 的 Fourier 表示:
第二步:引入 Dirichlet 积分。 利用恒等式
当 时,这个积分在 上趋于 ,在 上趋于 (Dirichlet 积分的经典结果)。
第三步:交换积分顺序并取极限。 将上述恒等式代入 的表达式中,交换积分顺序(Fubini定理),令 即得(4.2.11)。
唯一性的证明:若 对所有 成立,则由逆转公式,对任意 ( 为 的连续点),。令 得 ,由连续点的稠密性得 。
**密度逆转(4.2.12)**的证明:在(4.2.11)中令 ,,除以 后令 ,左端趋于密度 (若存在),右端即为 Fourier 反变换公式。
六、连续性定理
定理 4.2.5 — 连续性定理(Lévy连续性定理)
(1) 若分布函数序列 弱收敛于 ,则对应的特征函数序列 对每个 都收敛于 ,且在任意有界区间上一致收敛。
(2) 若特征函数序列 对每个 都收敛于某个函数 ,且 在 处连续,则存在分布函数 使得 ,且 是 的特征函数。
理解要点:
- 连续性定理建立了分布函数收敛与特征函数收敛的等价关系
- 方向(1):分布收敛 ⇒ 特征函数收敛(且一致收敛)
- 方向(2):特征函数逐点收敛(+ 在 处连续)⇒ 分布收敛
- 这是证明中心极限定理的核心工具:先证明标准化和的特征函数收敛到 (正态分布的特征函数),再由连续性定理得到依分布收敛
证明思路
证明(两个方向的证明思路):
方向(1):
第一步:利用弱收敛的定义。 在 的连续点上成立。
第二步:将 表示为关于 和 的积分。
第三步:截断积分区间。 对任意 ,将积分拆分为 和 两部分。在 上利用 的一致连续性和 ,在 上利用 和分布函数尾部的一致小性(由 弱收敛保证),取 充分大后两部分都可任意小。
方向(2):( 在 处连续)
第一步:证明 的紧性。 由 和 在 处连续,可证 是胎紧(tight)的:对任意 ,存在 使得 且 对所有 成立。
第二步:抽取收敛子列。 由 Helly 选择定理, 存在子列 弱收敛到某个右连续函数 。
第三步:证明 是分布函数。 由胎紧性,,。
第四步:证明 的特征函数是 。 对子列 应用方向(1),。但 ,故 。
第五步:由唯一性定理, 唯一确定。 因此所有子列收敛到同一个 ,故 。
连续性定理的应用模式
证明”某序列依分布收敛到正态分布”的标准流程:
- 写出 的特征函数
- 利用独立性将 表示为单个特征函数的乘积
- 取对数,做泰勒展开,证明
- 由连续性定理,
七、知识结构总览
graph LR A["特征函数定义"] --> B["常用分布的特征函数"] A --> C["基本性质"] C --> D["与矩的关系"] A --> E["唯一性定理"] E --> F["连续性定理"] B --> G["可加性证明"] F --> H["极限定理证明"] style A fill:#e3f2fd,color:#1565c0 style B fill:#fff3e0,color:#e65100 style C fill:#fff3e0,color:#e65100 style D fill:#e8f5e9,color:#2e7d32 style E fill:#fce4ec,color:#c62828 style F fill:#fce4ec,color:#c62828 style G fill:#f3e5f5,color:#7b1fa2 style H fill:#f3e5f5,color:#7b1fa2
八、核心思想与证明技巧
核心思想
- 傅里叶变换的视角:特征函数本质上是密度函数的傅里叶变换(连续型)或分布律的离散傅里叶变换(离散型)。这一数学结构赋予了特征函数强大的分析工具。
- 乘法替代卷积:独立随机变量和的分布是卷积运算,但特征函数将卷积简化为乘法。这是特征函数在概率论中不可替代的根本原因。
- 一一对应性:唯一性定理保证了特征函数与分布函数的双射关系,使得通过特征函数研究分布成为完备的方法。
证明技巧
| 技巧 | 说明 | 应用场景 |
|---|---|---|
| 泰勒展开 | 求特征函数、证明连续性定理 | |
| 取对数做展开 | 证明中心极限定理 | |
| 利用唯一性定理 | 两个分布的特征函数相同则分布相同 | 证明分布的同一性 |
| 独立性乘法 | 证明可加性、分解复杂分布 |
九、补充理解与易混淆点
特征函数与矩母函数的混淆
来源:茆诗松教材§4.2 + 卡方训练营讲义 + CSDN”3种常见概率分布的特征函数推导” + 中文数学Wiki”特征函数” + 科普中国”特征函数的性质”
误区1:"特征函数就是矩母函数(MGF)"
❌ 错误解释:矩母函数定义为 ,其中 是实数。特征函数 中 也是实数,但指数上有虚数单位 。矩母函数不一定存在(如柯西分布的矩母函数不存在),但特征函数一定存在(因为 )。 ✅ 正确解释:特征函数是矩母函数在虚轴上的取值,即 。特征函数永远存在,适用范围更广。在矩母函数存在的场合,两者可以互相转化;在矩母函数不存在的场合(如柯西分布),只能使用特征函数。
“特征函数相同则分布相同”的误用
来源:茆诗松教材§4.2 + 卡方训练营讲义 + CSDN”随机信号篇-特征函数” + QQ阅读”茆诗松概率论笔记” + 51CTO博客”特征函数的性质”
误区2:"只要两个特征函数在某个区间上相同,分布就相同"
❌ 错误解释:唯一性定理要求特征函数在所有 上相同,才能推出分布相同。仅在有限区间或部分点上相同不能推出分布相同。 ✅ 正确解释:唯一性定理的完整表述是 对一切 成立 对一切 成立。不过,由于特征函数是实解析函数(在绝对可积条件下),实际上只需在 的某个邻域内相同即可推出全局相同——但这一结论需要额外的解析性论证,初学阶段应记住”全局相同”的要求。
连续性定理条件的忽视
来源:茆诗松教材§4.2 + 卡方训练营讲义 + 2018复旦大学861真题 + 2019武汉大学432真题 + 2021武汉大学432真题
误区3:"特征函数逐点收敛就一定能推出分布收敛"
❌ 错误解释:连续性定理的方向(2)要求两个条件同时满足:① 对每个 成立;② 极限函数 在 处连续。条件②不可省略——存在特征函数序列逐点收敛到某个不连续函数的反例,此时分布函数序列不收敛。 ✅ 正确解释:连续性定理方向(2)的两个条件缺一不可。在实际应用中,通常 是某个合法分布的特征函数(自然是连续的),所以条件②自动满足。但在理论证明中需要注意这一条件的验证。
十、习题精选
习题概览
编号 题目来源 知识点 难度 1 教材4.2-1 特征函数的定义计算 ★★☆ 2 教材4.2-2 常用分布的特征函数推导 ★★☆ 3 教材4.2-3 特征函数的性质应用 ★★★ 4 教材4.2-4 用特征函数求期望和方差 ★★☆ 5 教材4.2-5 唯一性定理的应用 ★★★ 6 教材4.2-6 连续性定理的应用 ★★★ 7 2018北京大学431 联合分布边际密度+特征函数计算 ★★★ 8 2018复旦大学861 特征函数方法证明渐近正态性 ★★★ 9 2019武汉大学432 泊松分布特征函数+期望方差+依分布收敛 ★★★ 10 2020兰州大学432 特征函数求解分布参数 ★★☆
习题1 — 教材4.2-1:特征函数的定义计算
习题1 — 教材4.2-1
设随机变量 的分布律为 ,,,求 的特征函数。
查看解答
解:
习题2 — 教材4.2-2:常用分布的特征函数推导
习题2 — 教材4.2-2
设 ,利用特征函数的性质证明 的特征函数为 。
查看解答
解: 可以分解为 个独立同分布的 随机变量之和:。
每个 的特征函数为 。
由独立性乘法性质(定理4.2.1(4)):
习题3 — 教材4.2-3:特征函数的性质应用
习题3 — 教材4.2-3
设 ,利用标准正态的特征函数和线性变换性质,求 的特征函数。
查看解答
解:设 ,则 。
标准正态的特征函数为 。
由线性变换性质(定理4.2.1(3)), 的特征函数为 :
习题4 — 教材4.2-4:用特征函数求期望和方差
习题4 — 教材4.2-4
设 ,利用特征函数 求 和 。
查看解答
解:
习题5 — 教材4.2-5:唯一性定理的应用
习题5 — 教材4.2-5
设 ,。已知 是 的特征函数, 是柯西分布 的特征函数。说明为什么这两个特征函数不同。
查看解答
解:当 时,,。两者不相等,由唯一性定理,它们对应不同的分布。
更本质的区别在于: 在无穷远处以高斯速度衰减(指数级),而 只以多项式速度衰减。 不绝对可积,因此柯西分布没有密度函数的逆转公式(4.2.12)。
习题6 — 教材4.2-6:连续性定理的应用
习题6 — 教材4.2-6
设 为 i.i.d. 序列,,。利用特征函数和连续性定理,说明标准化样本均值 的特征函数收敛到 。
查看解答
习题7 — 2018北京大学431:联合分布边际密度+特征函数计算
习题7 — 2018北京大学431
设 的联合密度为 ,,,求 的特征函数。
查看解答
解:先求 的边际密度:
因此 ,其特征函数为
习题8 — 2018复旦大学861:特征函数方法证明渐近正态性
习题8 — 2018复旦大学861
用特征函数方法证明:若 i.i.d. ,则 是渐近正态分布。
查看解答
解: 的特征函数为 。
令 ,则 。
的特征函数为
对 ,令 :
由连续性定理,。
习题9 — 2019武汉大学432:泊松分布特征函数+期望方差+依分布收敛
习题9 — 2019武汉大学432
随机变量 ,。求: (1) 的特征函数; (2) 和 ; (3) 证明 依分布收敛于标准正态分布。
查看解答
解:
(1) 的特征函数为 。由独立性乘法:
(2) ,,故 。
,故 。
(3) 令 ,则
泰勒展开 ,令 :
由连续性定理,。
习题10 — 2020兰州大学432:特征函数求解分布参数
习题10 — 2020兰州大学432
随机变量 的分布律为 (), 为常数,求 和 的特征函数。
查看解答
解:由分布列的正则性:
注意:此处 仅取 (有限支撑),故
因此 的特征函数为
这是截断泊松分布(truncated Poisson)的特征函数。当 的取值范围扩展到 时,就恢复为标准泊松分布 的特征函数 。
十一、教材原文
以下为教材扫描版原文,可点击翻阅。
第四章 随机变量序列的极限定理/特征函数