4.2 特征函数

本节概览

本节系统建立特征函数的完整理论框架。特征函数是连接概率分布与极限定理的核心工具,它将分布函数的收敛问题转化为函数序列的点态收敛问题,从而为大数定律和中心极限定理的证明提供关键桥梁。

逻辑链条:特征函数定义 → 常用分布的特征函数 → 基本性质 → 与矩的关系 → 唯一性定理(逆转公式)→ 连续性定理

前置依赖§4.1(复随机变量、欧拉公式)、§2.2(期望)、§2.3(方差)

核心主线:特征函数与分布函数一一对应(唯一性定理),且独立随机变量和的特征函数等于各特征函数之积,这使得复杂的分布问题可以通过特征函数的乘法结构来简化。


一、特征函数的定义

复随机变量回顾

§4.1中已经引入了复随机变量的概念。设 为实值随机变量,则

称为复随机变量,其期望为 。若 独立,则 的期望等于期望之积。

由欧拉公式 ,有 ,故 的期望一定存在。

特征函数的定义

定义 4.2.1 — 特征函数(公式4.2.1)

为随机变量,称

特征函数(characteristic function)。

理解要点

  • 特征函数是实变量 的复值函数,对每个固定的 是一个期望值
  • 由于 ,特征函数一定存在(不像矩母函数可能不存在)

离散型和连续型的计算公式

定义 4.2.2 — 离散型特征函数(公式4.2.2)

为离散型随机变量,分布律为 ),则

定义 4.2.3 — 连续型特征函数(公式4.2.3)

为连续型随机变量,密度函数为 ,则

理解要点:连续型的特征函数本质上是密度函数 傅里叶变换(差一个符号约定)。这一联系是特征函数强大功能的数学根源。


二、常用分布的特征函数

退化分布

,则

二点分布

例 4.2.1 — 二点分布的特征函数

,即 ),则

泊松分布

例 4.2.2 — 泊松分布的特征函数

,即 ),则

均匀分布

例 4.2.3 — 均匀分布的特征函数

,密度为 ,则

标准正态分布

例 4.2.4 — 标准正态分布的特征函数

,密度为 ,则

:将 泰勒展开:

利用标准正态的矩公式 奇数)、

指数分布

例 4.2.5 — 指数分布的特征函数

,密度为 ,则

常用分布特征函数汇总表

分布特征函数
退化分布

三、特征函数的基本性质

定理 4.2.1 — 特征函数的基本性质(公式4.2.4-4.2.7)

为随机变量 的特征函数,则:

(1) 有界性

(2) 共轭对称性

(3) 线性变换:若 为常数),则

(4) 独立随机变量和:若 独立,则

理解要点

  • 有界性:由 和期望的三角不等式直接得到
  • 共轭对称性
  • 线性变换:先平移(乘 )再缩放(
  • 独立性乘法:这是特征函数最重要的性质之一,它将卷积运算转化为简单的乘法运算,是证明可加性定理和中心极限定理的关键工具

证明

证明

性质(1) 有界性

(第一步:利用期望的三角不等式 。第二步:。) 又 ,故

性质(2) 共轭对称性

(关键步骤:,以及期望与共轭运算可交换 。)

性质(3) 线性变换:设

(关键步骤:常数因子 可以提出期望符号,变量 的系数 被吸收到参数 中。)

性质(4) 独立随机变量和:设 独立,则 也独立(可测函数保持独立性),故

(关键步骤:独立随机变量的乘积的期望等于期望的乘积。这一步将卷积运算转化为乘法运算。)

证明

证明:若 独立,则

第一步:写出 的特征函数。

第二步:利用独立性求和的特征函数。 由特征函数的基本性质,

第三步:识别分布。 正是 的特征函数。由逆转公式与唯一性定理,


四、特征函数与矩的关系

定理 4.2.2 — 特征函数与矩(公式4.2.8-4.2.9)

存在( 为正整数),则 阶导数存在(),且

特别地,

理解要点

  • 特征函数在原点处的 阶导数与 阶矩直接相关
  • 这提供了一种计算矩的替代方法:先求特征函数,再对 求导
  • 公式(4.2.9)中方差的计算利用了

证明

证明(以 为例,一般情形类似):

第一步:写出导数的定义。

(关键步骤:交换求导与期望的顺序。这需要验证控制收敛定理的条件:,而 阶矩存在),故交换合法。)

第二步:在 处求值。

第三步:解出

一般情形 阶导数):类似地,,在 处:

方差公式的推导

例 4.2.6 — 用特征函数求泊松分布的期望和方差


五、特征函数的唯一性定理

非负定性

定理 4.2.3 — 特征函数的非负定性(公式4.2.10)

为随机变量 的特征函数,则对任意正整数 、任意实数 和任意复数 ,有

理解要点:非负定性是特征函数的本质特征——Bochner定理指出,一个函数是某个随机变量的特征函数,当且仅当它满足 、连续且非负定。

证明

证明

第一步:构造辅助复随机变量。,其中 为任意复数, 为任意实数。

第二步:计算 利用

第三步:利用非负性。 由于 ,故 ,即

对任意 、任意 和任意 成立。

逆转公式与唯一性定理

定理 4.2.4 — 逆转公式与唯一性定理(公式4.2.11-4.2.12)

(1) 分布函数的逆转:设 的分布函数为 ,特征函数为 ,则对任意

(2) 密度函数的逆转:若 为连续型随机变量,且 ,则 具有连续密度函数

唯一性:分布函数由特征函数唯一确定,即 )。

理解要点

  • 逆转公式是傅里叶逆变换的概率论版本
  • 唯一性定理是特征函数理论的基石:特征函数与分布函数一一对应
  • 密度逆转公式(4.2.12)要求 绝对可积,这个条件对很多分布(如正态分布)成立,但对柯西分布等厚尾分布不成立

证明思路

证明(逆转公式(4.2.11)的证明思路):

第一步:将 表示为积分。 利用示性函数 的 Fourier 表示:

第二步:引入 Dirichlet 积分。 利用恒等式

时,这个积分在 上趋于 ,在 上趋于 (Dirichlet 积分的经典结果)。

第三步:交换积分顺序并取极限。 将上述恒等式代入 的表达式中,交换积分顺序(Fubini定理),令 即得(4.2.11)。

唯一性的证明:若 对所有 成立,则由逆转公式,对任意 的连续点),。令 ,由连续点的稠密性得

**密度逆转(4.2.12)**的证明:在(4.2.11)中令 ,除以 后令 ,左端趋于密度 (若存在),右端即为 Fourier 反变换公式。


六、连续性定理

定理 4.2.5 — 连续性定理(Lévy连续性定理)

(1) 若分布函数序列 弱收敛于 ,则对应的特征函数序列 对每个 都收敛于 ,且在任意有界区间上一致收敛。

(2) 若特征函数序列 对每个 都收敛于某个函数 ,且 处连续,则存在分布函数 使得 ,且 的特征函数。

理解要点

  • 连续性定理建立了分布函数收敛与特征函数收敛的等价关系
  • 方向(1):分布收敛 ⇒ 特征函数收敛(且一致收敛)
  • 方向(2):特征函数逐点收敛(+ 处连续)⇒ 分布收敛
  • 这是证明中心极限定理的核心工具:先证明标准化和的特征函数收敛到 (正态分布的特征函数),再由连续性定理得到依分布收敛

证明思路

证明(两个方向的证明思路):

方向(1):

第一步:利用弱收敛的定义。 的连续点上成立。

第二步:将 表示为关于 的积分。

第三步:截断积分区间。 对任意 ,将积分拆分为 两部分。在 上利用 的一致连续性和 ,在 上利用 和分布函数尾部的一致小性(由 弱收敛保证),取 充分大后两部分都可任意小。

方向(2): 处连续)

第一步:证明 的紧性。 处连续,可证 胎紧(tight)的:对任意 ,存在 使得 对所有 成立。

第二步:抽取收敛子列。 由 Helly 选择定理, 存在子列 弱收敛到某个右连续函数

第三步:证明 是分布函数。 由胎紧性,

第四步:证明 的特征函数是 对子列 应用方向(1),。但 ,故

第五步:由唯一性定理, 唯一确定。 因此所有子列收敛到同一个 ,故

连续性定理的应用模式

证明”某序列依分布收敛到正态分布”的标准流程:

  1. 写出 的特征函数
  2. 利用独立性将 表示为单个特征函数的乘积
  3. 取对数,做泰勒展开,证明
  4. 由连续性定理,

七、知识结构总览

graph LR
    A["特征函数定义"] --> B["常用分布的特征函数"]
    A --> C["基本性质"]
    C --> D["与矩的关系"]
    A --> E["唯一性定理"]
    E --> F["连续性定理"]
    B --> G["可加性证明"]
    F --> H["极限定理证明"]
    style A fill:#e3f2fd,color:#1565c0
    style B fill:#fff3e0,color:#e65100
    style C fill:#fff3e0,color:#e65100
    style D fill:#e8f5e9,color:#2e7d32
    style E fill:#fce4ec,color:#c62828
    style F fill:#fce4ec,color:#c62828
    style G fill:#f3e5f5,color:#7b1fa2
    style H fill:#f3e5f5,color:#7b1fa2

八、核心思想与证明技巧

核心思想

  1. 傅里叶变换的视角:特征函数本质上是密度函数的傅里叶变换(连续型)或分布律的离散傅里叶变换(离散型)。这一数学结构赋予了特征函数强大的分析工具。
  2. 乘法替代卷积:独立随机变量和的分布是卷积运算,但特征函数将卷积简化为乘法。这是特征函数在概率论中不可替代的根本原因。
  3. 一一对应性:唯一性定理保证了特征函数与分布函数的双射关系,使得通过特征函数研究分布成为完备的方法。

证明技巧

技巧说明应用场景
泰勒展开 求特征函数、证明连续性定理
取对数做展开证明中心极限定理
利用唯一性定理两个分布的特征函数相同则分布相同证明分布的同一性
独立性乘法证明可加性、分解复杂分布

九、补充理解与易混淆点

特征函数与矩母函数的混淆

来源:茆诗松教材§4.2 + 卡方训练营讲义 + CSDN”3种常见概率分布的特征函数推导” + 中文数学Wiki”特征函数” + 科普中国”特征函数的性质”

误区1:"特征函数就是矩母函数(MGF)"

❌ 错误解释:矩母函数定义为 ,其中 是实数。特征函数 也是实数,但指数上有虚数单位 。矩母函数不一定存在(如柯西分布的矩母函数不存在),但特征函数一定存在(因为 )。 ✅ 正确解释:特征函数是矩母函数在虚轴上的取值,即 。特征函数永远存在,适用范围更广。在矩母函数存在的场合,两者可以互相转化;在矩母函数不存在的场合(如柯西分布),只能使用特征函数。

“特征函数相同则分布相同”的误用

来源:茆诗松教材§4.2 + 卡方训练营讲义 + CSDN”随机信号篇-特征函数” + QQ阅读”茆诗松概率论笔记” + 51CTO博客”特征函数的性质”

误区2:"只要两个特征函数在某个区间上相同,分布就相同"

❌ 错误解释:唯一性定理要求特征函数在所有 上相同,才能推出分布相同。仅在有限区间或部分点上相同不能推出分布相同。 ✅ 正确解释:唯一性定理的完整表述是 一切 成立 对一切 成立。不过,由于特征函数是实解析函数(在绝对可积条件下),实际上只需在 的某个邻域内相同即可推出全局相同——但这一结论需要额外的解析性论证,初学阶段应记住”全局相同”的要求。

连续性定理条件的忽视

来源:茆诗松教材§4.2 + 卡方训练营讲义 + 2018复旦大学861真题 + 2019武汉大学432真题 + 2021武汉大学432真题

误区3:"特征函数逐点收敛就一定能推出分布收敛"

❌ 错误解释:连续性定理的方向(2)要求两个条件同时满足:① 对每个 成立;② 极限函数 连续。条件②不可省略——存在特征函数序列逐点收敛到某个不连续函数的反例,此时分布函数序列不收敛。 ✅ 正确解释:连续性定理方向(2)的两个条件缺一不可。在实际应用中,通常 是某个合法分布的特征函数(自然是连续的),所以条件②自动满足。但在理论证明中需要注意这一条件的验证。


十、习题精选

习题概览

编号题目来源知识点难度
1教材4.2-1特征函数的定义计算★★☆
2教材4.2-2常用分布的特征函数推导★★☆
3教材4.2-3特征函数的性质应用★★★
4教材4.2-4用特征函数求期望和方差★★☆
5教材4.2-5唯一性定理的应用★★★
6教材4.2-6连续性定理的应用★★★
72018北京大学431联合分布边际密度+特征函数计算★★★
82018复旦大学861特征函数方法证明渐近正态性★★★
92019武汉大学432泊松分布特征函数+期望方差+依分布收敛★★★
102020兰州大学432特征函数求解分布参数★★☆

习题1 — 教材4.2-1:特征函数的定义计算

习题1 — 教材4.2-1

设随机变量 的分布律为 ,求 的特征函数。

习题2 — 教材4.2-2:常用分布的特征函数推导

习题2 — 教材4.2-2

,利用特征函数的性质证明 的特征函数为

习题3 — 教材4.2-3:特征函数的性质应用

习题3 — 教材4.2-3

,利用标准正态的特征函数和线性变换性质,求 的特征函数。

习题4 — 教材4.2-4:用特征函数求期望和方差

习题4 — 教材4.2-4

,利用特征函数

习题5 — 教材4.2-5:唯一性定理的应用

习题5 — 教材4.2-5

。已知 的特征函数, 是柯西分布 的特征函数。说明为什么这两个特征函数不同。

习题6 — 教材4.2-6:连续性定理的应用

习题6 — 教材4.2-6

为 i.i.d. 序列,。利用特征函数和连续性定理,说明标准化样本均值 的特征函数收敛到

习题7 — 2018北京大学431:联合分布边际密度+特征函数计算

习题7 — 2018北京大学431

的联合密度为 ,求 的特征函数。

习题8 — 2018复旦大学861:特征函数方法证明渐近正态性

习题8 — 2018复旦大学861

用特征函数方法证明:若 i.i.d. ,则 是渐近正态分布。

习题9 — 2019武汉大学432:泊松分布特征函数+期望方差+依分布收敛

习题9 — 2019武汉大学432

随机变量 。求: (1) 的特征函数; (2) ; (3) 证明 依分布收敛于标准正态分布。

习题10 — 2020兰州大学432:特征函数求解分布参数

习题10 — 2020兰州大学432

随机变量 的分布律为 ), 为常数,求 的特征函数。


十一、教材原文

以下为教材扫描版原文,可点击翻阅。

第四章 随机变量序列的极限定理/特征函数