条件概率与条件期望

概述

条件概率（Conditional Probability）是在已知部分信息下对概率的更新。条件期望（Conditional Expectation）则是条件概率在期望意义上的推广，是现代概率论（特别是鞅论）的核心概念。

---

一、条件概率

定义

条件概率

设 $A,B$ 为事件，$P(B)>0$，在事件 $B$ 已发生的条件下，事件 $A$ 发生的概率为： $P(A|B)=\frac{P(AB)}{P(B)}$

乘法公式

$P(A_1{A}_2\cdots A_n)=P(A_1)P(A_2|A_1)P(A_3|A_1{A}_2)\cdots P(A_n|A_1\cdots A_{n-1})$

---

二、全概率公式

全概率公式

设 $B_1,B_2,\cdots ,B_n$ 为样本空间的一个划分（互不相容且 ${\bigcup }_i{B}_i=\Omega$），$P(B_i)>0$，则对任意事件 $A$： $P(A)={\sum }_{i=1}^{n}P(B_i)P(A|B_i)$

意义：将复杂事件的概率分解为简单事件概率的加权和。

---

三、贝叶斯公式

贝叶斯公式

设 $B_1,B_2,\cdots ,B_n$ 为样本空间的划分，$P(A)>0$，则： $P(B_i|A)=\frac{P(B_i)P(A|B_i)}{{\sum }_{j=1}^{n}P(B_j)P(A|B_j)}$

• $P(B_i)$ 称为先验概率（prior）
• $P(B_i|A)$ 称为后验概率（posterior）

贝叶斯统计的核心公式。

---

四、条件期望

定义

条件期望

设 $(X,Y)$ 为二维随机变量，$E(X)$ 存在。给定 $Y=y$ 条件下 $X$ 的条件期望为：

• 离散型：$E(X|Y=y)={\sum }_{x}xP(X=x|Y=y)$
• 连续型：$E(X|Y=y)={\int }_{-\infty }^{\infty }x{f}_{X|Y}(x|y)dx$

全期望公式

全期望公式

$E(X)=E[E(X|Y)]={\int }_{-\infty }^{\infty }E(X|Y=y)d{F}_Y(y)$

意义：无条件期望可以通过条件期望求平均得到。

---

五、相关章节

• 第一章 随机事件与概率 — 章节汇总
• 独立性 — $P(A|B)=P(A)$ 时称独立
• 3.5 条件分布与条件期望 — 条件概率在随机变量层面的推广
• 6.5 贝叶斯估计 — 贝叶斯公式在统计估计中的应用
• （注：全概率公式内容见1.4节）