概率模型:把不确定性写成可计算的规则
概率模型不声称现实由公式生成。它用一组明确假设描述哪些结果可能出现、各有多大机会,再让统计推断可以检查。
样本空间、事件与概率
样本空间 \(\Omega\) 包含一次随机过程的全部可能结果;事件 \(A\) 是其中一个集合。概率满足:
\[ 0\le P(A)\le1,\qquad P(\Omega)=1 \]
互斥事件 \(A\cap B=\varnothing\) 时:
\[ P(A\cup B)=P(A)+P(B) \]
一般情况下要减掉重复部分:
\[ P(A\cup B)=P(A)+P(B)-P(A\cap B) \]
补事件给出 \(P(A^c)=1-P(A)\)。遇到“至少一次”,先算“一次也没有”通常更省力。
条件概率改变了参照总体
已知 \(B\) 发生后,\(A\) 的条件概率为:
\[ P(A\mid B)=\frac{P(A\cap B)}{P(B)} \]
独立要求 \(P(A\mid B)=P(A)\),等价于:
\[ P(A\cap B)=P(A)P(B) \]
互斥和独立不是一回事。两个非零概率事件若互斥,一个发生就排除了另一个,反而不独立。
贝叶斯公式是倒转条件的记账法
\[ P(A\mid B)= \frac{P(B\mid A)P(A)} {P(B)} \]
若 \(A_1,\ldots,A_k\) 构成互斥且完备的划分:
\[ P(B)=\sum_jP(B\mid A_j)P(A_j) \]
假设疾病患病率 1%,检测灵敏度 90%,假阳性率 5%。阳性后的患病概率不是 90%:
\[ P(D\mid +)= \frac{0.90\times0.01} {0.90\times0.01+0.05\times0.99} \approx15.4\% \]
flowchart LR
A[10000 人] --> B[患病 100]
A --> C[未患病 9900]
B --> D[阳性 90]
C --> E[阳性 495]
D --> F[全部阳性 585]
E --> F 基准率低时,少量假阳性也会淹没真阳性。
随机变量把结果映射成数
离散随机变量用概率质量函数 \(p(x)=P(X=x)\);连续随机变量用密度 \(f(x)\),区间概率是面积:
\[ P(a\le X\le b)=\int_a^b f(x)\,dx \]
连续变量在单点的概率为 0;密度值可以大于 1,只要总面积为 1。
期望和方差为:
\[ E(X)=\sum_xxp(x) \]
\[ \operatorname{Var}(X)=E[(X-E(X))^2]=E(X^2)-E(X)^2 \]
线性变换满足:
\[ E(aX+b)=aE(X)+b,\qquad \operatorname{Var}(aX+b)=a^2\operatorname{Var}(X) \]
无论是否独立,期望都可相加。方差相加还要处理协方差:
\[ \operatorname{Var}(X+Y)=\operatorname{Var}(X)+\operatorname{Var}(Y)+2\operatorname{Cov}(X,Y) \]
大数定律与中心极限定理解决不同问题
大数定律说样本均值随 \(n\) 增大趋近总体均值;中心极限定理说在适当条件下,标准化后的样本均值分布趋近正态:
\[ \frac{\bar X-\mu}{\sigma/\sqrt n} \overset{d}{\longrightarrow}N(0,1) \]
前者解释“为什么平均会稳定”,后者解释“稳定过程中的波动长什么样”。中心极限定理不保证原始数据近似正态;重尾、强依赖或方差不存在时也不能机械套用。
概率模型的三层检查
- 随机对象是什么:一次用户转化、一天订单数,还是一个人的生存时间?
- 哪些结构被假设:独立、同分布、固定成功率、固定方差?
- 哪个现实机制会让假设失效:批次、季节、重复观测、选择偏差?
模型不是现实的复印件;它是把假设暴露出来、允许计算也允许被数据推翻的工具。