第03讲 Gamma分布、χ²/t/F分布与指数族

讲义信息

• **课程：**数理统计
• **章节：**第 2 章中段，对应课件 lec2.2(2026)169
• **讲次：**第 03 讲
• 日期：
• **对应大纲：**数理统计大纲
• **对应课件：**slides/lec2.2(2026)169.pdf
• **研究对象：**统计推断中最常用的连续分布族及其相互关系
• **统计任务：**建立 $\Gamma$、$\chi^2$、$t$、$F$ 等分布的统一视角，并明确它们在推断中的用途
• **本讲结论用途：**为方差推断、均值推断、方差比推断、分位数查表和充分统计量理论准备工具

[!summary]+ 本讲导读

• 本讲研究的问题：统计推断里最常见的几类分布是如何定义、构造和联系起来的。
• 已知什么：标准正态、正态样本的三大核心结论（第二讲）、独立性和线性变换等基本工具。
• 未知什么：$\chi^2$、$t$、$F$ 分布到底是什么、这些分布之间如何转化、如何从概率分布的结构中识别出”充分统计量”的线索。
• 核心统计对象：$\Gamma$ 分布、$\chi^2$ 分布、Student $t$ 分布、$F$ 分布、Beta 分布、指数族。
• 本讲结论最终服务什么推断任务：后续区间估计、假设检验、充分统计量和 UMVUE 都会反复调用这些分布。

先看全局

上一讲结束时，我们得出了正态样本下样本方差标准化后服从卡方分布——但有一个问题悬在空中：卡方分布到底是什么？

第二讲中，我们用了 $\chi^2(n-1)$ 这个符号，但并没有给出它的密度、没有说明它和 Gamma 分布的关系、更没有展示它如何与 $t$ 分布和 $F$ 分布关联起来。这就好比你被别人递了一把钥匙，却不知道这把钥匙能开哪些门。

这一讲的任务就是：把 $\chi^2$、$t$、$F$ 这三把”统计推断的钥匙”的构造、性质和关系彻底讲清楚。本讲最核心的洞察是：这些分布在表面上看起来各不相同，但它们的底层其实只有几条简单的干线：

后面很多题，其实都只是在问你：

• 这个统计量能不能拆成正态和 $\chi^2$ 的组合？
• 这个平方和是不是 Gamma 或 $\chi^2$？
• 这个比值是不是 $F$？

本讲的叙事线

1. Gamma 分布：母体中的母体。 —— 从”正量之和”的分布需求出发，引入 Gamma 分布这一统驭性的分布族。$\chi^2$ 只是它的特例，指数分布也是它的特例。
2. $\chi^2$ 分布：平方和的天然语言。 —— 从标准正态平方和的定义出发，详细给出 $\chi^2$ 的密度、期望、方差和与 Gamma 的关系。
3. $t$ 分布：当 $\sigma$ 未知时怎么办？ —— 从上一讲的三大结论出发，自然构造 $t$ 统计量。解释为什么 $t$ 分布比标准正态尾部更厚。
4. $F$ 分布：方差的比较。 —— 从两个独立 $\chi^2$ 的比值出发，解释 $F$ 分布如何成为”方差比推断”的工具。
5. Beta 分布与附加联系。 —— 展示 Beta 分布与顺序统计量、$F$ 分布之间的相互转化。
6. 指数族：统一视角。 —— 把那些”看起来完全不同”的分布族纳入同一个代数框架，为下一讲的充分统计量铺路。

一、本讲定位

• 在课程中的位置：这是”抽样分布工具箱”的系统整理。
• 和前一讲的连接：第二讲得出了正态样本下 $\overline{X}\sim N(\mu,\sigma^2/n)$ 和 $(n-1)S^2/\sigma^2\sim\chi^2(n-1)$ 且二者独立。现在我们要追问：$\chi^2$ 分布到底是什么？在此基础上，把 $\overline{X}$ 和 $S^2$ 拼在一起，又会得到什么新的分布？这就自然引出了 $t$ 分布和 $F$ 分布。
• 和后一讲的连接：本讲最后引入的指数族，将在下一讲的充分统计量判别中发挥核心作用——因为只要你能把一个分布族写成指数族的标准形式，就能立刻写出它的充分统计量。
• 本讲重点内容：
  • Gamma 分布及其封闭性
  • $\chi^2$ 分布的定义、密度与性质
  • $t$ 分布的定义、构造与尾部特征
  • $F$ 分布的定义、构造与分位数关系
  • Beta 分布与顺序统计量、$F$ 分布的关系
  • 指数族定义、标准形式与典型例子
  • 非中心分布的概念（简介）

二、模型与前提

1. 研究模型

• **总体：**本讲讨论的分布族多数本身就是”后续统计量分布”的模型，而不是原始总体模型。例如 $\chi^2$ 是 $S^2$（标准化后）的分布，不是原始样本的分布。
• **参数空间：**Gamma 的 $(\alpha,\lambda)$、$\chi^2$ 的 $n$（自由度）、$t$ 的 $n$（自由度）、$F$ 的 $(m,n)$（双自由度）。
• **样本：**本讲很多结论来自独立样本构造——尤其是独立的标准正态变量。
• 抽样方式：默认独立同分布。
• **参数含义：**本讲的”参数”有两类：一类是分布本身的参数（如 Gamma 的 $\alpha,\lambda$）；另一类是作为”统计量分布”的自由度（如 $\chi^2(n)$ 中的 $n$，它是构造时标准正态的个数）。

2. 对象区分

在本讲中，请特别留心区分：

• **原始总体：**例如 $X\sim N(\mu,\sigma^2)$——这是我们观测对象的分布。
• **统计量分布：**例如 $(n-1)S^2/\sigma^2\sim\chi^2(n-1)$——这是统计量的抽样分布。
• **中心分布：**参数只在自由度上出现（如 $\chi^2(n),\,t(n),\,F(m,n)$），对应”原假设成立”下的分布。
• **非中心分布：**额外出现非中心参数（如 $\lambda,\delta$），对应”备择假设成立”或”均值偏移”下的分布。本讲以中心分布为主，非中心分布只做概念了解。

3. 模型前提检查

[!warning]+ 条件先检查

• $\chi^2$、$t$、$F$ 的标准定义大多从独立标准正态构造。如果不是独立正态，分布就不是精确的 $\chi^2/t/F$。
• 非中心版本通常对应”原假设不成立”或”均值偏移”的情形——在功效分析（power analysis）中很重要。
• 查分位数时要特别注意自由度、上下分位数和左右尾定义。$F$ 分位数中 $F_\alpha(m,n) \neq 1/F_\alpha(n,m)$。
• 指数族的表达必须写成”参数部分”和”样本部分”分离的形式。仅仅”有指数函数”不代表是指数族——支持集（sample space）不能依赖参数。

三、核心概念

3.1 Gamma 分布：统计推断中的”母分布”

3.1.1 动机：为什么需要 Gamma 分布？

在进入定义之前，先问一个很自然的问题。我们知道标准正态的平方 $Z^2$ 服从什么分布？答案是：它服从 $\chi^2(1)$。但 $\chi^2(1)$ 长什么样？它的密度怎么写？

更一般地说，如果有一组独立的正随机变量 $X_1,X_2$ 都服从指数分布，那么它们的和 $X_1+X_2$ 服从什么分布？

这些问题的共同特征是：研究对象定义在正半轴上，且涉及”和”的运算。而正态分布不够用（它定义在全实数轴上），指数分布又太窄（只有一个参数）。我们需要一个更灵活的正半轴分布族——这就是 Gamma 分布。

3.1.2 定义与直觉

[!definition]+ Gamma 分布 若随机变量 $X$ 的密度为

$$p(x;\alpha,\lambda)=\frac{\lambda^\alpha}{\Gamma(\alpha)}x^{\alpha-1}e^{-\lambda x}, \qquad x>0,$$

其中 $\alpha>0$（形状参数），$\lambda>0$（速率参数），则称 $X\sim\Gamma(\alpha,\lambda)$。

用途：Gamma 分布是构造 $\chi^2$、指数分布和许多正量和式分布的统一母体。

对符号的逐一解释——不要让任何一个符号成为阅读障碍：

• $\alpha$：形状参数（shape parameter）。它控制密度曲线在零点附近的”抬升”方式。$\alpha<1$ 时密度在零点发散（倒钩形）；$\alpha=1$ 时退化为指数分布（原点处最大）；$\alpha>1$ 时从零开始上升再下降（单峰形）。
• $\lambda$：速率参数（rate parameter）。它控制指数衰减的速度。$\lambda$ 越大，尾部收得越快。有时也用尺度参数 $\beta=1/\lambda$ 来写，注意区分。
• $\Gamma(\alpha)$：Gamma 函数，定义为 $\Gamma(\alpha)=\int_0^\infty t^{\alpha-1}e^{-t}dt$。它负责把 $x^{\alpha-1}e^{-\lambda x}$ 的积分归一化。对正整数 $\alpha$，$\Gamma(\alpha)=(\alpha-1)!$。
• $\lambda^\alpha$：同样是归一化常数的一部分，保证密度在全正半轴积分为 1。

直觉理解：Gamma 分布可以视为对”指数分布”的推广。指数分布刻画的是”等待一次事件发生的时间”，而 Gamma 分布刻画的是”等待 $\alpha$ 次独立事件发生的时间”——如果把 $\alpha$ 取为整数，$\Gamma(\alpha,\lambda)$ 就是 $\alpha$ 个独立指数分布 $E(\lambda)$ 的和的分布。

Gamma 分布的两个极端特例建立了它与已有知识的联系：

• 当 $\alpha=1$ 时，退化为指数分布 $E(\lambda)$：密度简化为 $\lambda e^{-\lambda x}$。
• 当 $\alpha=n/2$ 且 $\lambda=1/2$ 时，恰好是 $\chi^2(n)$——这是本讲后面要反复使用的联系。

3.1.3 Gamma 分布的封闭性：它为什么不惧怕”加法”

为什么要关注”加法封闭性”？ 在统计推断中，我们经常遇到独立随机变量求和的问题。例如，如果每个平方项 $Z_i^2\sim\chi^2(1)$，那么 $\sum Z_i^2$ 的分布是什么？如果 Gamma 分布对”同速率参数下的加法”封闭，那 $\chi^2$ 的求和就自然封闭——这为后续讨论平方和的分布铺平了道路。

[!theorem]+ Gamma 分布的封闭性 若

$$X_1\sim\Gamma(\alpha_1,\lambda),\qquad X_2\sim\Gamma(\alpha_2,\lambda),$$

且 $X_1,X_2$ 独立，则

$$X_1+X_2\sim\Gamma(\alpha_1+\alpha_2,\lambda).$$

用途：这是后续构造 $\chi^2$ 分布和样本和分布的核心工具。推广到 $m$ 个独立 Gamma 变量（同 $\lambda$），和仍服从 Gamma，形状参数相加。

含义解析：

• 封闭性对加法意味着：独立 Gamma 变量（同速率）的和仍然是 Gamma，只是形状参数从 $\alpha_1+\alpha_2+\cdots$ 简单累加。速率参数 $\lambda$ 完全不变。
• 这恰好匹配了”独立指数等时间之和”的直觉：等 $\alpha_1$ 次事件 + 等 $\alpha_2$ 次事件 = 等 $\alpha_1+\alpha_2$ 次事件。
• 最关键的条件是”同 $\lambda$“：如果两个 Gamma 变量的 $\lambda$ 不同，则它们的和不再是 Gamma 分布——这是做题目时最容易忽略的前提检查。

[!warning]+ 坑点：$\lambda$ 必须相同 若 $X_1\sim\Gamma(\alpha_1,\lambda_1)$，$X_2\sim\Gamma(\alpha_2,\lambda_2)$ 且 $\lambda_1\neq\lambda_2$，则 $X_1+X_2$ 的分布不是 Gamma 分布。它的密度需要用卷积来计算，没有简单的封闭形式。

3.1.4 基本数字特征

对于 $X\sim\Gamma(\alpha,\lambda)$：

含义：期望 $\alpha/\lambda$ 表明 Gamma 分布的中心由”事件次数 $\alpha$“和”事件速率 $\lambda$“共同决定。速率越快（$\lambda$ 大），等待时间越短；事件越多（$\alpha$ 大），等待时间越长。方差 $\alpha/\lambda^2$ 说明同速率下，事件越多，方差越大（因为等待时间的累积不确定性在增加）。

3.2 $\chi^2$ 分布：平方和的天然语言

3.2.1 动机与定义

上一讲中，我们在正态样本下遇到了 $(n-1)S^2/\sigma^2\sim\chi^2(n-1)$。但我们没有回答：$\chi^2$ 分布到底是什么？它的密度、期望、方差怎么写？

更根本地说：$\chi^2$ 分布为什么会出现？ 答案就藏在它的定义里。

[!definition]+ $\chi^2$ 分布 若 $Z_1,\dots,Z_n$ 独立且 $Z_i\sim N(0,1)$，则

$$\xi=\sum_{i=1}^n Z_i^2\sim \chi^2(n).$$

称 $\xi$ 服从自由度为 $n$ 的卡方分布（Chi-squared distribution）。

用途：用于方差推断、残差平方和分析、$F$ 分布构造和拟合优度检验。

直觉理解：从标准正态”出发”，每取一次样本就平方一下，然后累加。$n$ 就是累加的次数，也是这个分布的唯一参数——自由度。直观上，自由度越大，你累加的平方项越多，分布的中心就越往右移，且分布的形状越来越接近正态。

含义解析：

• $\chi^2$ 分布定义在 $(0,\infty)$ 上——它是平方和，自然非负。
• 自由度 $n$ 不一定是正整数，可以推广到任意正实数（此时仍可通过 Gamma 分布来定义）。
• $\chi^2$ 分布是右偏的（skewed to the right），但在自由度很大时趋近正态。

3.2.2 密度与数字特征

$\chi^2(n)$ 的密度为：

式子拆解：

• $x^{n/2-1}$：形状取决于自由度 $n$。$n=1$ 时退化为 $x^{-1/2}$（在原点发散），$n=2$ 时退化为 $e^{-x/2}$（指数分布），$n>2$ 时在 $x=n-2$ 处取到峰值。
• $e^{-x/2}$：指数衰减，速率固定为 $1/2$。
• $\frac{1}{2^{n/2}\Gamma(n/2)}$：归一化常数，等价于 Gamma 分布中的 $\frac{\lambda^\alpha}{\Gamma(\alpha)}$ 但 $\lambda=1/2$。

比较这个密度与 Gamma 分布密度的形式：

的密度是 $\frac{(1/2)^{n/2}}{\Gamma(n/2)}x^{n/2-1}e^{-x/2}=\frac{1}{2^{n/2}\Gamma(n/2)}x^{n/2-1}e^{-x/2}$，完全一致。

因此：

[!theorem]+ $\chi^2$ 分布与 Gamma 分布的关系

$$\chi^2(n)=\Gamma\!\left(\frac{n}{2},\frac{1}{2}\right).$$

用途：这说明 $\chi^2$ 不是孤立分布，而是 Gamma 分布的一个特例——形状参数为 $n/2$、速率参数为 $1/2$。利用 Gamma 的封闭性，立刻得到 $\chi^2$ 的加法性质。

由此立即得到基本数字特征（用 Gamma 的公式代入 $\alpha=n/2,\lambda=1/2$）：

含义解析：

• $E(\chi^2(n))=n$：卡方变量的期望等于其自由度。这是非常简洁的性质——你每加一个独立标准正态的平方，期望就贡献 1。
• $\operatorname{Var}(\chi^2(n))=2n$：方差是期望的两倍。这意味着卡方分布的相对分散程度（方差/期望 = 2）是常数，但随着自由度增大，绝对波动在增加。

3.2.3 $\chi^2$ 的加法性质

由 Gamma 的封闭性立刻得到：

其中两个 $\chi^2$ 变量必须独立。

为什么这个性质重要？ 因为在统计推断中，我们经常需要把不同的平方和合并起来——例如，把组内平方和与组间平方和加在一起。$\chi^2$ 的加法性质保证了合并后的分布仍然是 $\chi^2$，自由度简单相加即可。

3.3 $t$ 分布：当 $\sigma$ 未知时

3.3.1 动机：一个”卡住”的问题

回顾第二讲的内容：在正态样本下，

这个公式非常漂亮。但有一个致命的问题：在实际中，我们几乎永远不知道 $\sigma$ 的真实值。

那么，如果把未知的 $\sigma$ 替换成样本标准差 $S$，得到

这个新的统计量服从什么分布？

这就是 $t$ 分布出现的根本动机：当总体标准差未知时，用样本标准差 $S$ 替代 $\sigma$ 会带来额外的随机性——$S$ 本身就是一个随机变量，它在分母上波动。这会使得最终统计量的分布不再是标准正态，而是尾部更厚的 $t$ 分布。

[!note]+ 思维实验：为什么 $t$ 分布尾部更厚？

想象你反复抽样。在大多数情况下，$S$ 离 $\sigma$ 不远，所以 $\frac{\overline{X}-\mu}{S/\sqrt{n}}$ 和 $\frac{\overline{X}-\mu}{\sigma/\sqrt{n}}$ 差不太多。但偶尔地，你会抽到一组样本使得 $S$ 异常小——此时分母变小，整个统计量就会”蹦”得很大（正或负），产生极端的 $t$ 值。

标准正态分布不能容忍这种极端值（它的尾部是指数级衰减的），但 $t$ 分布的尾部是多项式衰减的——更厚、更能容纳由 $S$ 的不确定性带来的极端值。这就是 $t$ 分布比标准正态”更保守”的根本原因。

3.3.2 定义与构造

[!definition]+ Student $t$ 分布 若

$$X\sim N(0,1),\qquad K\sim \chi^2(n),$$

且 $X$ 与 $K$ 独立，则

$$T=\frac{X}{\sqrt{K/n}}\sim t(n).$$

称 $T$ 服从自由度为 $n$ 的 $t$ 分布（也叫 Student’s $t$）。

用途：用于总体均值未知方差情形下的推断。

式子拆解：

• 分子 $X$：一个标准正态随机变量——它来自”数据的中心化与标准化”。
• 分母 $\sqrt{K/n}$：$\chi^2$ 除以其自由度再开方——本质上是”标准误的随机版本”。其中的 $\chi^2$ 来自样本方差（第二讲告诉我们 $(n-1)S^2/\sigma^2\sim\chi^2(n-1)$）。
• 整个 $T$：一个”标准化正态”被一个”随机标准误”除，得到尾部更厚的分布。

在正态样本下的具体形式：回顾第二讲的三大核心结论。若 $X_1,\dots,X_n\sim N(\mu,\sigma^2)$，则

将 $U$ 和 $K$ 代入 $t$ 分布的定义：

这就是单样本 $t$ 检验的核心公式。

注意：自由度是 $n-1$ 而不是 $n$——因为 $K$ 服从 $\chi^2(n-1)$。用 $\overline{X}$ 替代 $\mu$ 消耗了一个自由度。

3.3.3 $t$ 分布的性质

1. 对称性：$t(n)$ 分布关于 0 对称，密度函数是偶函数。
2. 尾部厚度：$t(n)$ 的尾部比 $N(0,1)$ 更厚。当 $n\to\infty$ 时，$t(n)$ 趋近于 $N(0,1)$。实际中，$n\ge 30$ 时两者已经非常接近。
3. 矩的存在性：$t(n)$ 只有前 $n-1$ 阶矩存在。特别地，
   • $n>1$ 时 $E(T)=0$；
   • $n>2$ 时 $\operatorname{Var}(T)=\frac{n}{n-2}$（方差不随 $n$ 增大收敛到 1，而是从大于 1 的方向趋近）；
   • $n=1$ 时（即 Cauchy 分布），期望不存在——这是一个极端案例。
4. 抽样分布中的角色：$t$ 分布是”未知 $\sigma$ 下的均值推断”的标准分布。它比标准正态更保守（置信区间更宽），反映了用 $S$ 替代 $\sigma$ 带来的额外不确定性。

[!note]+ 对比辨析：$N(0,1)$ vs $t(n)$

维度	$N(0,1)$	$t(n)$
适用场景	$\sigma$ 已知时的均值推断	$\sigma$ 未知时的均值推断
尾部衰减	指数级 $e^{-x^2/2}$	多项式级 $\sim \|x\|^{-(n+1)}$
$n=1$ 时	—	Cauchy 分布（无期望）
$n\to\infty$ 时	—	收敛于 $N(0,1)$
置信区间	较窄	较宽（更保守）
方差（$n>2$）	$1$	$n/(n-2) > 1$

使用决策：如果你知道 $\sigma$，用正态；如果你不知道 $\sigma$ 但样本来自正态总体，用 $t$；如果样本量很大（$n\ge 30$），两者的差异在实践中常常可以忽略。

3.4 $F$ 分布：方差的比较

3.4.1 动机：为什么需要比较两个方差？

到目前为止，我们有了推断一个均值的工具（$t$）和推断一个方差的工具（$\chi^2$）。但实际中还有一种常见需求：比较两个总体的方差。

例如：

• 两种生产工艺，哪种更稳定（方差更小）？
• 两种测量仪器的精度是否相同？
• 方差分析（ANOVA）中，组间方差是否显著大于组内方差？

这些问题的共同结构是：你有两个独立估计的方差，想要比较它们的大小。 这就需要一个分布来描述”两个独立 $\chi^2$ 变量（分别除以其自由度）的比值”——这就是 $F$ 分布。

为什么是比值，而不是差值？ 因为方差本身带量纲，用差值比较不方便（差多少算”大”？）。用比值则可以消除量纲——两个方差都除以各自的总体方差后再相除，得到一个无量纲的量。而且，比值能把”方差相等”这个假设简洁地表述为”比值等于 1”。

3.4.2 定义与构造

[!definition]+ $F$ 分布 若

$$K_1\sim \chi^2(m),\qquad K_2\sim \chi^2(n),$$

且 $K_1,K_2$ 独立，则

$$F=\frac{K_1/m}{K_2/n}\sim F(m,n).$$

称 $F$ 服从自由度为 $(m,n)$ 的 $F$ 分布（也叫 Snedecor’s $F$）。

用途：用于方差比推断、方差分析和回归分析。

式子拆解：

• $K_1/m$：第一个 $\chi^2$ 除以其自由度——标准化为”平均每个自由度的平方和”。由 $\chi^2$ 的性质，它的期望是 1。
• $K_2/n$：第二个 $\chi^2$ 同样标准化。
• 整个 $F$：两个”单位自由度的平方和”的比值。如果两个总体的方差相等，这个比值应该在 1 附近波动。如果显著大于 1 或小于 1，就提示方差可能有差异。

在正态样本下的具体形式：若两组独立样本分别来自正态总体：

特别地，当 $\sigma_X^2=\sigma_Y^2$（两总体方差相等）时，

3.4.3 $F$ 分布的性质

1. 定义域：$(0,\infty)$。$F$ 是两个正量的比值，自然为正。
2. 不对称性：$F$ 分布是右偏的。当 $m,n$ 都很大时趋近对称。
3. 自由度的顺序很重要：$F(m,n)$ 和 $F(n,m)$ 是完全不同的分布。特别地， $$F_{\alpha}(m,n)=\frac{1}{F_{1-\alpha}(n,m)}.$$ 这个关系在查表时非常有用——如果表中没有 $F_{0.95}(5,10)$，可以查 $1/F_{0.05}(10,5)$。
4. 与 $t$ 分布的关系： $$T\sim t(n)\quad\Longrightarrow\quad T^2\sim F(1,n).$$ 也就是说，$t$ 检验的平方等价于 $F$ 检验——这解释了为什么在方差分析中 $F$ 检验能替代双样本 $t$ 检验。
5. 数字特征： $$E(F)=\frac{n}{n-2}\;(n>2),\qquad \operatorname{Var}(F)=\frac{2n^2(m+n-2)}{m(n-2)^2(n-4)}\;(n>4).$$ 当 $n$ 很大时，$E(F)\approx 1$——和直觉一致，两个”单位自由度的平方和”的比值期望趋于 1。

[!warning]+ 查表注意事项

• $F$ 分布有两个自由度：第一个是分子的自由度 $m$，第二个是分母的自由度 $n$。不要写反。
• $F_\alpha(m,n)$ 表示上 $\alpha$ 分位数，即 $P(F>F_\alpha(m,n))=\alpha$。
• 由于 $F$ 分布不对称，$F_{0.95}(m,n)\neq 1/F_{0.05}(m,n)$。正确的关系是 $F_{1-\alpha}(m,n)=1/F_\alpha(n,m)$。

[!note]+ 对比辨析：$t$ 分布 vs $F$ 分布

维度	$t(n)$	$F(m,n)$
定义域	$(-\infty,\infty)$	$(0,\infty)$
对称性	关于 0 对称	右偏（不对称）
自由度数	1 个	2 个（分子 + 分母）
推断对象	单个均值（$\sigma$ 未知）	两个方差的比值
与 $\chi^2$ 的关系	分子是 $N(0,1)$，分母是独立 $\sqrt{\chi^2/n}$	分子和分母分别是独立的 $\chi^2/m$ 和 $\chi^2/n$
平方关系	$T^2\sim F(1,n)$	—
典型应用	单样本/双样本均值检验	方差齐性检验、ANOVA、回归整体显著性

3.5 Beta 分布：比例与排序的语言

3.5.1 动机：Beta 分布何时出现？

Beta 分布的定义域是 $(0,1)$——这意味着它天然适合描述比例、概率、排序位置。在统计推断中，Beta 分布主要通过以下两条路径出现：

1. $U(0,1)$ 样本的顺序统计量。 在第二讲末尾，我们发现 $X_{(k)}\sim\text{Beta}(k,n-k+1)$ 当总体为 $U(0,1)$ 时。
2. $F$ 分布的单调变换。 $F$ 分布和 Beta 分布之间可以互相转化。

3.5.2 定义与基本性质

[!definition]+ Beta 分布 若随机变量 $X$ 的密度为

$$p(x;a,b)=\frac{1}{B(a,b)}\,x^{a-1}(1-x)^{b-1},\qquad 0<x<1,$$

其中 $a>0,b>0$，$B(a,b)=\Gamma(a)\Gamma(b)/\Gamma(a+b)$ 为 Beta 函数，则称 $X\sim\text{Beta}(a,b)$。

用途：描述 $(0,1)$ 上的比例和概率，以及 $U(0,1)$ 样本的顺序统计量分布。

含义解析：

• $x^{a-1}$ 控制密度在 0 附近的行为：$a<1$ 时在 0 处发散，$a>1$ 时在 0 处为 0。
• $(1-x)^{b-1}$ 控制密度在 1 附近的行为：$b<1$ 时在 1 处发散，$b>1$ 时在 1 处为 0。
• $a=b=1$ 时退化为 $U(0,1)$。
• 期望 $E(X)=\frac{a}{a+b}$——这是 Beta 分布的”重心”，由两个形状参数的比值决定。

与 $F$ 分布的关系：若 $F\sim F(m,n)$，则

这个变换将 $(0,\infty)$ 上的 $F$ 分布”压缩”到 $(0,1)$ 上。反过来，若 $X\sim\text{Beta}(a,b)$，也可以变回 $F$ 分布。

3.6 非中心分布（概念了解）

在讨论 $t$ 和 $\chi^2$ 时，我们默认了”中心”条件——即分子来自 $N(0,1)$（均值为零）。但在备择假设下，统计量的均值会偏移，不再是零。这就引出了非中心分布。

[!definition]+ 非中心分布（概念）

• 非中心 $\chi^2$：若 $Z_i\sim N(\mu_i,1)$ 且独立，则 $\sum Z_i^2\sim\chi^2(n,\lambda)$，其中非中心参数 $\lambda=\sum\mu_i^2$。
• 非中心 $t$：若 $X\sim N(\delta,1)$ 且 $K\sim\chi^2(n)$ 独立，则 $X/\sqrt{K/n}\sim t(n,\delta)$。
• 非中心 $F$：若 $K_1\sim\chi^2(m,\lambda)$ 且 $K_2\sim\chi^2(n)$ 独立，则 $(K_1/m)/(K_2/n)\sim F(m,n,\lambda)$。

用途：这些分布在功效分析（power analysis）和样本量计算中至关重要——它们描述了”当原假设不成立时，检验统计量的分布会如何偏移”。

在本课程中，非中心分布主要用于理解”为什么样本量越大，检验越容易拒绝错误原假设”。我们会在假设检验的章节中再次遇到它们。

3.7 指数族：统一视角

3.7.1 动机：这么多分布，有什么共同点？

到目前为止，我们讨论了 Gamma、$\chi^2$、$t$、$F$、Beta 以及前两讲的正态、Bernoulli、Poisson、指数分布。这些分布看起来各不相同，但它们在统计推断中有一些共同的需求：

• 如何从样本中提取出关于参数的全部信息？
• 有没有一种统一的方式来判断某个分布族”好不好处理”？

指数族正是为回答这些问题而生的。它的核心思想是：如果一个分布族可以写成特定的”参数与样本分离”的代数形式，那么光看这个形式，就能直接读出它的充分统计量——而这正是下一讲的主题。

3.7.2 标准形式

[!definition]+ 指数族 若分布族可写成

$$p(x;\theta)=c(\theta)\exp\!\left\{\sum_{j=1}^k Q_j(\theta)\,T_j(x)\right\}h(x),$$

其中：

• $h(x)\ge 0$ 只依赖 $x$（不依赖 $\theta$）；
• $c(\theta)>0$ 只依赖 $\theta$（不依赖 $x$）；
• 求和号内 $Q_j(\theta)$ 只依赖 $\theta$，$T_j(x)$ 只依赖 $x$；
• 支持集（$x$ 的取值范围）不依赖 $\theta$；

则称该分布族为指数族（exponential family）。$k$ 为指数族的阶。

用途：这是后续判别充分统计量最直接的结构工具——$T(x)=(T_1(x),\dots,T_k(x))$ 就是充分统计量的天然候选。

每次读这个公式时，按以下步骤拆解：

1. 找到 $h(x)$——把所有不含 $\theta$ 的因子塞进 $h(x)$。
2. 找到 $T_j(x)$——所有和 $\theta$ 乘在一起的 $x$ 的函数。
3. 找到 $Q_j(\theta)$——所有和 $x$ 乘在一起的 $\theta$ 的函数。
4. 剩下的纯 $\theta$ 函数归入 $c(\theta)$。
5. 检查支持集是否依赖 $\theta$——这是最容易被忽略的一步！如果支持集依赖 $\theta$（例如 $U(0,\theta)$），则它不是指数族（除非做特殊处理）。

3.7.3 典型例子：把常见分布族写成指数族形式

例 1：Bernoulli 分布族 $X\sim B(1,p)$，$0<p<1$。

概率函数：

重写为指数形式：

因此：

• $h(x)=1$（注意 $x=0$ 或 $1$，都是常数函数的取值）
• $T(x)=x$
• $Q(p)=\log\frac{p}{1-p}$（这就是 log-odds / logit 变换）
• $c(p)=1-p$
• 支持集 $\{0,1\}$ 不依赖 $p$ ✓

例 2：正态分布族（$\sigma^2$ 已知，$\mu$ 未知）。

密度：

展开指数内的平方：

将含 $\mu$ 和 $x$ 的交叉项 $\frac{\mu}{\sigma^2}x$ 分离出来（这是关键一步——它是参数和样本的乘积形式）：

因此：

• $h(x)=\exp\{-x^2/(2\sigma^2)\}$
• $T(x)=x$
• $Q(\mu)=\mu/\sigma^2$
• $c(\mu)$ 如上
• 支持集 $\mathbb{R}$ 不依赖 $\mu$ ✓

$k=1$（一阶指数族），充分统计量为 $T(x)=x$（即样本和 $\sum X_i$）。

例 3：正态分布族（$\mu$ 和 $\sigma^2$ 均未知）。

此时参数为 $\theta=(\mu,\sigma^2)$。展开密度：

将含参数的项整理为 $\sum Q_j(\theta)T_j(x)$ 的形式：

因此：

• $T_1(x)=x$，$Q_1(\theta)=\mu/\sigma^2$
• $T_2(x)=x^2$，$Q_2(\theta)=-1/(2\sigma^2)$
• $h(x)=1$
• $c(\theta)$ 为前面的常数因子
• 支持集 $\mathbb{R}$ 不依赖 $\theta$ ✓

$k=2$（二阶指数族），充分统计量为 $T(x)=(\sum X_i,\sum X_i^2)$。

3.7.4 常见分布族的指数族归属

[!warning]+ 判断指数族的常见陷阱

• 看到 $e$ 的指数就说是”指数族”——这是最常见的错误。关键不是有没有指数函数，而是能否写成 $c(\theta)\exp\{\sum Q_j(\theta)T_j(x)\}h(x)$ 的标准分离形式。
• 忘记检查支持集——$U(0,\theta)$ 的密度本身可以写成 $1/\theta$（当 $0<x<\theta$），但支持集 $(0,\theta)$ 依赖参数 $\theta$，所以不是指数族！
• 支持集依赖参数的分布族（如 Uniform、Pareto）通常不是指数族——这一事实对充分统计量的讨论有重要影响，因为非指数族可能需要比 $(T_1,\dots,T_k)$ 更多的信息才能达到充分性。

四、推导与证明

1. 证明依赖

• 用到的定义：Gamma 分布、$\chi^2$ 分布、$t$ 分布、$F$ 分布、指数族。
• 用到的前序定理：正态样本均值与方差的分布（第二讲）、独立性、正交变换。
• 用到的分布性质：Gamma 封闭性、变量变换（Jacobian 方法）、幂级数展开。
• 用到的关键技巧：把复杂统计量分拆为”正态 / $\chi^2$ / 独立性”的组合。

2. 证明思路概览

• **对 $\chi^2=\Gamma(n/2,1/2)$：**先证单个标准正态平方 $Z^2\sim\Gamma(1/2,1/2)$，然后利用 Gamma 封闭性累加。
• **对 $t$ 分布：**构造分子 $X\sim N(0,1)$ 和分母 $\sqrt{K/n}$ 的独立比值，用变量变换法求其密度。
• **对 $F$ 分布：**构造两个独立 $\chi^2$ 的比值，用变量变换法。
• **对指数族：**把常见分布的密度做代数重排，将 $\theta$ 和 $x$ 分离。

[!proof]- 📐 深度推导：$Z^2\sim\Gamma(1/2,1/2)$ 的证明

设 $Z\sim N(0,1)$。考虑 $Y=Z^2$。

第一步：用分布函数法求 $Y$ 的密度。

对 $y>0$：

$$P(Y\le y)=P(-\sqrt{y}\le Z\le\sqrt{y})=2\Phi(\sqrt{y})-1.$$

求导：

$$f_Y(y)=2\phi(\sqrt{y})\cdot\frac{1}{2\sqrt{y}} =\frac{1}{\sqrt{2\pi}}\,y^{-1/2}e^{-y/2},\qquad y>0.$$

第二步：与 Gamma 密度对比。

$\Gamma(1/2,1/2)$ 的密度为：

$$\frac{(1/2)^{1/2}}{\Gamma(1/2)}\,y^{-1/2}e^{-y/2}.$$

而 $\Gamma(1/2)=\sqrt{\pi}$（这是 Gamma 函数的一个基本性质）。代入：

$$\frac{1/\sqrt{2}}{\sqrt{\pi}}\,y^{-1/2}e^{-y/2} =\frac{1}{\sqrt{2\pi}}\,y^{-1/2}e^{-y/2}.$$

与 $f_Y(y)$ 完全相同。因此 $Z^2\sim\Gamma(1/2,1/2)=\chi^2(1)$。

为什么这一步很重要？ 它建立了”正态平方 → Gamma 分布”的桥梁。有了这一步，再结合 Gamma 的封闭性，就立刻得到：$n$ 个独立标准正态的平方和 $\sim\Gamma(n/2,1/2)=\chi^2(n)$。

[!proof]- 📐 深度推导：$t$ 分布密度的推导思路

设 $X\sim N(0,1)$，$K\sim\chi^2(n)$ 独立。令 $T=X/\sqrt{K/n}$。

**推导策略：**因为分母涉及 $\chi^2$，直接用变量变换法比较复杂。常用的路径是：

1. 先写出 $(X,K)$ 的联合密度：

   $$f_{X,K}(x,k)=\frac{1}{\sqrt{2\pi}}e^{-x^2/2}\cdot\frac{1}{2^{n/2}\Gamma(n/2)}k^{n/2-1}e^{-k/2}.$$

2. 做变量变换：令 $T=X/\sqrt{K/n}$，$U=K$。解出 $X=T\sqrt{U/n}$。Jacobian 为 $\sqrt{U/n}$。

3. 写出 $(T,U)$ 的联合密度，然后对 $U$ 积分出 $T$ 的边际密度。

最终结果为：

$$f_T(t)=\frac{\Gamma((n+1)/2)}{\sqrt{n\pi}\,\Gamma(n/2)}\left(1+\frac{t^2}{n}\right)^{-(n+1)/2},\qquad t\in\mathbb{R}.$$

关键观察：密度的衰减速度是 $|t|^{-(n+1)}$——多项式衰减，而标准正态是指数衰减 $e^{-t^2/2}$。这解释了 $t$ 分布的”厚尾”特性。

用途：这个推导是理解”为什么需要 $t$ 分布”的关键——它从数学上确认了”用 $S$ 替代 $\sigma$ 会使尾部变厚”这一直觉。

[!proof]- 📐 深度推导：指数族判别的标准步骤

给定一个密度或概率函数 $p(x;\theta)$，判断它是否属于指数族的标准流程：

第 1 步：检查支持集 $\{x:p(x;\theta)>0\}$ 是否依赖 $\theta$。如果依赖，通常不是指数族。

第 2 步：将密度中所有含 $\theta$ 的因子提取出来，尝试写成

$$p(x;\theta)=c(\theta)\cdot\exp\!\left\{\sum_{j=1}^k Q_j(\theta)T_j(x)\right\}\cdot h(x).$$

第 3 步：验证 $Q_j(\theta)$ 和 $T_j(x)$ 是彼此分离的——$Q_j$ 不能含 $x$，$T_j$ 不能含 $\theta$。

第 4 步：如果成功，$k$ 就是阶数，$(T_1,\dots,T_k)$ 就是(最小)充分统计量的天然候选。

以 $U(0,\theta)$ 为例走一遍这个流程：

• 密度 $p(x;\theta)=1/\theta$，当 $0<x<\theta$。
• 第 1 步失败：支持集 $(0,\theta)$ 依赖 $\theta$。
• 结论：$U(0,\theta)$ 不是指数族（所以不要尝试去找指数形式的标准分离式）。

这个结论有实用的推论：对于 $U(0,\theta)$，充分统计量是 $X_{(n)}$（样本最大值），而不是 $\sum X_i$ 这种求和形式的统计量——这和你对指数族的理解是一致的：指数族的充分统计量总是求和（或某种加法型）的形式。

五、关键公式释义

1. Gamma 分布密度

• **来源：**这是对指数分布的推广——把单次等待时间（$\alpha=1$）推广为 $\alpha$ 次独立事件的总等待时间，并通过 $\Gamma(\alpha)$ 做归一化。
• **式子拆解：**左边的 $p(x;\alpha,\lambda)$ 是以 $\alpha,\lambda$ 为参数的密度函数。右边三部分各司其职：$\lambda^\alpha/\Gamma(\alpha)$ 是归一化常数；$x^{\alpha-1}$ 控制形状（在 0 和 $\infty$ 之间的行为）；$e^{-\lambda x}$ 控制指数衰减的速度。
• **含义：**Gamma 分布刻画了一类定义在正半轴上的分布。$\alpha$ 控制从原点起是”发散""指数”还是”单峰”；$\lambda$ 控制”多快衰减到零”。统计中大量”平方和""样本和”的分布最终都落在这个族里。
• **使用提醒：**很多”正量之和”的分布最终都会回到这里。但必须检查 Gamma 变量的速率参数 $\lambda$ 是否相同——不同的 $\lambda$ 不能直接用封闭性。