概率统计复习

(1)

概率论与数理统计复习

概率论与数理统计

(2)

.

随机事件 .

第一章

.

随机变量 .

第二章

.

随机向量 .

第三章

.

数字特征 .

第四章

.

极限定理 .

第五章

(3)

.

随机事件

主要内容：随机事件的关系与运算，概率的加法公式，古典概率模型，条件概率的定义，乘法公式，全概率公式，贝叶斯公式，随机事件的独立性．

(4)

.

随机事件 .

第一章

.

随机事件的概念

.

A

.

事件的概率

.

B

.

概率的加法法则

.

C

.

概率的乘法法则

.

D

.

事件的独立性

.

E

(5)

.

随机事件的关系

关系记号概率论含义包含 A ⊂ B A 发生则 B 一定发生 相等 A = B A 与 B 必定同时发生 互斥 A∩ B = ∅ A 与 B 不会同时发生 对立 A = B A 与 B 有且仅有一个发生

(6)

.

随机事件的运算

运算记号概率论含义并 A∪ B A 与 B 至少一个发生 积 AB A 与 B 都发生 差 A− B A 发生但 B 不发生 补 A A 不发生

(7)

.

随机事件 .

第一章

.

随机事件的概念

.

A

.

事件的概率

.

B

.

概率的加法法则

.

C

.

概率的乘法法则

.

D

.

事件的独立性

.

E

(8)

.

古典概率模型

定义：如果一个随机试验具有以下特点： 1 样本空间只含有限多个样本点； 2 各样本点出现的可能性相等， 则称此随机试验是古典型的．此时对每个事件 A _{⊂ Ω，} 其概率 P(A) = 事件 A 的样本点数 样本点总数 = n(A) n(Ω)

(9)

.

随机事件 .

第一章

.

随机事件的概念

.

A

.

事件的概率

.

B

.

概率的加法法则

.

C

.

概率的乘法法则

.

D

.

事件的独立性

.

E

(10)

.

概率的可加性

概率可加性的常用公式： 1 P(∅) = 0. 2 若 n 个事件 A₁,A2,· · · ,An 两两互斥，则 P n ∪ =1 A ! = n ∑ =1 P(A). 特别地，若两个事件 A,B 互斥，则 (A ∪ B) = P(A) + P(B).

(11)

.

概率的可加性

概率可加性的常用公式： 3 对任意事件 A，有 P(A) = 1 − PA. 4 若事件 A ⊂ B，则 P(B − A) = P(B) − P(A). 特别地，A _{⊂ B =⇒ P(A) ≤ P(B)．} 5 对任意两个事件 A,B，有

(12)

.

随机事件 .

第一章

.

随机事件的概念

.

A

.

事件的概率

.

B

.

概率的加法法则

.

C

.

概率的乘法法则

.

D

.

事件的独立性

.

E

(13)

.

条件概率

定义：设 P_{(B) > 0，称} P(A|B) := P(AB) P(B) 为在事件 B 发生条件下，事件 A 的条件概率．在古典概率模型中， P(A|B) = 事件 AB 包含的样本点数 = n(AB).

(14)

.

乘法公式

由条件概率的定义，如果 P_{(B) > 0，则} P(AB) = P(B)P(A|B) 类似地，如果 P_{(A) > 0，则有} P(AB) = P(A)P(B|A) 以上等式称为乘法公式．

(15)

.

全概率公式

定义：设 Ω 为某试验的样本空间，B1,B2,· · · 为一组 事件．如果以下条件成立： 1 B₁,B₂,· · · 两两互斥； 2 ∪_B_ = Ω， 则称 B1,B2,· · · 为样本空间 Ω 的一个划分（分割）， 或称 B1,B2,· · · 为一个完备事件组． 对任意满足 0 < P_{(B) < 1 的事件 B，B 与 B 构成一}

(16)

.

全概率公式

全概率公式：如果 B1,B2,· · · 构成一个完备事件组， 且都有正概率，则对任意事件 A 有 P(A) =∑  P(B)P(A|B). 特殊情况：如果事件 B 满足 0 < P_{(B) < 1，则对事} 件 A，有

(17)

.

贝叶斯公式

贝叶斯定理：如果 B1,B2,· · · 构成一个完备事件组， 且都有正概率，则对任意正概率的事件 A 有 P(B|A) = P(B)P(A|B) ∑ jP(Bj)P(A|Bj) , = 1,2,· · ·

(18)

.

随机事件 .

第一章

.

随机事件的概念

.

A

.

事件的概率

.

B

.

概率的加法法则

.

C

.

概率的乘法法则

.

D

.

事件的独立性

.

E

(19)

.

两个事件的独立性

定义：若两事件 A、B 满足 P(AB) = P(A)P(B), 则称事件 A、B 相互独立． 实际意义：若 P_{(B) > 0，则上式等价于} P(A|B) = P(A), 即事件 A 的概率不受事件 B 发生与否的影响．

(20)

.

两个事件的独立性

性质：若事件 A 与 B 相互独立，则

A 与 B、A 与 B、A 与 B

(21)

.

本章选择题

选择 设随机事件 A, B 满足 P_{(B) > 0, P(A|B) = 1，} 则必有· · · ·( ) (A) P(A ∪ B) > P(A) (B) P(A ∪ B) > P(B) (C) P(A ∪ B) = P(A) (D) P(A ∪ B) = P(B)

(22)

.

本章选择题

选择 设 A，B 是两个随机事件，且 0 < P_{(A) < 1，}

P(B) > 0，P(B|A) = P(B|A)．则必有· · · ·( ) (A) P(A|B) = P(A|B) (B) P(A|B) ̸= P(A|B) (C) P(AB) = P(A)P(B) (D) P(AB) ̸= P(A)P(B)

(23)

.

随机事件 .

第一章

.

随机变量 .

第二章

.

随机向量 .

第三章

.

数字特征 .

第四章

.

极限定理 .

第五章

(24)

.

随机变量 .

第二章

.

随机变量的分布

.

A

.

随机变量函数的分布

.

B

.

常用离散型分布

.

C

.

常用连续型分布

.

D

(25)

.

随机变量的分布函数

定义：对任何随机变量 X，称函数 F() := P{X ≤ },  ∈R 为 X 的分布函数． 设 F_{() 为某随机变量的分布函数，则其有以下性质：} 1 广义单增：对任意实数  < b，总有 F() ≤ F(b)； 2 0 ¶F()¶ 1，且 F(−∞) = 0, F(+∞) = 1.

(26)

.

随机变量的分布函数

定义：对任何随机变量 X，称函数 F() := P{X ≤ },  ∈R 为 X 的分布函数． 设 F_{() 为某随机变量的分布函数，则其有以下性质：} 1 广义单增：对任意实数  < b，总有 F() ≤ F(b)；

(27)

.

离散型随机变量 X 的概率分布 pk = P{X = k} 满足 1 pk ≥ 0, k = 1,2,· · · 2 ∑ k pk = 1 3 F() = ∑ _k_¶ pk 连续型随机变量 X 的概率密度 ƒ() 满足 1 ƒ() ≥ 0,  ∈R 2 ∫+∞ ƒ() d = 1

(28)

.

连续型随机变量

设 X 为连续性随机变量，则对每个实数 ，总有 P{X = } = 0. 任意区间上概率的计算：由概率密度函数的定义可知， P{X ∈ (,b]} = F(b) − F() = ∫ b  ƒ()d. 上式中的区间 _(,b] 改为 (,b),[,b) 或 [,b] 后 等式仍成立．

(29)

.

连续型随机变量

设 X 为连续性随机变量，则对每个实数 ，总有 P{X = } = 0. 任意区间上概率的计算：由概率密度函数的定义可知， P{X ∈ (,b]} = F(b) − F() = ∫ b  ƒ()d. 上式中的区间 _(,b] 改为 (,b),[,b) 或 [,b] 后

(30)

.

随机变量 .

第二章

.

随机变量的分布

.

A

.

随机变量函数的分布

.

B

.

常用离散型分布

.

C

.

常用连续型分布

.

D

(31)

.

离散型随机变量函数的分布

设离散型随机变量 X 的概率分布为 P{X = k} = pk, k = 1,2,· · · 令 Y _{= g(X)，则 Y 也是一个离散型随机变量，其分} 布可按如下步骤求得 1 根据函数关系列出 Y 的所有可能值； 2 对 Y 的每个可能值 y，P{Y = y} 等于所有满足 g(k) = y 的 pk 之和．

(32)

.

连续型随机变量函数的分布

对连续型随机变量 X，求 Y _{= g(X) 的密度函数的基} 本方法是 1 根据函数关系先求 Y 的分布函数 FY(y) = P{Y ≤ y} = P{g(X) ≤ y} 2 然后对 F_Y(y) 求导可得 Y 的概率密度．

(33)

.

随机变量 .

第二章

.

随机变量的分布

.

A

.

随机变量函数的分布

.

B

.

常用离散型分布

.

C

.

常用连续型分布

.

D

(34)

.

离散型·两点分布

定义：若随机变量 X 只能取 0 或 1，其概率分布为： P{X = 1} = p, P{X = 0} = 1 − p (0 < p < 1) 则称 X 服从参数为 p 的两点分布，记为 X ∼ B(1,p).

(35)

.

离散型·二项分布

定义：如果随机变量 X 服从以下分布律 P{X = k} = b(k; n,p) = Ck_npk(1 − p)n−k, 其中 0 < p < 1,0 ¶ k ¶ n，则称 X 服从参数为 n,p 的二项分布．记为 X ∼ B(n,p).

(36)

.

离散型·泊松分布

定义：如果随机变量 X 服从以下分布律 P{X = m} = λ m m!e −λ_, _m_{= 0}_,_1,_{· · ·} 其中 λ > 0，则称 X 服从参数为 λ 的泊松分布，记为 X ∼ P(λ).

(37)

.

随机变量 .

第二章

.

随机变量的分布

.

A

.

随机变量函数的分布

.

B

.

常用离散型分布

.

C

.

常用连续型分布

.

D

(38)

.

连续型·均匀分布

定义：若随机变量 X 有概率密度 ƒ() = ¨ ₁ b−  ∈ [,b] 0 otherwise , ( < b) 则称 X 服从区间 _[,b] 上的均匀分布，记为 X ∼ U[,b].

(39)

.

连续型·指数分布

定义：如果随机变量 X 有以下概率密度 ƒ() = λe−λ  ≥ 0 0 otherwise , 其中 λ > 0，则称 X 服从参数为 λ 的指数分布．其分布函数为 F() = 1− e−λ  ≥ 0 0  < 0 .

(40)

.

连续型·正态分布

定义：如果随机变量 X 有以下概率密度 ϕμ,σ2() = 1 p 2π· σe −(−μ)2 2σ2 _, 其中 μ,σ 为常数且 σ > 0，则称 X 服从正态分布．简 记为 X ∼ N(μ,σ2). 称 N₍₀,1) 为标准正态分布，并简写 ϕ () 为 ϕ()．

(41)

.

连续型·正态分布

正态分布的分布函数为 μ,σ2() = ∫  −∞ 1 p 2π· σe −(t−μ)2 2σ2 dt_, 该函数不是初等函数．标准正态分布的分布函数简记为 _()．

(42)

.

连续型·正态分布

标准正态分布的分布函数的性质 (−) = 1 − (). 服从正态分布随机变量的标准化：若 X _{∼ N(μ},σ2)，则 X− μ σ ∼ N(0,1).

(43)

.

本章选择题

选择某人向同一目标独立重复射击，每次射击命中 目标的概率为 p (0 < p < 1)，则此人第 4 次射击恰 好第 2 次命中目标的概率为· · · ·( ) (A) 3p(1 − p)2 (B) 6p(1 − p)2 (C) 3p2(1 − p)2 (D) 6p2(1 − p)2

(44)

.

本章选择题

选择 设 F1()，F2() 为两个分布函数，其相应的概 率密度 ƒ1() 与 ƒ2() 是连续函数，则必为概率密度的是· · · ·( ) (A) ƒ1() ƒ2() (B) 2ƒ2()F1() (C) ƒ1()F2() (D) ƒ1()F2() + ƒ2()F1()

(45)

.

随机事件 .

第一章

.

随机变量 .

第二章

.

随机向量 .

第三章

.

数字特征 .

第四章

.

极限定理 .

第五章

(46)

.

随机向量 .

第三章

.

随机向量的联合分布

.

A

.

随机向量的边缘分布

.

B

.

随机向量的条件分布

.

C

.

随机变量的独立性

.

D

.

随机向量函数的分布

.

E

.

常用的随机向量

.

F

(47)

.

二维随机向量的联合分布

定义：设 _(X,Y) 为二维随机向量，称二元函数 F(,y) = P{X ≤ ,Y ≤ y} 为 _(X,Y) 的联合分布函数．联合分布函数的性质： 1 F(,y) 对每个自变量都是广义单增的； 2 0 ¶F(,y) ¶1； 3 F(,−∞) = F(−∞,y) = 0，F(+∞,+∞) = 1；

(48)

.

二维随机向量的联合分布

定义：设 _(X,Y) 为二维随机向量，称二元函数 F(,y) = P{X ≤ ,Y ≤ y} 为 _(X,Y) 的联合分布函数．联合分布函数的性质： 1 F(,y) 对每个自变量都是广义单增的； 2 0 ¶F(,y) ¶1；

(49)

.

二维离散型随机向量 _(X,Y) 的联合概率分布 pj = P{X = ,Y = yj} 满足 1 pj¾ 0,  = 1,2,· · · ,j = 1,2,· · · 2 ∑  ∑ j pj = 1； 二维连续型随机向量 _(X,Y) 的联合概率密度 ƒ(,y) 满足 1 ƒ(,y) ≥ 0, ∀,y ∈R； ∫ _+∞∫ _+∞

(50)

.

二维连续型随机向量

二维连续型随机向量 _(X,Y) 的联合分布函数 F(,y) = ∫  −∞ ∫ y −∞ ƒ(s,t) dt ds, 若联合概率密度 ƒ_(,y) 在点 (,y) 处连续，则有 ∂F(,y) ∂∂y = ƒ (,y) 对任意的平面区域 D，有 P{(X,Y) ∈ D} = ∫∫ (,y_)∈D ƒ(,y) d dy.

(51)

.

二维连续型随机向量

二维连续型随机向量 _(X,Y) 的联合分布函数 F(,y) = ∫  −∞ ∫ y −∞ ƒ(s,t) dt ds, 若联合概率密度 ƒ_(,y) 在点 (,y) 处连续，则有 ∂F(,y) ∂∂y = ƒ (,y) 对任意的平面区域 D，有 P{(X,Y) ∈ D} = ∫∫ (,y_)∈D ƒ(,y) d dy.

(52)

.

二维连续型随机向量

二维连续型随机向量 _(X,Y) 的联合分布函数 F(,y) = ∫  −∞ ∫ y −∞ ƒ(s,t) dt ds, 若联合概率密度 ƒ_(,y) 在点 (,y) 处连续，则有 ∂F(,y) ∂∂y = ƒ (,y) 对任意的平面区域 D，有 ∫∫

(53)

.

随机向量 .

第三章

.

随机向量的联合分布

.

A

.

随机向量的边缘分布

.

B

.

随机向量的条件分布

.

C

.

随机变量的独立性

.

D

.

随机向量函数的分布

.

E

.

常用的随机向量

.

F

(54)

.

边缘分布

二维随机向量 _(X,Y) 作为一个整体，有联合分布函数 F(,y)，其分量 X 与 Y 都是随机变量，有各自的分布 函数，分别记成 FX() 和 FY(y)，称为 X 和 Y 的边缘分布函数．边缘分布由联合分布完全确定： FX() = F(,+∞), FY(y) = F(+∞,y).

(55)

.

边缘分布

二维随机向量 _(X,Y) 作为一个整体，有联合分布函数 F(,y)，其分量 X 与 Y 都是随机变量，有各自的分布 函数，分别记成 FX() 和 FY(y)，称为 X 和 Y 的边缘分布函数．边缘分布由联合分布完全确定： FX() = F(,+∞), FY(y) = F(+∞,y).

(56)

.

二维离散型随机向量 _(X,Y) 的边缘概率分布为 p_· = ∑ j pj,  = 1,2,· · · p_·j = ∑  pj, j = 1,2,· · · 二维连续型随机向量 _(X,Y) 的边缘概率密度为 ƒX() = ∫ +∞ −∞ ƒ(,y) dy, ∫ _+∞

(57)

.

随机向量 .

第三章

.

随机向量的联合分布

.

A

.

随机向量的边缘分布

.

B

.

随机向量的条件分布

.

C

.

随机变量的独立性

.

D

.

随机向量函数的分布

.

E

.

常用的随机向量

.

F

(58)

.

当 p_·j > 0 时，Y = yj 时 X 的条件概率分布为 P{X = |Y = yj} = pj p_·j,  = 1,2,· · · 当 p· > 0 时，X =  时 Y 的条件概率分布为 P{Y = yj|X = } = pj p_·, j = 1,2,· · · 若 ƒY(y) > 0, 在 Y = y 条件下, X 的条件概率密度为 ƒX_|Y(|y) = ƒ(,y) ƒY(y) ,  ∈R. 若 ƒX() > 0, 在 X =  条件下, Y 的条件概率密度为

(59)

.

二维连续型随机向量的条件分布

定义 在 Y _{= y 条件下，X 的}条件分布函数定义为 FX_|Y(|y) = P{X ¶ |Y = y} = lim h→0P{X ¶ |y ¶Y ¶ y+ h} 定理 若 ƒ_(·,·) 在点 (,y) 处连续，ƒY(·) 在点 y 处连 续，且 ƒY(y) > 0，则 FX_|Y(|y) = ∫  −∞ ƒX_|Y(s|y) ds.

(60)

.

二维连续型随机向量的条件分布

定义 在 Y _{= y 条件下，X 的}条件分布函数定义为 FX_|Y(|y) = P{X ¶ |Y = y} = lim h→0P{X ¶ |y ¶Y ¶ y+ h} 定理 若 ƒ_(·,·) 在点 (,y) 处连续，ƒY(·) 在点 y 处连 续，且 ƒY(y) > 0，则 FX (|y) = ∫  ƒX (s|y) ds.

(61)

.

二维连续型随机向量的条件分布

定义 在 X _{=  条件下 Y 的}条件分布函数定义为 FY|X(y|) = P{Y ¶y|X = } = lim h_→0P{Y ¶ y| ¶ X¶ + h} 定理 若 ƒ_(·,·) 在点 (,y) 处连续，ƒX(·) 在点  处连 续，且 ƒX() > 0，则 FY_|X(y|) = ∫ y −∞ ƒY_|X(t|) dt.

(62)

.

二维连续型随机向量的条件分布

定义 在 X _{=  条件下 Y 的}条件分布函数定义为 FY|X(y|) = P{Y ¶y|X = } = lim h_→0P{Y ¶ y| ¶ X¶ + h} 定理 若 ƒ_(·,·) 在点 (,y) 处连续，ƒX(·) 在点  处连 续，且 ƒX() > 0，则 FY_|X(y|) = ∫ y ƒY_|X(t|) dt.

(63)

.

随机向量 .

第三章

.

随机向量的联合分布

.

A

.

随机向量的边缘分布

.

B

.

随机向量的条件分布

.

C

.

随机变量的独立性

.

D

.

随机向量函数的分布

.

E

.

常用的随机向量

.

F

(64)

.

二维随机向量的独立性

二维离散型随机向量 _(X,Y) 相互独立的充要条件为 pj = p· · p·j 对所有的 ，j 都成立． 二维连续型随机向量 _(X,Y) 相互独立的充要条件为 ƒ(,y) = ƒX() · ƒY(y)

(65)

.

随机向量 .

第三章

.

随机向量的联合分布

.

A

.

随机向量的边缘分布

.

B

.

随机向量的条件分布

.

C

.

随机变量的独立性

.

D

.

随机向量函数的分布

.

E

.

常用的随机向量

.

F

(66)

.

二维离散型随机向量函数的分布

设离散型随机变量 _(X,Y) 的联合分布为 P{X = ,Y = yj}= pj, ,j = 1,2,· · · 令 Z _{= g(X},Y)，则 Z 也是一个离散型随机变量，其分布可按如下步骤求得 1 根据函数关系列出 Z 的所有可能值； 2 对 Z 的每个可能值 z，P{Z = z} 等于所有满足 g(,yj) = z 的 pj 之和．

(67)

.

二维连续型随机向量函数的分布

对连续型随机变量 _(X,Y)，求 Z = g(X,Y) 的密度函数的基本方法是 1 根据函数关系先求 Z 的分布函数 FZ(z) = P{Z ≤ z} = P{g(X,Y) ≤ z} 2 然后对 F_Z(z) 求导可得 Z 的概率密度．

(68)

.

随机向量 .

第三章

.

随机向量的联合分布

.

A

.

随机向量的边缘分布

.

B

.

随机向量的条件分布

.

C

.

随机变量的独立性

.

D

.

随机向量函数的分布

.

E

.

常用的随机向量

.

F

(69)

.

连续型·均匀分布

定义：设 D 是平面上的有界区域，其面积为 d，若二 维随机向量 _(X,Y) 的概率密度为 ƒ(,y) = ¨ ₁ d (,y) ∈ D 0 else 则称 _(X,Y) 服从 D 上的均匀分布．

(70)

.

连续型·均匀分布

若 _(X,Y) 服从 D 上的均匀分布，则 (X,Y) 落在某一 区域 A 内的概率 P{(X,Y) ∈ A} = ∫∫ A ƒ(,y)ddy = ∫∫ A∩D 1 dddy = S

(71)

.

连续型·正态分布

设 _(X,Y) ∼ N(μ1,μ2,σ₁2,σ2₂,ρ)，则有 1 X ∼ N(μ₁,σ2 1),Y ∼ N(μ2,σ 2 2)； 2 ρXY = ρ. 结论：对于二维正态随机变量 _(X,Y)，X 与 Y 相互独 立的充分必要条件是 ρXY = ρ = 0．

(72)

.

连续型·正态分布

定理：若 X1,X2,· · · ,Xn 相互独立，且 X ∼ N(μ,σ_2),  = 1,2,· · · ,n 则对不全为零的数 1,2,· · · ,n， 1X1+ · · · + nXn ∼ N n ∑ =1 μ, n ∑ =1 2_ σ_2 ! .

(73)

.

本章选择题

选择设二维随机向量 _(X,Y) 的概率分布为 X Y 0 1 0 0.4  1 b 0.1 已知随机事件 {X _{= 0} 与 {X + Y = 1} 相互独立，} 则有· · · ·( ) = 0.2 = 0.3 = 0.4 = 0.1

(74)

.

本章选择题

选择 设两个相互独立的随机变量 X 和 Y 分别服从正 态分布 N₍₀,1) 和 N(1,1)，则有· · · ·( ) (A) P{X+ Y ¶ 0}= 1₂ (B) P{X+ Y ¶ 1} = 1₂ (C) P{X − Y ¶ 0} = 1₂ (D) P{X− Y ¶ 1}= 1₂

(75)

.

随机变量 .

第二章

.

随机向量 .

第三章

.

数字特征 .

第四章

.

极限定理 .

第五章

.

样本统计 .

第六章

(76)

.

数字特征

主要内容：期望的定义：离散型、连续型，随机变量的函数的期望，期望、方差、协方差的性质，相关系数，常见分布的数字特征，大数定律

(77)

.

数字特征 .

第四章

.

数学期望 .

A

.

方差与标准差

.

B

.

协方差与相关系数

.

C

(78)

.

离散型随机变量的期望

定义：设离散型随机变量 X 的分布律为 P{X = k} = pk, k = 1,2,· · · . 若级数 ∑ k kpk 绝对收敛，则称其和为随机变量 X 的数学期望，记为 EX．

(79)

.

连续型随机变量的期望

定义：设连续型随机变量 X 的概率密度为 ƒ_{()，若积} 分 ∫ +∞ −∞ ƒ()d 绝对收敛，则称此积分为随机变量 X 的数学期望，记 为 EX．

(80)

.

随机变量函数的数学期望

定理：设 X 为随机变量，Y _{= g(X)，则} 1 若 X 为离散型随机变量，分布律为 P{X = k} = pk, k = 1,2,· · · . 则 EY =∑ k g(k)pk.

(81)

.

随机变量函数的数学期望

定理（续）： 2 若 X 为连续型随机变量，概率密度为 ƒ()，则 EY = ∫ +∞ −∞ g()ƒ ()d.

(82)

.

数学期望的性质

设 X,X1,X2,· · · ,Xn 为随机变量，c,k 为常数，则有 1 E(c) = c； 2 E(kX) = kE(X)； 3 E(X₁+ X₂) = E(X₁) + E(X₂)； 推论：E n ∑ Xk ! = n ∑ E(Xk)

(83)

.

数学期望的性质

4 若 X₁,X2 相互独立，则有 E(X1X2) = E(X1)E(X2). 推论：若 X1,X2,· · · ,Xn 相互独立，则有 E n ∏ k=1 Xk ! = n ∏ k=1 E(Xk)

(84)

.

数字特征 .

第四章

.

数学期望 .

A

.

方差与标准差

.

B

.

协方差与相关系数

.

C

(85)

.

方差

在实际问题中，仅靠期望值不能完善地说明随机变量的分布特征．我们常常需要知道分布相对于期望值的离散程度． 定义：若随机变量 X 的期望存在，称 X− EX 为随机变量 X 的离差．

(86)

.

方差

定义：设 X 是一随机变量，若其离差平方的期望存在， 则称该期望为 X 的方差，记为 D_{(X)（或 Vr(X)），} 即 Vr(X) := E[X − E(X)]2. 称 pVr(X) 为 X 的标准差．方差的常用计算公式：

(87)

.

方差的性质

设 X,X1,X2,· · · ,Xn 为随机变量，c,k 为常数，则有 1 Vr(c) = 0, Vr(X + c) = Vr(X)； 2 Vr(X) ≥ 0，且等式成立当且仅当 X 几乎必然为常数； 3 Vr(kX) = k2Vr(X)； 注：若事件 A 的概率为 1，则称该事件几乎必然成立．

(88)

.

方差的性质

4 若 X₁,X₂ 相互独立，则有 Vr(X1+ X2) = Vr(X1) + Vr(X2). 推论：若 X1,X2,· · · ,Xn 相互独立，则有 Vr n ∑ k=1 Xk ! = n ∑ k=1 Vr(Xk)

(89)

.

数字特征 .

第四章

.

数学期望 .

A

.

方差与标准差

.

B

.

协方差与相关系数

.

C

(90)

.

协方差

定义定义：对于二维随机向量 _(X,Y)，称

Cov(X,Y) := E[(X − EX)(Y − EY)] 为 X 与 Y 的协方差(Covariance)．

由定义直接可得：任意随机变量与其自身的协方差就是该随机变量的方差，即

(91)

.

协方差

定义定义：对于二维随机向量 _(X,Y)，称

Cov(X,Y) := E[(X − EX)(Y − EY)] 为 X 与 Y 的协方差(Covariance)．

由定义直接可得：任意随机变量与其自身的协方差就是该随机变量的方差，即

(92)

.

协方差的性质

设 X,Y,Z 为随机变量，,b,c,d 为常数，则有

1 Cov(X,Y) = Cov(Y,X)；

2 Cov(X + b,cY + d) = c Cov(X,Y)； 3 Cov(X,Y + Z) = Cov(X,Y) + Cov(X,Z)； 4 Cov(X,Y) = E(XY) − E(X) · E(Y)；

5 Vr(X ± Y) = Vr(X) + Vr(Y) ± 2 Cov(X,Y)．

推论两随机变量相互独立，则协方差等于零；反之未必成立．

(93)

.

协方差的性质

2 Cov(X + b,cY + d) = c Cov(X,Y)；

3 Cov(X,Y + Z) = Cov(X,Y) + Cov(X,Z)； 4 Cov(X,Y) = E(XY) − E(X) · E(Y)；

(94)

.

协方差的性质

2 Cov(X + b,cY + d) = c Cov(X,Y)； 3 Cov(X,Y + Z) = Cov(X,Y) + Cov(X,Z)；

4 Cov(X,Y) = E(XY) − E(X) · E(Y)；

(95)

.

协方差的性质

(96)

.

协方差的性质

(97)

.

协方差的性质

(98)

.

协方差的性质

(99)

.

定义对于二维随机变量 _(X,Y)，如果两个变量的方差都不为零，称 ρ_X,Y := p Cov(X,Y) Vr(X) ·pVr(Y) = Cov(X∗ ,Y∗) 为 X 与 Y 的相关系数(Correlation)，也可以记为 ρ(X,Y)．性质相关系数表示随机变量之间的线性相关程度： 1 | ρ_X_,_Y |¶ 1． 2 ρ_X_,_Y = −1 当且仅当 Y = X + b， < 0． 3 ρ_X_,_Y = 1 当且仅当 Y = X + b， > 0．

(100)

.

定义对于二维随机变量 _(X,Y)，如果两个变量的方差都不为零，称 ρ_X,Y := p Cov(X,Y) Vr(X) ·pVr(Y) = Cov(X ∗ ,Y∗) 为 X 与 Y 的相关系数(Correlation)，也可以记为 ρ(X,Y)．性质相关系数表示随机变量之间的线性相关程度： 1 | ρ_X_,_Y |¶ 1． 2 ρ_X_,_Y = −1 当且仅当 Y = X + b， < 0． 3 ρ_X_,_Y = 1 当且仅当 Y = X + b， > 0．

(101)

.

定义对于二维随机变量 _(X,Y)，如果两个变量的方差都不为零，称 ρ_X,Y := p Cov(X,Y) Vr(X) ·pVr(Y) = Cov(X ∗ ,Y∗) 为 X 与 Y 的相关系数(Correlation)，也可以记为 ρ(X,Y)．性质相关系数表示随机变量之间的线性相关程度： 1 | ρ_X_,_Y |¶ 1． = −1 当且仅当 Y = X + b， < 0．

(102)

.

本章选择题

选择 (2011) 设随机变量 X 和 Y 相互独立，且 E(X)

与 E_{(Y) 存在，记 U = mx{X},Y}，V = min{X,Y}，

则 E_{(UV) =}· · · ·( ) (A) E(U)E(V) (B) E(X)E(Y)

(106)

.

本章选择题

选择 (2001) 将一枚硬币重复掷 n 次，以 X 和 Y 分 别表示正面向上和反面向上的次数，则 X 和 Y 的相关 系数等于· · · ·( ) (A) −1 (B) 0 (C) 1₂ (D) 1

(107)

.

随机向量 .

第三章

.

数字特征 .

第四章

.

极限定理 .

第五章

.

样本统计 .

第六章

.

参数估计 .

第七章

(108)

.

极限定理

主要内容：切比雪夫不等式，大数定律，中心极限定理

(109)

.

极限定理 .

第五章

.

切比雪夫不等式

.

A

.

大数定律 .

B

.

中心极限定理

.

C

(110)

.

切比雪夫不等式

切比雪夫不等式：设随机变量 X 有期望和方差，则对 于任给的 ϵ > 0，有 P(|X − E(X)| ≥ ϵ) ≤ Vr(X) ϵ2 , 即 P(|X − E(X)| < ϵ) ≥ 1 − Vr(X) ϵ2 .

(111)

.

极限定理 .

第五章

.

切比雪夫不等式

.

A

.

大数定律 .

B

.

中心极限定理

.

C

(112)

.

大数定律

定理 (切比雪夫定理) 设随机变量序列 {Xn}n_¾1 相 互独立，且有相同的期望 μ 和方差 σ2_{，定义 Y} n 为前 n 个随机变量的算术平均，即 Yn = 1 n n ∑ ₌₁ X, 则对任意正数 ϵ，有 lim n→∞P {|Yn − μ| < ϵ} = 1.

(113)

.

极限定理 .

第五章

.

切比雪夫不等式

.

A

.

大数定律 .

B

.

中心极限定理

.

C

(114)

.

中心极限定理

常用结论：大量的同分布随机变量的和、平均值近似地服从正态分布．定理 1 (棣莫弗－拉普拉斯定理) 设随机变量 X 服从 参数为 n,p 的二项分布，即 X ∼ B(n,p)，则当 n 充 分大时，X 近似服从正态分布，即可以近似认为 X ∼ N(np,np(1 − p)).

(115)

.

本章选择题

选择 (2002) 设随机变量 X1,X2,· · · ,Xn 相互独立， Yn = X1+ X2+ · · · + Xn，则根据林德伯格－莱维中心 极限定理，当 n 充分大时，Yn 近似服从正态分布，只 要 X1,X2,· · · ,Xn · · · ·( ) (A) 有相同的数学期望 (B) 有相同的方差 (C) 服从同一指数分布 (D) 服从同一离散型分布

(116)

.

数字特征 .

第四章

.

极限定理 .

第五章

.

样本统计 .

第六章

.

参数估计 .

第七章

.

假设检验 .

第八章

(117)

.

样本与统计量

主要内容：常用统计量，三大统计分布：χ2 _分布、t

(118)

.

精确定义

定义：称随机变量 X1,X2,· · · ,Xn 构成一个（简单）随机样本，如果这些随机变量 1 相互独立； 2 服从相同的分布．它们共同服从的分布称为总体分布；样本个数 n 称 为样本容量．

(119)

.

常用统计量

定义：对样本 X1,X2,· · · ,Xn，称 X := 1 n n ∑ =1 X = X1+ X2+ · · · + Xn n 为样本均值．

(120)

.

常用统计量

定义：对样本 X1,X2,· · · ,Xn，称 S2 := 1 n− 1 n ∑ =1 (X − X)2 为样本方差；称 S := s 1 n− 1 n ∑ =1 (X− X)2

(121)

.

常用统计量

样本方差的性质： S2 = 1 n− 1 n ∑ ₌₁ X2  − nX 2 ! .

(122)

.

χ

2

分布

χ2 分布的性质： 1 若 X 服从标准正态分布，则 X2 服从 1 个自由度 的 χ2 _分布，即 X2 ∼ χ₁2. 2 可加性：设 Y₁ ∼ χ2 m, Y2 ∼ χ 2 n，且两者相互独立，则 Y + Y ∼ χ2 .

(123)

.

χ

2

分布

定理：设 X1,X2,· · · ,Xn 相互独立，都服从标准正态分布，则 χ2 := n ∑ =1 X2  = X 2 1+ X 2 2+ · · · + X 2 n 服从 n 个自由度的 χ2 _分布，即 χ2 ∼ χ2_n.

(124)

.

t 分布

定理：设两个随机变量 X,Y 相互独立，并且 X ∼ N(0,1), Y ∼ χ2 n. 则 T := pX Y/ n 服从具有 n 个自由度的 t 分布．

(125)

.

F 分布

定理：设两个随机变量 Y1,Y2 相互独立，并且 Y ∼ χ2_n , = 1,2. 则 F := Y1/ n1 Y2/ n2 ∼ Fn1,n2.

(126)

.

F 分布

F 分布的性质： 1 若 F ∼ F_m_,_n，则 1 F ∼ Fn,m. 2 F_m_,_n(1 − α) = 1 Fn,m(α) . 3 若 X ∼ t_n，则

(127)

.

单个正态总体的统计量的分布

定理 1 设 X1,X2,· · · ,Xn 是取自正态总体 N(μ,σ2) 的样本．则 X 与 S2 _{相互独立，且有} X− μ σ/pn ∼ N(0,1), X− μ S/pn ∼ tn−1, n ∑ ₌₁ X − μ 2 ∼ χ2 (n − 1)S 2 ∼ χ2

(128)

.

两个正态总体的统计量的分布

定理 2 设 X1,X2,· · · ,Xm 与 Y1,Y2,· · · ,Yn 分别是取自两个相互独立的正态总体 N(μ1,σ2), N(μ2,σ2) 的样本．则 U := X− Y − (μq 1− μ2) σ2₁ m + σ2₂ n ∼ N(0,1),

(129)

.

两个正态总体的统计量的分布

定理 3 设 X1,X2,· · · ,Xm 与 Y1,Y2,· · · ,Yn 分别是取自两个相互独立的正态总体 N(μ1,σ2), N(μ2,σ2) 的样本．则 T := q X− Y − (μ1− μ2) (m−1)S2 1+(n−1)S22 m+n−2 · Æ 1 m+ 1 n ∼ tm+n−2,

(130)

.

两个正态总体的统计量的分布

定理 5 设 X1,· · · ,Xm 与 Y1,· · · ,Yn 分别是取自两个相互独立的正态总体 N(μ1,σ2₁), N(μ2,σ₂2) 的样本．则 F := S 2 1/ σ 2 1 S2 2/ σ 2 2 ∼ Fm−1,n−1.

(131)

.

本章选择题

选择 设总体 X _{∼ B(1},p)，其中参数 p ∈ (0,1) 未 知．X1,X2,X3 是来自总体 X 的简单随机样本，X 为 样本均值，则下列选项中不是统计量的为· · · · ·( ) (A) min{X1,X2,X3} (B) X1− (1 − p)X (C) mx{X1,X2,X3} (D) X3− 3X

(132)

.

本章选择题

选择 设 X1,X2,X3 为来自正态总体 N(0,σ2) 的简单 随机样本，则统计量 R₌ X_p1− X2 2|X3| 服从分布· · ·( ) (A) F1,1 (B) F2,1 (C) t1 (D) t2

(133)

.

数字特征 .

第四章

.

极限定理 .

第五章

.

样本统计 .

第六章

.

参数估计 .

第七章

.

假设检验 .

第八章

(134)

.

参数估计

主要内容：矩估计，极大似然估计，估计量的无偏性和方差的比较，一个正态总体的区间估计

(135)

.

矩估计

例子当总体中只 · 有· 一· 个· 参· 数· 时· ，矩估计即是用样本均值估计总体期望．例子当总体中有两 · 个· 或· 以· 上· 的· 参· 数· 时· ，总体期望与方差的矩估计分别为 ˆ μ= X, σˆ2 = 1 n n ∑ =1 (X − X)2.

(136)

.

矩估计

例子当总体中只 · 有· 一· 个· 参· 数· 时· ，矩估计即是用样本均值估计总体期望．例子当总体中有两 · 个· 或· 以· 上· 的· 参· 数· 时· ，总体期望与方差的矩估计分别为 ˆ μ= X, σˆ2 = 1 n n ∑ =1 (X − X)2.

(137)

.

极大似然估计

定义：设连续型（离散型）总体 X 的概率密度函数 （概率质量函数）为 ƒ(; θ1,θ2,· · · ,θk). 则样本 X1,X2,· · · ,Xn 在观测值 1,2,· · · ,n 处的联合概率密度（概率）为 L(1,· · · ,n; θ1,· · · ,θk) = n ∏ =1 ƒ(; θ1,· · · ,θk).

(138)

.

极大似然估计

定义（续）：如果将观测值 1,2,· · · ,n 看成固定的，将 L(1,· · · ,n; θ1,· · · ,θk) 看做 θ1,θ2,· · · ,θk 的函数，则该函数被称为似然函数 (likelihood function)．

(139)

.

极大似然估计

定义：如果似然函数 L(1,2,· · · ,n; θ1,θ2,· · · ,θk) 在 (θ∗ 1,θ ∗ 2,· · · ,θ ∗ k) 处达到最大值，则称上述参数为未知参数的极大似然估计 (maximum likelihood estimators)．

(140)

.

极大似然估计

求极大似然估计的一般方法： 1 写出似然函数 L； 2 求似然函数的对数 ln L； 3 对 ln L 求导（偏导）并令导数等于零，得到似然 方程组； 4 解方程组得到 ln L 的驻点，判断该驻点是否最大 值点； 将最大值点表达式中的  换为 X，就得到参数的

(141)

.

无偏性

假设 θ 为总体分布的参数，设 ˆ θ = ˆθ(X1,X2,· · · ,Xn) 是 θ 的一个估计．如果对 θ 的一切可能取值，都有 E( ˆθ) = θ, 则称 ˆθ 是 θ 的无偏估计 (unbiased estimator)．

(142)

.

无偏性

定理：设总体 X 的期望和方差分别为 E(X) = μ, Vr(X) = σ2. 从总体取一组样本 X1,X2,· · · ,Xn，则样本平均数 X 与样本方差 S2 _{分别是 μ 和 σ}2 _{的无偏估计，即} E(X) = μ, E(S2) = σ2.

(143)

.

总体期望的区间估计

情况一：正态总体、方差已知 设 X1,· · · ,Xn 是取自正态总体 N(μ,σ2) 的样本，其 中 σ2 _{已知．则总体期望 μ 的置信水平为 1}_{− α 的置} 信区间为 X− _pσ n × Zα/ 2,X+ σ p n × Zα/ 2 .

(144)

.

总体期望的区间估计

情况二：正态总体、方差未知 设 X1,· · · ,Xn 是取自正态总体 N(μ,σ2) 的样本，其 中 σ2 _{未知．则总体期望 μ 的置信水平为 1}_{− α 的置} 信区间为 X− pS n × tn−1( α 2),X+ S p n × tn−1( α 2) .

(145)

.

总体方差的区间估计

设 X1,· · · ,Xn 是取自正态总体的样本，则总体方差 σ2 的置信水平为 1_{− α 的置信区间为} (n − 1)S2 χ2 n−1( α 2) , (n − 1)S 2 χ2 n−1(1 − α 2) ! .

(146)

.

本章选择题

选择下列各个结论中错误的是· · · ·( ) (A) 样本均值是总体期望的无偏估计 (B) 样本方差是总体方差的无偏估计 (C) 样本均值是正态分布的期望的极大似然估计 (D) 样本方差是正态分布的方差的极大似然估计

(147)

.

数字特征 .

第四章

.

极限定理 .

第五章

.

样本统计 .

第六章

.

参数估计 .

第七章

.

假设检验 .

第八章

(148)

.

假设检验

(149)

.

单正态总体均值的检验

条件 单个正态总体，方差 σ2 _已知原假设 H0 : μ = μ0 备择假设 μ < μ0 μ ̸= μ0 μ > μ0 统计量 Z = X− μ0 σ/pn

(150)

.

单正态总体均值的检验

条件单个正态总体，方差未知原假设 H0 : μ = μ0 备择假设 μ < μ0 μ̸= μ0 μ > μ0 统计量 T = X− μ0 S/pn