参数估计
提纲
矩估计 (The Method of Moments)
极大似然估计( The Method of Maximum Likelihood )
估计量的评选标准
区间估计
2
内容
基本概念与枢轴变量法
正态总体情形
双正态总体情形
单侧置信区间
非正态总体均值的区间估计
3
区间估计
4
区间估计:根据样本给出未知参数 θ 的一个范围 ,并保证这个范围 以较大概率包含参数真值,即:
θθ ˆˆ
1 1 2 2 1 2( ( , , ,
n) ( , , ,
n)) 1
P X X L X
X X L X
θθ ˆˆ
1 2( , )
置信区间与置信度
5
1
1 1 2
, , ,
ˆˆˆ ( , , ) ( 1,2), ,
n
i i n
X
X X
X X i
定义:设总体含未知参数;对于样本 找出统计量:
使得:
L
L
1 2
{ ˆˆ } 1 , (0 1) P
1 2
称区间,为的置信区间,为该 [ ˆˆ ] 1
区间的置信度。
6
通常,采用 95% 的置信度,有时也取 99% 或 90%
1 2
[ ˆˆ ] 1
区间,是一个随机区间;给出
该区间含真值的可靠程度。表示该区 间不包含真值的可能性。
5% 1 95%.
100 100
95 5
例如:若,即置信度为重
复抽样次,得到个区间,其中包含真
值的有个左右,不包含真值的有个左右。
几点说明
7
2.
反映了估计的可靠度 , 越小 , 越可靠 .1.
置信区间的长度 L 反映了估计精度 , 越小 , 1- 越大 , 估计的可靠度越高 , 但
3.
确定后 , 置信区间 的选取方法不唯一 , 常选长度最小的一个 .L
越小 , 估计精度越高 .这时 , L 往往增大 , 因而估计精度降低 .
枢轴变量法
8
1.
先找到一样本函数 , 其包含待估参数,而不包含其他未知参数,且的分布已知
,不依赖于任何未知参数。被称为枢轴 变量。
2.
给定置信度,根据的分布找 2 个常数和,使得
3.
由解出,则为所求置信区间。
正态总体,均值的 μ 区间估计
9
(1).
已知方差,估计均值2 1
1 2
, , ~ ( , )
1 [ ]
X X
nX N
设设设设设设设设设设
设设设设设设设设设设设设设设设设
2 2
0
0
, ~ (0,1) /
U X N
n
设已知方差则。
1 2
1 2
1 :
{ P U } 1 .
对于给定的置信度,查正态分布表,找出临界
值,,使得
正态总体,均值的 μ 区间估计
10
即:
对称区间最短
1 2
[ , ], {- P U } 1-
由此可找出无穷多组,;通常我们取对 称区间使:
/ 2 / 2
0
{- - } 1-
/
P u X u
n
u
/ 2
由图,/ 2 / 2
( u
) 1 / 2, u
查正态分布表求出
正态总体,均值的 μ 区间估计
11
得到 μ 的置信度为 1-α 置信区间为:
区间长度
L= ——
达到最短
/ 2 / 2
0
( - )
- /
u X u
n
0 0
/ 2 / 2
- X u X u
n n
解出:
0 0
/ 2 / 2
[ - X u , X u ]
n n
0
2 u / 2
n
正态总体,均值的 μ 区间估计
12
-2 -1 1 2
0.1 0.2 0.3 0.4
若 = 0.05
1 -α 1 -α
取对称区间: 取非对称区间:
-2 -1 1 2
0.1 0.2 0.3 0.4
23
1
31 84 2 13
3 97
. ( . ) .
u
u
2
1
22
21 96 . ( . ) 1 96 3 92 . u
u
u
23
u
1 3
u
2
u
1 2
u
例
13
已知幼儿身高服从正态分布,现从 5 岁的幼儿 中随机地抽查了 9 人,其高度分别为:
115,120,131,115,109,115,115,105,110cm;
0
7 95%
已知标准差,置信度为;
的置信区间。
试求总体均值
由样本值算得:
解:已知
0 7 , n 9 ,
0 . 05 .
. 115 )
110 120
115 9 (
1
x
0.025 1.96
u
查正态分布表得临界值,由此得置信区间:
110 1 . 43 . 96 , 119 7 / . 57 9
, 115 1 . 96 7 / 9
115
正态总体,均值的 μ 区间估计
14
(2).
未知方差,估计均值2
由于未知方差,可用样本方差:
~ ( 1)
/ 1
n
T X t n
S n
选取样本的函数:
,使得:
与 分布表,得临界值
,查
对于给定的 1
t
1 21 2
{ } 1
P
T
,
[
, ], {| | P T
} 1
仍然取对称区间使:,
2 2 2
1
1
n( )
n i
i
S X X
n
代替 / ~ ( 1)
T X t n
S n
或:
正态总体,均值的 μ 区间估计
15
对称区间最短
/ 2( 1).
t t
n
直接查分布表得:
/ 2 / 2
{- ( 1) - ( 1)} 1
/ 1
n
P t n X t n
S n
即
{ } 1
/ 1
n
P X
S n
即,
/ 2 ( 1)
t
n
由图,正态总体,均值的 μ 区间估计
16
得到 μ 的置信区间为:
1 . 它以的概率包含参数
/ 2
( 1)
/ 2( 1)
1 1
- n
nn
nn n
S S
X t
X t
解出:
/ 2 / 2
- ( 1) - ( 1)
/ 1
n
t n X t n
S n
/ 2
( 1)
/ 2( 1)
[ - 1 , ]
1
n n
n n
n
S S
X t X t
n
正态总体,方差 σ 2 的区间估计
17
2 1, , n ~ ( , )
X X X N
设为总体的一个样本。L
2
2 2
2 ~ 1
nS
n 取样本函数:().n
2 2
~ ( , ),
X N
总体求未知参数的区间估计。
2
1 2
1
对给定的,查分布表,得临界值与,使得:
2
1 2
{ } 1
P ,
正态总体,方差 σ 2 的区间估计
18
2
2 2
1 2
2
1 2 2
{ } { } / 2 {
n} 1
P P
P nS
由于分布不对称性,采用使概率对称的区间:
, 则,
2
1 1 / 2
2
2 / 2
( 1)
( 1).
n n
由图:=,
2
2 2
1 / 2
( 1) nS
2n / 2( 1)
n n
正态总体,方差 σ 2 的区间估计
19
得到 σ2 的置信区间为
:
2 2
2
2 2
/ 2
( 1)
1 / 2( 1)
n n
nS nS
n n
推得:
1
2以的概率包含.
. 1 的概率包含 以
2 2
2 2
/ 2 1 / 2
[ , ]
( 1) ( 1)
n n
nS nS
n n
2 2
2 2
/ 2 1 / 2
: [ , ]
( 1) ( 1)
n n
nS nS
n n
还可得的置信区间
例
20
设某机床加工的零件长度
今抽查 16 个零件,测得长度( mm )如下:
12.15, 12.12, 12.01, 12.08, 12.09, 12.16, 12.03, 12.01, 12.06, 12.13, 12.07, 12.11, 12.08, 12.01, 12.03, 12.06,
以置信度为 95% ,试求总体方差 的置信区间。
, ) ,
(
~ N
2X
2由样本值算得:
解:已知 n 16 ,
0 . 05 . S
n2 0.00229.
2 2
0.975
(15) 6.26
0.025(15 27.5
查表,, )
由此得置信区间:
16 0.00229 16 0.00229
, 0.0013, 0.0058 27.5 6.26
双正态总体情形
21
为总体
X~N (
1
12 ) 的样本 , 为总体 Y~N (
2
22 ) 的样本 ,设 X,Y 独立,置信度为 1
.
分别表示 X, Y 的样本均值与修正 样本方差 .
求
μ 1 - μ 2 , σ 1 2 / σ 2 2
的区间估计 .1 2 1
( , X X , , X
n)
1 2 2
( , , , Y Y Y
n)
2 2 2
1
; ,
, S Y S
X
双正态总体情形
22
相互独立 ,
1. 已知 , 求 的置信区间
2 2
1 2
1 2
1 2
~ ( , ), ~ ( , )
X N Y N
n n
X , Y
1 2
2 2
1 2
1 2
( ) ( ) 0 1
~ ( , )
X Y N
n n
2 2
1
,
2
1
22 2
1 2
1 2
1 2
~ ( , )
X Y N
n n
双正态总体情形
23
解出 的置信区间为:
1
22 2
2 2 2 2
1 2 1 2
1 2 1 2
( X Y ) u , ( X Y ) u
n n n n
1 2
2 2 2 2
1 2
1 2
/ /
1
( ) ( )
{ X Y }
P u u
n n
由:
1 2
2 2 2 2
1 2
1 2
/ /
( X Y ) ( )
u u
n n
得:
双正态总体情形
24
取样本函数
2. 方差比 的置信区间
得,方差比 的置信区间:
2 1
2 2
2 21 1
1 2
2 2
2 2
1 1
/ ~ ( , )
/
F S F n n
S
2 2
2
1
2 2
1 1
1 2 2 2 1 2
1 2 2 2 2
1 1 / 1 1 1
{ ( , ) ( , )}
由 S /
P F n n F n n
S
2 2
1 1
2 2
2 2 1 2 2 1 2 1 2
1 1
1 1 1 1
/ /
( , ) , ( , )
S S
S F
n n S F
n n
例
25
某厂两条流水线包装产品,重量都服从正态分 布,其均值为
1 与
2. 现分别抽取容量分别 为 n1=13 与 n2=17 的两独立样本:与
测得:(1) 若已知方差 , 求均值差 的置信度为 0.95 的置信区间 ; (2) 求方差比置信度为 0.95 的置信区间 .
1
,
2, ,
13X X X Y Y
1, , ,
2 Y
171 2
2 2
1 1
10 6 . , 9 5 . ,
n2 4 . ,
n4 7 .
x y s
s
2 2
1
3 ,
24 ,
2
1
例
26
解
查表得 , n1=13, n2=17 代入公式 的置信区间为
(1) 取样本的函数 1 2
2 2
1 2
1 2
( ) ( ) 0 1
~ ( , )
X Y N
n n
0 025.
1 96 .
u
2
1
2 2
1 2
2
1 2
0 238 2 438
( X Y ) u
/( . , . )
n n
例
27
(2) 取样本函数 查表得
代入公式得方差比 的置信区间为
16 . 3
1 )
12 ,
16 ( ) 1
16 ,
12 (
89 . 2 )
16 ,
12 (
025 . 0 975
. 0
025 . 0
F F
F
2 2
2
1
1 1
2 2
2 2
1 1
2 2
1 0 025 1 2 1 0 975 1 2
1 1
1 1 1 1
0 1767 1 6136
. .
( , ) , ( , )
( . , . )
n n
n n
S S
S F n n S F n n
2 2
1 1
2 2
2 2
12 16
/ ~ ( , )
/
F S F
S
单侧置信区间
28
某些问题只关心置信区间的上限或下限,
如次品率问题只关心上限 , 产品寿命问题只 关心下限。
对 0<α<1 ,样本 X1
, X
2, ... , X
n ,确定统计量 则称 单侧置信区间 . 称为单侧置信下限。1 1 2 1
ˆˆ( , , , ), X X L X
nP ( ) 1
使,
ˆ
1( , + ) 是的置信度的 1 ˆ 1
单侧置信区间
29
对 0<α<1 ,样本 X1
, X
2, ... , X
n ,确定统计量 则称 单侧置信区间 . 称为单侧置信上限。2 1 2 2
ˆˆ( , , , ), X X X
nP ( ) 1
L 使,
ˆ
2( - , ) 是的置信度的 1
ˆ 2
正态总体的单侧置信区间
30
置信度为 单侧置信下限 .
解: 设 是来自总体 X 的样本
,考虑
得到 解得单侧置信区间 由
2 2
~ ( , ), 未知,求的 X N
( S t (n 1), ) X n
1, 2, n
X X
X
t( 1), /
T X n
S n
1
P( T t (
n 1)) 1 <t ( 1), /
X n
S n
正态总体的单侧置信区间
31
求 的置信上
解: 设 是来自总体 X 的样本限。
考虑,
得到 解得单侧置信区间
由
~ N( ,
2) ,
X
2的 1-
1, 2, n
X X
X
2
2 2
2n
( 1),
nS n
2 2
P(
1 (n
1)) 1
,nS
2n2
12 ( n 1),
2 2
1
(0, ).
( 1) nS
n
n
例
32
一批元件寿命服从正态分布,抽取 5 只测 得寿命值: 1050,1100,1120,1250,1280. 求寿 命均值 的置信度 0.95 的单侧置信下限。
解: 的单侧置信下限为
,由样本知 及
或记为
X S t (n 1)
n
5, 1160,
29950,
n x s
1 0.95, t (n 1) t 0.05(4) 2.1318 把上述数值代入置信下限表达式得1065.
(1065, ).
非正态总体均值的区间估计
33
(大样本法)
总体分布非正态时,通常很难求出统计量的
具体分布。若样本量较大,可利用极限定理
求出枢轴变量的近似分布,再求出未知参数
的区间估计。
非正态总体均值的区间估计
34
设为来自均值,方差的总体的一组样本,求 均值的置信度为的置信区间。
当充分大时,利用中心极限定理,有 ( 近似 )
若未知,则可用修正样本标准差代替。
所求均值的置信度为的置信区间为
例
求分布 B(1,p) 中参数 p 的置信区间。样本容量 为 n ,置信度
35
解:令总体,样本为,样本方差为,修正样本 方差为。代入上页的公式,得所求置信区间为
这题是否可以不用修正样本标准差替 代总体标准差呢?
已知方差,估计均值 未知方差,估计均值 未知均值,估计方差
单正态总体
双正态总体
已知方差,估计均值差
未知方差但相等,估计均值差 未知均值,估计方差比
0 0
/ 2 / 2
[ - X u , X u ]
n n
/ 2( 1) / 2( 1)
[ -
1, ]
1
n n
n n
n
S S
X t X t
n
2 2
2 2
/ 2 1 / 2
[ , ]
( 1) ( 1)
n n
nS nS
n n
2 2
2 2 2 2
1 2 1 2
1 2 1 2
( X Y ) u , ( X Y ) u
n n n n
2 2
1 1
2 2
2 2 1 2 2 1 2 1 2
1 1
1 1 1 1
/ /