随机变量序列依概率收敛的定义

1

第五章 大数定律和中心极限定理

关键词：

大数定律

中心极限定理

随机变量序列依概率收敛的定义

 

 

1

, , ,

0, 0,

, 1 ,

5.1.1

.

n

n n

n

Y Y

Y

lim P Y Y

Y n Y

Y P Y n

n







 

  



  

 

设设设设设设设设设设设 设设设设设设设设设设设设

设设设设设设设设设 设设设 设设设设设设

设设设

设设设设

c   c   c

{ , 1}

.

Y c Y n

c

 

特别地，

依概率收敛

当为一时，称

常数 常数

§1 大数定律

(laws of large numbers)

性质： _{, ,}

( , ( , )

若当n时.

函数（x, y）在点(a, b)连续，则

），当n时.

     

   

P P

n n

P

n n

X a Y b

g

g X Y g a b

• 在给出大数定律之前，先介绍几个重要不等式

/ / ( 0).

P

n n

P

n n

P

n n

X Y a b

X Y a b

X Y a b b

 

   

   

  

如:当n时

，

，

4

 

 

 

( 1),

(| | )

0, ;

(| | )

1 .

5.1.1

k k

k k

Y k k

P Y E Y P Y E Y

 



 



  

   设随机变量的阶矩存在

则对于任意都有：成 定理马尔

立 定理的为：

可夫不等式：

等价形式

马尔可夫不等式和切比雪夫不等式

 

Y

P Y  E Y

 



特别地，当为取非负值的随机变量时，

则有

 

  ^{, 0,}

Y

Y f x  

证明：仅就为连续型时证之 设的概率密度为则对于任意有

  _x ^{ }

P Y f x dx

 

  

| |

 

| |

x k

x f x dx





 

1 _k | | x ^k f x dx  





   ^{ E Y (| | )} _

^.

 

 

 

 

 

2

2 2

2 2

, 0,

;

1

5.

.

1.2

X E X

D X P X

P X



 

  



  





 

  

    设随机变量具有数学期望

方差,则对于任意都有：

定理

定理切比雪夫不等式：

的为：

等价形式

, 2 Y  X   k  证明：在定理5. 1. 1中取即可.

( )

f x

    

,

1, 2, , . ( ) ( )

( ) 5.

100, 0.5

0.5

i

i

i

n X

i n E X

D X n

n





 



 





设1设设设设设设设设设设设设设设设设设设设 设设设设设设设设设设设设设设设设设设设设

设设设设设设设设设设设,设设设

设设设设设设设设设设设设设设设设设设.

(1)设设设设设设设设设设设设设设设设设 设设设设设设设设设设设设

设2设设设设设设设95%设设设设设设设设设设设设设设 设设设设设设设设设设设设设设设设设设

1, 2, ,

( )

, ( ) 5,

i n

E X  D X X



 

设设设设设设设设 

设设设设设设设

1 1 2 1

1 1 1 5

(

) , (

)

( )

.

i i i

E X D X D X

n  n n n

  

  

  

100, n 

(1) 当时，由切比雪夫不等式知

100 1 2

1 5 /100

{| | 0.5} 1 0.8;

100 _i ⁱ 0.5

P X 



    



(2) 同样利用切比雪夫不等式，要使得

1 2

1 5 /

{| | 0.5} 1 0.95

0.5

n

i i

P X n

n 



    

 ^{， n 需满足 n  400.}

例 2 在 n 重贝努里试验中，若已知每次试验 事件 A 出现的概率为 0.75 ，试利用切比雪夫 不 等式 ,

(1) 若 n=7500, 估计 A 出现的频率在 0.74 至 0 .76 之间的概率至少有多大；

（ 2 ）估计 n, 使 A 出现的频率在 0.74 至 0.76

之 间的概率不小于 0.90 。

n A

解：设在重贝努里试验中，事件出现的次数为X，

 ^,0.75 

 B n

则X ,

  ^{0.75 ,}   ^{0.1875 ,}

E X  np  n D X  npq  n

 

n

X

f A  n 又

 ^{0.74 X 0.76}  ^{1 1875 0.90}

P  n    n  (2)

18750

  n

  ¹⁸⁷⁵

(1) 7500, 0.74 0.76 1 0.75 X 7500

n P

  n    

 ^{0.74 X 0.76}  ^{ 0.75 0.01  1} _ ^0.1875 _{0.01 } ⁿ

P P X n n

n n

      

几种大数定律

1

1

1

1

, , ,

{ , 1}

5.

0,

1 0,

1 1

.

0 1 2

1

,

n

n n

i n

n i

n

i n

n i

n

i n

i

Y Y

c n lim P Y c

n

lim P Y c n

Y c P n

n







 

 



  

 

  

 

 

 

  

 

 

   







 

设 设 设 设 设 设 设 设 设 设 设

设 设 设 设 设 设 设 设 设 设 设 设 设 设

设 设 设 设 设

设 设 设 设 设 设 设

设 设 设

设 设 设 设 设 设 设 设 { , Y i

 1} 设 设 (设 )设 设 设 设 .

 

2 1

1 1

{ , 1} 1,

1 ( ) 0 (5.1.8) 0,

1 1

{| ( ) | } 0

i

i

n n i

i

n n

i i

n i i

X i i

X

lim D X n

lim P X E X

n n





 

  

 



 

  



 

为一随机变量序列，若对所有的 的方差都存在，并且

则

定理5. 1. 3马尔可夫

对有

大数定律

{ , X i

 1}

成立，即随机变量服从大数定律.

1

1 2 1

1

1 1

( ) ( ), ( ) ( ),

n

n i

i

n n

n i n i

i i

Y X

n

E Y E X D Y D X

n n



 



 



 

证明：记，则

Y

对应用切比雪夫不等式，并结合条件(5. 1. 8)，得

2

{|

( ) |

} D Y ( )

P Y E Y 

   

2 2

1

1 (

)

i

D X

n 

 

ⁿ

0 

1 1

1 1

{|

( ) |

} 0

n i i

lim P X E X

n n 

  

  

 

即，

 

1 1

{ , 1}

( ) , 1, 2, ,

0,

1 1

{| ( )

| }

i

i

i

n n

i i

n i i

X i

C

D X C i

X

lim P X E X

n n



   



 

 

  

 

 设设设设设设设设设设设设设

设设设设设设设设

设设设设设设设设设设设设设设设设设

0 { , X i

 1}

设设设设设设设设设设设设设设.

5.1.2

{ , 1}

{ , 1}

i

i

X i

X i





为相互独立的随机变量序列，若它们的方差 存在并

推论

相同，则随机变量也服从大数定律.

2 2 2

1 1

(

)

( )

0, ,

i i

nC C

D X D X n

n ¹ 

 n ¹ 

 n  n   

证明：由于当

(5.1.8)

即，条件满足,由定理5. 1. 3知结论成立.

1

, , , ,

1 1

{ } { } , { 0} 1 , 1, 2, . 2

{ , 1}

n

i i i

i

X X

P X i P X i P X i

i i

X i

        



 

 设 3设 设 设 设 设 设 设 设 设 设 设 设 设 设

设 设 设 设

设 设 设 设 设 设 设 设 设 设 设 设

1, ( ) 0,

i  E X 

解：由于对任意的有

{ , X i

 1} 5.1.2 所以相互独立，方差相同，由推论知

满足大数定律，且

1

1

.

i

X P n

n 

 ^{0, 当}  

2 2

1

1

( ) ( ) 0 ( ) ( ) 1,

2 2

i i

D X E X i i

i i

      

5.1.3(

0 )

0,

A

A n

n n A A

p lim P n p

n







 

    

 

 

设为重贝努里试验中事件发生的次数，并记事件在每 次试验中发生的概率为，则对有：

推论贝努里大数定 律

1

, 1,

1, 2, , ,

0,

~ (1, ).

n

A i

i

i

i

n X

i A

X i n

i A

X B p





   





 设设设设设设设设设

设设设设设设设设

设设设设设设设设设

大数定律的重要意义：

贝努里大数定律建立了在大量重复独立试验中事件 出现频率的稳定性，正因为这种稳定性，概率的概 念才有客观意义 .

贝努里大数定律还提供了通过试验来确定事件概率的

方法，既然频率 n

/n 与概率 p 有较大偏差的可能

性很小，因此可以通过做试验确定某事件发生的频

率并把它作为相应的概率估计，这是一种参数估计

法，该方法的重要理论基础之一就是大数定律。

 

1

1

{ , 1}

, 0

lim 1 0

1 , ,

5.1

, .4

{ 1}

i

n n i

k n

i i

i

X i

P X

n

X P n

n

X i

 

 



 





 

 

  

 

 

  







设为独立同分布的随机变量序列，且其期望存在，

记为则对，有：

， 相

定理辛钦

当于当

大数定律：

即随机变量服从大数定律.

前面的定理和推论中均要求随机变量的方差存在，但当 随机变量服从相同分布时，就不需要这一要求。

证略.

1

1 1

{ , 1}

( ) | ( ) | ,

0

lim 1 ( 5.1.

) 0

( ( )),

( , 1}

4

{ )

i

n n i

k

i

X i

h x E h X

P h X a

n a E h X

h X i











 

 

 

  

 

 







设为独立同分布的随机变量序列，

若为一连续函数，且 则对，有：

， 其

推论

中,

即随机变量也

：

服从大数定律.

1 1

2

1 1 1

, , , ,

~ ( 1,1).

1 1 1

1 2 3

n

n n n

k k k

k k k

X X

X U

X X X

n

n

n



  

 

设 4设 设 设 设 设 设 设 设 设 设 设 设 设 设

设 设 设 设 设 设 设 设

设 设 设 设 设 设 设 设 设

设 设 设 设 设 设 设 设 设 设 设 设 设 设 设 设

1 1

1 1

2 2 2

1 1

2

1 1 1

, , , , ( )

, , , , ( )

, , , , ( )

1 1 1

n

n

n

n n n

k k k

k k k

X X E X

X X E X

X X E X

X X X

n 

n 

n 

 

 

 

设设设设设设设设设设设设设

设设设设设设设设设设, 设设设设设设设设设设, 设设设设设设设设设设, 设设设设设设设设设设设

(

) 0, E X  因为，

1

1

k k

X P

n 



故，0，

1

1 1

( ) ,

E X x dx

 

¹  ¹

同理， 2 2

2 1 2

1 1

( ) ,

E X x dx

 

¹ ₂  ¹ ₃

1

1

k k

X P n

   ¹ ₂ ^，

2 1

1

.

k

X P n

   ¹ ₃

1

1 1 2

, , , ,

~ (0,1),

n

n n

X X

X U X X X

 

 例5设随机变量相互独立同分布，

则依概率收敛吗？

如果依概率收敛，收敛于什么？

1 1

, ln 1 (ln ln ).

解：记Y令Z



X  X

 Y

 X    X

n

1

.

利用依概率收敛的性质，得



，当





  

Y

e e n

1

1

ln , ,ln , ,

ln ln 1

1

0

则相互独立同分布，又 E( )=



 n 

X X

X xdx

1, .

n

那么由辛钦大数定律知，

Z 当

 n  

§2 中心极限定理

(Central Limit Theorem)

有许多随机变量，它们是由大量的相互独立背景：

的随机变量的综合影响所形成的，而其中每 个个别的因素作用都很小，这种随机变量往 往服从或近似服从正态分布，或者说它的极 限分布是正态分布，中心极限定理正是从数 学上论证了这一现象，它在长达两个世纪的 时期内曾是概率论研究的中心课题。

 

5.2.1

定理独立同分布的中心极限定理

   

 

1 2

2

1

2

, , , ,

, , 1, 2,

, 1 ( )

2

n

i i

n i i n

x t n n

X X

E X D X i

X n

n Y

n

x R lim P Y x e dt x

 











 

  





     





 

 设设设设设X设设设设设设设设

设设设设设设设设设设设设设设设

设设

 

5.2.1

定理独立同分布的中心极限定理

 

2 1

0,1 ( , ),

n n

i i

n Y N

X N n n  



此定理表明，当充分大时，近似服从，

即：（近似）～

1

1 ⁿ

i i

X X

n





思考题：的近似分布是什么？

2

( , )

N n

  答案：

1

(

) ( ) ( ).

i

b n a n

P a X b

n n

 

 



 

      

从而，

 

5.2.1

推论德莫佛- -拉普拉斯定理

   

2

2

0 1 ,

lim 1 ( ).

(1 ) 2

A

x t A

n

n n A P A p p

x n np

P x e dt x

np p 



 

  

  

   

 

  

  

设为重贝努里试验中发生的次数，

则对任何实数，有：

( ) ~ ( , (1 )).

n

N np np  p 即:近似

  ^{( ) ( )}

(1 ) (1 )

A

b np a np

P a n b

np p np p

 

     

 

2

1

5.2.1,

(1 ) 2

b t A

n a

n np

lim P a b e dt

np p 





  

  

 

  

  

由定理

1

i

0

i A

X i A

  



第次试验时发生

证明：令 第次试验时未发生

1

,

, ,

,

~ (1, ).

X X  X  X B p

设设设设设设设设,

1 2

,

A n

n  X  X    X

设设

例 6 ：某宴会上提供一瓶 6 升 (l) 的大瓶法国

红酒 , 假定与会者每次所倒红酒的重量服从同一

分布 , 期望值为 100 毫升 (ml), 标准差为 32 毫

升 . 若每次所倒红酒都是相互独立的 , 试问 : 倒

了 55 次后该瓶红酒仍有剩余的概率约为多少 ?

( ) 100, ( ) 32 ,2 1, 2, ,55.

i i

i i

X i

X

E X

D X

i

设设设设设设 设设设设,

 

55

1

55 100

~ 0,1 32 55

i i

X



N

  

根据独立同分布的中心极限定理:知

（近似地），

55 1

{ 55 } {

6000}

i

P P X



  

所以

倒了次后该瓶红酒仍有剩余

6000 55 100 32 55

   

     

 ^2.11  ^0.9826.

  

55 1

55 100

6000 55 100

{ }

32 55 32 55

i i

X P

   

  

例 7 ：某校 1500 名学生选修“概率论与数理

统计”课程 , 共有 10 名教师主讲此课 , 假定每

位学生可以随意地选择一位教师 ( 即 , 选择任

意一位教师的可能性均为 1/10), 而且学生之间

的选择是相互独立的 . 问 : 每位教师的上课教

室应该设有多少座位才能保证该班因没有座位

而使学生离开的概率小于 5%.

解：由于每位学生可以随意地选择一位老师，

因此我们只需要考虑某个老师甲的上课教室的座位即可.

引入随机变量

1500 1

10 (0,1).

1 9

1500 10 10

Y   N

 

由德莫佛- -拉普拉斯中心极限定理，知

（近似）～

1,

1, 2, ,1500.

0

i

X  i i

  

 设设设设设设设设设, 

设设设,

~ (1,1/10).

i i

X X B

则独立同分布，

1500 1

, ~ (1500,1/10).

i i

Y X Y B



 

记则

a a

设教室需要设个座位，由题意知需要满足

95%  P Y {  a }

1500 1

( 10 )

1 9 1500 10 10 a  

 

 

(1.645) 95%,

 

查表得， 150

1.645, 135

a  故需 

169.11.

a  解得

故每位老师的上课教室应该至少设170个座位才能保证

因没有座位而使得学生离开的概率小于5%.

例 8 ：某保险公司的老年人寿保险有 1 万人

参加，每人每年交 200 元 , 若老人在该年内死

亡，公司付给受益人 1 万元。设老年人死亡率

为 0.017 ，试求保险公司在一年内这项保险亏

本的概率。

 ²⁰⁰ 

 P X  解：设为一年中投保老人的死亡数， X

(0,1) (1 )

X np N

np p





由德莫佛- -拉普拉斯中心极限定理，知

（近似）～，故保险公司亏本的概率为：

 ^{10000 10000 200} 

P X  

 

1 200

1 np np p

  

 

  

  

  ^{   1}  ^2.321  ^{ 0.01}

思考题：求保险公司至少盈利万元的概率。 10

答案：0. 939

 ^,  ^{, 10000, 0.017}

X  B n p n  p 

则

例 9 ：设某工厂有 400 台同类机器，各

台机器发生故障的概率都是 0.02 ，各台机

器工作是相互独立的，试用三种方法求机器

出故障的台数不小于 2 的概率。

 

 

400 0.02 0.98 2.8 2 1 ( 1) 1 1

7 0.9938 2.8

npq

P X P X np

npq

   

  

          

 

  

 

, 400,0.02 X X  B

解：设机器出故障的台数为则，

1.

 ²  ¹  ⁰   ¹  ^{1 0.98}

400 0.02 0.98

0.9972

P X    P X   P X       

2. 用泊松分布近似计算

     

400 0.02 8 ,

2 1 0 1 1 0.000335 0.002684 0.9969.

np

P X P X P X

    

         

3. 用正态分布近似计算

例 10 ：

1 20 1

20 20 20

2

1 1 1

, , , ~ ( 1,1)

1 1 1

1 2 3

20

20

20

X X X U

X X X

  



  

设设设设设设设设设设设设设设  设设设

设设设设设设设设

设设设设设设

20 20 20

2

1 1 1

1 1 1

20

X

20

X

20

X

  

  

解：由中心极限定理，

，，均近似服从正态分布。

(

) 0, E X  因为，

(

) , E X  1

2

2

(

) , E X  1

3

1

( ) 4 ,

D X  12  1

3

1

1 ~ (0, ),

20

X

N



 

₆₀ ¹

2 2

1 1 1

( ) ( ) [ ( )] , D X  E X  E X  1

12

20

1

1 ~ ( , )

20

X

N



 

^{1 1} _{2 240} ^，

2 4 2 2

1 1 1

( ) ( ) [ ( )] , D X  E X  E X    1 1 4

5 9 45

2 1

1 ~ ( , )

n

k k

X N

n

 

^{1 1} _{3 225} ^。

例 11 ：（例 2 续）在 n 重贝努里试验中，

若已知每次试验事件 A 出现的概率为 0.75 ， 试利用中心极限定理 ,

(1) 若 n=7500, 估计 A 出现的频率在 0.74 至 0.76 之间的概率近似值；

（ 2 ）估计 n, 使 A 出现的频率在 0.74 至 0.7

6 之间的概率不小于 0.90 。

n A X 解：设在重贝努里试验中，事件出现的次数为，

 ^,0.75 

X  B n

则, ^{E X}   ^{ np  0.75 , n D X}   ^{ npq  0.1875 , n}

 

(1)

n

P

X

 

n

0.76 0.75 0.74 0.75

( ) ( )

0.1875 0.1875

n n n n

n n

 

   

2 (0.04 ) 1 2 (2) 1 0.9544 3

 

n

(0.75 ,.1875 ),

n X N n n

当充分大时，（近似）～

 ^{0.74 0.76} 

0.76 0.75 0.74 0.75

( ) ( )

0.1875 0.1875 P X

n

n n n n

n n

 

 

   

(2)

2 ( 0.04 ) 1 0.9, 3

  n  

( 0.04 ) 0.95, 3

  n 

0.04 1.645, (25 1.645)2 3 5074 3

n

n

18750 n 

切比雪夫不等式估计。