概率论与数理统计

概率论与数理统计

(Probability and Statistics)

课程信息

 教师：唐斌（系楼 619 室， [email protected])

 上课时间：周三下午 5-7 节

 课程主页（包括课件、通知、作业等）：

 http://cs.nju.edu.cn/tb/prob.htm

 考核方式：平时 20% + 期中 30% + 期末 50%

 先修课程：微积分（第一层次）

2

参考书目

3

4

课程简介

人类生活的世界充满了随机现象

从投硬币、掷骰子和摸扑克等简单的机会游 戏，到复杂的社会现象；从婴儿的诞生，到 世间万物的繁衍生息；从流星殒落，到大自 然的千变万化 ，我们无时无刻不面对具有

不确定性现象 ( 随机现象 ) 。

5

“ 随机 的概念 ”



两种相反的世界观

 确定：世界上任何事情都是有一系列互为因果的事件组成 的，如果我们搞清楚了这些因果关系，我们就能够预测未 来。

 非确定：有些“因”可能有多种果，每次实际发生的是其中 的某一种，但在实际发生之前没有任何可能知道究竟会是 那一个“果”发生。



自从古希腊时代，哲人们就对于“是否有真正的随机”

这个问题争论不休。

God does not roll

dice.

The true God does not allow anybody to

prescribe

what He has to do.

Rényi 关于随机的观点

8

随机现象



什么是随机现象？



具有不确定性 ( 或随机性、偶然性 ) 的现象称为 随机现象。



随机现象的特点



当人们在一定条件下对某一现象加以观察时，

观察到的结果是多个可能结果中的某一个，且 在每次观察前都无法预知观测结果到底是哪一 个，即结果的出现呈现出偶然性。

9

判断哪些现象是随机现象？



在一个标准大气压下，水在 100℃ 时沸腾



明天的天气情况



掷一颗骰子，观察其点数



笔记本电脑在上课时间内是否死机

10

×

√

√

√

随机现象是否无规律可言？



不是！



在一定条件下对随机现象进行大量重复观测后 就会发现：随机现象的发生有一定的规律性。

11

例 : 火炮射击



个别弹着点可能偏离目标而有随机 性误差，但大量炮弹的弹着点则表 现出一定的规律性，如一定的命中 率，一定的分布规律等等 .

12

例：测量



测量物体长度，由于受仪器及环境影响，每次测 量结果可能有差异，但多次测量的均值随着次数 的增加而逐渐稳定于某常数 a ，且测量值大多落 在此常数附近，离常数越远的测量值出现的可能 性越小。

13

想一想



“ 天有不测风云 与 天气可预报 矛盾么？ ” “ ”

 “ 天有不测风云”指的是对随机现象进行一次观测，

其观测结果具有偶然性；

 “ 天气可预报 指的是研究者从大量的气象资料来观” 察这些观测结果 ( 偶然现象 ) 的规律性。

14

不！

随机现象的偶然性与必然性



偶然性



对随机现象做一次观测，观测结果不可预知



必然性



对随机现象进行大量重复观测，观测结果有一 定的规律性，亦即统计规律性

15

概率论与数理统计是研究和揭示随机现

象统计规律性的数学分支。

课程在多领域的应用



金融、保险等行业策略制定；



产品质量检验与质量控制；



服务行业服务设施及人员配置；



生物、医学应用；



电子产品寿命分析；



气象预报



…

16

课程在计算机专业的应用



通信与计算机网络



硬件，平台等的可靠性保障



数据挖掘



算法设计与分析



…

17

课程内容：概率论



研究随机现象发生的规律



随机事件



随机变量



随机过程（本门课程不作介绍）

18

课程内容：数理统计



以概率论为基础，由随机观察到的数据作出统 计推断



样本及抽样分布



参数估计



假设检验

19

概率论基本概念

20

随机试验



随机现象：具有不确定性（或偶然性）的现象



试验：对某随机现象的观察或测量等



随机试验：具有如下三个特点的试验 ( 简称试验 )

 可重复：可在相同条件下重复进行

 多结果：所有可能结果事先明确可知，且不止一个

 不确定：试验前无法预知到底出现哪一种结果



例如

 抛两枚骰子，观察先后出现的点数

 在某批元件中任取一只，测试其寿命等



21

样本空间



样本点：试验的每一个可能结果



也称为基本事件，记为



样本空间：试验所有可能的结果组成的集合



记为



例如



对试验 样本空间



对试验 样本空间



22

随机事件



试验的样本空间的子集



通常用大写字母等表示



本质是集合



对试验 : 抛两枚骰子



事件 点数相同 ,



事件 点数和为偶数，



23

特殊事件



必然事件：样本空间



不可能事件 : 空集



例如：抛一枚骰子



“ 抛出的点数小于 8” 是必然事件



“ 抛出的点数等于 8” 是不可能事件



24

事件间的关系

通常借助 Venn 图



包含：若发生必然导致发生，则称包含



记为



相等：若



记为



互斥：若和不可能同时发生，则称和互斥



也叫互不相容



25

Ω

A B

B Ω

A

事件的并



至少发生一个的事件称为与的并



记为



个事件中至少有一个发生的事件称为的并



记为或



26

Ω

A B

事件的交



同时发生的事件称为与的交



记为 , 简写为



个事件同时发生的事件称为的交



记为或，简写为



27

Ω

A B

Ω A

A³

对立事件



不发生的事件称为的对立事件（也叫逆事件）



记为



对立和互斥之间的关系



28

Ω

A

A

事件的差



发生，而不发生的事件称为与的差



记为



29

Ω

A B

A

Ω A B

B A  B

A 

事件的运算规律



幂等律： ,



交换律： ,



结合律：



分配律：



De Morgan 定律：，



30

31

如图

两个系统中 A

表示“第 i 个元件 工作正常” ,

表示“第 i 个系统工作正常” .

 试用 A

, A

, A

, A

表示 B

, B

.

(1) A

A

(2) A

A

A₃

A

A

A

推广：

解 : (1) B

= A

A

∪A

A

(2) B

= (A

∪A

)( A

∪A

)

例：可靠性系统

频率



在相同的条件下，进行了次试验，在这次试验 中，事件发生的次数称为发生的频数。比值称 为发生的频率，记为 .



32

频率的性质



若两两互不相容，则



33

频率的稳定性



在充分多次试验中，事件的频率总在一个定值 附近摆动，而且试验次数越多，一般来说摆动 越小。这个性质称为频率的稳定性。

34

实 验 者 德 摩根 • 蒲 丰 皮尔逊 维 尼

n nH f_n

(H) 2048

4040 24000 30000

1061 2048 12012 14994

0.5181

0.5096

0.5005

0.4998

抛硬币 n 次，正面向上 n

次

35

概率与频率



概率用于度量事件发生的可能性



频率在一定程度上反映了事件发生的可能性大 小。尽管每进行一连串试验，所得到的频率可 以各不相同，但只要试验次数足够多，频率与 概率是会非常接近的。



概率可以通过频率来 测量 ，频率是概率的一 “ ” 个近似。

36

概率的公理化定义



1933 年，苏联数学家柯尔莫 哥洛夫给出了概率的公理化 定义，即通过规定概率应具 备的基本性质来定义概率。

37

概率的定义



在随机试验的样本空间上，对于每一个事件赋 予一个实数，记为，称为事件的概率，其满足 下列条件：



非负性：



规范性：



可列可加性：若两两互不相容，则



38

概率的性质 (1)

通常借助 Venn 图



若两两互不相容，则



39

Ω

A B

概率的性质 (2)



40

Ω

A

A B 



A

B

概率的性质 (3)



41

Ω

A

C

Boole 不等式



对事件集有



也被称为 Union Bound



推广： Bonferroni 不等式



…



42

古典概型



有这样一类试验，它们的共同特点是



样本空间的元素只有有限个 ;



每个基本事件发生的可能性相同。

这类试验被称为等可能概型，又称为古典概型。



在古典概型下，

概率计算等价于计数问题



43

例： d'Alembert 的推理



抛两枚硬币，观察向上的情况



有三种结果



A: 两个正面， B: 两个反面， C: 一正一反



d'Alembert 的结论：



正确的解法：



C 分成两部分， C1: 先正后反， C2: 先反后正



A,B,C1,C2 等可能



44

×

计数原则

对任意有穷集合和，



加法原则：若和不相交 , 则



乘法原则： 和的笛卡尔乘积满足



双射原则： 若存在双射函数，则



45

十二路计数 (Twelvefold way)



考虑函数的个数，记



中的元素可以是可区分的或不可区分的



可以是任意的，单射 (one-to-one) ，满射 (onto)



也可以看成将球放入盒子的方式



46

https://en.wikipedia.org/wiki/Twelvefold_way

例：分球入盒



将只球随机放入个盒子，求以下概率：

 A: 恰有个盒子每盒一球；

 B: 某指定的个盒子中各有一球；

 C: 某指定的盒子恰有个球。

解 : 只球放入个盒子共有种放法 ( 样本点总数 )

 事件 A 包含种放法，故 .

 事件 B 包含种放法，故 .

 选球放入指定盒子有种放法，其余个球可以任意放入 其余个盒子，有种放法。故 .



47

例：排队问题



将个男生和个女生随机地排成一列，问任意两 个女生都不相邻的概率是多少？



答案：



若这个学生不是排成一列，而是排成圆状，首 尾相接，这时，该事件发生的概率变成多少？



答案：



48

例：生日悖论 (Birthday Paradox)



有个人，设每个人的生日是 365 天的任何一天 是等可能的，求至少两人生日相同的概率。

解：令，则

显然 故 .



49

例：生日悖论 (Birthday Paradox)

人数 概率

20 0.411 23 0.507 30 0.706 40 0.891 50 0.970 60 0.994

100 0.999999



50

例 : 无放回及有放回抽样



设有件产品，其中有件次品，现从中任取件，

求其中恰有 () 件次品的概率。



1 ）不放回抽样； 2 ）有放回抽样



答案



1 ）



2)



51

例：抽签原理



袋中有只白球，只红球。随机从中将球取出依 次排成一列，问第次取出的球是红球的概率？

解：令 : 第次取出的球是红球

，与无关



等价的问题：袋中有只白球，只红球。若干人 依次从中各取一球，取后不放回，求第人取出 的球是红球的概率。



任一人取红球的概率都是



称为抽签原理。



52

例：随机取数



从 1 至 9 这 9 个数中有放回地取出个，试求取 出的个数的乘积能被 10 整除的概率。

解：令

则 .



53