版权信息

书名：概率导论（第2版·修订版）

作者：[美] Dimitri P. Bertsekas John N. Tsitsiklis

译者：郑忠国 童行伟

ISBN：978-7-115-40507-4

本书由北京图灵文化发展有限公司发行数字版。版权所有，侵权必究。

您购买的图灵电子书仅供您个人使用，未经授权，不得以任何方式复制和传播本书内容。

我们愿意相信读者具有这样的良知和觉悟，与我们共同保护知识产权。

如果购买者有侵权行为，我们可能对该用户实施包括但不限于关闭该帐号等维权措施，并可能追究法律责任。

图灵社区会员 人民邮电出版社（zhanghaichuan@ptpress.com.cn） 专享 尊重版权

版权声明

译者简介

译者序

第2版前言

前言

第 1 章　样本空间与概率

1.1　集合

1.1.1　集合运算

1.1.2　集合的代数

1.2　概率模型

1.2.1　样本空间和事件

1.2.2　选择适当的样本空间

1.2.3　序贯模型

1.2.4　概率律

1.2.5　离散模型

1.2.6　连续模型

1.2.7　概率律的性质

1.2.8　模型和现实

1.3　条件概率

1.3.1　条件概率是一个概率律

1.3.2　利用条件概率定义概率模型

1.4　全概率定理和贝叶斯准则

1.5　独立性

1.5.1　条件独立

1.5.2　一组事件的独立性

1.5.3　可靠性

1.5.4　独立试验和二项概率

1.6　计数法

1.6.1　计数准则

1.6.2　n 选 k 排列

1.6.3　组合

1.6.4　分割

1.7　小结和讨论

习题

1.1 节　集合

1.2 节　概率模型

1.3 节　条件概率

1.4 节　全概率定理和贝叶斯准则

1.5 节　独立性

1.6 节　计数法

第 2 章　离散随机变量

2.1　基本概念

2.2　分布列

2.2.1　伯努利随机变量

2.2.2　二项随机变量

2.2.3　几何随机变量

2.2.4　泊松随机变量

2.3　随机变量的函数

2.4　期望、均值和方差

2.4.1　方差、矩和随机变量的函数的期望规则

2.4.2　均值和方差的性质

2.4.3　某些常用的随机变量的均值和方差

2.4.4　利用期望值进行决策

2.5　多个随机变量的联合分布列

2.5.1　多个随机变量的函数

2.5.2　多于两个随机变量的情况

2.6　条件

2.6.1　某个事件发生的条件下的随机变量

2.6.2　给定另一个随机变量的值的条件下的随机变量

2.6.3　条件期望

2.7　独立性

2.7.1　随机变量与事件的相互独立性

2.7.2　随机变量之间的相互独立性

2.7.3　几个随机变量的相互独立性

2.7.4　若干个相互独立的随机变量的和的方差

2.8　小结和讨论

习题

2.2 节　分布列

2.3 节　随机变量的函数

2.4 节　期望、均值和方差

2.5　多个随机变量的联合分布列

2.6 节　条件

2.7 节　独立性

第 3 章　一般随机变量

3.1　连续随机变量和概率密度函数

3.1.1　期望

3.1.2　指数随机变量

3.2　分布函数

3.3　正态随机变量

3.4　多个随机变量的联合概率密度

3.4.1　联合分布函数

3.4.2　期望

3.4.3　多于两个随机变量的情况

3.5　条件

3.5.1　以事件为条件的随机变量

3.5.2　一个随机变量对另一个随机变量的条件

3.5.3　条件期望

3.5.4　独立性

3.6　连续贝叶斯准则

3.6.1　关于离散随机变量的推断

3.6.2　基于离散观察值的推断

3.7　小结和讨论

习题

3.1 节　连续随机变量和概率密度函数

3.2 节　分布函数

3.3 节　正态随机变量

3.4 节　多个随机变量的联合概率密度

3.5 节　条件

3.6 节　连续贝叶斯准则

第 4 章　随机变量的深入内容

4.1　随机变量函数的概率密度函数

4.1.1　线性函数

4.1.2　单调函数

4.1.3　两个随机变量的函数

4.1.4　独立随机变量和——卷积

4.1.5　卷积的图像计算法

4.2　协方差和相关

4.3　再论条件期望和条件方差

4.3.1　条件期望作为估计量

4.3.2　条件方差

4.4　矩母函数

4.4.1　从矩母函数到矩

4.4.2　矩母函数的可逆性

4.4.3　独立随机变量和

4.4.4　联合分布的矩母函数

4.5　随机数个相互独立的随机变量之和

4.6　小结和讨论

习题

4.1 节　随机变量函数的概率密度函数

4.2 节　协方差和相关

4.3 节　条件期望和条件方差

4.4 节　矩母函数

4.5节　随机数个相互独立的随机变量之和

第 5 章　极限理论

5.1　马尔可夫和切比雪夫不等式

5.2　弱大数定律

5.3　依概率收敛

5.4　中心极限定理

5.4.1　基于中心极限定理的近似

5.4.2　二项分布的棣莫弗-拉普拉斯近似

5.5　强大数定律

5.6　小结和讨论

习题

5.1 节　马尔可夫和切比雪夫不等式

5.2 节　弱大数定律

5.3 节　依概率收敛

5.4 节　中心极限定理

5.5 节　强大数定律

第 6 章　伯努利过程和泊松过程

6.1　伯努利过程

6.1.1　独立性和无记忆性

6.1.2　相邻到达间隔时间

6.1.3　第 k 次到达的时间

6.1.4　伯努利过程的分裂与合并

6.1.5　二项分布的泊松近似

6.2　泊松过程

6.2.1　区间内到达的次数

6.2.2　独立性和无记忆性

6.2.3　相邻到达时间

6.2.4　第 k 次到达的时间

6.2.5　泊松过程的分裂与合并

6.2.6　伯努利过程和泊松过程, 随机变量之和

6.2.7　随机插入的悖论

6.3　小结和讨论

习题

6.1 节　伯努利过程

6.2 节　泊松过程

第 7 章　马尔可夫链

7.1　离散时间的马尔可夫链

7.1.1　路径的概率

7.1.2　n 步转移概率

7.2　状态的分类

7.3　稳态性质

7.3.1　长期频率解释

7.3.2　生灭过程

7.4　吸收概率和吸收的期望时间

7.4.1　平均吸收时间

7.4.2　平均首访时间及回访时间

7.5　连续时间的马尔可夫链

7.5.1　利用离散时间马尔可夫链的近似

7.5.2　稳态性质

7.5.3　生灭过程

7.6　小结和讨论

习题

7.1 节　离散时间的马尔可夫链

7.2 节　状态的分类

7.3 节　稳态性质

7.4 节　吸收概率和吸收的期望时间

7.5 节　连续时间的马尔可夫链

第 8 章　贝叶斯统计推断

8.1　贝叶斯推断与后验分布

8.2　点估计, 假设检验, 最大后验概率准则

8.2.1　点估计

8.2.2　假设检验

8.3　贝叶斯最小均方估计

8.3.1　估计误差的一些性质

8.3.2　多次观测和多参数情况

8.4　贝叶斯线性最小均方估计

8.4.1　一次观测的线性最小均方估计

8.4.2　多次观测和多参数情形

8.4.3　线性估计和正态模型

8.4.4　线性估计的变量选择

8.5　小结和讨论

习题

8.1 节　贝叶斯推断与后验分布

8.2 节　点估计, 假设检验, 最大后验概率准则

8.3 节　贝叶斯最小均方估计

8.4 节　贝叶斯线性最小均方估计

第 9 章　经典统计推断

9.1　经典参数估计

9.1.1　估计量的性质

9.1.2　最大似然估计

9.1.3　随机变量均值和方差的估计

9.1.4　置信区间

9.1.5　基于方差近似估计量的置信区间

9.2　线性回归

9.2.1　最小二乘公式的合理性5

9.2.2　贝叶斯线性回归6

9.2.3　多元线性回归

9.2.4　非线性回归

9.2.5　实际中的考虑

9.3　简单假设检验

9.4　显著性检验

9.4.1　一般方法

9.4.2　广义似然比和拟合优度检验

9.5　小结和讨论

习题

9.1 节　经典参数估计

9.2 节　线性回归

9.3 节　简单假设检验

9.4 节　显著性检验

附表

标准正态分布表

版权声明

© POSTS & TELECOM PRESS 2016. Authorized translation of the English edition © 2002, 2008, Dimitri P.Bertsekas and John N. Tsitsiklis, Introduction to Probability, Second Edition
.

This translation is published and sold by permission of Dimitri P.Bertsekas and John N. Tsitsiklis, the owner of all rights topublish and sell the same.

本书简体中文版由Dimitri P. Bertsekas 和 John N. Tsitsiklis授权人民邮电出版社独家出版,并在全世界销售发行.

未经出版者书面许可,不得以任何方式复制或抄袭本书内容.

版权所有,侵权必究.

译者简介

郑忠国
北京大学数学科学学院教授、博士生导师,1965年北京大学研究生毕业.长期从事数理统计的教学和科研工作,研究方向是非参数统计、可靠性统计和统计计算,发表论文近百篇.主持完成国家科研项目“不完全数据统计理论及其应用”,教育部博士点基金项目“应用统计方法研究”和“工业与医学中的应用统计研究”等.研究项目“随机加权法”获国家教委科技进步二等奖.出版的教材有《高等统计学》、《概率与统计》(北京大学出版社)等.

童行伟
北京师范大学数学科学学院副教授、硕士生导师,2003年获得北京大学数学科学学院博士学位.曾在密苏里大学哥伦比亚分校做博士后研究,多次访问香港各大学和新加坡国立大学.主要从事生物统计、金融统计的教学和科研工作,研究方向是生存分析和医学统计.

译者序

概率论是研究自然界和人类社会中的随机现象数量规律的数学分支.概率论的理论和方法与数学的其他分支、自然科学、工程、人文及社会科学各领域相互交叉渗透,已经成为这些学科中的基本方法.概率论(或概率统计)和高等数学一样,已经成为我国高等学校各专业普遍设立的一门基础课.

Dimitri P. Bertsekas和John N. Tsitsiklis编写的这本《概率导论》独具特色.作者用流畅的笔调,阐述了概率论的基本原理和方法,同时用大量丰富的例子说明概率论的应用领域的广泛性.本书在内容上具有一些鲜明的特点.首先教材的内容丰富,除了系统地介绍概率论基本原理外,还包含了随机过程和统计学的内容.随机过程部分涉及伯努利和泊松过程、马尔可夫过程等内容,统计学涉及贝叶斯统计和经典统计的主要方法.本书的内容可以提供两门具有不同特点的一学期课程的材料,一门是概率论与随机过程,另一门是概率论与统计推断.任课教员可以从本书选取相关内容组成相应课程.本书的另一个特点是它的广泛适应性和理论的完整性.初学者通过系统学习,可以掌握概率论和统计学的基本原理;追求数学严密性的学生,也可从本书的注解和习题解答中学习到概率统计的严格理论,了解理论的完整性和逻辑的严密性.

译者曾与本书第一作者有过当面交流的机会.作者对于中国不断发展的教育科学事业很感兴趣,乐于看到概率统计在中国教育领域中的地位日益提高,乐于将本书介绍给中国读者.本书是麻省理工学院的基础课教材,是在多年教学的基础上写成的.作为世界著名高校,他们的经验值得我们学习,我们希望本教材的中文版能够对提高我国概率统计教育水平起到积极的作用.

由于译者的学识和中英文水平有限,译文难免有不妥之处,欢迎广大读者批评指正.

第2版前言

本书对第1版进行了重大改动：对原有材料的编排做了变动,增加了新的材料,页数也增加了25 %.主要的改动如下.

(a) 统计推断方面增加了两章内容：一章是贝叶斯统计;一章是经典统计推断.这两章的主要内容是介绍基本概念,并通过例子加深对方法的理解.

(b) 重新安排组织了第3、第4两章的内容,一方面是为了增加新的内容,另一方面是为了表达的流畅.第1版中的4.7节(二元正态分布)已经删去,但是在本书的网页上还保留着.

(c) 增加了一些例子和习题.

新版的主要目的是为教师提供更多的材料以供他们选材,特别是提供了统计推断引论的题材.注意本书第6~7章和第8~9章在内容上是相互独立的.另外,第5~7章的内容是不依赖第4章的,第8~9章只需要知道4.2~4.3节的内容.因此,利用本书,可以提供下列的课程.

(a) 概率论与统计推断引论：第1~3章,4.2~4.3节,第5章,第8~9章.

(b) 概率论与随机过程引论：第1~3章,第5~7章,加上第4章少数几节.

我们要对我们的同行表示感谢.他们对第1版的内容提出了宝贵的建议,同时对新增材料的组织提供了帮助.特别是Ed Coffman、 MuntherDahleh、 Vivek Goyal、 Anant Sahai、 David Tse、 George Verghese、Alan Willsky、 John Wyatt 等.最后,我们要感谢Mengdi Wang,她为新增的两章提供了习题和图表.

Dimitri P.Bertsekas, dimitrib@mit.edu

John N.Tsitsiklis, jnt@mit.edu

2008年6月于麻省剑桥

前言

概率是用计算概括的常识.

—— 拉普拉斯

本书是我们在MIT开设的一门概率论入门课程“概率系统分析”的基础上写成的.

选择这门课程的学生来自全校各个科系,他们背景各异,且兴趣广泛,既有刚入学的本科一年级新生也有研究生,既有学工科的也有学管理的.为此,在教学上我们一直力求表达简洁而又不失分析推理的严格.我们教学的主要目的是培养学生构造和分析概率模型的能力,希望学生既具备直观理解力又注重数学的准确性.

根据这种精神,概率论模型中某些很严格的数学推导被简化处理了,或者只是进行了直观的解释,免得复杂的证明妨碍了学生对概率论本质的理解.同时,有些分析留在每章最后的理论习题部分,它们用到高等微积分知识.此外,为了满足某些专业读者的需要,我们将某些推理过程中的数学技巧展示在注解中.

本书包含了概率论的基础理论部分(概率模型、离散随机变量和连续随机变量、多元随机变量以及极限定理),这些都是概率论入门教材的主要内容.在第4~6章,也包含了一些较高级的内容,教师在讲授的过程中可以选择部分内容,以配合课程大纲的具体需求.其中第4章介绍了矩母函数、条件概率的现代定义、独立随机变量的和、最小二乘估计、二维正态分布等内容;第5~6章较为详细地介绍了伯努利、泊松和马尔可夫过程.

我们在MIT开设的(一学期)课程中,讲授了第1~7章的几乎全部内容,只是略去了二维正态分布(4.7节)和连续时间马尔可夫链(6.5节)两部分.然而,也可以作如下选择：略去课本中关于随机过程的全部内容,这样可使任课教师集中精力介绍概率论的基本概念,或者增加一些感兴趣的其他材料.

本书的主要省略之处是缺乏对统计学的全面介绍.我们引入了离散和连续情形下的贝叶斯准则和最小二乘估计,引入贝叶斯统计理论,但并不涉及参数估计和非贝叶斯假设检验.

本书的习题可以分成三类.

(a) 理论习题
：理论习题(用*标明)是教材的重要组成部分.具有数学背景的学生会发现这部分内容是由课文自然拓展而来.我们同时给出了这部分习题的解答.但是,善于思考的读者会发现大部分(特别是前几章的)习题都能自己独立地做出来.

(b) 课程习题
：除理论习题外,书中还包含了难度各异的其他习题.这些习题是在MIT的讨论班上经常研究的题目,也是MIT的学生学习概率论的主要方法之一.我们希望学生首先独立地做习题,然后参考标准答案进行核对,这样可以提高他们的学习能力.答案公布在教材的网页上：http://www.athenasc.com/probbook
.

(c) 补充习题
：有很多补充习题并没有印在书上,但是在本书的网页上可以查到(且越来越多).其中许多习题是MIT学生的家庭作业和考试题目.我们希望采用本教材的教师可以同样地利用它们.这些题目放在网上是公开的,但是题目的答案是不公开的.采用本教材的教师可以联系作者得到这些答案.

我们要感谢许多为本书作出贡献的人.当我们开始在MIT接手这门概率论课程的教学任务时,就开始了写书的计划.我们的同事Al Drake教这门课已经几十年了.他的课程组织经历了时间的考验,其经典教材对各个题材均有生动的描述,还有大量讨论班内容和家庭作业等丰富的材料,我们十分庆幸自己的工作有这样高的起点.特别感谢Al Drake给我们创造了如此有利的起始条件.

我们也要感谢其他院校的几位同事,他们有的利用本书的手稿进行教学,有的阅读过手稿,并对本书的改进提供了反馈.我们要特别感谢Ibrahim Abou Faycal、 Gustavo de Veciana、 Eugene Feinberg、 Bob Gray、Muriel Médard、 Jason Papastavrou、 Ilya Pollak、David Tse、 Terry Wagner 等.

还有MIT的助教们,他们对各阶段的书稿进行了认真的校核,并丰富和完善了习题和解答.通过他们与学生的直接交流,才使得本教材能够适应学生的学习水平.

本书能够为MIT的数千学生在其学业生涯之初提供服务,使我们感到十分欣慰.在本书的成书过程中,他们热心反馈书本中的问题和学习心得.在此感谢他们的反馈与耐心.

最后,我们还要感谢我们的家人在这个漫长的成书过程中对我们的支持.

Dimitri P.Bertsekas, dimitrib@mit.edu

John N.Tsitsiklis, jnt@mit.edu

2002年5月于麻省剑桥

第 1 章　样本空间与概率

“概率”是一个非常有用的概念,它可以从不同的层面来加以解释.先看下面一幅对话场景.

一个病人被送进医院,并施以一种急救的药.病人家属为了了解药的疗效,询问了当班的护士.下面是他们之间的一段对话.

家属：护士小姐,请问这种药有效的概率是多少?

护士：我希望这种药是有效的,明天就会见分晓.

家属：是的,但是我想知道这种药有效的概率.

护士：每个病人的病情是不一样的,看情况发展吧.

家属：这么说吧,在100宗类似的病例中,你认为有多少宗是有效的?

护士(有些不耐烦)：我已经告诉你了,每个病人的情况是不一样的.这种药,对某些病人是有效的,对另一些病人是无效的.

家属(继续坚持)：现在请告诉我,如果必须打赌的话,你会押哪一注,这种药是有效还是无效?

护士(有些惊奇)：那我愿意打赌,对于这位病人,这种药是有效的.

家属(多少松了一口气)：好吧！我再问你,你是否愿意如此押注：若这药无效,你输掉2元钱;若这药有效,你赢1元钱?

护士(有些恼怒)：多么荒谬的想法！你是在浪费我的时间.

在这组对话中,病人家属希望用概率的概念同护士讨论药的疗效这种具有不确定性
的事件.但是护士的第一反应是对概率这个概念的不认可,或不理解,而家属试图将概率的概念解释得更具体一些.他首先试图将概率解释成偶然事件在多次重复试验中出现的频率
,这是最通常的解释.例如,我们说一枚两面对称的硬币,在抛掷试验中以50%的概率出现正面,这么说实际上是指在多次重复抛掷硬币时,出现正面向上的次数约占一半.但是护士似乎不大愿意接受家属的这种想法,护士的想法不是完全没有道理.如果这种药是第一次在医院里使用,或护士从没有过这方面的经验,那何从谈起治愈的频率呢?

在许多涉及不确定性的事例中,用频率解释是适宜的,然而,也有一些事例不宜用频率解释.比如,有一个学者以90%的把握断言《伊里亚特》和《奥德赛》是由同一作者创作的.由于他所讨论的是不可重复的一次性事件,这样的结论只是提供一些主观看法,而与频率无关.所谓概率为90%的把握只是学者的主观信念
.或许有人认为主观信念是不值得研究的,至少从数学或科学的观点来看是如此.但是在实际生活中,人们面对不确定性的时候,经常不得不作出抉择.为了作出正确的或至少保持一致的抉择,科学和系统地利用他们的主观信念是一个先决条件.

事实上,一个理智的选择和行动揭示了许多内在的主观概率,然而在许多场合中,作出抉择的人自己也没有意识到他们应用了概率推理.在前面的对话场景中,病人家属以一种隐蔽的方式试图推断护士的主观信念.由于护士愿意以1:1的赔率打赌这种药是有效的,那么在护士的主观概念中,这种药有效的概率至少为50%.如果这位护士接受对话最后提出的赔率为2:1的赌注的话,这说明在护士的主观概念中,这种药有效的概率至少为2/3.

在此我们不去深究概率推理适用性方面的哲学问题,而是事先假定概率论在很多方面都具有实用价值,包括概率只反映主观信念的情形.概率论在科学、工程、医药、管理等领域中有许多成功应用的事例.这许多经验证据说明概率论在应用中是一种极其有用的工具.

本书的主要目的是发掘用概率模型描述不确定性的艺术和提高概率推理的能力.作为第一步,本章要把概率模型的基础结构及基本性质刻画清楚.概率是定义在某些试验结果的集合上的.为此,我们首先应该对集合论作一简介.

1.1　集合

概率论大量应用集合运算.我们首先引进相关的记号和术语.

将一些研究对象放在一起,形成集合
,而这些对象就称为集合的元素
.设 S
是一个集合,x
是 S
的元素,我们将元素和集合的这种关系写成
.若 x
不是 S
的元素,就写成
.一个集合可以没有元素,这个特殊的集合就称为空集
,记作
.

可用不同的方法刻画一个集合.若 S
包含有限个元素
,我们只需将这些元素列在花括弧中：

例如,掷一枚骰子以后的所有可能结果的集合是{1,2,3,4,5,6},抛一枚硬币的可能结果的集合是{H
,T
},其中 H
代表正面向上,T
代表反面向上.

若 S
包含无限多个元素
,但它们可以像正整数那样排成一列,我们可写成

此时称 S
为可数无限集
.例如,偶数的集合
是一个可数无限集.

我们也可以以 x
具有某种性质 P
为条件来刻画一个集合,记作

{x
|x
满足性质 P
}.

例如,偶数集合可写成{k
|k
/2 是整数}.类似地,在实数区间[0,1]中的数集可表示成
.注意,集合
是一个连续集合,它不可能排成一列(章后习题中给出了证明概要).这样的集合是不可数
的集合.

若集合 S
的所有元素均为集合 T
的元素,就称 S
为 T
的子集
,记作
或
.若
且
,则两个集合相等
,记作S
= T
.引入空间的概念是十分必要的.将我们感兴趣的所有元素放在一起,形成一个集合,这个集合称为空间
,记作 Ω.当 Ω 确定以后,我们所讨论的集合 S
都是 Ω 的子集.

1.1.1　集合运算

集合
称为集合 S
相对于 Ω 的补集
,记作
.注意
.

由属于 S
或属于 T
的元素组成的集合称为 S
和 T
的并
,记为
.既属于 S
又属于 T
的元素组成的集合称为 S
和 T
的交
,记成
.这些集合可用下列公式表达:

有时候我们需要考虑几个甚至无穷个集合的并和交的问题.例如,如果每一个正整数 n
都确定一个集合
,则

图 1.1　维恩图的例子

两个集合称为不相交
的,如果它们的交集为空集.更一般地,几个集合称为互不相交
的,如果任何两个集合没有公共元素.一组集合称为集合 S
的分割
,如果这组集合中的集合互不相交,并且它们的并为 S
.

设 x
和 y
为两个研究对象,我们用(x
,y
)表示 x
和 y
的有序对
.我们用
表示实数集合,用
表示实数对的集合,即二维平面,用
表示三维实数向量的集合(三维空间).集合及其运算可用维恩图
形象化表示,见图1.1.

1.1.2　集合的代数

集合运算具有若干性质,这些运算性质可由运算的定义直接证得,举例如下：

下面给出的两个公式就是著名的德摩根定律
：

现在证明第一个公式.设
,这说明
,即对一切 n
,
.因而,对每一个 n
,x
属于
的补集,即
.这样,我们得到
.反过来包含关系的证明,只需将我们的论证从后面往前推即可.而第二个公式的证明完全类似.

1.2　概率模型

概率模型是对不确定现象的数学描述.为了与本节讨论的基本框架保持一致,下面列出了它的两个基本构成,并用图1.2做了形象阐释.

概率模型的基本构成

- 样本空间

,这是一个试验的所有可能结果的集合.

- 概率律
,概率律为试验结果的集合 A
(称为事件
)确定一个非负数P(A
)(称为事件 A
的概率
).而这个非负数刻画了我们对事件 A
的认识或所产生的信念的程度.稍后将指出概率律必须满足的某些性质.

图 1.2　概率模型的基本构成

1.2.1　样本空间和事件

每一个概率模型都关联着一个试验
,这个试验将产生一个试验结果
.该试验的所有可能结果形成样本空间
,用
表示样本空间.样本空间的子集,即某些试验结果的集合,称为事件
1
.一个试验由什么组成,并没有什么限制.例如,可以抛掷一次硬币,也可以抛掷三次硬币,或持续地、无限次地抛掷硬币.然而我们所讨论的概率模型的问题中,只涉及一个试验.所以连续抛掷三次硬币的试验,只能作为一次试验,不能认为是三次试验.

1
任意一个可能结果的集合,包括样本空间
本身和它的补集
,都可能作为事件.当然,严格来讲,在一个具有不可数无限多个试验结果的样本空间中,有些子集不可能定义有意义的概率.这涉及测度论的数学知识.但实际上我们一般不会遇到这种特殊的情况,因此我们不必考虑这种特殊问题.

样本空间可由若干个试验结果组成,也可由无限多个试验结果组成.从数学上和概念上来看,有限样本空间比较简单.实际应用中,具有无限多个结果的样本空间也是很常见的.例如,往一个方形目标上掷飞标,可将每个可能的弹着点作为试验的结果.

1.2.2　选择适当的样本空间

在确定样本空间的时候,不同的试验结果必须是相互排斥
的,这样,在试验过程中只可能产生唯一的一个结果.例如,当试验是掷一枚骰子的时候,不能把“1 或 3”定为一个试验结果,同时又把“1 或 4”也定义为一个结果.如果这样定义了,那么当掷得1点的时候,就不知道得到的是什么结果了.

对同一个试验,根据我们的兴趣可以确定不同模型.但是确定模型时,我们不能遗漏其样本空间中的任何一个结果.也就是说在试验过程中不管发生什么情况,我们总能够得到样本空间中的一个结果.另外,在建立样本空间的时候,要有足够的细节区分我们感兴趣的事件,同时要避免不必要的烦琐.

例 1.1
考虑两个不同的游戏,它们都涉及连续抛掷10次硬币.

游戏1：每次抛掷硬币的时候,只要出现正面向上,我们就赢1元钱.

游戏2：每次抛掷硬币时,我们都赢1元钱,直到出现第一次正面向上(包括这一次).以后每次抛掷硬币时我们赢2元钱,一直到第二次出现正面向上.每次抛掷得到正面向上的时候,以后每次抛掷硬币所赢的钱数比以前每次抛掷硬币所赢得的钱数加倍.

在游戏1中,我们赢的钱数只与10次抛掷中正面向上的次数有关;而在游戏2中,我们的赢钱数不仅与正面出现的次数有关,也与正反面出现的顺序有关.这样在游戏1中,样本空间可由11个(即
)试验结果组成,而在游戏2中,样本空间由所有的长度为10的正、反序列组成.

1.2.3　序贯模型

许多试验本身具有序贯的特征.例如,连续抛掷一枚硬币,一共抛三次,或者连续观察一只股票,共观察5天,又或者在一个通信接收设备上接收8位数字.常用序贯树形图
来刻画样本空间中的试验结果,如图1.3所示.

图 1.3　序贯树形图示例.设所考虑的试验连续两次抛掷有4个面的骰子2
,其样本空间有两种等价的刻画方法.在这个试验中,可能的结果是全体有序对(i
,j
),其中 i
表示第一次抛掷骰子得到的数字,j
表示第二次抛掷骰子得到的数字.试验结果可用左图中的2维格子点表示,也可以用右图中的序贯树形图表示,后者的优点是可以表示试验的序贯特征.在序贯树形图中,每个可能的试验结果可以用一个末端的树叶表示,或等价地用与树叶相联系的由根部到树叶的一个路径表示3
.左图中阴影部分代表事件{(1,4),(2,4),(3,4),(4,4)},它表示第2次抛掷得到4.同一个事件可以在右图中用空心圆点标示的叶子集合表示.注意序贯树形图中的每一个结点可以代表一个事件,这个事件就是由这个结点出发的所有的叶子构成的事件.例如,在序贯树形图中用1标示的结点代表事件{(1,1),(1,2),(1,3),(1,4)},即第一次抛掷得1的事件

2
当抛掷的骰子有6个试验结果的时候,就是指抛掷常见的正六面体.此处可理解为抛掷正四面体,当落在桌面时,只有一面与桌面接触.本书中的骰子都可以如此解释.——译者注

3
用路径表示更能显示试验的序贯特征.——译者注

1.2.4　概率律

假定我们已经确定了样本空间
以及与之联系的试验,为了建立一个概率模型,下一步就是要引进概率律
的概念.直观上,它确定了任何结果或者任何结果的集合(称为事件)的似然程度.更精确一点说,它给每一个事件A
,确定一个数P(A
),称为事件A
的概率
.它满足下面的几条公理.

概率公理

(1) (非负性
) 对一切事件A
,满足
.

(2) (可加性
) 设A
和B
为两个互不相交的集合(概率论中称为互不相容的事件),则它们的并满足

更一般地,若
是互不相容的事件序列,则它们的并满足

(3) (归一化
) 整个样本空间
(称为必然事件)的概率为1,即
.

为了将概率律形象化,可以把样本空间中的试验结果看成质点,每一个质点有一个质量.
就是这个质点集合的总质量,而全空间的总质量为1.这样,概率律中的可加性公理就变得很直观了：不相交的事件序列的总质量等于各个事件的质量之和.

概率的更具体的解释是频率.
表示：在大量重复的试验中事件A
出现的频率约为2/3.这样的解释虽然不总是合适的,但有时却很直观易懂.第5章将会重新讨论这种解释.

概率律有许多重要的性质并没有包含到上述公理系统中,原因很简单,它们可以从公理系统中推导
出来.例如,由可加性和归一化公理可得到

由这个性质可知空事件(称为不可能事件)的概率为0,即

现在推导另一个性质,令
、
和
为互不相容的事件,重复利用可加公理,可得到

类似的推导可以得到：有限多个互不相容的事件的并的概率等于它们各自的概率之和.后面将讨论更多的性质.

1.2.5　离散模型

现在以实例说明构造概率律的方法.通常我们根据实际试验中的一些常识性假设构造概率律.

例 1.2
考虑抛掷一枚硬币.一共有两种结果,正面向上{H
}和反面向上{T
}.样本空间为
,事件为

若硬币是均匀的,即我们相信在抛掷硬币的时候,两面具有相同的机会出现,应该确定两个结果的概率是相等的,即
.由可加性公理和归一性公理可知

由此可推导得概率律

显然,所建立的概率律满足三条公理.

考虑另一个试验,依次抛掷三枚硬币.试验结果是由正面和反面组成的长度为3的序列.样本空间为

假定上述8种结果的可能性是相同的,即每个结果的概率为1/8.现在利用三条公理建立概率律.例如事件

利用概率律的可加性公理,事件 A
的概率等于组成该事件的试验结果的概率之和：

相似地,任何事件的概率等于1/8乘上该事件中包含的结果的个数.所建立的概率律满足三条公理.

利用概率律的可加性公理以及前面例子中的推理方法,可以得到下面的结论.

离散概率律

设样本空间由有限个可能的结果组成,则事件的概率可由组成这个事件的试验结果的概率所决定.事件
的概率是
之和,即

此处用简单的记号
表示事件
的概率,而不用正式的记号
.本书后面都按这个简化的约定书写.

现在设样本空间为
,并且每个试验结果是等概率的.利用归一化公理可知
,得到以下定律.

离散均匀概率律(古典概型)

设样本空间由 n
个等可能性的试验结果组成,因此每个试验结果组成的事件(称为基本事件)的概率是相等的.由此得到

现在进一步讨论一些例子.

例 1.3
考虑连续两次抛掷一个有4个面的骰子(见图1.4).现在假定这些骰子是均匀的,这个假定意味着16种可能的试验结果是等可能的,即16种结果的每一种可能的结果(i
, j
)出现的概率为1/16(i
,j
=1,2,3,4).这是一个古典概型.在计算一个事件的概率的时候必须数清楚这个事件所包含的试验结果数(基本事件数),将这个结果数除以16(基本事件总数)便得到这个事件的概率.下面几个事件概率就是用这种方法计算得到的.

图 1.4　在连续两次抛掷有4个面的骰子的过程中的若干事件和它们的概率,计算依据离散均匀概率律

1.2.6　连续模型

若试验的样本空间是一个连续集合,其相应的概率律与离散情况有很大的差别.在离散情况下,用基本事件的概率就可以确定概率律,但连续情况却不同.下面是一个例子.这个例子将离散模型中的均匀概率律推广到连续的情况.

例 1.4
在赌场中有一种称为幸运轮的赌具.在轮子上均匀连续地刻度,刻度范围为0到1.当转动的轮子停止时,固定的指针会停留在刻度上.这样,产生的试验结果是[0,1]中的一个数,指针所指向的位置的刻度.因此样本空间是
.假定轮子是均匀的,因此可以认为轮子上的每一个点在试验中都是等可能的.但一个单点在试验中出现的可能性有多大呢?它不可能是正数,否则的话,若单点出现的概率为正,利用可加性公理,可导致某些事件的概率大于1的荒谬结论.因此单个点所组成的事件的概率必定为0.

在本例中,可定义子区间[a
,b
]的概率为b
-a
.更复杂的集合的概率可以定义为这个集合的长度.4
这样定义的概率满足概率律的三条公理,因此本例中定义的概率是符合要求的概率律.

4
[0,1]的一个子集 S
的长度定义为
,对于比较简单的子集,可利用通常的微积分计算这个积分.对于某些不寻常的集合,这个积分可能没有合适的定义,这些事情属于更高深的数学处理的问题.顺便指出,用长度刻画概率律的合法性取决于单位区间是一个不可数无限集.不然的话,由于每个单点的概率为零,可导致[0,1]的概率为0的结论,这与概率的归一化公理相矛盾.

例 1.5
罗密欧和朱丽叶约定在某时刻见面,而每个人到达约会地点的时间都会有延迟,延迟时间在0~1小时.第一个到达约会地点的人会在那儿等待15分钟,等了15分钟后若对方还没有到达约会地点,先到者会离开约会地点.问他们能够相会的概率有多大?

考虑直角坐标系的单位正方形
.正方形中的每个点的两个坐标分别代表他们可能的延迟时间.每个点都可以是他们的延迟时间,而且是等可能的.由于等可能性的特点,我们将
的子集出现的概率定义为这个子集的面积.这个概率律满足三条概率公理.罗密欧和朱丽叶能够相会的事件可用图1.5中阴影部分表示.它的概率等于7/16.

图 1.5　事件 M 代表罗密欧和朱丽叶的相互等待时间不超过15分钟,M
是图中阴影部分(见例 1.5),即

M
的面积等于1减去两个没有阴影的三角形的面积之和,即
.因此,他们能够相会的概率为7/16

1.2.7　概率律的性质

由概率公理可以推导出很多性质,下面列举若干性质.

概率律的若干性质

考虑一个概率律,令 A
、B
和 C
为事件.

(a) 若
则
.

(b)
.

(c)
.

(d)
.

这些性质以及其他类似的性质,都可以形象化地用维恩图证明(见图1.6).注意,性质(c)可以推广成

现在证明这个推广的结果.将性质(c)用于事件
和
,得到

进一步将性质(c)用于事件
和
,得到

如此继续下去,最后将诸不等式相加,便得到所需结果.

图 1.6　利用维恩图直观地验证概率律的性质(a)、(b)、(c)和(d).设
,则 B 是两个不相容的事件 A 和
的并(见图(a)).利用可加性公理得

其中不等式利用了概率的非负性公理.性质(a)得证.

由图(b),可将事件
和 B
分解成不相容的事件之并：

利用可加性公理,得到

第一式减去第二式并移项得到
,即性质(b)成立.利用概率的非负性公理得到
,从而
成立,性质(c)得证.

由图(c),可以看出事件
可以分解成三个互不相容的事件的并：

重复利用可加性公理可得到性质(d).

1.2.8　模型和现实

概率理论可以用来分析现实世界的许多不确定现象.这个过程通常分成两个阶段.

(a) 第一阶段,在一个适当的样本空间中给出概率律,从而建立概率模型.在这个阶段,没有关于建立模型的一般规则,只要你建立的概率律符合概率的三条公理就行.有些人会怀疑所建立模型的真实性.有时,人们宁愿使用“错误”的模型,其理由是“错误”的模型比“正确”的模型简单且易于处理.这种处理问题的态度在科学和工程学中很普遍.在实际工作中,选择的模型往往既要准确、简单又要兼顾易操作性.此外,统计学家还依据历史数据和过去相似试验的结果,利用统计方法确定模型.这将在第8章和第9章讨论.

(b) 在第二阶段,我们将在完全严格的概率模型之下进行推导,计算某些事件的概率或推导出一些十分有趣的性质.第一阶段的任务是建立现实世界与数学的联系,而第二阶段则是严格限制在概率公理之下的逻辑推理.在后一阶段,如果涉及的计算很复杂或概率律的陈述不简明,推理和理解就会遇到困难.但是所有的问题将会有一个准确的答案,不会产生歧义.只要有足够高的能力,所有的困难都将化为乌有.

在概率论中充满这样的“悖论”：对同一个问题,不同的计算方法似乎会得到不同的结论.在这种模棱两可的概率律中选定模型会导致结论的不确定.贝特朗悖论
是一个著名的例子(见图1.7).

图 1.7　贝特朗悖论.该例子由贝特朗于1889年提供,它说明这样一个原理：解决一个实际问题的时候,必须建立无歧义的概率模型.设在一个圆内有一个正三角形,内接于圆周.现在随机地选定一个弦,问其长度大于内接正三角形的边的概率等于多少?其解答依赖于“随机地选定”的确切定义.图中(a)和(b)的两种方法导致相互矛盾的结论.

在图(a)中,取一半径 AB
,在 AB
上随机地取一个点 C
.所谓随机地取点是指 AB
上所有的点具有相同的机会被取到.通过点 C
,作一条弦垂直于 AB
.由初等几何的知识可知,当 C
点的位置恰巧在 AB
的中点时,弦的长度刚好等于三角形的边长,而远离圆心时,弦的长度减小.这样弦的长度大于内接正三角形的边长的概率等于1/2.

在图(b)中,圆周上取一点 V
作为顶点.通过 V
先画一条切线,然后随机地画一条通过 V
的直线.记直线与切线的夹角为
.由于这条直线是随机地画的,可以认为夹角
是在
上均匀地分布的.现在考虑这条直线割圆得到的弦的长度.由初等几何的知识可知,当
处于
的范围内,弦的长度大于三角形的边长.由于
取值于
,故这根弦大于内接正三角形边长的概率是1/3

概率论发展简史

- 公元前
.在古希腊和古罗马时期,机会游戏十分盛行.但是这个时期关于游戏的理论还没有发展起来.究其原因,那时侯希腊的数字系统不能提供代数运算发展的机会.在科学分析基础上的概率论一直等到印度和阿拉伯发明了现代算术系统(第一个千年的后半叶),以及文艺复兴时期产生了大量的科学思想,才有机会发展.

- 16世纪
.卡尔达诺,一个光彩夺目同时富有争议的意大利数学家出版了第一本关于机会游戏的书,书中给出了掷骰子和扑克游戏中随机事件的概率的正确计算方法.

- 17世纪
.费马和帕斯卡之间的通信中提及几个十分有趣的概率问题,推动了这个领域的研究热潮.

- 18世纪
.雅各布·伯努利研究了重复投币试验序列并引入了第一条大数定律.这条大数定律为联系理论概率与经验事实打下了基础.后面的数学家,诸如丹尼尔·伯努利、莱布尼茨、贝叶斯、拉格朗日等人对理论概率论的发展和实际应用也作出了巨大贡献.棣莫弗引入了正态分布并证明了第一个中心极限定理.

- 19世纪
.拉普拉斯在他的一本很有影响的书中确立了概率论在定量研究领域中的重要地位.同时他本人对概率论作出了许多原创性的贡献,包括推导了更一般形式的中心极限定理.勒让德和高斯将概率论应用到天文预测,并且应用了最小二乘法,他们的工作大大地拓展了概率论的应用领域.泊松出版了一本很有影响的书,其中包括了很多原创性的成果,以他的姓名命名的泊松分布也在其中.切比雪夫和他的学生马尔可夫、李雅普诺夫等研究了极限定理,在这个领域内提高了数学的严格性的标准.在此时期,概率论被认为是自然科学的一部分,它的主要任务是解释物理现象.在这种思想的主导之下,概率被解释为重复试验中相对频率的极限.

- 20世纪
.现在已经不再以相对频率作为概率论的基础概念.代之以由科尔莫戈罗夫引入的普遍适用的概率论公理系统.与数学的其他分支一样,在公理系统的基础上发展起来的概率论只依赖于逻辑的正确性,而与实际物理现象的联系无关.然而,由于概率论能够描述和解释现实世界中绝大部分的不确定性现象,因而在科学和工程中,概率论得到广泛应用.

1.3　条件概率

条件概率是在给定部分信息
的基础上对试验结果一种推断.下面是一些例子.

(a) 在连续两次抛掷骰子的试验中,已知两次抛掷的点数的总和为9,第一次抛掷的点数为6的可能性有多大?

(b) 在猜字游戏中,已知第一个字母为 t
,第二个字母为 h
的可能性有多大?

(c) 在查体时,为检查是否患某种疾病需要检测某项指标.已知某人的该项指标为阴性,问这个人得病的可能性有多大?

(d) 在雷达显示屏上出现一个点,这个点代表远处有一架飞机的可能性有多大?

用更确切的话说,给定一个试验、与这个试验相对应的样本空间和概率律,假设我们已经知道给定的事件 B
发生了,而希望知道另一个给定的事件 A
发生的可能性.因此,我们要构造一个新的概率律,它顾及了事件 B
已经发生的信息,求出任何事件 A
发生的概率.这个概率就是给定 B
发生之下事件 A
的条件概率
,记作
.

这个新的条件概率必须是合格的概率律,即满足三条概率公理.同时当原来的概率律为等概率模型时,其相应的条件概率也应当与直观相符合.例如,在抛掷骰子的试验中一共有6种等概率的试验结果.如果我们已经知道试验的结果是偶数,即2,4,6这三种结果之一发生.而这三种结果发生的可能性应该是相等的.这样,得到

从这个结果的推导过程看出,对于等概率模型的情况,下面的关于条件概率的定义是合适的,即

将这个结果推广,我们得到下面的条件概率定义：

其中假定
.如果 B
的概率为0,相应的条件概率是没有定义的.总而言之,
是事件
的概率与事件 B
的概率的比值.

1.3.1　条件概率是一个概率律

对于给定的事件 B
,条件概率
形成了样本空间上的一个概率律,即条件概率满足三条概率公理.非负性是明显的.又由于

说明归一化公理也是满足的.现在验证可加性.设
和
是任意两个不相容的事件,

此处第三个等式利用了事件
和
的不相容性和无条件概率的可加性.可数个互不相容事件的可加性的验证是类似的.

由于我们已经证实了条件概率是一个合格的概率律,所有关于概率律的性质对于条件概率都是成立的.例如将
转变成条件概率的性质,变成

注意到
,条件概率完全集中在 B
上,这样,我们也可以将 B
以外的结果排除掉,并将 B
看成新的样本空间.

现在将条件概率的性质加以总结.

条件概率的性质

- 设事件 B
满足
,则给定 B
之下,事件 A
的条件概率由下式给出

这个条件概率在同一个样本空间
上给出了一个新的(条件)概率律.凡是现有的概率律的所有性质对这个条件概率都是适用的.

- 由于条件概率所关心的事件都是事件 B
的子事件,可以把条件概率看成 B
上的概率律,即把事件 B
看成全空间或必然事件.

- 当试验的
为有限集,并且所有试验结果为等可能的情况下,条件概率律可由下式给出

例 1.6
在连续三次抛掷一个两面均匀的硬币的试验中,我们希望找到
,其中 A
和 B
由下式给出

样本空间由下列8个试验结果组成：

由于硬币两面的均匀性,可以假定这8个试验结果是等可能的.事件 B
由4个试验结果 HHH
、HHT
、HTH
、HTT
组成,因此

而事件
由结果 HHH
、HHT
、HTH
组成,其概率

这样,得到

由于所有的试验结果是等概率的,我们也可用简化的算法计算
.不必计算
和
,而直接计算事件
和 B
中的基本事件个数(分别等于3和4),相比即得3/4.

例 1.7
在连续两次抛掷一个均匀的有4个面的骰子的试验中,假定所有16种试验结果是等可能的,分别记 X
和 Y
为第一次和第二次抛掷的结果.现在希望计算条件概率
,其中

而m
=1,2,3,4.像上一个例子一样,可以有两种计算方法.一种方法是首先计算
和
,然后按条件概率的定义计算
.而
和
的计算方法是：数清楚这些事件中的试验结果的个数,再除以16.另一种方法是直接将
中的试验结果的个数除以 B
中的试验结果的个数(见图1.8).

图 1.8　例1.7的图示.试验的样本空间由连续两次抛掷有4个面的骰子的所有可能结果组成,刻画条件的事件
由5个阴影部分的点所代表的试验结果组成.事件
与事件 B
的相交部分当 m
= 3 或4时有两个试验结果,当 m
= 2 时只有一个试验结果,当 m
= 1 时没有公共元素.这样,我们得到

例 1.8
有两个设计团队,一个比较稳重,记作 C
,另一个具有创新性,记作 N
.要求他们分别在一个月内做一个新设计.从过去的经验知道：

(a) C
成功的概率为2/3;

(b) N
成功的概率为1/2;

(c) 两个团队中至少有一个成功的概率为3/4.

已知两个团队中只有一个团队完成了任务.问这个任务是 N
完成的概率有多大?

现在共有4种可能的结果,

SS
: 双方成功　　　 　　　 　　　　　FF
: 双方失败

SF
: C
成功, N
失败　　　　　　　　　FS
: C
失败, N
成功

现在将(a)、(b)和(c)写成概率等式

结合归一化公理

得到

所求的条件概率为

1.3.2　利用条件概率定义概率模型

在为实验建立具有序贯特征的概率模型的时候,通常很自然地首先确定条件概率,然后确定无条件概率.在这个过程中,经常使用的是条件概率公式
.

例 1.9(雷达探测器)
有一台雷达探测设备在工作,若在某区域有一架飞机,雷达以99%的概率探测到并报警.若该地区没有飞机,雷达会以10%的概率虚假报警.现在假定一架飞机以5%的概率出现在该地区.问飞机没有出现在该地区而雷达虚假报警的概率有多大?飞机出现在该地区而雷达没有探测到的概率有多大?

可以用图1.9的序贯树形图表达这些事件.记

A
= {飞机出现},

B
= {雷达报警},

而它们的补集为

Ac

= {飞机不出现},

Bc

= {雷达未报警}.

题中给出的概率记录在图1.9中描述样本空间的序贯树的相应枝条上.每个试验结果可用树形图的叶子表示,它的概率等于由根部到树叶的枝条上显示的数据的乘积.所求的概率为

图 1.9　例1.9有关雷达探测的事件的序贯树形图表示

由上例的启示,我们可以利用序贯树形图计算概率,规则如下.

(a) 设立一个序贯树形图,让关心的事件处于图的末端(叶子),由根结点一直到叶子的路径上的每一个结点代表一个事件.而我们所关心的事件的发生是由根结点一直到叶子的一系列事件发生的结果.

(b) 在路径的每个分枝上写上相应的条件概率.

(c) 叶子所代表的事件是相应的分枝上的条件概率的乘积.

数学上可以这样来表示：事件 A
发生的充要条件是一系列事件
全都发生,即
. A
发生就是
发生,接着
发生等,正如序贯树形图上 n
个结点上的事件顺次发生. A
发生的概率由如下规则给出(也可见图1.10).

图 1.10　乘法规则的序贯树形图表示.事件
用一段路径表示,或等价地用这一段路径的末端叶子表示,而路径上的每段树枝表示相应的事件
.在树枝的旁边同时注明相应的条件概率.

路径的末端相应于事件
,其概率为由根部到该点的树枝上标示的条件概率的乘积

注意,在图上每一个中间的点也代表一个事件,例如第 i
+ 1 个结点代表事件
.它们的概率等于相应的条件概率的乘积,这些乘积因子都已在相应的 树枝下方列明.例如,事件
相应于图上的第4个结点,其概率为

乘法规则

假定所有涉及的条件概率都是正的,我们有

现在我们来证明乘法规则：由下列恒等式

再利用条件概率的定义,上式右端变成

对于两个事件
和
的情况,乘法规则就是条件概率的定义.

例 1.10
从52张扑克牌中连续无放回地抽取3张牌.我们希望求出3张牌中没有红桃的概率.假定在抽取的时候,一堆牌中的每一张牌都是等可能地被抽取的.根据对称性,52张牌中任意3张牌的组合被抽取的可能性都是相同的.一个想法简单但是计算麻烦的方法是：数清楚不含红桃的3张牌的可能组数,再除以所有3张牌的可能组数.现在利用试验的序贯树形图表示法以及乘法规则进行计算(见图1.11).

图 1.11　例1.10中抽取3张扑克牌的试验的序贯树形图表示

定义

现在利用乘法规则

计算3张牌中没有红桃的概率
.由于52张牌中有39张不是红桃,我们得到

由于第一次抽出一张不是红桃,剩下51张牌中有38张不是红桃,因此

最后,由于前面两张不是红桃,剩下50张牌中有37张不是红桃,这样

这些条件概率列于序贯树形图(图1.11)的相应树枝的上方.现在只需将路径上的(条件)概率相乘,得到

注意,由于在序贯树形图上已经标明了许多(条件)概率,其他的一些事件也可以相应地计算.例如

例 1.11
一个班由4个研究生和12个本科生组成,随机地将这16人分成4个4人组.问每个组分得一个研究生的概率有多大?在这个问题中,什么是随机地分组呢?可以将分组问题看成随机地选位子(不妨将位子
看成第一组,而将位子
看成第二组,等等),每个人都有相同的可能性选择16个位子中任意一个位子,当若干个位子被某些学生选定以后,没有选定位子的同学以完全平等的资格去选择剩下的位子.下面基于图1.12所示的序贯树形图,使用乘法规则来计算所需概率.现在设4个研究生的代号为1, 2, 3, 4.考虑事件

我们所求的概率为
.利用乘法规则：

现在不妨设学生1已经选定了位子,在剩余的15个位子中只有12个位子与学生1分在不同的组内.显然学生2与学生1分在不同组内的可能性为12/15,即

类似地,当学生1和学生2已经分在2个不同组以后,学生3只有选择剩下14个位子中的8个位子,才能与学生1、2处于不同的组.这说明

在学生1、2和3被分派在不同组的条件下,学生4只有在13个位子中选择其中的4个位子之一,才能与他们处于不同的组内.这样

将三个概率相乘,得到所求的概率为

反映这种试验的序贯树形图见图1.12.

图 1.12　例1.11中学生分组试验的序贯树形图表示

例 1.12(蒙提·霍尔问题,也称三门问题)
这是美国有奖游戏节目中的一个经常出现的智力测验问题.你站在三个封闭的门前,其中一个门后有奖品.当然,奖品在哪一个门后是完全随机的.当你选定一个门以后,你的朋友打开其余两扇门中的一扇空门,显示门后没有奖品.此时你可以有两种选择,保持原来的选择,或改选另一扇没有被打开的门.当你作出最后选择以后,如果打开的门后有奖品,这个奖品就归你.现在有三种策略：

(a) 坚持原来的选择;

(b) 改选另一扇没有被打开的门;

(c) 你首先选择1号门,当你的朋友打开的是2号空门,你不改变主意.当你的朋友打开的是3号空门你改变主意,选择2号门.

最好的策略是什么呢?现在计算在各种策略之下赢得奖品的概率.

在策略 (a) 之下,你的初始选择会决定你的输赢.由于奖品的位置是随机地确定的,你得奖的概率只能是1/3.

在策略 (b) 之下,如果奖品的位置在你原来指定的门后(概率为1/3),由于你改变了主意,因而失去了获奖的机会.如果奖品的位置不在你原来指定的门后(概率2/3),而你的朋友又将没有奖品的那一扇门打开,当你改变选择的时候,你改变选择后所指定的门后一定有奖品.所以你获奖的概率为2/3.因此(b) 比 (a) 好.

在策略 (c) 之下,由于提供的信息不够充分,还不能确定你赢得奖品的概率.答案依赖于你的朋友打开空门的方式.现在讨论两种情况.

第一种情况是：当奖品的位置是在1号门后,假定你的朋友总是打开2号空门(当奖品是在2号或3号门后的时候,你的朋友没有选择的余地).现在假定奖品是在1号门后(概率为1/3),你的朋友打开2号门,你不改主意,你得到奖品.当奖品在2号门后面的时候(概率为1/3),你的朋友打开3号空门,你改变主意,你也得到奖品.当奖品在3号门后面的时候(概率为1/3),你的朋友打开2号空门,你不改变主意,你就失去了得奖的机会.这样,你获奖的概率为2/3.说明在这种情况下,策略 (c) 与策略 (b) 一样好.

第二种情况是：假定奖品是在1号门后,你的朋友随机地打开2号门或3号门(概率各为1/2).当奖品在1号门后的情况下(概率为1/3),你的朋友打开2号门,此时按你的策略,你不改主意,得到了奖品(概率1/6).但是,如果你的朋友打开的是3号空门,此时你改变了主意,失去了得奖的机会.如果奖品是在2号门后(概率1/3),你的朋友打开3号空门,按你的策略,你改变主意,你就赢得奖品.如果奖品是在3号门后(概率1/3),你的朋友打开2号空门,按你的策略你不改变主意,你就失去奖品.综合起来,在你的朋友这种开门策略之下,你赢得奖品的概率为1/6+1/3=1/2.这时候,策略 (c)比策略 (b) 差.

1.4　全概率定理和贝叶斯准则

本节中我们将讨论条件概率的某些应用.我们首先引入一个计算事件概率的定理.

全概率定理

设
是一组互不相容的事件,形成样本空间的一个分割(每一个试验结果必定使得其中一个事件发生).又假定对每一个 i
,
.则对于任何事件 B
,下列公式成立

图1.13形象化地展示了全概率定理的内容并给出了证明.直观上,将样本空间分割成若干事件
的并(
形成样本空间的一个分割),然后任意事件 B
的概率等于事件 B
在
发生的情况下的条件概率的加权平均,而权数刚好等于这些事件
的无条件概率.这条定理的一个主要应用是计算事件 B
的概率.直接计算事件 B
的概率有点难度,但是若条件概率
是已知的或是很容易推导计算时,全概率定理就成为计算
的有力工具.应用这条定理的关键是找到合适的分割
,而合适的分割又与问题的实际背景有关.

图 1.13　全概率定理的形象化展示和证明.由于事件
形成样本空间的一个分割,事件 B
可以分解成不相交的 n
个事件的并,即

利用可加公理,得到

利用条件概率之定义,我们得到

将上式代入前一式中得到

我们也可以用等价的序贯树形图来说明全概率定理(右图).叶子
的概率等于由根部到叶子上的概率的乘积
.而事件 B
由图上显示的3个叶子组成,将它们的概率相加就得到

例 1.13
你参加一个棋类比赛,其中50%是一类棋手,你赢他们的概率为0.3;25%是二类棋手,你赢他们的概率是0.4;剩下的是三类棋手,你赢他们的概率是0.5.从他们中间随机地选一位棋手与你比赛,你的胜算有多大?

记
表示你与 i
类棋手相遇的事件.依题意

记 B
为你赢得比赛的事件.我们有

这样,利用全概率定理,你在比赛中胜出的概率为

例 1.14
你抛掷一个均匀的有4个面的骰子.如果得到1或2,你可以再抛掷一次,否则就停止抛掷.你抛掷得到的点数总和至少为4的概率有多大?

记
为第一次抛掷均匀骰子后得到的点数为 i
的事件.注意,对每一个 i
,
.记 B
为抛掷得到的点数总和至少为4的事件.在
发生的条件下,只有第二次抛掷得到3或4,总点数才能至少为4,这样,事件 B
的条件概率为1/2.类似地,如果第一次抛掷时
发生,只有当第二次抛掷得到2、3或4时,事件 B
才发生,相应的条件概率为3/4.如果第一次抛掷时
发生,此时不容许抛掷第二次,在这种情况下得到的点数总和在4以下.5
因此

5
如果第一次抛掷时
发生,虽然不容许第二次抛掷骰子,但是你得到的点数总和已为4.——译者注

利用全概率定理,得到

在具有序贯特征的试验中,可以多次重复地利用全概率定理进行概率计算.下面是一个例子.

例 1.15
爱丽丝在上一门概率课.在每周周末的时候,她可能跟上课程或跟不上课程.如果她在某一周是跟上课程的,那么她在下周跟上课程的概率为0.8(下周跟不上课程的概率为0.2).然而,如果她在某一周没有跟上课程,那么她在下周跟上课程的概率变为0.4(下周跟不上课程的概率为0.6).现在假定,在第一周上课以前认为她是能够跟上课程的.经过三周的学习,她能够跟上课程的概率有多大?

令
和
分别表示经过 i
周学习后跟上和跟不上课程的事件.按照全概率定理,
可由下式给出

对于
和
,又可以利用全概率定理

最后,由于爱丽丝在刚刚开始上课的时候是能够跟上课程的,我们有

从前面三个方程式解得

再利用关于
的等式,得到

我们也可以为计算
构造一个试验的序贯树形图.将随机事件
进行分解,利用概率论的乘法与加法规则计算
.然而,有时候,基于全概率定理的计算方法更加方便.例如,我们希望计算经过20周的学习以后,爱丽丝能够跟上课程的概率
.此时,按照序贯树形图进行计算十分烦琐,因为树形图有20层,有
个树叶.另一方面,利用全概率定理,得到递推公式

加上初始条件
、
后,那么在计算机上计算是十分简便的.

推理和贝叶斯准则

全概率定理是与著名的贝叶斯准则联系在一起的.贝叶斯准则将形如
的条件概率与形如
的条件概率联系起来.

贝叶斯准则

设
是一组互不相容的事件,形成样本空间的一个分割(每一个试验结果必定使得其中一个事件发生).又假定对每一个 i
,
.则对于任何事件 B
,只要它满足
,下列公式成立

为证明贝叶斯准则,只需注意到
与
是相等的,因为根据条件概率的定义它们都等于
,这样得到了第一个等式.至于第二个等式,只需对
利用全概率公式即可.

贝叶斯准则还可以用来进行因果推理
.有许多“原因”可以造成某一“结果”.现在设我们观察到某一结果,希望推断造成这个结果出现的“原因”.现在设事件
是原因,而 B
代表由原因引起的结果.
表示在因果模型中由“原因”
造成结果 B
出现的概率(见图1.14).当观察到结果 B
的时候,我们希望反推结果 B
是由原因
造成的概率
.
为由于代表新近得到的信息 B
之后
出现的概率,称之为后验概率
,而原来的
就称为先验概率
.

图 1.14　一个蕴涵于贝叶斯准则中的推论的例子.我们在某病人的X光片中发现一个阴影(事件 B
,代表“结果”).我们希望对造成这种结果的三个原因进行分析.这三个原因彼此不相容,并且造成这个结果的原因一定是三者之一：原因1(事件
)是恶性肿瘤,原因2(事件
)是良性肿瘤,原因3(事件
)是肿瘤外的其他原因.假定我们已经知道
和
.现在我们已经发现了阴影(事件 B
发生),利用贝叶斯准则,这些原因的条件概率为

在右图给出了一个序贯树形图,可用序贯树形图给出条件概率计算的另一种等价的解释.图中第一个深灰的叶子表示恶性肿瘤并出现阴影,其概率为
,且所有深灰的叶子表示片子中出现阴影,其概率为
.而由恶性肿瘤造成阴影的条件概率
是两个概率相除的结果

例 1.16
现在回到雷达探测器的例1.9和图1.9.记

A
= {飞机出现},

B
= {雷达报警}.

例 1.9 中给出的条件为

在贝叶斯准则中令
和
,得到

例 1.17
现在回到例1.13的棋类比赛问题.此处
表示你与 i
类棋手相遇的事件.由例中给出的条件知,

记 B
表示你赢得比赛的事件,你胜出的概率为

现在假定你已经得胜,问你的对手为一类棋手的概率
有多大?

利用贝叶斯准则得

例 1.18(假阳性之迷)
设对于某种少见的疾病的检出率为0.95：如果一个被检的人有这种疾病,其检查结果为阳性的概率为0.95;如果该人没有这种疾病,其检查结果为阴性的概率是0.95.现在假定某一人群中患有这种病的概率为0.001,并从这个总体中随机地抽取一个人进行检测,检查结果为阳性.现在问这个人患这种病的概率有多大?

记 A
为这个人有这种疾病,B
为经检验这个人为阳性.利用贝叶斯准则,

尽管检验方法非常精确,一个经检测为阳性的人仍然不大可能真正患有这种疾病(患有该疾病的概率小于2%).根据《经济学人》（The Economist
）1999年2月20日的报道,在一家美国著名的大医院中80%的受访者不知道这类问题的正确答案,大部分人回答这个经检测为阳性的人患病的概率为0.95!

1.5　独立性

1.4节中我们引入了条件概率
的概念.这个条件概率刻画了事件 B
的发生给事件 A
带来的信息.一个有趣且重要的特殊情况是事件 B
的发生并没有给事件 A
带来新的信息,它没有改变事件 A
发生的概率,即

在上述等式成立的情况下,我们称事件 A
是独立
于事件 B
的.注意,由条件概率的定义可知
,上式等价于

我们将后者作为事件 A
和事件 B
相互独立的正式定义,其原因是后者包括了
的情况,而当
的时候,
是没有定义的.在这个关系中 A
和 B
具有对称的地位.因此 A
独立于 B
蕴涵着 B
独立于 A
.这样我们可以称 A
和 B
是相互独立的,或 A
和 B
是相互独立的事件
.

人们容易从直观判定独立性.例如,若它们分别是在两个不同的并且没有相互作用的物理过程的控制下发生的事件,我们就可以判定它们相互独立.另一方面,事件之间的独立性不能直观地从样本空间中的事件看出来.通常认为,若两个事件互不相容,就可以判定它们相互独立,事实上,恰巧相反,若事件 A
和事件 B
互不相容,并且
和
成立,则它们永远不会相互独立,因为
,从而
.例如,A
和
在
的情况下是不独立的(除非
,或
),这是因为 A
发生可以确切地告诉你
一定不会发生,A
的发生与否的确会给事件
的发生与否带来信息.

例 1.19
考虑连续两次抛掷一个具有4个面的对称的骰子,假定16种可能的试验结果是等概率的,每个试验结果的概率为1/16.

(a) 事件

是否相互独立?我们有

由于
,可知
与
是相互独立的.在两次抛掷骰子的试验中,离散的均匀概率律(等概率模型)蕴涵着两次抛掷的独立性.

(b) 事件

是否相互独立?这个问题的答案不是很明显.我们有

事件B
由试验结果(1,4)、(2,3)、(3,2)和(4,1)组成,因此

这样,
,即 A
和 B
相互独立.

(c) 事件

是否相互独立?直观上看这两个事件是不独立的,因为两次抛掷的最小数蕴涵着两次抛掷的最大数的信息.例如,如果最小数为2,最大数不可能为1.现在用定义证明它们不独立.我们有

同时

得到
.
,故它们并不独立.

最后,我们要指出,若事件 A
和事件 B
相互独立,那么 B
发生,不会对 A
的发生与否提供任何信息.同样,凭直观想象,B
不发生,也不会对 A
的概率提供任何信息.事实上,我们可以证明,若 A
和 B
相互独立,则 A
和
也相互独立(见本章后的习题).

1.5.1　条件独立

前面已经提到,在给定某事件的条件下,诸事件的条件概率形成符合要求的概率律.因此我们可以讨论在条件概率律下的独立性.特别地,在给定 C
之下,若事件 A
和事件 B
满足

则称 A
和 B
在给定 C
之下条件独立
.为了导出条件独立的另一个特征,利用条件概率的定义和乘法规则,得到

比较前面两组等式的最右端,只要
,那么
这个因子就可以消掉,得到

这是条件独立的另一个等价定义(要求
).这个等式说明在给定 C
发生的条件之下,进一步假定 B
也发生,并不影响事件 A
的条件概率.

有意思的是,A
和 B
两个事件相互独立并不包含条件独立,反过来也是如此.下面请看两个例子.

例 1.20
考虑抛掷两枚均匀的硬币.这个试验的4种可能结果都是等可能的.令

事件
和事件
是相互独立的.但是

这样,
,从而
和
并不条件独立.

这个例子可以推广.对于任何概率模型,记 A
和 B
是相互独立的事件,C
是一个满足条件
、
和
的事件,并且
为空集.这样,由于
和
,A
和 B
不可能条件独立(给定C
).

例 1.21
有两枚硬币,一枚蓝的,一枚红的.在抛掷硬币之前,先按1/2的概率随机地选定一枚硬币,然后进行连续两次独立地抛掷硬币的试验.硬币是不均匀的.蓝的硬币在抛掷的时候以0.99的概率正面向上.而红的那一枚硬币在抛掷的时候以0.01的概率正面向上.

记 B
为选定蓝色的硬币的事件,
为第 i
次抛掷时出现正面向上.当选定硬币以后,由于我们抛掷硬币的时候,两次抛掷的结果不会互相影响,
和
是相互独立的事件.这样

另一方面,
和
并不独立.直观上,当我们知道第一次抛掷的结果是正面向上,我们就想到这是一枚蓝色的硬币,此时可以预料到第二次抛掷硬币的结果也是正面向上.6
数学上,可如下证明.利用全概率定理,我们得到

6
因此两次抛掷的结果是不独立的.——译者注

由对称性可知
.但是对于
,利用全概率定理得到

这样
,即
和
是相互依赖的,即使在给定 B
的条件下是相互独立的.

现在把关于独立性的结论总结一下.

独立性

- 两个事件 A
和 B
称为相互独立的,如果它们满足

若 B
还满足
,则独立性等价于

- 若 A
与 B
相互独立,则 A
与
也相互独立.

- 设事件 C
满足
,两个事件 A
和 B
称为在给定 C
的条件下条件独立,如果它们满足

若进一步假定
,则 A
和 B
在给定 C
的条件下的条件独立性与下面的条件是等价的

- 独立性并不蕴涵条件独立性,反之亦然.

1.5.2　一组事件的独立性

两个事件的相互独立性的概念能够推广到多个事件的相互独立性.

几个事件的相互独立性的定义

设
为 n
个事件. }若它们满足

则称
为相互独立的事件.

关于事件
,独立性条件归结为下列4个条件：

前面3个等式说明任意两个事件是相互独立的,这种性质称为两两独立
.但是第4个条件也非常重要,它并不是前面3个等式的推论.反过来,第4个条件也不包含前3个条件.下面两个例子说明了这些事实.

例 1.22(两两独立并不包含独立)
设试验是抛掷两枚均匀的硬币.考虑下列事件：

由定义可知
和
是相互独立的.现在证明
和 D
也是相互独立的.注意到

可知 D
与
是相互独立的.D
与
的相互独立性可以类似地证明.另一方面,由

可知三个事件是不独立的.

例 1.23(等式
不包含独立)
设试验是抛掷两个均匀的骰子(正六面体)：

我们有

这样3个事件是不独立的,并且任何一对事件也不相互独立的.但是下面的等式是成立的

一组事件的独立性的直观背景与两个事件的独立性是一样的.独立性意味着下面一个事实：设把一组事件任意地分成两个小组,一个小组中的任意个数的事件的出现与不出现,都不会带来另一个小组中的事件的任何信息.例如,事件
是独立的事件组,则下面一类等式都是成立的

证明可见本章末的习题.

1.5.3　可靠性

在由多个元件组合成的一个复杂系统中,通常假定各个元件的表现是相互独立的.下面的例子说明做了这样的假定以后,计算和分析将变得十分简单.

例 1.24(网络连接)
在计算机网络中,A
和 B
两个结点通过中间结点 C
、 D
、 E
、F
相互连接(见图1.15a).图上直接连接的两个点 i
和 j
表示 i
和 j
之间有一个元件运行着,当这个元件失效时两个点之间就失去连接.我们假定 i
和 j
之间具有给定的连接概率
.7
假定各点之间的连接与否独立于其他各点之间连接与否.问 A 和 B 之间相互连接的概率有多大?

7
图1.15a中两个结点之间的箭头旁边的数字就是结点之间的连接概率.——译者注

图 1.15　(a)例1.24的网络.箭头旁边的数字表示相应的结点之间的元件有效的概率.(b) 在可靠性问题中由三个元件组成的串联和并联系统的图示

这是一个典型的系统可靠性的估计问题.系统由元件组合而成,而各元件的失效与否是相互独立的.这些系统通常能够分解成若干子系统,而每个子系统又由若干元件组成,这些元件可以以串联
方式或并联
方式相互连接(见图1.15b).

设系统由元件
组成,令
为元件 i
有效(运行)的概率.串联系统只有在所有元件均有效的情况才是有效的.即

在并联系统中只需诸元件中有一个元件有效,系统就有效,即

现在回到图1.15a的网络连通的概率(A
和 B
之间连通的概率)的计算.我们用
表示“由 X
到 Y
是连通的”这一随机事件.我们有

最后,我们得到所需的概率

1.5.4　独立试验和二项概率

现在设试验由一系列独立并且相同的小试验组成,称这种试验为独立试验序列
.当每个阶段的小试验只有两种可能结果的时候,就称为独立的伯努利试验序列
,此处的两种可能结果可以是任何结果,例如“下雨”和“不下雨”.但是,在学术讨论中,我们通常用抛掷硬币的两个结果“正面”(H)和“反面”(T)作为代表.

现在考虑连续n
次独立地抛掷硬币的试验,每次抛掷的结果为正面的概率为 p
,其中 p
是在0和1之间的数.此处“独立”意味着事件
是独立的,事件第
={第 i
次抛掷的结果为“正面”}.

我们可以用序贯树形图来直观上刻画独立伯努利试验序列.图1.16中显示的是 n
=3的情况.由于独立性,不管前面的抛掷结果是什么,每次抛掷得到正面的条件概率都是 p
.这样,每个试验结果(长度为3的正面和反面的序列)的概率只与序列中的正面出现次数有关.设试验结果中有 k
个正面,3-k
个反面,则这个试验结果的概率为
.这个公式可以推广到任何 n
次抛掷硬币的试验结果的计算.在长度为 n
的独立伯努利试验序列中,任何具有 k
个正面和 n
-k
个反面的试验结果的概率为
,其中 k
的取值可以从0变到 n
.

现在我们要计算概率

这个概率在概率论中处于十分重要的地位.由于任何包含 k
次正面向上的结果的概率都是
,我们得到

此处记号

数
就是有名的二项式系数
,称为 n
选 k
的组合数,概率 p
(k
)就是有名的二项概率
.在1.6节将介绍计数法,利用计数法可以得到

此处记号 i
! 表示正整数 i
的阶乘,

按传统,记0!=1.在本章末的习题中给出了这个公式的另一证明.由于二项式概率 p
(k
)的总和必须为1,这样我们得到二项式公式

图 1.16　连续三次抛掷硬币试验的序贯树形图表示.在树枝上已经标明相应的条件概率.作为顺序三次抛掷硬币的结果的概率是在树形图的相应路径上的条件概率的乘积

例 1.25(服务等级)
设一个互联网服务器备有 c
个调制解调器以满足 n
个用户的需要.设在给定时刻,每一个用户相互独立地以概率 p
需要与服务器连接,当连接的时候,服务器需要有一个调制解调器以供使用.现在的问题是调制解调器不够用的概率有多大?

当同一时刻需要调制解调器的用户数多于 c
的时候,服务器就不能够满足用户的需要.它的概率为

其中

是二项概率.例如 n
=200、p
=0.1和 c
=15,相应的概率为0.039 9.

这是一个典型的满足用户需求的设备规模问题.这批用户是一群具有相同需求并且独立行动的用户.现在的问题是要选择服务设备的规模,使得满足用户需求(指所有需要使用设备的用户都能得到服务)的概率超过给定的门限值(有时候,给概率值设立若干门限,称为服务等级
).

1.6　计数法

在计算概率的时候,通常需要数清楚有关事件中的试验结果数(或基本事件数).我们已经遇到两种情况,需要这样的计数法.

(a) 当样本空间
只有有限个等可能的试验结果,因此这是一个等概率模型.事件 A
的概率可由下式给出

公式中涉及 A
和
中元素的计数问题.

(b) 当我们需要计算事件 A
的概率,且 A
中的每一个试验结果具有相同的概率 p
（p
已知）时,那么

此时,也涉及事件 A
中的元素的计数问题.前面提到的 n
次抛掷硬币的试验中出现 k
次正面的事件的概率(二项概率)的计算就是这样一类的计算问题.这个概率的计算过程显示,每个试验结果的概率的计算是比较容易的,但是要数清楚具有 k
次正面向上的试验结果的个数,却有一些复杂.

计数问题原则上很简单,但是真正计算起来却不简单.计数的艺术属于组合数学
的一部分.本节将介绍一些计数的基本准则,并将之应用到概率模型中经常遇到的计算问题.

1.6.1　计数准则

这是计数的最基本的方法.计数准则基于分阶段计数的原则,因此可以借助序贯树形图进行计数.例如,考虑一个由两个相继阶段组成的试验.第1阶段试验的可能结果为
,而第2阶段的结果为
.这样两阶段的试验结果为所有的有序对
.这些有序对的个数总和为 mn
.这种计数方法可以进行推广 r
个阶段试验的情况(也可见图1.17的说明).

图 1.17　基本的计数准则的序贯树形图说明.通过 r
个阶段进行计数(图中r
=4).第一个阶段有
个可能的结果.前r
-1个阶段的每一个可能的结果,在第 r
阶段都对应着
个可能结果.总共的叶子数目为

计数准则
8

考虑由 r
个阶段组成的一个试验}.假设：

(a) 在第1阶段有
个可能的结果;

(b) 对于第1阶段的任何一个结果,在第2阶段有
个可能的结果;

(c) 一般地,在前 r
-1个阶段的任何一个结果,在接下来的第 r
阶段有
个结果,则在 r
个阶段的试验中一共有

个试验结果.

8
国内称为“计数的乘法准则”或“乘法准则”,这个名称更通俗易懂.——译者注

例 1.26(电话号码数)
电话号码由7位数字组成,但第一位不能是0或1.一共有多少个不同的号码呢?我们可以将之看成序贯地选择数字的过程,但每次只选一位.总共有7个阶段,第1个阶段一共有8种选择,从第2阶段开始,每次都从10个数字中任选一个.因此电话号码的个数为

例 1.27(n
元素集合的子集的个数)
考虑一个 n
元素集合
.这个集合有多少个子集(包括这个集合本身和空集)呢?我们可以用序贯的方法选择一个子集.我们可以对每一个元素做一个选择,并判断它是否属于这个子集.这样一共分成 n
个阶段,每一个阶段有两种选择.这样子集的总数为

可以对这个计数准则做一些小修改.对于不同的第一阶段的结果后面可以接着不同的第二阶段的试验,只要各个第二阶段的可能结果的数目相同.

下面我们将讨论从 n
个对象中选取 k
个对象的计数问题.若选取的对象与次序有关,则选出来的一组对象称为排列
,若选出来的一组对象是形成一个集合,与选取的对象的次序无关,则这一组对象称为组合
.以后我们还会讨论更一般的分割
的计数问题.所谓分割就是将 n
个对象分成多个子集.

1.6.2　n
选 k
排列

首先假定 n
个不同的对象组成一个集合.令 k
是一个正整数,
.现在我们希望找出从 n
个对象中顺序地选出 k
个对象的方法数,或 k
个不同对象的序列数.作为第一阶段,我们可以从 n
个对象中任意选一个.当第一个对象选定以后,在第二阶段,我们只可能从剩下的 n
-1个对象中选择一个.当前两个对象选定以后,在第三阶段,只可能从剩下的 n
-2个对象中选择一个,等等.最后,当我们选择第 k
个对象的时候,只能从剩下的 n
-(k
-1)个对象中选择了.利用计数准则,所有可能的序列数为

这些序列称为
n
取 k
排列
.特别当 k
=n
的时候,简称为排列
9
,此时所有可能的序列数为

9
此处的排列、组合和分割在中英文中均有双重意义,一个排列是指 n
个元素的一个顺序,同时又可以指排列数 n
!,具体指哪种内容要看行文.——译者注

(在 n
取 k
排列的序列数公式中令 k
=n
,并回忆我们已经约定0!=1.)

例 1.28
现在计算由4个不同字母组成的字的个数.这是26选4的排列数.按排列公式为

排列计数法可以与计数的乘法准则联合起来解决更复杂的排列问题.

例 1.29
你有
张古典音乐CD盘,
张摇滚音乐CD盘,
张乡村音乐CD盘.有多少种排列方法将这些CD盘排在CD架上,使得相同种类的CD盘是排在一起的?

我们将问题分成两步解决.首先选择CD盘类型的次序,然后选择每种CD盘内部的次序.一共有3!种类型次序(例如古典/摇滚/乡村,乡村/古典/摇滚等),一共有
(或
,或
)种古典(或摇滚,或乡村)CD的排列.这样对每一种CD类型的排列,有
种CD盘的排列方式.从而总的排列方法数为
.

现在假定,计划将每一类CD盘中选出
张(你原有
张 i
类CD)送给你的朋友.当你送出盘以后,你的CD架上有多少种排列法?这个问题与没有送出时的计算方法是一样的,只是将
换成
选
的排列数即可.所以可能的排列数为10

10
在计算排列方法数的时候,要顾及各种不同的送CD盘的方法.——译者注

1.6.3　组合

一共有 n
个人,希望组织一个 k
个人的委员会.问有多少种不同的委员会?用抽象的语言说,给定的 n
个元素的集合中有多少种不同的 k
个元素的子集?注意,形成 k
子集不同于形成 n
选 k
排列,因为在选择子集的过程中,选出来的 k
个元素之间是没有次序的.例如4个字母 A
、B
、C
和 D
中选2个的排列有12种：

而这4个字母的两个字母的组合有下列6种:

(因为在组合中元素是没有次序的,AB
和 BA
是无法区别的.)

在上面的例子中,组合实际上是由排列归并而成的.例如,从组合的观点看来,AB
和 BA
是不可区分的,它们都对应于组合 AB
.这种推导方法可以推广到一般的情况：在 n
个对象取 k
个对象的组合中,每一个组合对应了 k
! 个不同的排列.这样 n
个对象取 k
个对象的排列数
等于组合数乘以 k
! .因此,从 n
个元素的集合中选 k
个元素的组合数为

现在回到二项式系数
的表达式.二项式系数定义为 n
次抛掷硬币时,正面向上次数为 k
的可能的试验结果数.我们注意到,确定一个 k
次向上的试验结果等价于在所有 n
次抛掷结果(正面向上或反面向上)选出 k
次(正面向上)来.因此二项式系数刚好等于从 n
个元素选择 k
个元素的组合数.这样

例 1.30
A
、 B
、 C
和 D
四个字母中选出两个字母的组合数为

这个结果与前面列举的组合数相同.

值得指出的是,有时候利用计数法能够导出一些在代数上很难证明的公式.一个例子是1.5节讨论的二项式公式

作为特殊情况,当 p
=1/2时,公式变成

上式还可以得到新的解释.由于
是 n
元素集合的所有 k
元素子集的个数,将
对所有的 k
求和得到这个集合的所有子集的个数,而这个数刚好等于
.

例 1.31
设有一群人,一共有 n
个.现在要组织一个个人爱好俱乐部,俱乐部由一个主任和若干成员组成(成员人数可为0).问有多少种方式组成一个俱乐部?我们用两种不同的计数法计算,从而得到一个代数恒等式.

首先挑选一个俱乐部主任,一共有 n
种不同的选法.然后从剩下的 n
-1个人员中挑选一般成员.实际上,这 n
-1人中任意一个子集,配上主任,就成为一个俱乐部.而不同的子集个数共有
个.这样一共有
种不同的方式组成一个俱乐部.

另外,我们可以这样考虑此问题.首先选择 k
个人组成一个 k
人集体,然后从中选择一个主任,组成一个 k
人俱乐部.这样一共有
种方式组成一个 k
人俱乐部.对所有的
,将组成 k
人俱乐部的方式数相加,就得到组成俱乐部的方式数.由此得到代数恒等式

1.6.4　分割

注意到组合是从 n
元素集合中选出的一个元素个数为 k
的子集,因此可将一个组合看成将集合分成两个子集合的一个分划,其中一个子集的元素个数为 k
,另一个子集为补集,其元素的个数为 n
-k
.现在我们考虑将一个集合分成多于两个集合的分割.

给定一个元素个数为 n
的集合,并设
为非负整数,其总和为 n
.现在考虑将具有 n
个元素的集合分解成 r
个不相交的子集,使得第 i
个子集元素个数刚好是
.问一共有多少种分解的方法.

现在分阶段每次确定一个子集.一共有
种方法确定第一个子集.当第一个子集确定以后,只剩下
个元素可以用来确定第二个子集.这样在确定第二个子集的时候,一共有
种方法,以此类推.对 r
个阶段的选择过程利用计数准则,得到总共的选择方法数目为

上式等于

经过消去化简,上式等于

这个数称为多项式系数
,并且用下列记号表示：

例 1.32(相同字母异序词)
将 TATTOO 这个英文单词的字母颠倒排列可得到多少个不同的单词?这里有6个位置供这些字母去填充.每一种重新排列方式可以看成一个6个位置的分割,分割的一个小组的大小为3,用于放置字母 T,另一个小组的大小为2,用于放置字母 O,第三个小组的大小为1,用于放置字母 A.这样一共有

个单词.

也可以用另一种方法导出这个结果(这种方法也可以用于导出多项式系数的公式,见本章后习题).我们将 TATTOO 写成
的形式,假装这6个字母是不相同的.这样一共有6!种不同的排列.然而有3!种
的排列和2!种
的排列形成同一个单词,这样当下标去掉以后,一共有6!/(3!2!)个不同的单词.

例 1.33
一个班由4个研究生和12个本科生组成.将这个班随机地分成4个小组,每组4人.问每个组刚好包含一个研究生的概率有多大?这个问题就是1.3节例1.11的问题.但是现在我们要利用计数方法解答这个问题.

首先应该确定样本空间.我们将分小组的问题设想成将16个学生随机地放入4个房间,每个房间4个人,这是一个分割问题.由于16个人是随机地分派到各个房间里去的,故每个分割的概率是相等的.11

11
这样,样本空间由全体分割组成,并且概率律是等概率的.——译者注

按照分割的定义,分割数为

现在考虑每一个房间只分配一个研究生的分割数.我们可以分两个阶段完成学生的分派问题.

(a) 第一阶段,将4个研究生分派到4个房间中去,每个房间1人.这是一个只有4个人的分割问题,分割数为4!.

(b) 第二阶段,将12个本科生分派到4个房间中去,每个房间分派3人.这也是一个分割问题,分割数为

利用乘法准则,每个房间分派1个研究生和3个本科生的方法一共有

种.这样,按古典概型的定义,每个小组分派到一个研究生的概率为

经过化简,这个数为

这个结果与例1.11的结果相符合.

下面是计数法的汇总.

计数法汇总

- n
个对象的排列数
：n
!.

- n
个对象中取 k
个对象的排列数
：
.

- n
个对象中取 k
个对象的组合数
：
.

- 将 n
个对象分成 r
个组的分割数
,其中第 i
个组具有
个对象

1.7　小结和讨论

解决一个概率问题通常分成下列几个步骤:

(a) 描述样本空间,样本空间是一个试验的所有可能的试验结果的集合;

(b) (可能不直接地)列出概率律(每个事件的概率);

(c) 计算各种事件的概率和条件概率.

概率律必须满足非负性、可加性和归一性公理.对于试验结果的总数有限的重要特例,我们只需列出每一个可能试验结果的概率,而任何事件的概率的计算,只需将组成这个事件的所有可能的试验结果的概率相加,就得到这个事件的概率.

给定一个概率律,我们经常需要计算条件概率,这是因为条件概率涉及得到部分信息以后的概率计算问题.我们也可以将条件概率看成特殊的概率律,在这个概率律之下,只有包含于由条件所确定的事件内的事件才有正的条件概率.条件概率可以通过公式
进行计算.然而在应用中,更常见的是利用条件概率来计算无条件概率.

我们已经用例子说明了计算概率的如下三种方法.

(a) 计数法
.这种方法适用于古典概型,即试验只有有限个可能的试验结果,而试验结果是等可能的.为计算一个事件的概率,只需数清楚这个事件中的基本事件个数,再除以基本事件总数,就得到这个事件的概率.

(b) 序贯树形图方法
.在试验具有序贯特征的情况下,可以利用序贯树形图方法.这种方法的关键是必须计算相应树枝事件的条件概率.这些条件概率或者是已知的或者是利用各种方法(包括计数法)计算得到的.利用乘法规则将相应路径上的事件的条件概率相乘,就可以得到相应事件的概率.

(c) 全概率公式
.利用全概率公式可以计算事件B
的概率
,关键是要找到样本空间的一个分割
,使得相应的概率
和条件概率
为已知或比较容易计算,然后利用全概率公式计算
.

最后,我们还讨论了若干问题,这些问题或者扩大了概率论的应用范围,或者提高了利用主要定理进行计算的能力.我们引入了贝叶斯准则,这是概率论的一个重要应用领域.同时,为了加强计算能力,我们讨论了计数方法的一些基本规则,包括组合、排列等.

习题

1.1 节　集合

1
. 考虑掷一个具有6个面的骰子.令事件 A
为掷出偶数.令 B
表示点数大于3的事件.验证下面的德摩根公式：

2
. 设 A
和 B
是两个集合.

(a)
证明

(b)
证明

(c)
考虑掷一个均匀的、具有6个面的骰子.令事件 A
为掷出奇数.令 B
表示点数小于4的事件.求出(b)中公式两边的集合并验证集合等式.

3
.* 证明恒等式

解
若 x
为左边的集合的元素,则有两种可能性.(i)
,此时对一切
,
,从而 x
属于等式右边的集合;(ii)对一切
,
,此时对一切
,
,这样,x
也属于等式右边的集合.

反过来,若 x
是等式右边的集合的元素,说明对一切
,
.若
,显然 x
是等式左边的集合的元素.若
,此时,对一切
,x
必须是
的元素,这再一次证明 x
是等式左边的集合的元素.

4.* 康托尔的三角论证方法
指出单位区间[0,1]是不可数集合,即[0,1]中的数不可能排成一个数列.

解
每一个[0,1]区间中的数,都有十进制表达式,例如
.注意,绝大部分数具有唯一的表达式,但也有例外,例如1/2可以表为
或
.可以证明这些数是仅有的例外,即只有结尾是无限个0的数或结尾是无限个9的数才有两种表达式.

现在用反证法.假设所有的[0,1]区间中的数,可以排成一列,
,即[0,1]区间中的每一个数都在这个序列中.考虑
的十进制表达式

其中
为集合
中的一个数.现在构造一个数 y
,它的第 n
位小数取成1或2,但是它不等于
的第 n
位数
.由于 y
的第 n
位与
的第 n
位数不同,y
与
是不同的.这样 y
不可能在
中,与假设矛盾.从而[0,1]区间中的数是不可数的.

1.2 节　概率模型

5
. 在一个班上,有60%的学生是天才,70%的学生喜欢巧克力,40%的学生既是天才又喜欢巧克力.现在从班上随机地选择一位同学,请问他既不是天才学生又不爱好巧克力的概率有多大?

6
. 一个有6个面的骰子是这样设计的：在抛掷骰子的时候,所有偶数面出现的概率比奇数面出现的概率大一倍,不同的偶数面出现的概率是相同的,不同的奇数面出现的概率也是相同的.现在将骰子抛掷一次,为这个试验建立概率律,并求出点数小于4的概率.

7
. 将一个有4个面的骰子持续地抛掷若干次,直到第一次出现偶数面为止.这个试验的样本空间是什么?

8
. 你参加一个象棋比赛,必须与三个对手下象棋.按规定,只有赢两场比赛,才算你得胜.假定,与每个对手比赛的时候,你赢棋的概率是已知的.另外,你成为得胜者的概率与比赛的次序有关.证明将三位比赛对手中的最弱者排在第二位的时候,你成为得胜者的概率最大,而与其他两位对手的比赛次序无关.

9
. 样本空间
的分割是一组互不相容的事件组
,满足条件
.

(a)
证明对任何事件 A
,下式成立

(b)
利用(a)的结论,证明对任何事件 A
、B
和 C
,下式成立

10
. 证明公式

这个公式给出 A
和 B
中间恰有一个事件发生的概率.(与公式
相比较,后者给出 A
和 B
中间至少有一个事件发生的概率.)

11.* 邦费罗尼不等式.

(a)
对于任何两个事件 A
和 B
,证明

(b)
将上式推广到 n
个事件
的情况,证明

解
由等式
和不等式
立即可得 (a).至于 (b),利用德摩根公式可得到下面的结果

由这个公式可得到(b).

12.* 容斥恒等式
.将下面的公式推广

(a)
设 A
、B
、C
为三个事件,则下列恒等式成立

(b)
设
为 n
个事件.记
,一般地,令
为满足条件
的 m
维指标
的集合,则下列恒等式成立

解
(a)
利用公式
和集合等式
得到

(b)
利用归纳法.其主要推断部分可以模仿(a)中的推导步骤.另一种证明方法可以参考第2章末的习题.

13.* 概率的连续性
.

(a)
设
是一个单调递增的事件序列,即对每一个 n
,
.令
.证明
.提示
：将 A
表示成可数无限个不相交的事件之和.

(b)
设
是一个单调递减的事件序列,即对每一个 n
,
.令
.证明
.提示
：将(a)的结果应用于事件的补集.

(c)
考虑一个概率模型,其样本空间是实数集合.证明

和

解
(a)
令
,对
,令
.这样定义的事件序列
是互不相容的事件序列,并且
,
.利用可加性公理得到

(b)
令
和
.由于
,可知
,即事件序列
是上升的序列.进一步
.将(a)用于事件序列
,得到

由此可得结论：
.

(c)
令
和
和
,再利用结论(b),就可以得到第二式.

1.3 节　条件概率

14
. 将一个均匀的具有6个面的骰子连续抛掷两次.36个可能的结果是等概率的.

(a)
找出抛掷出“一对”的概率;

(b)
已知抛掷得到的点数总和小于或等于4,求抛掷出“一对”的概率;

(c)
求出至少一个骰子得6点的概率;

(d)
已知抛掷得到两个骰子的点数不同的条件下,求出至少一个骰子得6点的概率.

15
. 将一枚硬币抛掷两次.爱丽丝声称在已知头一次得到正面朝上的条件下,抛掷得到两次正面的可能性比已知两次中至少有一次正面朝上的条件下的可能性大.这个结论对吗?当硬币为对称和不对称的条件下结论会不会不同?能不能将爱丽丝的推论方法推广呢?

16
. 我们一共有三枚硬币,其中一枚的两面都画有正面的图像,另一枚的两面都画有反面的图像,而第三枚硬币是正常的硬币,两面的图像刚好是一正一反.现在从中随机地抽取一枚硬币进行抛掷,得到正面朝上,现在问这枚硬币的另一面画有反面图像的概率有多大?

17
. 有一批产品共100件.按规定,从中随机地抽取4件产品进行检查,只要这4件产品中有一件不合格,就拒绝这批产品.如果这批产品中含有5件不合格品,这批产品被拒绝的概率是多少?

18
. 令 A
和 B
是两个事件.假定
,证明
.

1.4 节　全概率定理和贝叶斯准则

19
. 爱丽丝在一个文件柜中寻找她的学期报告.她的文件柜有若干个抽屉.她知道她的学期报告在第 j
个抽屉的概率为
(大于0).由于抽屉很乱,即使学期报告真的在第 i
个抽屉内,爱丽丝在第 i
个抽屉内找到学期报告的概率为
.现在假定爱丽丝在某个抽屉内找,不妨设在第 i
个抽屉内找,而没有找到.证明在这个事件发生的条件下,她的学期报告在第 j
个抽屉内的概率是

20. 弱者利用策略在比赛中获利
.鲍里斯准备与一位对手进行两局的象棋比赛.他希望找出好的策略以提高他赢的概率.每局棋的结果有三种可能：赢,输,平局.如果在两局以后的积分相等,以后就采用突然死亡法,一直打下去,直到一方赢得一局,从而决定比赛的胜负.鲍里斯有两种不同的下棋风格,保守的
和进攻的
,并且鲍里斯在每一局都能自如地决定采用其中的一种风格,而与前一局的风格无关.当采用保守的风格时,和局的概率为
,输的概率为
.当采用进攻的风格时,他赢的概率为
,输的概率为
.鲍里斯在突然死亡阶段总是采用进攻的风格,但是在第一、二局可以随意采用不同的风格.

(a)
找出下列几种策略下,鲍里斯得胜的概率:

(i) 在第一、二局采用进攻风格;

(ii) 在第一、二局采用保守风格;

(iii) 只要他的分数领先,就采用保守风格,其他情况采用进攻风格.

(b)
若
,那么不管采取什么风格,鲍里斯均是一个游戏中的弱者.证明当采用策略(iii)的时候,鲍里斯可以有好于50%的赢棋机会(依赖于
和
的值).你怎样解释这种现象?

21
. 两个人轮流从一个罐子中随机地取出一个球,罐子里放有 m
个白球和 n
个黑球.首先从罐子里取出白球者为胜.为计算第一个取球者获胜的概率,导出一个递推公式.

22
. 一共有 k
个罐子,每个罐子中有 m
个白球和 n
个黑球.将罐子1中随机地取出一个球放到罐子2中,再在罐子2中随机地取出一个球放到罐子3中,如此往复,直到最后,从罐子 k
中随机地取出一个球.证明最后取出的球是白球的概率与第一次取出白球的概率是一样的,即
.

23
. 一共有两个罐子,最初两个罐子中含有相等个数的球.现在进行一次球的交换,即同时从各自的罐子中随机地拿出一个球放到对方的罐子中去.经过4次这样的交换以后,两个罐子的状态保持不变的概率是多少?所谓状态保持不变即原来在哪个罐子的球还是在哪个罐子中.

24. 犯人的难题
.已知三个犯人中有两个犯人将要被释放,但在事情还未公布之前,被释放犯人的身份是保密的.其中一个犯人要求看守人告诉他,在他的两个狱友中哪一个将被释放.看守拒绝了他的要求,理由如下：“在现有的信息之下,你被释放的概率为2/3.我若告诉你这个信息,将在你和另一个犯人之间确定哪一个人被释放,所以你被释放的概率就将变成1/2.''这个看守所列理由的错误在哪里?

25. 两个信封之谜
.你收到两个信封,每个信封内有若干钞票,钞票的数目都是整数(以元为单位),但两个信封内的钱数是不相同的.两个信封内的钱数可以认为是未知的常数.当你随机地打开一个信封以后,这个信封中的钱就是你的了.为了多拿钱.你还可以改变主意,决定拿另一个信封中的钱.一个朋友声称有一个策略,可以使拿到钱数较大的信封的概率超过1/2.其方法如下：你连续地抛掷一枚硬币,直到出现正面出现为止,令 X
为你抛掷硬币的次数再加上1/2.如果你头一次打开的信封里的钱数少于 X
,你就换信封,否则不换.你的朋友的方法可行吗?

26. 归纳法的悖论
.考虑一个命题,但不知道命题的真伪.如果我们看到许多例子与这个命题相匹配,那么我们就增加了对这个命题为真的信心.这些推论方法称为(从哲学意义上,不是从数学上的)归纳推论法.现在考虑一个命题“所有的母牛是白色的”.其等价的命题为“凡不是白色的就不是母牛”.当我们观察到几只黑色的乌鸦的时候,我们的观察显然与这个命题是相适应的.但是这些观察会不会使得命题“所有的母牛是白色的”为真的可能性更大一些呢?

为分析这种情况,我们考虑一个概率模型：

令 p
是事件 A
发生的先验概率
.我们分别以概率 q
和 1-q
观察一头母牛和一只乌鸦.这个观察与 A
是否发生是独立的.假设
,并且所有的乌鸦是黑色的.

(a)
给定事件 B
={观察到一个黑色的乌鸦},求
的值;

(b)
给定事件 C
={观察到一头白色的母牛},求
的值.

27
. 爱丽丝和鲍勃一共有 2n
+1 枚对称的硬币.鲍勃连续抛掷了 n
+1 枚硬币,而爱丽丝抛掷 n
枚硬币.证明鲍勃抛出的正面数比爱丽丝抛出的正面数多的概率为1/2.

28.*关于条件概率的全概率公式
.设
为 n
个互不相容的事件,并且形成样本空间的一个分割.令 A
和 B
是两个事件,满足
对一切i
成立.证明下式成立

解
首先,下式成立

再利用乘法规则得到

综合两个等式得到

上式两边除以
并利用公式
,就可以得到关于条件概率的全概率公式.

29.
* 设 A
,B
为两个事件,满足
和
.我们称事件 B
暗示
事件 A
,如果它们满足
;若它们满足
则称事件 B
并不暗示
事件 A
.

(a)
证明事件 B
暗示事件 A
的充要条件是事件 A
暗示事件 B
.

(b)
假设
.证明 B
暗示 A
的充要条件是
不暗示 A
.

(c)
假定我们已经知道一个宝物藏匿于两个地点之一,其概率分别为
和
.假定已知这个宝物藏匿于第一个地点,在那个地点进行发掘,找到它的概率为
.现在证明,假定我们在第一个地点进行发掘,而没有找到这个宝物,这个事件“暗示”宝物在另一个地点.

解
(a)
利用等式
可知,B
暗示 A
的充要条件是
,利用对称性可知,这个条件也是 A
暗示 B
的充要条件.

(b)
由于
,我们有

这个等式蕴涵

这样,
(B
暗示 A
)成立的充要条件为
(
并不暗示 A
).

(c)
设 A
和 B
由下式给出

利用全概率公式,我们得到

故

这说明 B
暗示 A
.

1.5 节　独立性

30
. 有一天,猎手带着他的两头猎犬跟踪某动物的踪迹.他们来到一个三岔口.猎手知道两条猎犬会相互独立地以概率 p
找到正确的方向.因此他让两条猎犬选择它们的方向.如果两头猎犬选择同一方向,他就沿着这个方向走.若两头猎犬选择不同的方向,他就随机地选择一个方向走.这个策略是否比只让一条猎犬选择方向优越?

31. 在噪声通道中的通信
.一串二进制信号(0或1)在噪声通道内传输.假设通道以概率 p
传送信号0,以概率 1-p
传送信号1.错误传输的概率分别为
和
(见图1.18).在传输中,不同信号的误差是相互独立的.

(a)
问能够正确地传送一个随机地选择的第 k
个信号的概率有多大?

(b)
假定传送的信号串为1011,这个信号串能够被正确地传输的概率有多大?

(c)
为了提高传输的可靠性,每个信号重复传输3次,译码规则采用多数决定制.换言之,在传送信号0(1)的时候,实际上传送的是000(111).在译码的时候,采用少数服从多数的原则,例如收到的信号为010,则译成信号0,若收到的信号为110,则译成信号1.作了这样的编码和译码的规定以后,信号0被正确传输的概率有多大?

(d)
在(c)中,
为何值才能使信号0被正确传输的概率增大?

(e)
假设编码和译码的规则采用(c)中的规定.当接收端得到101的时候,对方发信号0的概率有多大?

图 1.18　二进制通信通道中的传输误差概率

32. 国王的兄弟姐妹
.国王只有一个兄弟或姐妹,那么国王有一个兄弟的概率有多大?此处假定国王的母亲生男或生女的概率为1/2,而且各次生育是相互独立的.注意回答此问题的时候,你必须说清楚附加的假设.

33. 利用有偏的硬币作出无偏的决策
.爱丽丝和鲍勃想利用一枚均匀的硬币来决定他们去看歌剧还是看电影.不幸的是,他们只有一枚有偏的硬币(而且他们并不知道偏的程度).怎样利用一枚有偏的硬币作出无偏的决策,即以1/2的概率看电影,1/2的概率看歌剧呢?

34
. 一个电子系统由许多相同的元件构成.每个元件有效的概率为 p
,并且各元件之间是否有效是相互独立的.这些元件由三个子系统构成(见图1.19).这个系统称为有效的,如果在图中由 A
到 B
有一条通路,且通路上每一个元件是有效的.这与图中的三个子系统同时有效是等价的.三个子系统同时有效的概率有多大?12

12
这个概率也是整个系统有效的概率.——译者注

图 1.19　一个由许多相同元件构成的系统,是三个子系统串联而成.这个系统称为有效的,如果存在由 A
到 B
的一条通路,且通路上的每一个元件都是有效的

35. n
选 k
的系统的可靠性
.一个系统由 n
个相同元件组成,其中每一个元件有效的概率为 p
,并且其他元件有效与否是相互独立的.这个系统称为 n
选 k
系统,如果这 n
个元件中至少有 k
个元件有效,那么这个系统才有效.这个 n
选 k
系统有效的概率有多大?

36
. 一个电力供应系统从 n
个电厂得到电力供应城市用电.由于种种原因,电厂 i
以概率
中断供电,而且各电厂之间是相互独立的.

(a)
假定每个电厂在供电的时候能够单独供应全市的用电.问这个城市处于全市停电的概率有多大?

(b)
假定有两个以上电厂供电的时候,才能避免全市停电.问全市停电的概率有多大?

37
. 有一个手机服务系统,它有
个电话用户(有时候需要电话连接)和
个数据用户(有时候需要数据连接).我们估计在给定的时刻,每个电话用户需要系统服务的概率为
,每个数据用户需要系统服务的概率为
.假定各用户的需求是相互独立的.已知一个电话用户的数据传输率为
比特/秒,一个数据用户的数据传输率为
比特/秒.而手机服务系统的容量为 c
比特/秒.用户的需求超过系统容量的概率是多少?

38. 点数问题
.13
泰里思和温迪在玩18个洞的高尔夫球,奖金为10元钱.他们各自赢得一个洞的概率分别为 p
(泰里思)和1-p
(温迪),并且各个洞的输赢是相互独立的.打完10个洞的时候,他们的比分为4:6,温迪占上风.此时泰里思接到一个紧急电话,必须回单位工作.他们决定按照他们打完比赛时候赢得比赛的概率分割奖金.假定
代表在目前10个洞的比分4:6的条件下,完成18个洞的比赛后泰里思(温迪)领先的概率,则泰里思应得
元,而温迪应得
元.泰里思应该分得多少钱?

13
国内称为赌本分割问题.——译者注

注
这是著名的点数问题的一个例子.这个问题在概率论发展历史上起着很重要的作用.这是舍瓦利耶·德梅雷于17世纪向帕斯卡提出的赌博中断情况下赌本的分割问题.对此问题,帕斯卡提出这样的想法：赌本分割问题应当按中断的条件下双方各自赢得赌博的条件概率进行分配.帕斯卡在某些特殊的情况下解决了这个问题,并且通过与费马的通信激发了更多的想法和与概率有关的研究课题.

39
. 有一个班的学生的出勤率很低,这使教授很苦恼.她决定若 n
个学生中出勤人数少于 k
个时就不上课.现在假定各个学生独立地决定自己是否出勤,在好天气的日子里,每个学生出勤的概率为
,在坏天气的日子里,每个学生出勤的概率为
.现在假定某一天是坏天气的概率为已知,计算这位教授在这一天能够讲课的概率.

40
. 有一枚不均匀的硬币,在抛掷的时候,正面出现的概率为 p
,反面出现的概率为1-p
.令
为 n
次独立抛掷后得到偶数次正面向上的概率.导出一个联系
和
的递推公式,并利用递推公式导出
的公式

41
. 设在一个轮子上具有连续刻度,不妨设刻度的范围为(0,1).每次转动这个轮子,得到一个数.现在设有无穷多个人参加这个游戏,第 i
个人转动以后,得到一个数.只有得数最小的那个人留下来.假设每次转动都相互独立,且没有平局.令 N
为第一个人被淘汰的时刻.对任意 n
,计算
.

42.* 赌徒破产问题
.一个赌徒进行一系列相互独立的押注活动.每次押注,他以概率 p
赢1元钱,以概率 1-p
输1元钱.开始押注时他有 k
元钱,当他输光钱的时候,或者他的累计钱数为 n
元的时候,他就停止押注.问他以累计钱数为 n
元而停止押注的概率有多大?

解
用 A
表示以累计钱数为 n
元而停止押注的事件,用 F
表示第一次押注而赢得1元钱的事件.用
表示他开始的时候具有 k
元钱的条件下事件 A
发生的概率.利用全概率公式

其中
.利用过去押注结果和以后的押注是相互独立的,第一次押注赢得1元钱等同于以 k
+1 元钱开始,故
,类似可得
.这样我们得到
.这个结果可以写成

其中
.利用这个递推公式和边界条件
和
可以将
表达为 p
和 q
的函数.

我们有
,并注意到
,从而

上面的和式可以分成
和
两种情况计算出来,得到

由于
,利用上式可以得到

从而

43
.* 令 A
和 B
为相互独立的事件.利用事件独立性的定义证明下面的结论：

(a)
事件 A
和事件
相互独立;

(b)
事件
和事件
相互独立.

解
(a)
事件 A
可以表成两个互不相容的事件
和
的并.利用概率的可加性公理和事件 A
和事件 B
的相互独立性,得到

由此可知

即 A
和
相互独立.

(b)
由 A
和 B
的相互独立性,利用(a)推得 A
和
的相互独立性.再将结论(a)应用于
和 A
,得到
和
的相互独立性.

44
.* 令 A
、B
、C
为相互独立的事件,
.证明 A
和 B
在给定 C
的条件之下是相互独立的.

解
我们有

由此可知 A
和 B
在给定 C
的条件之下是相互独立的.在一系列的等式中,第一个等式是由条件概率之定义所得,第二个等式是由事件 A
、B
、C
的独立性,第四个等式是分别利用了 A
与 C
的独立性和 B
与 C
的独立性.

45
.* 令
、
、
、
为相互独立的事件,
.证明

解
我们有

类似地可以得到
和
,最后得到,

46.* 拉普拉斯继承准则
.设有 m
+1 个盒子,第 k
个盒子内放有 k
个红球和 m
-k
个白球,其中 k
由0变到 m
.现在随机地取一个盒子(每个盒子等概率被取到),独立地、有放回地从这个盒子内抽取一个球,一共抽取 n
次.假定这 n
次抽得的球都是红球.问从这个盒子内再抽取一个球,这个球为红球的概率有多大?当 m
很大的时候,这个概率会怎样变化?

解
记 E
为第 n
+1 次抽得红球的事件,
表示前 n
次都抽得红球的事件.直观上看,连续抽出红球说明被抽取盒子里含有很多红球,因此
比较靠近1.事实上,拉普拉斯利用此例去计算给定5000年中每天日出的条件下明天日出的概率.(我们不清楚拉普拉斯多么严肃地对待这个计算问题,但是这已成为概率论发展过程中的一个传说.)

我们有

再利用全概率公式,得到

对于较大的 m
,可将和数看成积分的近似值：

类似地,

故

当 m
和 n
很大的时候,再抽得一个红球是几乎确定的.

47.* 二项式系数公式和帕斯卡三角形
.

(a)
在抛掷 n
枚硬币的试验中,将出现 k
次正面向上的结果数记作
,利用
的这个定义导出帕斯卡三角形中所具有的递推关系(见图1.20);

(b)
利用(a)中推导出来的递推关系和归纳法,证明下面的公式

解
(a)
可以有两种方法产生含有 k
次正面向上的序列
.

(1) 前 n
-1 次抛掷硬币的试验中出现 k
次正面向上,第 n
次抛掷的时候出现反面向上.这种序列一共有
个.

(2) 前 n
-1 次抛掷硬币的试验中出现 k
-1 次正面向上,第 n
次抛掷的时候出现正面向上.这种序列一共有
个.

这样,

这个公式总结了帕斯卡三角形中提示的递推算法.(见图1.20)

(b)
现在利用(a)中的公式以及归纳法导出下面的公式

对于 n
=1,利用约定0!=1,我们得到
,即对于 n
=1 公式是成立的.现在假定公式对于 n
-1 以前的一切正整数都成立.转而讨论 n
的情况.对于
,由下式

看出,公式是成立的.而对于
的情况,公式也显然成立.这样我们用归纳法证明了公式对一切 n
是成立的.

图 1.20　利用帕斯卡三角依次计算二项式系数的方法.左边的三角阵列上的数就是在右边阵列上的相应的数.而右边的三角阵列上的数,除了每一排的两端的数都是1以外,其余位置是的数都是上一排的两个相邻数的和

48.* 博雷尔-坎泰利引理
.考虑一个无穷试验序列.假定第 i
次试验成功的概率为
.记 N
为试验序列中没有一次成功的事件,并记 I
为试验序列中具有无限多次成功的事件.

(a)
假定试验是相互独立的,并且
.证明
和
.

(b)
假定
.证明
.

解
(a)
由事件 N
发生可知前 n
次试验中没有一次成功,因此

两边取对数,得到

上式中令
,我们得到
,因此
.

记
表示这个无穷次试验中只有有限次成功并且最后一次成功出现在第 n
次试验.由于我们已经证明了
.不难验证
.又由于事件
是不相容的事件序列
和 N
的并.我们得到

所以
.

(b)
令
表示第 i
次试验成功的事件.对某个固定的 n
和每一个
,定义
表示在时刻 n
以后在时刻 i
第一次成功的事件,显然
.最后令
表示在时刻 n
以后至少有一次成功的事件.注意到
,因为无限多次成功说明任意时刻 n
以后至少有一次成功.显然事件
是不相容的事件序列
之并.这样

由于
,令
,上式右边趋于0,这说明
.

1.6 节　计数法

49. 德梅雷之谜
.独立地抛掷一个6面体骰子,共三次.问下面的事件中哪个事件可能性大一些,和数为11还是和数为12?(这个问题是17世纪法国贵族德梅雷向他的朋友帕斯卡提出的.)

50. 生日问题
.一共有 n
个人参加一个聚会.假定每个人的生日是相互独立地分布的,并且均匀地分布在一年中的某一天,并且排除了2月29日这一特殊的日子(假定没有人在这一天生日).问没有任何两人在同一天生日的概率有多大?

51
. 有一个罐子中含有 m
个红球和 n
个白球.

(a)
我们随机地从中抽走两个球.写出样本空间并计算抽出两个不同颜色的球的概率.计算的时候利用两种不同的方法：一种方法是利用离散均匀分布率的计数方法,另一种方法是利用序贯的基于乘积规则的方法.

(b)
我们转动一个具有3条边的骰子,每条边上分别标明1, 2, 3. 如果出现 k
,则从罐子中取出 k
个球,放在一边.写出样本空间并利用全概率公式计算取出的球全是红色的概率.

52
. 经过充分洗牌的一副52张的扑克牌中,从上到下地一张一张地翻牌,求出第13张牌是第一次遇到的老 K 的概率.

53
. 一共有90个学生,其中包括乔和简.现在将他们随机地分成3个班(每个班30人).求乔和简被分在同一个班内的概率.

54
. 有20辆小汽车停放在一个停车场.这20辆车中有10辆是美国制造,另外10辆是其他国制造.停车场是一字排开的共有20个车位.在某一天内这些车辆的停放是完全随机的.

(a)
一共有多少种不同的车辆停放方法?

(b)
这些车互相错位地停放的概率有多大(既没有两辆美国车相邻,也没有两辆外国车相邻)?

55
. 在一个
的国际象棋盘中放上8个车(国际象棋的棋子是放在方格子内,不是放在交叉线上的!).假定所有放法都是等可能的.求出这些车是安全的概率(在同一行上不能有两个车,在同一列上也不能有两个车.)

56
. 某个系一共开设8门低水平课程
和10门高水平课程
.一个有效的课程表由4门低水平课程和3门高水平课程组成.

(a)
一共可以排出多少种不同的课程表?

(b)
假定课程
必须以
为先修课程,
必须以
和
为先修课程.问在这样的条件下可以排出多少种不同的课程表?

57
. 利用26个字母能够写出多少6个单词的句子,其中每个字母恰好出现一次?所谓一个单词就是指一个非空的字母序列.当然这些单词和句子可以是毫无意义的.

58
. 从一副充分洗牌的扑克牌中取出上面的7张牌.求出下列事件的概率：

(a)
7张牌中恰好含有3张A;

(b)
7张牌中恰好含有2张K;

(c)
7张牌中恰好含有3张A,或者恰好含有2张K,或者恰好含有3张A和2张K.

59
. 停车场停有100辆车,其中 k
辆是有问题的,按柠檬法案应退回厂家的.现在从中随机地选出 m
辆进行试车,问其中恰有 n
辆问题车的概率有多大?

60
. 将一副52张充分洗牌的扑克牌分发给4个玩家.求每个玩家得到一张A的概率.

61.* 超几何概率.
一个罐子里边放有 n
个球,其中 m
个是红球.现在从罐子中随机地、无放回地抽取 k
个球(无放回的意思在下一次抽取球的时候已经抽出的球不再放回罐子).问抽出的 k
个球中恰含 i
个红球的概率有多大?

解
样本空间由
种从罐子中选择 k
个球的方法组成.与我们感兴趣的事件有关的选择方法数可以这样计算;在 m
个红球中选 i
个球有
种选法,从 n
-m
个不是红色的球中选 k
-i
个球有
种选法.这样一共有
种选法.由于各种选法都是等可能的,相关的概率为

其中
满足条件
,且
.对于其他的 i
相应的概率为0.

62.* 存在不可区分的对象的排列数
.在对 n
个对象进行排列的时候,若遇到某些对象之间不可区分,此时会造成不同的排列之间不可区分.因此这种具有不可区分对象的排列数会小于 n
!.例如三个不同的字母A、B、C共有6种不同的排列

但是字母A,D和D只有3种不同的排列

(a)
假定 n
个对象中有 k
个是不可区分的.证明可区分的对象的序列一共有
个.

(b)
现在假定一共有 r
种不可区分的对象类型,而第 i
种类型内,一共有
个不可区分的对象.证明可区分的对象排列数为

解
(a)
不妨将 n
个对象中 k
个不可区分的对象D记为
.若顾及它们的下标,这 k
个原本不可区分的对象就是可区分了.将这些对象进行排列,一共有 n
! 个不同的排列.把这些原本不可区分的对象的下标去掉,则这些排列中每一个排列都有一些排列与这个排列不可区分.这些不可区分的排列形成一个类,这个类中一共有 k
! 个排列.这样,n
! 个排列可以分成
个类,每个类内的排列都是不可区分的.这样,可区分的对象序列数就是
.例如 A
、D
、D
三个对象的排列有3!=6个(把题中给出的 A
、B
、C
的六种不同排列中的 B
、C
替换为 D
即可)

这6个排列种有些排列是不可区分的.可以将它们分成
个类

而每个类内含有
个不可区分的排列.

(b)
一种办法是将(a)中的方法进行推广.对每一个类别 i
,有
个不可区分的对象,单就这个不可区分的对象而言,就有
种不可区分的排列.由于一共有 r
类不可区分的对象,这样每一个排列,都会属于一个具有
个排列的大类,在这个大类内的所有排列都是不可区分的.这样可以区分的对象序列的个数就是

另一种考虑的方法如下：在 n
个位置中选定
个位置给第一类不可区分的对象占有,剩下的
个位置中再选定
个位置给第二类不可区分的对象占有,依次类推,对于每一类不可区分的对象都分派了位置.这样每一种位置的分配位置的方法对应于一种可区分的对象序列.这样的分配位置的方法数等于将 n
个对象分成 r
个组的方法数,每一个组的大小分别是
,而这种分组方法的数目就是多项式系数.

第 2 章　离散随机变量

2.1　基本概念

在许多概率模型中试验结果是数值化的,例如许多仪器的仪表板的读数以及股价等.也有其他一些例子中的试验结果不是数值化的, 但是这些试验结果与某些数值相联系. 例如, 从某个群体中 选择学生,我们希望了解每位学生的平均学分. 当我们讨论这些数值的时候,通常给这些数值确定概率. 我们可以通过随机变量
实现这个任务, 这正是本章重点介绍的对象.

现在设在某个试验中, 所有可能的试验结果构成一个样本空间.对于样本空间中的每一个可能的试验结果, 关联着一个特定的数.这种试验结果与数的对应关系形成随机变量(见图 2.1).我们将试验结果所对应的数称为随机变量的取值
. 从数学上讲, 随机变量是试验结果的实值函数
.

图 2.1　(a)随机变量的图像化表示. 这是一个试验结果的函数,对每一个试验结果确定一个数值; (b) 随机变量的一个例子.将一个具有4个面的骰子连续抛掷两次, 相应的随机变量是两次抛掷所得到的最大数. 若试验结果是(4,2),则随机变量的值为4

现在举几个随机变量的例子.

(a)连续抛掷一枚硬币共5次,在这个试验中正面出现的次数是一个随机变量.然而作为试验结果的长度为5的正面和反面的序列却不能作为随机变量,因为它对于一个试验结果没有给出一个明显的数值.

(b) 在两次抛掷一个骰子的试验中, 下面的例子是随机变量：

(i) 两次抛掷骰子所得到的点数之和;

(ii) 两次抛掷一个骰子所得到6点的次数;

(iii) 第二次抛掷所得到的点数的5次方.

(c) 在传输信号的试验中,传输信号所需的时间、接收到的信号中发生错误的次数、传输信号过程中的时间延迟等都是随机变量.

我们列出若干关于随机变量的基本概念, 这些概念将在本章中详细介绍.

与随机变量相关的主要概念

在一个试验的概率模型之下

- 随机变量
是试验结果的实值函数;

- 随机变量的函数
定义了另一个随机变量;

- 对于一个随机变量, 我们可以定义一些平均量,例如均值
和方差
;

- 可以在某事件或某随机变量的条件
之下定义一个随机变量;

- 存在一个随机变量与某事件或某随机变量相互独立
的概念.

若一个随机变量的值域(随机变量的取值范围)为一个有限集合或最多为可数无限集合,则称这个随机变量为离散的
. 例如上面(a)和(b)中提到的随机变量, 由于它只能取有限多个值, 所以是离散的随机变量.

若一个随机变量可以取到不可数无限多个数,则这个随机变量就不是一个离散的随机变量.例如从区间[-1,1]上随机地取一个点 a
,随机变量
就不是离散的随机变量. 另一方面随机变量

是一个离散的随机变量.

本章只讨论离散随机变量. 尽管有时候省略了形容词“离散”,但我们讨论的还是离散随机变量的性质.

与离散随机变量相关的概念

在一个试验的概率模型之下：

- 离散随机变量
是试验结果的一个实值函数,但是它的取值范围只能是有限多个值或可数无限多个值;

- 一个离散随机变量有一个分布列
,它对于随机变量的每一个取值, 给出一个概率;

- 离散随机变量的函数
也是一个离散随机变量, 它的分布列可以从原随机变量的分布列得到.

下面的几节将讨论上面所提到的概念及其相关的方法理论.此外我们还将提供重要的离散随机变量的例子.第3章将讨论一般的随机变量(不一定为离散随机变量).

尽管本章中看起来引入了很多新的概念, 实际上并非如此.我们只是将第一章中的概念(概率、条件和独立性等)简单地应用到了随机变量上去, 仅仅引进了一些新的记号. 本章中真正新的概念是均值与方差.

2.2　分布列

离散随机变量的取值概率是随机变量的最重要的特征. 我们用分布列
表示这种特征,并且用
表示随机变量 X
的分布列. 设 x
是随机变量 X
的取值,则 X
取值为 x
的概率定义为事件
的概率,即所有与 x
对应的试验结果所组成的事件的概率, 用
表示,即

例如, 在将一枚均匀的硬币独立地抛掷两次的试验中,令 X
为正面向上的次数. 则 X
的分布列由下式给出

今后在不引起混淆的情况下, 我们将省去表示事件或集合的花括号.例如用
表示事件
的概率,尽管记号
比较确切一些.同时我们也会遵守下面的传统： 我们用大写字母表示随机变量, 用小写字母表示实数,例如随机变量的取值等
.

对于分布列, 我们有

其中求和是对随机变量 X
的一切可能的取值而求的.上式之所以成立是由于概率的可加性和归一性公理. 对于不同的 x
,事件
是互不相容的, 并且对所有的 x
,事件系列
形成了样本空间的一个分割. 利用类似的原理可以证明,对于任意一个 X
的可能值的集合 S
, 下式成立：

例如, 在将一枚均匀的硬币独立地抛掷两次的试验中,至少一次正面向上的概率为

分布列的计算, 在概念上是很简单的, 图2.2给出了很直观的解释.

图 2.2　(a)随机变量 X
的分布列计算方法的图像化表示.对每一个 X
的可能值 x
, 找出使
的所有试验结果,将它们的概率相加得到
.(b)设所涉及的试验是抛掷一个具有4个面的均匀骰子, 独立地抛掷两次.所涉及的随机变量为 X
=两次转动所得到的最大点数.X
的可能值为1,2,3,4. 对于给定的 x
的值, 为计算
的值,将 X
取值为 x
的所有试验结果的概率相加, 得到
的值. 例如,有三个试验结果((1,2),(2,2),(2,1))的 X
的值为2,而每一个试验结果的概率为1/16, 故

随机变量 X
的分布列的计算

对每一个随机变量 X
的值 x
：.

(1) 找出与事件
相对应的所有试验结果;

(2) 将相应的试验结果的概率相加得到
.

2.2.1　伯努利随机变量

考虑抛掷一枚硬币, 设正面向上的概率为 p
, 反面向上的概率为1-p
.伯努利随机变量
在试验结果为正面向上时取值为1,在试验结果为反面向上时取值为0, 即

它的分布列为

由于伯努利随机变量非常简洁, 因此它也是非常重要的随机变量.在实际中它用于刻画具有两个试验结果的概率模型. 例如：

(a) 在给定的时刻, 一架电话机可处于待机状态或使用状态;

(b) 一个人可以处于健康状态或患有某种疾病状态;

(c) 作为一个人的政治态度, 他可以赞成或反对某个候选人.

进一步,我们可以将多个伯努利随机变量综合成更加复杂的随机变量.下面我们要讨论的二项随机变量就是其中之一.

2.2.2　二项随机变量

将一枚硬币抛掷 n
次, 每次抛掷, 正面出现的概率为 p
,反面出现的概率为 1-p
, 而且各次抛掷是相互独立的.令 X
为 n
次抛掷得到正面的次数. 我们称 X
为二项随机变量
, 其参数为 n
和 p
. X
的分布列就是在1.5节中讨论的二项概率：

(按照传统, 我们用 k
代替x
, 表示整数值随机变量 X
的取值.)对于二项随机变量, 利用归一化公理可以得到

在图2.3中, 用图像表示某些特殊情况的二项分布列.

图 2.3　二项随机变量的分布列. 当 p
=1/2时, 分布列是相对于 n
/2对称的.当
时, 相应的分布偏向0, 当
时,相应的分布偏向 n

2.2.3　几何随机变量

在连续抛掷硬币的试验中, 每次抛掷, 正面出现的概率为 p
,反面出现的概率为 1-p
, 而且各次抛掷是相互独立的.令 X
为连续地抛掷一枚硬币, 直到第一次出现正面所需要抛掷的次数. X
就称为几何随机变量
.前 k
-1 次抛掷的结果为反面向上, 第 k
次抛掷的结果为正面向上的概率为
. 因此 X
的分布列为

几何随机变量的分布列的图像可见图2.4. 从

可知这是合格的分布列.

图 2.4　几何随机变量的分布列.
) 是几何级数, 递减的因子为1-p

此处, 利用抛掷硬币的试验恰巧是抓住了事物的本质. 更一般地,连续抛掷硬币的试验序列中出现正面可以解释为独立试验序列中的一次试验“成功”,这样几何随机变量可以解释为独立试验序列中直到试验第一次“成功”所需的试验次数.而试验“成功”的意义是随着所讨论的问题的实际背景而变化的.例如可以是在某次测验中通过了考试, 在某次搜索中发现目标,或成功地进入计算机系统等.

2.2.4　泊松随机变量

设随机变量 X
的分布列由下式给出

其中
是刻画分布列的取正值的参数,则称 X
是泊松随机变量(见图2.5). 由于

这个数列符合分布列的定义.1

1
若这个总和不等于1,就与概率的归一化定律相冲突. ——译者注

图 2.5　对应于不同的
的泊松随机变量的分布列. 当
时,分布列是单调递减的. 当
时, 分布列随着 k
的递增,先递增后递减(可参考本章末尾的习题)

为了给出泊松随机变量的直观印象, 考虑当二项随机变量的参数 n
很大, p
很小的情况. 例如, 令 X
为字数为 n
的一本书中含有打印错误的字数. 这样, X
是二项随机变量. 但是,由于一个字被打印错误的概率 p
非常小, X
也可以用泊松分布列刻画(打错一 个字相当于抛掷一枚硬币出现正面向上,但正面向上的概率 p
很小). 类似的例子很多,例如在一个城市中一天中发生车祸的事故数.2

2
普遍认为,第一个关于二项随机变量和泊松随机变量之间联系的实证例子,是在19世纪后半叶用泊松分布列去逼近波兰骑兵被马踢伤的人数.

用泊松随机变量刻画这样的现象十分恰当. 更确切地说,参数为
的泊松随机变量的分布列是二项随机变量分布列的很好的逼近：

其中
, n
很大, p
很小. 在这种情况下,泊松分布列使得模型简单, 计算方便. 例如,
,用二项随机变量计算成功次数 k
=5的概率为

利用泊松随机变量计算这个概率得到近似值

其中
.

在本章最后的习题中, 我们将给出泊松逼近的严格证明.第6章将作进一步解释和推广, 并且将结果用 到泊松过程中去.

2.3　随机变量的函数

设 X
是一个随机变量. 对 X
施行不同的变换, 可以得到其他的随机变量.作为例子, 用 X
表示今天的气温(单位为摄氏度,
).作变换
, 得到华氏温度的 读数(
).在这个例子中 Y
是 X
的线性
函数

其中 a
和 b
是数值. 我们也可以考虑 X
的非线性函数

例如可以考虑对数度量, 此时可用变换
.

设
是随机变量 X
的函数, 由于对每一个试验结果,也对应一个(Y
的)数值, 故 Y
本身也是一个随机变量.如果 X
是离散的随机变量, 其对应的分布列为
, 则 Y
也是离散随机变量, 其分布列可通过 X
的分布列进行计算. 实际上,对固定的 y
值,
的值可以通过下式计算

例 2.1
可以利用上述公式计算
的分布列, 其中 X
的分布列由下式给出,

由于 Y
的值域为
, 对于值域中的任意 y
,只需将满足
的所有
的值相加, 就可以得到
的值.当 y
=0的时候, 只有 x
=0能够满足条件
. 这样

对于
, 有两个 x
值满足条件
.例如(见图2.6的图示说明)

这样, Y
的分布列为

图 2.6　例2.1中 X
和
的分布列

现在看另一个随机变量
. 为了求得 Z
的分布列,我们既可以将它看成 X
的平方, 也可以看成
的平方.利用公式
或
, 得到

2.4　期望、均值和方差

X
的分布列给出了 X
所有可能取值的概率. 通常,我们希望将这些信息综合成一个能够代表这个随机变量的数.X
的期望
可以实现这个目的.X
的期望就是 X
的所有取值相 对于它的概率的加权平均.

为了更好地理解期望的意义, 假定你有机会转动一个幸运轮许多次.每次转动, 幸运轮会出现一个数,不妨设为
中的一个. 这些数出现的概率分别为
. 而出现的数就是你所得到的钱数(给你的奖励).“每次”转动,你所“期望”得到的钱数是多少？此处“每次”和“期望”都是一些不确定的词汇.但是下面的解 释可以把这些词汇的含义确定下来.

假定你一共转动幸运轮 k
次, 而其中有
次转动的结果为
.你所得到的总钱数为
.每次转动所得到的钱数为

现在假定 k
是很大的一个数, 我们有理由假定概率与频率相互接近,即

这样你每次转动幸运轮所期望得到的钱数是

由这个例子的启发,我们引进下面的定义.3

3
当随机变量的取值范围为可数无限集合的时候,可能会遇到这样的情况：和号
没有确切定义. 通常,当
的时候, X
的期望值有确切定义,它的值是一个有限数并且等于级数
的部分和的极限,而这个极限值与求和号内各项的次序无关.

作为一个反例,考虑随机变量 X
的取值范围为
,相应的概率分别为
,此时级数
, 并称 X
的期望无确切定义.另一个反例是：X
取
和
的概率为
,
. 这个例子中 X
的期望也无确切定义,其原因是
. 尽管这个随机变量是相对于0对称的,其期望值似乎可以定义为0.

本书所涉及的随机变量的期望总是有定义的,因此在论证中默认随机变量的期望是有定义的.

期望

设随机变量 X
的分布列为
.X
的期望值
(也称期望
或均值
)由下式给出：

例 2.2
考虑两次抛掷一枚硬币的试验, 而硬币的两面是不均匀的,正面向上的概率为3/4. 令 X
是得到的正面数, 这是一个二项随机变量,
. 它的分布列为

故其均值为

通常将 X
的均值解释为 X
的代表值, 它位于 X
的值域中间的某一点.更确切地, 可以将分布的均值看成分布列的“重心
”(见图2.7的解释). 特别, 当随机变量的分布列具有对称中心的时候,这个对称中心必定为这个对称随机变量的均值.

图 2.7　均值作为重心的解释, 设在一根杆上在 x
处放上质量为
的物质,
. 所谓重心是指杆上的平衡位置 c
,使得 c
的右边的力矩等于 c
的左边的力矩. 即 满足

的 c
. 因此
,即
等于 X
的质量分布的重心

2.4.1　方差、矩和随机变量的函数的期望规则

期望是随机变量及其分布列的重要特征. 此外, 还有其他重要的特征量.例如随机变量 X
的二阶矩
定义为随机变量
的均值. 进一步
n
阶矩

定义为
的期望值.这样均值本身就刚好是一阶矩.

除了均值, 随机变量 X
的最重要的特征量是方差
, 记作
. 它由下式定义

由于
只能取非负值, 故方差只能取非负值.方差提供了X
在期望周围分散程度的一个测度.分散程度的另一个测度是标准差
,它由下式定义

标准差具有实用性, 因为它的量纲与 X
的相同.例如 X
是以米为单位的长度, 方差的单位为平方米, 而标准差的单位为米.

计算方差的一种方法是先行计算随机变量
的分布列,然后利用期望值的定义计算 X
的方差.
是随机变量 X
的函数, 可利 用前面提供的方法计算
的分布列.

例 2.3
考虑例2.1中的随机变量 X
,它的分布列为

此时, 均值
. 这可以从分布的对称性看出,也可以从期望的定义直接计算得到

令
.在例2.1中,已经得到

这样, X
的方差为

计算
时并不需要先行计算
的分布列,而另有更加便利的方法. 这种方法根据下面的规则得到.

随机变量的函数的期望规则

设随机变量 X
的分布列为
, 又设
是 X
的一个函数,则
的期望由下列公式得到

为验证此公式, 令
并利用2.3节导出的公式

得到

将期望规则应用到 X
的方差, 我们得到

相似地, 对于 X
的 n
阶矩, 我们有

因此在计算 X
的 n
阶矩的时候, 我们不必先求
的分布列.

例 2.3(续)
设随机变量 X
的分布列由下式给出,

利用期望规则得到

这个结果与早先得到的结果是一样的.

先前已经提到, 方差是非负的.那么是否可为0？由于在方差的公式
中,每一项都是非负的. 为了使得这个和式为0, 其充要条件是对每一个 x
,
. 这个条件说明对每一个使得
的 x
,均有
. 这说明 X
其实不是随机的,随机变量 X
等于
的概率为1.

方差

随机变量 X
的方差由下列公式所定义：

并且可以用下式进行计算：

它是非负的, 其平方根称为标准差
,记为
.

2.4.2　均值和方差的性质

我们将用随机变量的函数的期望规则导出一些均值和方差的重要性质.首先考虑随机变量 X
的函数

其中 a
和 b
是已知常数. 关于线性函数 Y
的均值和方差,我们有

进一步地

随机变量的线性函数的均值和方差

设 X
为随机变量, 令

其中 a
和 b
为给定的常数, 则

此外, 我们还将证明如下一个方差的重要公式.

用矩表达的方差公式

这个用矩表达的方差公式的证明可以通过下列等式完成：

最后我们用例子说明一个陷阱：除非
是一个线性函数,一般情况下
不等于
.

例 2.4(平均速度和平均时间)
如果遇到好天气(这种天气出现的概率为0.6),爱丽丝会步行2英里上学, 步行速度为每小时5英里(V
=5).天气不好的时候, 她骑摩托车上学, 时速30英里(V
=30).她上学所用的平均时 间是多少？

正确的方法是先计算 时间 T
的分布列,

然后计算均值

小时.

然而, 下面的计算是错误的：先计算平均速度

英里/小时.

然后声称平均时间为

小时.

总之, 在这个例子中

2.4.3　某些常用的随机变量的均值和方差

我们将推导出一些重要的随机变量的均值和方差,在本课程中经常会遇到这些公式.

例 2.5(伯努利随机变量的均值和方差)
考虑抛掷一枚硬币, 设正面出现的概率为 p
,反面出现的概率为 1-p
. 伯努利随机变量的分布列为

下面给出了它的均值、二阶矩和方差的计算公式

例 2.6(离散均匀随机变量)
设涉及的试验是抛掷一个均匀的具有6个面的骰子.其平均点数和方差是多少？我们将试验结果看成一个随机变量,它的分布列为

由于分布列相对于3.5是对称的, 我们得到
. 关于方差,我们有

这样, 可得到
.

上面的随机变量是离散均匀随机变量
的特殊情况.按定义离散均匀随机变量的取值范围是由相邻的整数所组成的有限集,而取每个整数 的概率都是相等的. 这样它的分布列为

其中 a
,b
是两个整数, 作为随机变量的值域的两个端点,
(X
的分布列的图示见图2.8).由于它的分布列相对于
是对称的, 其均值为

为计算 X
的方差, 先考虑 a
=1和 b
=n
的简单情况. 利用归纳法可以证明

(具体证明过程留作习题). 这样利用一、二阶矩, 可得到 X
的方差

图 2.8　在 a
和 b
之间均匀分布的随机变量的分布列. 它的均值和方差为

对于 a
和 b
的一般情况, 实际上在区间[a
,b
]上的均匀分布与在区间[1,b
-a
+1]上的分布之间的差异,只是一个分布是另一个分布的平移,因此两者具有相同的方差(此处区间[a
,b
]是指处于 a
和 b
之间的整数的集合). 这样, 在一般情况下,X
的方差只需将简单情况下公式中的 n
替换成b
-a
+1, 即

例 2.7(泊松随机变量的均值)
设 X
的分布列为泊松分布列, 即

其中
为常数. 其均值可从下列等式得到

最后一个等式利用了泊松分布列的归一化性质.

相似的计算指出泊松随机变量的方差为
(见本章2.7节的例2.20).在以后的章节中将用不同的方法导出这个事实.

2.4.4　利用期望值进行决策

设想有一个项目, 有几种处理方案. 而每种处理方案都有随机的回报,那么用什么样的准则去最优地选择处理方案呢？期望值是一个合理且方便的准则.如果把期望回报看成一个处理方案 长期重复执行的平均回报,那么选择具有最大期望回报的策略是合理的. 下面是一个例子.

例 2.8(智力测验)
这是一个具有随机回报的实施方案最优选择的典型例子.

在一个智力游戏中一共有两个问题需要回答,但游戏规则要求你选择一个问题作为首先回答的问题. 问题1比较容易,你能够正确回答的概率为0.8. 回答正确就能够得到100美元的奖金.问题2比较难, 你能够正确回答的概率为0.5.回答正确就能够得到200美元的奖金.若你选定一个首先回答的问题却不能正确地回答, 你不但不能拿到奖金,而且也不容许回答第二个问题. 若你能够正确地回答第一个问题,就还有机会回答第二个问题. 为了使奖金总和的期望值最大,你应该选择哪一个问题作为首先回答的问题？

这个问题并不简单, 高回报必有高风险. 希望首先回答问题2, 奖金多,但是问题比较难, 并且要冒着不让回答问题1的风险.我们将所得到的奖金总额作为随机变量 X
, 并且计算两种可能的回答问题的次序下的期望值
(见图2.9).

图 2.9　智力测验问题中的两种实施方案的序贯树形图说明

(a) 先回答问题1:
此时 X
的分布列为(参考图2.9的左边)

由此得到

(美元).

(b) 先回答问题2:
此时 X
的分布列为(参考图2.9的右边)

由此得到

(美元).

这样看来, 首先回答比较容易的问题1比较合算.

现在将这个具体的例子推广成一般的问题.用
和
分别表示正确回答问题1和问题2的概率,用
和
分别表示正确回答问题后所得到的奖金. 若先回答问题1,则所得到的 奖金总额为

而先回答问题2, 所得到的 奖金总额为

这样, 最优策略为先行回答问题1的充要条件是

或等价的条件

这样, 每一个问题都有一个指标
,其中 p
就是正确回答问题的概率,v
就是正确回答问题以后所得到的奖金.
的值大,相应的问题就应该优先回答. 这个问题还可以推广到多于两个问题的情况(见本章后面的习题).

2.5　多个随机变量的联合分布列

在一个试验中经常涉及几个随机变量. 例如, 在医疗诊断中,通常涉及几个试验指标, 或者在网络中我们常常对几个网关的负荷感兴趣.所谓多个随机变量是指在同一个试验结果之下产生的 多个随机变量.它们所涉及的样本空间和概率律是相同的.这些随机变量的取值是由试验结果确定的, 因此它们的取值相互联系.现在考察它们取值的概率. 本节将分布列和期望推广到多个随机变量的情况.以后我们还要讨论条件和独立这样的概念,这些概念是与第1章中讨论的概念平行的.

现在设在同一个试验中有两个随机变量 X
和 Y
.它们的取值概率可以用它们的联合分布列
刻画,并且用
表示. 设
是 X
和 Y
的可能取值,
的概率质量定义为事件
的概率：

今后我们使用简洁的表达式
,尽管
或
和
是更准确的表达式.

利用联合分布列可以确定任何由随机变量 X
和 Y
所刻画的事件的 概率.例如 A
是某些
所形成的集合, 则

事实上, 我们还可以利用 X
和 Y
的联合分布列计算 X
或 Y
的分布列

关于
的公式可以从下面的等式得到：

上面第二个等式是由于事件
是所有形如
的互不相容的事件之和(y
取遍 Y
中所有不同的值).关于
的公式的验证是完全类似的. 为区别起见,我们称
或
为边缘分布列
.

可以通过表格计算 X
或 Y
的边缘分布列.将 X
和 Y
的联合分布列排成一个二维表,
的值就是二维表格中与 x
对应的那一列的所有值的总和
.
的值的计算是完全类似的. 下面的例子和图2.10说明了具体操作方法.

图 2.10　例2.9中计算 X
和 Y
的边缘分布列的表格法说明.X
和 Y
的联合分布列
的值列于表格中.在表中与
相应的位置上的数为
. 对于给定的 x
,只需把与 x
对应的列上的各
值相加就得到
的值,例如
. 相似地, 对于给定的 y
,只需把与 y
对应的行上的各
值相加就得到
的值,例如

例 2.9
设 X
和 Y
的联合分布列如图2.10所示.X
的边缘分布列的值就是表中相应的列和,而 Y
的边缘分布列的值就是表中相应的行和.

2.5.1　多个随机变量的函数

存在多个随机变量的情况下,就有可能从这些随机变量出发构造出新的随机变量. 特别地,从二元函数
可以确定一个新的随机变量.这个新的随机变量的分布列 可以从联合分布列通过下式计算

进一步地, 关于随机变量的函数的期望规则可以推广成下列形式

这个公式的证明与单变量函数的公式的证明类似. 特别地,当 g
是形如
的线性函数的时候, 我们有

其中
均为给定的常数.

例 2.9(续)
考虑随机变量 X
和 Y
,它们的联合分布列由图2.10给出. 由下面的等式给出一个新的随机变量

Z
的分布列可以通过下式计算

利用图2.10的数据, 得到 Z
的分布列

Z
的期望值可从 Z
的分布列得到

另外, 也可以利用公式

利用图2.10的数据, 先求出 X
和 Y
的期望

故

2.5.2　多于两个随机变量的情况

设有三个随机变量 X
, Y
, Z
, 其联合分布列的定义是类似的, 即

其中
是
的所有可能的取值.相应地可以得到边缘分布列, 例如

关于随机变量的函数的期望规则为

并且, 如果 g
是形如
的线性函数, 则

进一步地, 上面的结果可以推广到三个以上随机变量的情况.例如设
为 n
个随机变量,
为 n
个常数, 我们有

例 2.10(二项随机变量的均值)
你的概率班上有300个学生, 每个学生有1/3的概率可得到成绩 A ,并且相互独立. 记 X
为班上取得A的学生数. X
的平均数为多少？ 记

这样,
是独立的伯努利随机变量序列,其公共均值为
. 它们的和

是班上取得A的人数. 由于 X
是 n
次独立重复试验中“成功”的次数,它是二项随机变量, 其参数为 n
和 p
.

利用 X
是诸随机变量
的线性函数, 我们有

如果我们把这个问题提成一般的问题, 设班上有 n
个学生,每个学生得 A 的概率为 p
, 则

例 2.11(帽子问题)
假设一共有 n
个人,将他们的帽子放在一个盒子里,每个人随机地从中拿起一个帽子(每个人只拿一个帽子, 并且人和帽子的各种对应都是等可能的).拿回自己的帽子的人数的平均数是什么？

对于每个人 i
, 如能拿到自己的帽子, 则定义
, 否则
.由于
和
,
的平均值为

由

可知

关于联合分布列的小结

设 X
和 Y
为在某个试验中的随机变量.

- X
和 Y
的联合分布列
由下式定义

- X
和 Y
的边缘分布列可由下式得到

- X
和 Y
的函数
是一个随机变量, 并且

若 g
是线性的, 且
则

- 上面的结论可以自然地推广到两个以上的随机变量的情况.

2.6　条件

在第1章中, 我们已经指出条件可以给某些事件提供补充信息,当然条件也可以对随机变量取某些值提供某些补充信息.我们将引进随机变量条件分布列的概念,此处的条件是指某个事件的发生或其他随机变量的值的给定.本节将讨论条件分布列的性质. 实际上, 条件的概念并不是新的,我们只是根据随机变量的特点, 重新细述一遍, 引进一些新的记号而已.

2.6.1　某个事件发生的条件下的随机变量

在某个事件 A
(
)发生的条件下, 随机变量 X
的条件分布列
由下式定义：

注意, 对于不同的 x
,
是互不相容的事件,它们的并为 A
. 因此

比较得到的两个式子, 可以看出

故
符合分布列的要求.

条件分布列的计算也与无条件分布列的计算一样,将满足
并且属于 A
的试验结果的概率相加, 最后除以
,便得到
的值.

例 2.12
令 X
为抛掷一个均匀的6面体骰子所得到的点数,A
表示抛掷后得到偶数点的事件. 利用前面得到的公式

例 2.13
一个学生参加某种测验,他可以多次重复地参加测验, 但最多不能超过 n
次.每次测验以概率 p
通过, 而且与前几次的测验结果独立. 假定学生已经通过的条件下, 他测验次数的分 布列是什么？

令 A
是学生最终通过测验的事件(他最多参加 n
次测验).我们引进随机变量 X
, X
表示为了通过测验所需要参加测验的次数(假定容许他无数次参加测验).X
是一个几何随机变量, 其参数为 p
.刻画条件的事件是
. 这样

从而, 学生测验次数的条件分布列为

见图2.11的说明.

图 2.11　例2.13中计算条件分布列
的图示说明.首先将 X
的无条件分布列
进行修改：将所有不在 A
中的 k
, 其分布列的值清成0. 然后将所有的分布列的值除以
,进行归一化, 得到条件分布列

图2.12给出了计算条件分布列更一般的说明.

图 2.12　计算条件分布列
的图示说明. 对每一个 x
,将属于事件
的试验结果的概率相加,再除以
以归一化, 得到
的值

2.6.2　给定另一个随机变量的值的条件下的随机变量

设某一个试验中有两个随机变量 X
和 Y
.我们假定随机变量 Y
已经取定一个值 y
(
),这个 y
值提供了关于 X
取值的部分信息. 这些信息包含于 X
的给定 Y
的值的条件分布列
中.所谓条件分布列就是
, 其中事件 A
就是事件
：

利用条件概率的定义, 我们有

现在我们固定 y
的值 (
), 考察 x
的函数
.这个函数符合 X
的分布列的要求：对每个 x
,
,并且将这些值累加后得1. 另外, 作为 x
的函数,其形状与
相似. 两者相差一个因子
,这个因子使得
满足条件

图2.13展示了条件分布列的特性.

图 2.13　计算条件分布列
的图示说明. 对每一个y
,可以将
看成联合分布列
沿
的一个切片, 并且归一化后使得

利用公式

或利用

可以计算联合分布列. 该方法类似于第1章中的序贯树形图的乘法规则.下面提供一个例子.

例 2.14
霍许对教授在为学生答疑时常有答错问题的现象.她每次答错问题的概率为1/4, 而且各题的答疑是独立的. 每堂课上,同学提问的问题可能有0,1或2个, 相应的概率均为1/3. 记 X
, Y
分别为一堂课上同学提问的次数和回答错误的次数.为得到 X
和 Y
的联合分布列,我们必须对每一组值
计算概率
.这可以利用序贯树形图的乘法规则(见图2.14的说明). 例如, 在课堂上,只提出一个问题并回答错误的概率为

图 2.14　计算例2.14中的联合分布列

可将联合分布列的数值列成一个表(见图2.14).这个表可以用于计算任何相关事件的概率. 例如

条件分布列也可以用于计算边缘分布列, 即有

这个公式就是第1章中的全概率公式, 不过用了不同的记号而已.下面是一个例子.

例 2.15
考虑计算机网络中的一个信息传送器. 下面是有关的随机变量.

X
：给定消息的传送时间　Y
：给定消息的长度.

我们知道给定消息长度的条件下传送时间的分布列和消息长度的分布列.我们希望找到传送一个消息的时间的(无条件)分布列.

假定一个消息的长度可以取两个可能值：
和
(单位：比特),取值的概率分别为5/6和1/6. 这样

传送时间依赖于消息的长度和当然网络的拥塞程度,具体来说,传送时间为
的概率为1/2,传送时间为
的概率为1/3,传送时间为
的概率为1/6. 这样, 我们得到

为找到 X
的分布列, 我们利用全概率公式

得到

最后,我们可以将条件分布列的概念推广到含有两个以上的随机变量的情况,例如
或
的情况.这种概念和方法的推广是没有难度的.

关于条件分布列的小结

设 X
和 Y
为某一试验中的两个随机变量.

- 条件分布列与无条件分布列完全类似,其差别只是前者是在已知某事件发生的条件下的随机变量的分布列.

- 设 A
为某事件,
. 随机变量 X
在给定 A
发生的条件下的条件分布列为

并且满足

- 设
是一组互不相容的事件，并且形成样本空间的一个分割。进一步假定
对一切 i
成立，则

(这是全概率定理的一种特殊情况.)进一步假定事件 B
满足对一切 i
,
, 则

- 给定
的条件下 X
的条件分布列与联合分布列之间有下列关系

- 给定 Y
之下的 X
的条件分布列可以通过以下公式计算 X
的边缘分布列：

- 上面的结论可以自然地推广到两个以上的随机变量的情况.

2.6.3　条件期望

条件分布列就是一个通常的分布列,不过它的样本空间由条件所限定的试验结果组成,相应的事件的概率变成条件概率. 同样的原因, 条件期望就是通常的期望,不过试验结果的空间由条件所限定的试验结果所组成.相应的概率和分布列都换成条件概率和条件分布列(关于条件方差的处理是完全类似的).下面列出有关的定义和性质.

关于条件期望的小结

设 X
和 Y
为某一试验中的两个随机变量.

- 设 A
为某事件,
. 随机变量 X
在给定 A
发生的条件下的条件期望为

对于函数
, 我们有

- 给定
的条件下 X
的条件期望由下式定义

- 设
是互不相容的事件并且形成样本空间的一个分割,假定
对一切 i
成立. 则

进一步假定事件 B
满足对一切 i
,
, 则

- 我们有

上述最后的三个等式适用于不同的场合, 但它们本质上是相互等价的.它们都可以称为全期望定理
.这些定理表达了这样的一个事实：“无条件平均可以由条件平均再求平均得到.”通过全期望定理可利用条件分布列或条件期望计算无条件期望
.现在验证三个公式中的第一个公式. 先写出全概率公式

再在两边乘 x
并对一切 x
求和, 得到

其他两个公式的验证是类似的.

例 2.16
设波士顿的一台计算机通过数据网络发送消息：发往纽约的概率为0.5,发往芝加哥的概率为0.3, 发往旧金山的概率为0.2.传输的时间 X
是一个随机变量, 发往纽约时的平均时间 为0.05秒,芝加哥为0.1秒, 旧金山为0.3秒.利用全期望公式很容易得到

(秒).

例 2.17(几何随机变量的均值和方差)
你一次又一次地写一个计算机软件, 每写一次都有一个成功的概率 p
.假定每次成功与否与以前的历史记录相互独立.令 X
是你一直到成功为止所写的次数(最后一次你成功了).X
的期望和方差是多少？

由于 X
是一个几何随机变量, 其分布列为

X
的均值和方差的公式是

计算上面的无穷级数有一些麻烦.为了使计算简单化,我们利用全期望定理.记
{第一次就写成功},![A_2={X%3e1}=](http://latex.codecogs.com/gif.latex?A_2={X%3e1}={第一次没有成功}. 如果第一次就写成功
, 这样

如果第一次失败(
), 我们浪费了一次努力, 必须重新开始.这样

因此, 由全期望定理

由此可得

相似地, 我们有

故

从而

再利用
, 得到

最后我们得到

例 2.18(两个信封的悖论)
这是一个引起广泛兴趣的智力测验问题, 它涉及有关条件期望的数学要点.

主持人给你两个信封, 并且告诉你两个信封里有现金,其中一个信封里的钱是另一个信封里的 m
倍(
, 且是一个整数).当你打开其中一个信封, 看到信封里面的钱数以后, 你可以收下这个信封里面的钱作为你的奖金, 也可以要另一个信封里的钱作奖金.有什么好的策略可使你拿到较多的奖金？

下面有一个推理, 其结论是有利于换信封的. 令 A
是你打开的信封,B
是你可能换的信封. 令 x
和 y
分别为信封 A
和 B
中的钱数.论证如下：
或
, 两种情况发生的概率分别为1/2. 因此,给定 x
,则 y
的期望值为

因为当
时
.这样, 你应该总是转向信封 B
.当你转向 B
的时候, 由于同样的理由, 又得转回到 A
.这样陷入了矛盾之中.

在这个悖论中, 有两个假设是有瑕疵的.

(a) 对于两个信封内的钱你无法先知先觉. 当给定 x
的值以后,你只知道 y
的值等于 x
的m
倍或
倍. 当然,你没有理由假定哪种情况更有可能.

(b) 用随机变量 X
和 Y
表示两个信封内的钱数. 若

对一切 x
成立, 那么“总是转向 Y
”能够得到更多的期望奖金.

现在仔细分析这两种假设.

假设(a)是有瑕疵的, 因为它没有说明相应的模型. 事实上,一个确定的模型, 各种事件, 包括 X
和 Y
的可能取值,都应该有确定的概率. 有了
的概率知识,X
的值一定会提供 Y
取值的 某些知识.例如某人选择 Z
元放在一个信封内,Z
的取值范围为
内的整数,并且服从某个分布率, 而在另一个信封内放入 z
的 m
倍的钱数. 然后, 你以等概率从两个信封中随机地 抽取一个信封, 看里边的钱数 X
的值.当 X
的值比
大的时候,你可以肯定你拿到的信封里的钱数是比较多的, 因此你不必换信封.若你拿到的钱数等于
的值,那你可以肯定另一个信封中的钱数比
多,因此你必须换信封. 大致上可以这么说,如果你若能够知道 X
的值域或取值的可能性, 你就可以知道 X
的值比较小, 还是比较大, 这样就可以决定是否应该换信封了.

从数学上说, 一个概率模型中,我们一定能够找到 X
和 Y
(信封 A
和 B
中的钱数)的联合分布率.X
和 Y
的联合分布率可由两个信封中的钱数的最小者 Z
的分布率所确定.设 Z
的分布率为
. 则对一切 z
,

对于不具有
或
的形式的
,

当
给定以后,我们可以用以下换信封的规则：

换信封的充要条件为

按照这个规则, 可以确定换或者不换信封.

现在的问题是：按照上述的模型和转换规则是否可以按照某些 x
的值,转换信封, 而另一些 x
的值不能转换？一般情况下是可以的,例如早先举出的 Z
的值域为有界集合的情况,就可以实现这样的转换规则. 然而, 下面的一个稍显怪僻的例子,使得你总是换信封.

抛掷一枚均匀的硬币, 直到出现正面为止. 记 N
为抛掷硬币的次数.此时你将
元放进一个信封内, 将
元放进另一个信封内.令 X
是你打开的那个信封(信封A
)内的钱数,Y
是另一个信封(信封 B
)内的钱数.

现在假定 A
中只有1元钱, 显然 B
中含有 m
元, 你应该换信封.当 A
内含有
元的时候, B
中或者含有
元钱或
元钱. 由于 N
具有几何分布列,我们有

这样我们有

的充要条件是
或
. 若
,则

这样, 为了获得最大的期望奖金, 你应该转向信封 B
. 在这个例子中,由于对一切 x
的值,

你选择 B
. 直观地看, 利用全期望定理, 应该有结论
.然而, 由于 X
和 Y
具有相同的分布列,结论
不可能成立. 实际上, 我们有

这个结论与对一切 x
有
并不矛盾.当
的情况下,利用关系式
而转换信封并不能够改进平均奖金.从而解决了悖论问题.

2.7　独立性

现在讨论与随机变量相关的独立性的概念.这些概念与事件之间的相互独立性的概念是相同的(见第1章).只需引进由随机变量导出的相关的事件, 再讨论这些事件的相互独立性.

2.7.1　随机变量与事件的相互独立性

随机变量与事件的独立性的概念与两个事件的相互独立性的概念是相同的.其基本思想是刻画条件的事件的发生与否不会对随机变量取值提供新的信息.更具体地说, 随机变量 X
独立于事件
A
是指

且
对一切 x
成立.

这个条件等价于：对任何 x
,随机事件
与事件 A
相互独立.由条件分布列的定义,

且

所以, 只要
,随机变量 X
与事件 A
的独立性与下面的条件是等价的：

对一切 x
成立.

例 2.19
考虑独立地抛掷一枚均匀的硬币, 共抛掷两次. 令 X
是正面向上的次数,A
是正面出现的次数为偶数. X
的(无条件)分布列为

而
.由条件分布列的定义知
且
:

显然, 由于
和
不相同, X
和事件 A
是不独立的.若随机变量是这样定义的：第一次抛掷得正面向上, 则取值为0,若第一次抛掷得反面向上, 则取值为1. 显然这样定义的随机变量从直观上看出与事件 A
是相互独立的.当然也可从独立性的定义直接验证.

2.7.2　随机变量之间的相互独立性

随机变量之间的相互独立性与随机变量和随机事件的相互独立性的概念是完全相同的.随机变量 X
和 Y
称为相互独立
的随机变量, 若它们满足

对一切 x
和 y
成立.

这等价于对于任意 x
和 y
, 随机事件
和
相互独立. 最后,由公式
可知随机变量 X
和 Y
的相互独立性的条件等价于

对一切 x
和一切满足
的 y
成立.

直观上, Y
和 X
的独立性意味着 Y
的取值不会提供 X
取值的信息.

在给定事件 A
的条件下(
必须大于0！)也可以定义两个随机变量的条件独立性.在给定事件 A
的条件下,所有的事件的概率都换成关于条件 A
的条件概率. 例如, 我们称随机变量 X
和 Y
在给定正概率事件 A
的条件下是条件独立
的,如果它们满足

,对一切 x
和 y
成立,

或者利用本章的记号

对一切 x
和 y
成立.

这个结论与下式是等价的：

对一切 x
和一切满足
的 y
成立.

在1.5节中曾经提到事件的条件独立性并不包含独立性, 反之亦然.在随机变量的场合下情况也是如此. 图2.15中的例子说明 了这种情况.

图 2.15　表中数据说明条件独立与独立并不等价. 表中的分布列说明 X
和 Y
是相互不独立的. 例如

另一方面, 若将事件
(图中阴影部分的试验结果之集合) 作为条件事件, 则随机变量 X
和 Y
是条件独立的. 我们有

对于
和
都成立

设随机变量 X
和 Y
相互独立, 则

这个事实可从下面的一系列等式得到：

完全类似的计算说明这样的事实：若 X
和 Y
相互独立,则对任意函数 g
和 h
, 下式成立：

事实上, 当我们理解到这样的事实的时候,上述结论就是明显的了：由 X
和 Y
的相互独立性可以蕴涵
和
的相互独立性.形式的验证, 留作本章末尾的习题.

现在考虑两个独立随机变量 X
和 Y
的和 X
+Y
,我们希望求出 X
+Y
的方差.随机变量的方差具有如下的特性：随机变量加上一个常数以后,其方差保持不变. 利用这个特点, 我们 考虑将随机变量进行平移,使得期望归0. 令
,这样

在上述一系列的等式的证明中, 我们利用了
.这是利用了独立随机变量的性质的结果(由于
和
分别是独立随机变量 X
和 Y
的函数,所以它们也相互独立), 即

总之, 独立
随机变量的和的方差等于它们的方差之和.与之对比, 随机变量之和的期望总是等于随机变量期望的和,而不需要任何条件.

关于独立随机变量的性质的小结

设在某一试验中, A
是一个事件, 满足条件
,又设 X
和 Y
是在同一个试验中的两个随机变量.

- 称 X
为相对于事件 A
独立, 如果满足

对一切x
成立,

即对一切 x
, 事件
与 A
相互独立.

- 称 X
和 Y
为相互独立的随机变量, 如果对一切可能的数对
, 事件
和
相互独立, 或等价地

对一切 x
和 y
成立.

- 若 X
和 Y
相互独立, 则

进一步地, 对于任意函数 g
和 h
, 随机变量
和
也是相互独立的, 并且

- 若 X
和 Y
相互独立, 则

2.7.3　几个随机变量的相互独立性

前面的关于随机变量相互独立的讨论可以很自然地推广到两个以上随机变量相互独立的情况.例如, 我们称随机变量 X
、Y
和 Z
是三个相互独立的随机变量,如果它们满足

对一切 x
,y
,z
成立.

设 X
、Y
、Z
是三个相互独立的随机变量,则任何形如
、
、
的三个随机变量也是相互独立的. 相似地,任何两个随机变量
和
也是相互独立的. 但是形如
和
的两个随机变量通常不是相互独立的,因为它们都受公共的随机变量 Y
的影响.若用互不干扰的试验结果来解释独立性,则上述这些性质在直观上是非常清楚的. 但是形式的证明有些烦琐.幸运的是, 直观和数学理论通常是一致的. 这主要是,独立性的定义本身反映了对直观的解释.

2.7.4　若干个相互独立的随机变量的和的方差

相互独立的随机变量的和出现在许多重要的场合. 例如在测量问题中,为了减少测量误差, 通常是把若干个独立的测量值的平均值作为目标物的测量值. 在处理若干个相互独立的随机源的累计效果时, 也会遇到随机变量和的方差问题. 此处我们仅提供几个例子,后面的几章将会回到这个主题.

在以下的例子中,我们将利用下面的重要性质：设
为相互独立的随机变量序列,则

这个结论可以通过反复应用两个独立随机变量之和的方差公式
而证得.

例 2.20(二项分布和泊松分布的方差)
考虑独立地抛掷一枚硬币,共抛掷 n
次, 每次正面向上的概率为 p
. 对每个 i
,令
表示刻画第 i
次抛掷硬币的伯努利随机变量,即当第 i
次抛掷后正面向上,
, 否则
.这样
是二项随机变量.由于各次抛掷硬币是相互独立的,随机变量
是相互独立的,故可利用独立随机变量和的方差公式

2.2节已经指出,参数为
的泊松随机变量可以看作二项随机变量的极限(二项随机变量的参数 n
和 p
满足
,
, 并且保持
).这样, 对应地求二项分布的期望和方差的极限, 可形式地得到泊松分布的期望和方差：
.我们已经在例2.7中证明了公式
.现证公式
.

由此得到

独立同分布的随机变量的加权和的均值和方差的公式是样本均值作为随机变量的期望的估计的统计过程的理论基础.下面是一个典型的例子.

例 2.21(样本均值的期望和方差)
我们希望估计总统的支持率. 为此, 我们随机地选取 n
个选民,询问他们的看法.令
表示第 i
个被问的选民的态度：

我们假定
为独立同分布的伯努利随机变量,其均值为 p
, 方差为
. 此处我们将 p
认为选民支持总统的概率,并且将调查得到的平均反应
称为样本均值

由于
是
的线性函数, 我们有

再利用随机变量
的独立性, 得到

被认为是支持率 p
的一个很好的估计, 这是因为它的期望刚好是 p
,而反映估计精度的方差当 n
增大的时候变得越来越小.

注意, 上例中即使
不是伯努利随机变量, 结论

仍然成立, 只要
之间相互独立, 期望和方差与 i
无关.这样样本均值仍然是随机变量的公共期望的一个好的估计,当样本量 n
增大的时候,
的方差变得越来越小. 在第5章讨论大数律的时候, 我们将详细讨论样本均值的这个特性.

例 2.22(用模拟方法估计概率)
在许多实际问题中,有时候计算一个事件的概率是十分困难的.然而我们可以用物理方法或计算机方法重复地进行试验,这些试验结果可以显示某事件是否发生. 利用这种模拟方法可以以很高的精度计算某事件的概率. 我们可以独立地模拟试验 n
次,并且记录 n
次试验中事件 A
发生的次数 m
,用
去近似概率
. 例如在抛掷硬币试验中,为计算概率
(出现正面), 我们独立地抛掷 n
次,用比值(记录中出现正面的次数/n
) 去逼近概率 p
.

为计算这种方法的精确度,考虑 n
个独立同分布的伯努利随机变量
,其公共分布列为

此处
相当于第 i
次试验中事件 A
的示性变量,即当事件 A
发生的时候,
的取值为1, 事件 A
不发生的时候,
的取值为0. 而随机变量

的取值就是概率
的估计值.由例2.21的结果知,X
的期望为
, 方差为
. 故 n
很大时,X
提供了
的精确的估计.

2.8　小结和讨论

在概率模型中, 试验结果是一些数值的时候,随机变量是一个很自然的工具. 本章集中讨论离散随机变量.为离散随机变量建立了理论架构和引进了相应的工具.

特别地, 我们引入了一些基本概念, 例如分布列、均值和方差.这些概念在不同程度上刻画了离散随机变量的概率特征. 同时, 我们指出,为了计算
的期望和方差, 可以不用 Y
的分布列, 而只需利用 X
的分布列即可. 特别地, 当 g
是一个线性函数
的时候,X
和 Y
的期望和方差具有下列关系

我们也讨论了若干具体的离散随机变量, 并且导出了分布列、均值和方差,其结果如下.

某些具体的离散随机变量的小结

[a
,b
]上的离散均匀分布
(a
,b
为整数)

参数为 p
的伯努利随机变量
(刻画一次试验成功或失败的概率模型)

参数为 p
和 n
的二项随机变量
(刻画 n
次独立重复的伯努利试验中成功次数的随机变量)

参数为 p
的几何随机变量
(在独立同分布的伯努利试验序列中刻画直到第一次成功所需的试验次数的随机变量)

参数为
的泊松随机变量
(当 n
很大,p
很小,
时, 用于逼近二项分布的随机变量 )

我们也讨论了多元随机变量和它的联合分布列和条件分布列,以及与之相关的条件期望.条件分布列通常还是定义一个概率模型的起始点,它可以用于计算其他的概率值, 例如边缘分布列或联合分布列或相应的期望值. 特别地, 当条件分布列
给定以后,有以下几种情形.

(a)
的联合分布列可由下式计算：

这个结果可以推广到多于两个变量的情况, 例如：

这个公式与第1章中利用序贯树形图计算概率的方法类似.

(b) X
的边缘分布列可用下式计算：

这个公式与第1章中的全概率公式类似.

(c) (b)中的全概率公式可以推广成为全期望公式,以计算随机变量 X
的期望：

类似于事件的相互独立性, 我们也引进了独立随机变量的概念. 特别地,我们引进了独立随机变量的和：

我们证明了

上述公式中, 关于随机变量和的期望的公式,并不要求随机变量之间的独立性,但是关于随机变量的和的方差的公式却要求随机变量之间的独立性.

在第3章中, 我们将本章中的概念和方法推广到一般的随机变量的情况.随机变量的概念是概率论中最基本的概念.

习题

2.2 节　分布列

1
. MIT足球队在周末计划有两场比赛.第一场比赛不败的概率为0.4, 第二场比赛不败的概率为0.7,两场比赛的输赢是相互独立的. 如果在一场比赛中不败,那么他们在比赛中赢球 或平局的概率是相等的,并且与另一场比赛的结果是相互独立的.MIT足球队在一场比赛中的得分情况是这样的：赢球得2分,平局得1分, 输球得0分. 写出这个周末MIT足球队得到的总 分的分布列.

2
. 你参加了一个有500人的晚会,有人与你生日相同的概率有多大？分别利用精确解和泊松分布逼近的方法计算这个概率(为了计算简单, 排除2月29日这种特殊的情况).

3
. 费希尔和斯帕斯基两人下国际象棋,按规定第一个赢得一盘者为比赛的胜者. 若两人连续10盘和局,则宣称两人言和. 在每盘棋中费希尔赢棋的概率为0.4, 输棋的概率为0.3,和棋的概率为0.3, 每盘棋之间的输赢是相互独立的.

(a)
费希尔赢得比赛的概率有多大？

(b)
两人下棋的盘数的分布列是什么？

4
. 一个因特网服务商备有50个调制解调器以供1000个用户使用.估计每一给定时刻, 每个用户使用因特网的概率为0.01,而且使用者之间相互独立.

(a)
在给定的时刻,使用着的调制解调器数的分布列是什么？

(b)
重复(a)题,利用泊松分布列逼近使用网络连接的用户数的分布列.

(c)
计算在某一时刻使用人数超过调制解调数的概率.(利用精确分布列和(b)中提供的泊松逼近分布列分别进行计算.)

5
. 在互连网中一个信息包通信系统的组成是：一个临时储存信息包的缓冲器,这个缓冲器用于储存信息源送来的信息包; 一条通信线路,从缓冲器获取信息包, 将它们传送给接收者.系统将工作时间划分为两个时段, 在第一时段,系统将信息源送来的信息包放在缓冲器内.信息源送来的信息包的个数是随机的, 其分布列为泊松分布列,分布的参数为
. 缓冲器能够储存的信息包最大个数为 b
,若信息包送来时, 缓冲器已经存满的时候, 那些信息包将被丢弃.在第二时段, 将 缓冲器中的信息包传送出去,传送出 c
个信息包(
, c
是一个给定的常数.当缓冲器中的信息包的个数小于 c
的时候,就将缓冲器中的信息包全部传送出去).

(a)
假定在第一时段开始时, 缓冲器中的信息包的个数为0. 分别写出第一时段结束时和第二时段结束时 缓冲器中的信息包的个数的分布列.

(b)
求在第一时段有信息包被缓冲器丢弃的概率.

6
. 凯尔特人队和湖人队在季后赛中相遇, 双方要打 n
场比赛,其中 n
为奇数. 凯尔特人队赢一场球的概率为 p
,而各次赢球是相互独立的.

(a)
求 p
的范围, 使得对于凯尔特人队来说, n
=5 比 n
=3 合算.

(b)
将(a)进行推广, 即对于任何 k
的值,找出 p
的范围使得 n
=2k
+1 比 n
=2k
-1 对凯尔特人队更合算.

7
. 你刚租了一所大房子, 房产经纪人给你5把钥匙,可以打开5扇门. 5把钥匙外形完全一样. 为了打开大门,你只能一把一把地试.

(a)
找出你打开大门所需的试验钥匙次数的分布列. 在下面不同假设之下分别算出分布列：(1)当你试开失败以后, 在钥匙上做一个记号, 这样下次试开的时候不会重试这把钥匙. (2)每次试开失败以后, 从5把钥匙中随机地选一把再试.

(b)
重复(a)的情形, 这次经纪人给你10把钥匙,其中每一扇门有两把完全相同的钥匙.

8. 二项分布列的递推计算公式
. 设 X
是一个二项随机变量,相应的参数为 n
和 p
. 证明其分布列可以从
开始,利用下面的递推公式计算：

9. 二项分布列的形式
. 设 X
是一个二项随机变量,相应的参数为 n
和 p
. 令
是小于或等于
的最大整数.证明分布列
在
的范围内相对于 k
是非降的,而在
的范围内单调递降.

10. 泊松分布列的形式
. 设 X
是一个泊松随机变量,相应的参数为
.证明分布列
当 k
在区间
的整数点上变化时是单调上升的,而在
中的整数点上变化时是单调下降的.

11.* 火柴问题 - 巴拿赫的吸烟习惯引出的问题
. 一位爱吸烟的数学家的左右口袋各放一盒火柴.每次吸烟时, 他随机地从左右口袋掏出一盒火柴点香烟(从左右两个口袋中掏火柴 盒的概率分别为1/2),而各次掏火柴的习惯是相互独立的. 假定开始的时候,两个口袋的火柴盒里的火柴数目是相等的, 都等于 n
.当这位数学家从口袋里掏出来的火柴盒是 一个空盒时,另一个口袋的火柴盒中的火柴根数的分布列是什么？现在将上述问题稍作推广,设数学家在掏火柴盒的时候, 从左口袋掏火柴盒的概率为 p
,从右口袋掏的概率为 1-p
, 那么相应的结论是什么？

解
令 X
是一个火柴盒为空的时候另一个火柴盒中火柴的根数.对于
,记
或
) 分别为这样的随机事件：当第一次发现一个火柴盒为空火柴盒的时候, 这个火柴盒是左(或右)口袋里 的火柴盒,并且右(或左)火柴盒里剩下 k
根火柴. X
的分布列为

我们将选左口袋看成一次成功, 选右口袋看成一次失败.则
是这样的事件：前
次试验中成功了 n
次,在
次试验的时候也是成功. 这样

利用对称性,
, 可得

对于稍作推广的问题, 即从左口袋取火柴的概率为 p
,从右口袋取火柴的概率为 1-p
, 利用相似的推理得到

这样

12.* 泊松逼近公式的证明
. 考虑二项随机变量的分布列,其相应的参数为 n
和 p
. 证明当

并且 np
保持为固定的常数
的时候,这个二项分布列趋于参数为
的泊松分布列.

解
利用关系式
,写出二项分布列如下:

固定k
, 令
, 我们得到

其中
. 这样, 对每个 k
, 当
的时候,

2.3 节　随机变量的函数

13
. 一对夫妇有5个孩子, 他们又另外收养了2个女孩,组成一个家庭. 他们亲生的5个孩子中,每个孩子为男孩或女孩均是1/2的概率, 彼此相互独立.写出这个家庭中女孩数的分布列.

14
. 设 X
是一个随机变量, 取值于集合
,取每个值的概率为1/10.

(a)
求出
的分布列.

(b)
求出
的分布列.

15
. 设 K
是一个随机变量, 取值于
中的整数,取每个值的概率为
. 求
的分布列,其中
, 而 a
是一个正数.

2.4 节　期望、均值和方差

16
. 设 X
是一个随机变量, 其分布列为

(a)
求出 a
和
.

(b)
随机变量
的分布列是什么？

(c)
利用(b)的结果, 计算 X
的方差.

(d)
利用公式
,计算 X
的方差.

17
. 可将一个城市的温度看成一个随机变量,其均值为10

C, 标准差也是10

C.如果某一天的温度在均值的一个标准差的范围内变化,则称这一天的温度是正常的. 现在如果温度用

F来表示,正常天气的温度范围应该怎么表达？

18
. 设 a
和 b
是两个正整数, 满足条件
.令 X
是一个随机变量, 以相等的概率取
.求 X
的期望和方差.

19
.* 10个盒子中的某一个放有奖品.为确定起见, 将这10个盒子编上号, 由1号到10号.用问问题和回答问题的方法可以逐步将奖品所在的位置确定下来.下面是两种问问题的方法：

(a)
枚举法. 用这样的问题问：“奖品是不是在盒子 k
中？”

(b)
二分法. 用排除法把将近一半的盒子淘汰, 例如可用这样的问题进行排除：“奖品所在的盒子的号码是不是小于或等于 k
？”

分别在两种方法之下计算问问题次数的期望值.

解

(a)
不妨设问题是这样问的：第 i
个问题是“奖品是不是在盒子 i
中？”,而奖品是以1/10的概率在盒子 i
中. 故问 i
个问题才猜中奖品的概率为1/10. 这样平均猜中奖品的次数为

(b)
假定第一个问题是：“奖品所在的盒子 k
是否满足
？”若回答为“是”, 则第二个问题为“奖品所在的盒子 k
是否满足
？”若回答为“是”,则奖品就在“1, 2”之内. 再问一个问题：“奖品所在的盒子 k
是否满足
？” 就可以确定这个奖品了. 这样,若奖品在盒子“1”或“2”内, 只需问三个问题即可确定奖品的位置.利用这种方法可知, 一共有6种位 置, 需要问三个问题才能确定其位置,另外有4种位 置, 需要问四个问题才能确定下来.而奖品在每一种位置的概率为1/10. 这样要确定奖品的位置,需要问问题的平均个数为

20
. 巧克力工厂开展了一个宣传活动,在一些巧克力糖中放了金奖券,凭这个奖券可以到工厂参观并可随意品尝各种巧克力.假定一包巧克力糖内含金奖券的概率为 p
.求出为拿到金奖券所需要购买的巧克力糖 的包数的均值和方差.

21. 圣彼得堡悖论
. 抛掷一枚均匀的硬币,直到出现反面向上为止. 假定每次抛掷是独立的. 若你抛掷了 n
次,你可以获得
元. 你得到的钱数的期望值是多少？你愿意付多少钱玩这个游戏呢？

22
. 有两枚硬币, 将它们同时抛掷的时候,其中第一枚正面向上的概率为 p
, 第二枚正面向上的概率为 q
.连续地同时抛掷这两枚硬币, 直到出现一枚正面向上,另一枚反面向上为止. 假定所有的抛掷是相互独立的.

(a)
写出抛掷次数的分布列、期望值和方差.

(b)
最后一次抛掷得到第一枚硬币正面向上的概率有多大？

23
. (a)
连续抛掷一枚均匀的硬币,直到连续出现两次正面向上或反面向上为止.写出抛掷次数的分布列、期望值和方差.

(b)
现在假定连续抛掷一枚均匀的硬币,直到出现正面向上, 紧接着出现反面向上为止.写出抛掷次数的分布列、期望值和方差.

2.5　多个随机变量的联合分布列

24
. {某}股票经纪人买了甲股票100股, 乙股票200股.令 X
和 Y
分别为甲、乙两个股票在某一时期的价格变动.假定 X
和 Y
的联合分布列为 二元集合

中的整数格点上的均匀分布.

(a)
写出 X
和 Y
的边缘分布列和均值.

(b)
写出经纪人的平均利润.

25
. {某}一班上有 n
个学生参加一个测验, 测验共有 m
道题目.假定学生 i
上交了前
道题目的答案,
.

(a)
教师随机地从这些答案中选出一份答案, 记作( I
, J
), 其中 I
为学生的号码(
), J
为题目的号码. 假定所有的答案是以相等的可能性被选中的. 计算 I
和 J
的 联合分布列和边缘分布列.

(b)
假定学生 i
对 j
道题目能够正确回答的概率为
. 同时假定一道题目回答正确可以得 a
分, 否则得 b
分. 计算学生 i
所得的总分的期望值.

26. 几个随机变量的最小值的分布列
. 你的高尔夫成绩是一个随机变量,其得分的分布是
上的均匀分布. 为了改进成绩,你决定将三天的最小分数作为你的分数 X
,即 X
等于
、
、
,其中
、
、
表示你三天的分数,并且相互独立.

(a)
计算 X
的分布列.

(b)
若以 X
作为你的得分,其期望值比原来的三天的平均得分改进了多少？

27.* 多项分布
. 设有一个骰子, 具有 r
个面,标记为
. 将骰子连续转动 n
次.假定在每次转动的时候第 i
面出现的 概率为
,并且各次转动是相互独立的. 记
为 n
次转动中, 第 i
面出现的次数.

(a)
写出
的联合分布列
.

(b)
写出
的期望与方差.

(c)
求
.

解

(a)
设 n
次转动后得到一个转动结果序列(试验结果), 这个序列中第 i
面出现
次,
. 这个转动结果序列出现的概率为
. 以
为特征的试验结果形成一个集合(事件), 这个事件中的试验结果的个数为多项式系数(见1.6节)

这样,

其中
, 在其他情况下
.

(b)
随机变量
是一个二项随机变量, 相应的参数为 n
和
. 这样
,
.

(c)
设
, 记
(或
) 为伯努利随机变量, 当第 k
次转动骰子的时候出现 i
(或 j
)就取值1, 否则取值 0. 注意,
以及对于
,
和
相互独立(因此
), 我们得到

28.* 智力测验问题
. 智力测验答题的规则是这样确定的. 一共有 n
个问题, 你可以选择任意的回答次序.对于问题 i
, 你正确回答的概率为
. 若你回答 正确,就可以拿到奖金
, 并且有权利选择下一个问题回答.你第一次回答错误后, 你不但得不到这个问题的奖金,而且失去了继续回答问题的权利, 但可以保留以前得到的奖金总额.为了达到最大的 期望总奖金,证明你应该按
的非增的次序选择你所要回答的问题,即
大的问题优先回答.

解
将问题
的回答顺序抽象化成为这些问题的一个排列
.首先回答的问题是
, 其次是
.所谓最优排列是指按最优排列顺序回答问题能获得最大的期望总奖金. 记

为问题 i
的权值.我们称排列
中相邻的“问题对”
为“逆序对”,如它们满足条件

为了消除这个逆序对, 只需将排列 L
中的
与
的位置对调,即变成
. 对于
,
就不是逆序对了. 现在我们分别计算 L
和
的期望总奖金：

将两者比较得

由此可以看出, 对于有逆序对的排列 L
, 不可能达到最高的期望总奖金.

现在, 最优排列只能在没有逆序对的排列中找.而没有逆序对的排列就是按权值
非增的排列.我们利用下面的两个事实：

(a)
任意两个按权值非增的不同排列 L
和
, 可以通过一系列的改变问题对
的顺序由 L
变成
, 而每次改变顺序的两个问题
的权值是相同的, 即
.

(b)
由于改变顺序的两个问题的权值相同, 由前面的计算知, 改变顺序前后的两个排列的总奖金的期望值是相同的.

由以上两点可知, 只要排列是按权值
非增的,这个排列就是最优的排列, 其期望总奖金达到最大.

29.* 容斥恒等式
. 设
为 n
个事件.记
,
, 更一般地,令
为满足条件
的 m
重指标
的集合.证明下列容斥恒等式成立：

提示
： 设
为事件
的示性函数,即当事件
发生的时候,
取值为1, 当事件
不发生的时候,
取值为0. 将随机变量
与相关的事件联系起来.

解
我们将事件
与随机变量
联系起来.事件
发生等价于所有的变量
取值为0, 或等价于条件
. 由于 Y
只能取值0或1, 我们有

这样

注意,
与
的下列种种关系式

就可以得到容斥恒等式.

30
.* 阿尔文的数据库中有 n
个记录. 由于软件的故障,地址和人员的对应关系处于完全随机的状态.阿尔文给每位朋友送一张生日卡, 但是地址完全乱了. 在这种情况下,至少有一位朋友得到他本人的卡的概率有多大？提示：
利用容斥恒等式.

解
记
为第 k
张卡送到正确的地址. 我们有下列一系列公式

等等, 最后还有

将这些结果代入容斥恒等式

得到

当 n
很大的时候, 这个概率趋近于
.

2.6 节　条件

31
. 独立地抛掷一个6面体, 共4次.令 X
为抛掷得到1点的次数, Y
为2点的次数.X
和 Y
的联合分布列是什么？

32. 丹尼尔·伯努利的共同生活问题
. 设有 m
对夫妻共同生活着.假定若干年以后每个人活着的概率为 p
, 并且彼此相互独立.记 A
为若干年后活着的人数, S
为若干年后夫妻都活着的对数.对任何 a
, 求
.

33
.* 独立地抛掷一枚硬币若干次.每次抛掷的时候硬币正面向上的概率为 p
. 我们假定,当连续出现两次正面向上或连续出现两次反面向上的时候, 抛掷就停止.写出抛掷 次数的期望值.

解
一种办法是直接计算 X
的分布列,其中 X
就是抛掷硬币的次数. 然后再计算 X
的期望值. 然而,由于硬币是非均匀的, 计算 X
的分布列有一些麻烦. 我们利用全期望公式并适当地分割样本空间的方法进行计算.记
(或
)表示第 k
次抛掷出现正面(或反面)的事件.记
表示抛掷硬币出现反面的概率.由于
和
形成样本空间的一个分割且
,利用全期望定理得

再次利用全期望定理, 得到

此处我们利用了两个公式, 其中一个公式是

这是因为两次出现正面向上以后应该停止抛掷. 另一个公式是

这是因为, 若抛掷没有结束,为了结束抛掷所需要抛掷硬币的平均次数只依赖于最后一次的抛掷的结果.相似的分析可得

利用所得到的两个关系式和
, 可解得

这样

利用等式
, 得到

当
时,
.也可以证明
对一切 p
成立.

34
.* 一个蜘蛛在一条直线上追苍蝇. 每一秒钟,苍蝇以相等的概率 p
向左或向右移动一步, 以概率
在原处不动.而蜘蛛每一秒钟总是向苍蝇的方向移动一步. 在开始的时候, 苍蝇与蜘蛛相距 D
步. 而 D
是一个取值为正整数的随机变量,D
的分布列为已知. 如果蜘蛛与苍蝇的位置相重合, 苍蝇就被捉住.现在的问题是苍蝇被蜘蛛捉住的期望时间是什么？

解
记 T
为蜘蛛捉住苍蝇的时刻. 定义

开始的时候蜘蛛和苍蝇的距离为 d
步,

开始一秒后蜘蛛和苍蝇的距离为 d
步.

显然
和
都是随机事件.我们的步骤是首先利用(条件的)全期望定理计算
,然后计算
, 相似序贯地计算
.最后我们利用无条件的全期望定理计算
.

我们有

若

上式说明这样的一个事实：开始的时候, 苍蝇与蜘蛛距离为
,那么1秒钟后它们的距离为 d
( 如果苍蝇离开蜘蛛 )或 d
-1( 如果苍蝇保持不动 )或 d
-2( 如果苍蝇向蜘蛛方向移动 ). 当苍蝇与蜘蛛距离为1的时候,

利用全期望定理, 我们得到

和

若

根据问题中提供的数据, 我们有

因此利用这些数据, 可以得到

或

将这些数据应用到 d
=2的情况, 得到

同时我们有

将这些量代入
的表达式中, 得到

上式经过整理得到

对于
, 我们可以得到

由于
和
已经求得,利用上式可以递推地将一切
求得. 最后, 给定 D
的分布列,利用全期望公式可以求得 T
的期望值：

35
.* 利用单个随机变量的函数的期望值规则验证下面的期望值规则：

然后再将所得到的期望值规则应用到线性函数的特殊情况,得到公式

其中 a
和 b
是常数.

解
我们利用全期望定理将问题归结为单个随机变量的函数的期望规则：

注意,在上式的第三个等式用到了关于单个随机变量 X
的函数
的期望值规则.

对于线性函数, 由期望值规则得到

36.* 条件分布列的乘法规则
. 设 X
、Y
、Z
为随机变量.

(a)
证明

(b)
将此公式解释成1.3节的乘法规则的特殊情况.

(c)
将乘法规则推广到多个随机变量的情况.

解

(a)
我们有

(b)
将公式写成

的形式, 化成了1.3节中的乘法规则.

(c)
推广的形式是

37.* 泊松随机变量的分解
. 传送器发出的信号是一个0--1 信号.发1的概率为 p
, 发0的概率为 1-p
, 并且和以前所发的信号独立.现在假定在一定时间内发出信号的个数为泊松随机变量,其参数为
. 证明在同一段时间内发出1的个数 也是泊松随机变量,其参数为
.

解
设 X
和 Y
分别为同一段时间内发出的信号1和0的个数.那么
就是这一段时间内发出信号的个数. 利用条件概率公式,我们有

因此

这说明 X
是一个泊松随机变量, 参数为
.

2.7 节　独立性

38
. 爱丽丝在上班路上要通过四个路口,每一个路口以相等的概率出现红灯或绿灯,而且各个路口的红绿灯的出现是相互独立的.

(a)
写出爱丽丝所遇到的红灯数目的分布列、均值和方差.

(b)
假定遇到每个红灯会等待2分钟,计算爱丽丝在上班路上花费时间的方差.

39
. 每天早上, 饥饿的哈里总要吃几个鸡蛋.假定哈里每天吃鸡蛋的个数是一个随机变量,吃掉的鸡蛋个数是1到6个不等, 而且在{1,2,3,4,5,6}上均匀分布.令 X
为哈里10天所吃掉的鸡蛋数. 求 X
的均值和方差.

40
. 一个教授因为他的任意评分办法而知名. 对于每篇论文,他的评分是在集合
上等概率地分布,而对各篇论文的评分是相互独立的. 为了使得每种评分等级至少对应一篇论文, 你大概需要交多少篇论文？

41
. 你开车上班, 一年工作50周, 每周工作5天.每天你得到交通罚单的概率为 p
=0.02,而且各天之间是否得到罚单是相互独立的. 记 X
为你一年中得到的罚单数.

(a)
你得到的罚单数刚好等于
的概率有多大？

(b)
利用泊松分布近似地计算(a)中的概率.

(c)
假定每张罚单的罚款额分为10元、20元和50元, 相应的概率分别为0.5,0.3,0.2, 并且各张罚单的罚款额之间是相互独立的. 求出一年中你的交通罚款总额的均值和方差.

(d)
假定你不知道 p
的值, 但是在一年中你得到5张罚单. 你用

估计 p
的值. 假定
与 p
的差是在样本平均的5倍标准差之内,p
的变化范围是什么？

42. 计算问题
. 此处讨论的问题是计算单位正方形中的子集 S
的面积的方法.我们利用单位正方形上服从均匀分布的一串随机的点列.如果第 i
个点是在集合 S
中, 令
, 否则为0.现在设
是这样生成的随机变量序列, 记

(a)
证明
等于子集 S
的面积,而
当 n
无限增加时趋于0.

(b)
证明为了计算
的值, 我们可以利用
和
的值, 而并不依赖于以前的
. 写出一个公式.

(c)
利用计算机的随机数发生器写一个计算机程序,产生数列
. 其中 S
是单位正方形的内切圆.怎样利用你的程序 去近似
的值？

(d)
利用类似的计算机程序去近似地计算单位正方形内由条件
所确定的点集的面积.

43
.* 设 X
和 Y
是两个相互独立且具有相同分布的几何随机变量, 其参数为 p
.证明

解
可以将参数为 p
的几何随机变量理解为连续抛掷一枚硬币直到正面出现所需抛掷的次数,而每次抛掷 时正面出现的概率为 p
.这样
可以解释为：在抛掷硬币的序列中,第2次出现正面所需抛掷次数为 n
的条件下,第1次出现正面的时刻为第 i
次抛掷的概率.可以直观地解释为：已知第 n
次抛掷时, 出现第2次正面,由于对称性, 第1次正面出现的抛掷时刻是等概率地分布在第1次到第
次抛掷上.现在形式地证明这个事实. 首先, 我们有

同时

这样

由此可知, 对于
中的任何 i
和 j
, 均有

从而

44
.* 设 X
和 Y
是两个随机变量, 其联合分布列已知.又设 g
和 h
分别为 X
和 Y
的函数. 证明若 X
和 Y
相互独立,则
和
也相互独立.

解
令
. 我们有

这说明 U
和 V
相互独立.

45.* 方差的极值
. 设
为独立同分布的随机变量序列,
.

(a)
假定
为伯努利随机变量,参数为
, 而参数序列
满足条件
. 证明 X
的方差当
全等于
的时候达到最大.

(b)
假定
为几何随机变量, 参数为
, 而参数序列
满足条件
. 证明 X
的方差当
全等于
的时候达到最小. [ 注意, (a)和(b)两部分具有完全不同的特征. ]

解

(a)
我们有

最大化方差的问题归结为最小化
的问题. 由下面的恒等式(注意到
)

可知
在
的时候达到最小.

(b)
我们有

和

作变换
. 这样约束条件变成

在此约束条件下 X
的方差达到最小值的问题变成最小化

的问题. 这与(a)中讨论的问题是一样的.当取
时使得
达到最小值,即
时使得
达到最小.

46.* 熵和不确定性
. 设 X
是一个随机变量,它的取值范围为
,相应的取值概率分别为
. X
的熵
定义为

(这个问题中的所有对数都是以2为底的对数.)熵
是关于随机变量 X
取值不确定性的度量.为了给出一个直观的印象, 注意到
,并且当 X
的取值趋于确定值的时候 (即 X
取某个值的概率趋于1),
的值趋于0(这是由于当
或
时,
).

熵是信息论的基本概念, 它最早由香农提出,在许多专业的教材中均有陈述. 例如, 设有一个随机变量 X
, X
取有限个值. 为确定 X
的值,通常用“是非题”的方法逐步确定(比如“ X
是否等于
？“或”X
是否小于
？”),为确定 X
的值所需要问的问题数的平均数的下界为
. 进一步,设为了确定一组独立同分布的随机变量
的值所需要回答问题的平均数为 k
,则当 n
充分大的时候, 可以使
与
任意地靠近.

(a)
证明如果
是满足
的一组非负数,则

其中等号成立的充要条件是
对一切i
成立. 作为特殊情况,证明
,且等号成立的充要条件是
对一切 i
成立.提示：
利用不等式
对一切
成立,并且只有当
的时候等号成立.这里
是自然对数.

(b)
设 X
和 Y
是取有限个值的随机变量, 其联合分布列为
. 定义

证明
,并且
成立的充要条件是 X
和 Y
相互独立.

(c)
证明

其中

(d)
证明

其中

[注意：可以认为
是 Y
给定的条件下 X
的条件熵,即给定
之下首先对 X
的条件分布求熵,然后对所有可能的 y
值求平均.这样
是知道 Y
的值的条件下 熵(不确定性)的压缩量.
也可解释为 X
中包含的 Y
的那一部分的信息量.因此也成为
X
和 Y
相互包含的信息量
.]

解

(a)
我们利用不等式
(可以这样证明:对于
,
, 对于
,
),得到

其中等号成立的充要条件是
对一切 i
成立.由于
,上面的不等式与
是等价的.若令
,
变成
.

(b)

满足条件
. 利用(a)的结论, 得到

其中等号成立的充要条件是

对一切 x
和 y
成立,

(c)
利用 I
和 H
之定义, 可得

由这三个公式, 可以得到
.

(d)
由(c)的计算, 可得到

第 3 章　一般随机变量

取值于连续区域的随机变量是十分普遍的.在高速公路上汽车的速度就是一个例子. 若汽车的速度可从速度表读得,那么我们可将速度表的读数看成离散的随机变量. 但是, 为了将汽车的真实速度模型化, 连续随机变量更为合适.多种理由说明连续随机变量是概率论中非常有用的概念.除了刻画细致和精确外,连续随机变量模型可以利用有力的分析工具解决概率的计算问题. 更主要的是, 连续随机变量还可以刻画某些随机现象的本质,而单纯靠离散随机变量, 这是无法做到的.

所有在第2章中讨论的概念, 例如期望、分布列和条件等都有对应的概念.本章的任务就是将第2章中的概念 在连续随机变量的情况下重新解释.

3.1　连续随机变量和概率密度函数

对于随机变量 X
, 若存在一个非负函数
, 使得

对每一个实数轴上的集合 B
都成立1
, 则称 X
为连续的
随机变量,函数
就称为 X
的概率密度函数
,或简称PDF.PDF 的概念与离散随机变量的分布列是相对应的. 特别地,当 B
是一个区间的时候

1
积分
可以理解为黎曼积分,我们假定所涉及的函数是黎曼可积的. 对于不寻常的函数或集合,这个积分可能是无法定义的, 这是 更近代的数学分析所处理的问题.我们通常遇到的函数是具有有限个(或可数个)间断点的逐段连续函数
,通常的积分限为有限个(或可数个)区间的和. 这些情况属于黎曼积分处理的范围.

此时,这个积分可以理解为PDF和区间
所形成的曲边梯形的面积(见图3.1).对于单点集合 a
, 我们有
.由于这个原因, 区间的端点对于概率的计算不起作用, 即

一个函数能够成为PDF, 它必须是非负的, 即
对一切 x
成立,同时它 还必须满足下面的归一性条件

从图像上看, PDF下面的且在 x
轴上面部分的面积必须等于1.

图 3.1　PDF的解释.X
取值于
的概率是
,这个积分就是图中阴影部分的面积

也可以对PDF作这样的解释：对于很小的
, 我们有

这样,我们可以理解
为 X
落入 x
附近的单位长度的概率(见图3.2).由于
是概率律, 不是某一事件的概率, 故
可以大于1.

图 3.2　PDF
作为 x
附近的概率律的解释. 设
很小,在图中 X
取值于
的概率是图中阴影 部分的面积,它近似地等于

例 3.1(连续的均匀随机变量)
一个赌客在赌场转动幸运轮, 幸运轮上具有连续的刻度, 从0到1.每次轮子转动停止以后, 固定的指针会指向轮子上的一个数.假定转动停止以后,指针指向幸运轮上任意两个长度相同的区间的概率是相等的.这样的随机试验可用一个随机变量 X
来刻画, X
的PDF可由下式给出

此处常数 c
可用下面的归一化条件

确定, 即 c
=1.

更一般地, 可以考虑取值于区间
上的随机变量.我们假定 X
取值于
的任意两个长度相同的子区间的概率是相同的.这种随机变量称为具有均匀分布的随机变量
这种随机变量的PDF由下式给出：

(见图3.3).
在
上的常数(
)可从下面的归一化条件得到：

}

图 3.3　均匀随机变量的PDF

例 3.2(逐段常数的PDF)
阿尔文开车上班. 在天气晴朗的日子, 大约需要驾驶15~20分钟,雨天需要20~25分钟. 在每种情况下,驾驶时间都是在各自的范围内均匀地分布着的. 假定晴天的 可能性为2/3,雨天的可能性为1/3. 若把阿尔文的驾驶时间 X
看成随机变量,那么 X
的PDF是什么？

我们把“驾驶时间在各自的范围内均匀地分布”理解为 X
的PDF在各自的区间[15,20]和[20,25]上分别为常数.由于这两个区间包含所有可能的驾驶时间, X
的概率密度函数在其他范围内应该是0. 这样

此处
和
是常数. 而这些常数可从雨天和晴天的概率确定.

由此得到

将这个例子进行推广, 考虑 X
的下列形式的PDF

其中
是常数,
是一组非负数(见图3.4). 常数
可以像前面那样, 由一组条件确定. 一般说来, 常数
必须满足下面的归一化条件：

图 3.4　含有三个区间的逐段常数PDF

例 3.3(可以取任意大的值的PDF)
考虑 X
的下列PDF

尽管在 x
趋于0的时候
的值可以任意地大,
仍然是一个合法的概率密度函数. 这是因为

关于PDF性质的小结

设 X
的PDF(概率密度函数)为
.

- 对一切 x
成立.

- 设 δ
是一个充分小的正数, 则

- 对任何实数轴上的子集 B
,

3.1.1　期望

连续随机变量 X
的期望
或均值
是由下式定义的：2

2
在此, 我们必须关心的一种可能性是：积分
可能取无限值或不存在. 具体地说, 我们称期望是有定义的,是指
,此时积分是有确切定义的, 并且积分值小于无穷.

作为期望没有确切定义的例子, 考虑 X
的PDF
,此处 c
是一个归一化常数. 函数
在|x
|充分大的时候可用
逼近. 由于
,可知
. 这样,
是没有定义的, 尽管 X
的PDF相对于0是对称的.

本书中, 如无特别申明, 总是假定连续随机变量 X
的期望是有定义的.

连续随机变量的期望的定义与离散随机变量的情况完全相似,只须将定义中的分布列置换成概率密度函数(PDF), 求和置换成积分.正如在第2章中那样,
可以解释成PDF的重心和大量独立重复试验中 X
的取值的平均数. 毕竟, 积分是求和的极限形式,连续情况的期望的数学性质与离散情况是极其相似的.

设 X
是一个连续随机变量, 其PDF为
,则 X
的任意函数
也是一个随机变量. 注意,Y
可以是连续随机变量, 例如, 取
, 此时 Y
的PDF与 X
的PDF相同. 但是 Y
也可能是离散随机变量, 例如当
时, 令
,否则令
. 此时, Y
只取0和1, Y
是一个离散的随机变量.但是无论是离散的或连续的结果,下述的期望规则
总是成立的：

(见本章末尾的习题. )

随机变量 X
的
n
阶矩
定义为
.随机变量 X
的方差
定义为随机变量
的期望, 记为
.

现在我们将连续随机变量的性质列成下表,这些性质与离散随机变量的性质是完全相同的.

连续随机变量的期望的性质

记 X
为连续随机变量, 其相应的PDF(概率密度函数)为
.

- X
的期望由下式定义：

- 关于随机变量
的期望规则为

- X
的方差由下式给出：

- 关于方差, 下列公式成立：

- 设
, 其中a
和b
为常数, 则

例 3.4(均匀随机变量的均值和方差)
设随机变量 X
的分布为
上的均匀分布,见例3.1. 我们有

这个期望值刚好等于PDF的对称中心
.

为求得方差, 先计算 X
的二阶矩,

这样, X
的方差为

3.1.2　指数随机变量

若随机变量 X
的PDF具有下列形式：

则称 X
是指数随机变量
,其中
是分布的参数,
(见图3.5).这个函数是合法的概率密度函数, 其原因是

注意, 指数分布具有这样的特性：X
超过某个值的概率,随着这个值的增加而按指数递减, 即 对于任意
,

图 3.5　指数随机变量的PDF

指数随机变量具有广泛的用处, 它可以表示到发生某个事件为止所用的时间, 例如, 这个事件可以是某条信息到达计算机、一台仪器的使用寿命终止、 一个灯泡用坏了或一辆汽车出一次车祸, 等等.我们将会看出, 指数随机变量与离散的几何随机变量十分相似.几何随机变量也与某一个我们感兴趣的事件发生的(离散)时间相关联.在第6章讨论随机过程时, 指数分布是十分重要的工具. 但目前,我们将指数分布作为一种常见的分布处理.

指数随机变量的均值和方差由下列公式给出：

这些公式可以直接计算得到. 利用分部积分法,

再次利用分部积分法, 可得到 X
的二阶矩

最后, 利用公式
, 得到

例 3.5
小陨石落入非洲撒哈拉沙漠的时间是遵从指数分布的. 具体地说,从某一观察者开始观察, 直到发现一颗陨石落到沙漠,这个时间的分布是指数分布, 这个时间的平均 长度是10天. 现在假定,目前时间为晚上12点整.问在第二天早晨6:00到傍晚6:00之间陨石首次落下的概率有多大？

假定 X
是为了观察陨石落下所需要的等待时间.由于 X
的分布为指数分布, 均值
, 由此知
.所求的概率为

此处我们利用了公式
.

3.2　分布函数

我们分别用分布列(离散情况)和概率密度函数(连续情况)来刻画随机变量 X
的取值规律.现在我们希望用一个统一的数学工具来刻画随机变量的取值规律.分布函数
(用记号CDF表示简称)就能完成这个任务.随机变量 X
的CDF是 x
的函数
,对每一个x
,
定义为
. 特别地,当 X
为离散或连续的情况下,

分布函数又称累积分布函数
,累积意味着
将 X
取值的概率由
累计到 x
.

在一个概率模型中, 随机变量可以有不同的类型, 可以是离散的,也可以是连续的, 甚至可以是既非离散也非连续的.但不管是什么类型的随机变量, 它们有一个共同的特征,即都有一个分布函数, 这是因为
是一个随机事件,这些事件的概率形成概率分布. 今后,凡是刻画事件
的概率的, 都称为随机变量 X
的概率律
. 因此离散情况下的分布列,连续情况下的概率密度函数以及一般情况下的分布函数都是相应的随机变量的概率律.

图3.6和图3.7分别给出离散随机变量的CDF和连续随机变量的CDF一些说明. 从这些图像以及CDF 的定义,可以得到CDF的某些一般的性质.

图 3.6　某些离散随机变量的CDF. 通过随机变量的分布列, 可求得相应的分布函数：

这个函数是一个阶梯函数, 在具有正概率的那些点上具有跳跃.在跳跃点上,
取较大的那个值, 即
保持右连续

图 3.7　某些连续随机变量的CDF. 通过随机变量的概率密度函数,可求得相应的分布函数：

概率密度函数
可由CDF经微商得到

对于连续随机变量, CDF是连续的

CDF的性质

随机变量{X
}的CDF
由下式定义,

对每一个

并且
具有下列性质.

- 是单调非减函数：

若
,　则

- 当
的时候,
趋于0, 当
的时候,
趋于1.

- 当 X
是离散随机变量的时候,
为 x
的阶梯函数.

- 当 X
是连续随机变量的时候,
为 x
的连续函数.

- 当 X
是离散随机变量并且取整数值时,分布函数和分布列可以利用求和或差分互求：

其中 k
可以是任意整数.

- 当 X
是连续随机变量的时候, 分布函数和概率密度函数可以利用积分或微分互求：

(第二个等式只在分布函数可微的那些点上成立.)

有时候, 为了计算随机变量的分布列或概率密度函数,首先计算随机变量的分布函数会更方便些. 在连续随机变量的情况下,我们将在4.1节中系统地介绍如何用该方法求随机变量的函数.下面是一个离散随机变量的计算例子.

例 3.6(几个随机变量的最大值)
你参加某种测试,按规定三次测试的最高成绩作为你的最终成绩. 设

其中
、
、
是三次测试的成绩,X
是你的最终成绩. 假定各次测试是相互独立的, 每次测试成绩是1分到10分之间, 并且
.现在求最终成绩 X
的分布列
.

我们采用间接方法求分布列. 首先计算 X
的CDF, 然后通过

得到 X
的分布列. 对于
, 我们有

此处第三个等式是由事件
、
、
相互独立所致.这样 X
的分布列为

本例的方法可推广到 n
个随机变量
的情况.如果对每一个 x
, 事件
相互独立,则
的CDF为

利用这个公式, 在离散情况下通过差分可得到
,在连续情况下通过微分可得到
.

几何和指数随机变量的分布函数

由于分布函数对一切随机变量都适用,我们可以利用它来探讨离散和连续随机变量之间的关系. 特别地,此处讨论几何随机变量和指数随机变量之间的关系.

设 X
是一个几何随机变量, 其参数为 p
,即 X
是在伯努利独立试验序列中直到第一次成功所需要的试验次数,而伯努利试验的参数为p
. 这样对于
我们有
, 而 X
的 CDF 为

现在设 X
是一个指数随机变量, 其参数
.其CDF是

现在比较两个分布函数, 令
, 这样

对于
分布函数
在
处与
在 n
处相等, 即

现在假定我们以很快的速度抛掷一枚不均匀的硬币(每
秒抛掷一次,
), 每次抛掷,正面向上的概率为
. 这样,第一次得到正面向上所抛掷的次数为 X
,第一次得到正面向上的时刻为
与参数为
的指数随机变量十分接近, 这只须看它们的分布函数即可(见图3.8).在第6章中, 讨论伯努利和泊松过程的时候, 这种关系显得特别重要.

图 3.8　几何随机变量和指数随机变量的分布函数之间的关系.图中离散分布函数为
的分布函数, X
是参数为
的几何随机变量. 当
时,
的分布函数趋于指数分布函数

3.3　正态随机变量

一个连续随机变量 X
称为正态
的或高斯
的,若它的概率密度函数具有下列形式(见图3.9)：

其中
和
是概率密度函数的两个参数,
还必须是正数.可以证明,
满足下面的概率密度函数的归一化条件(见本章末尾的习题)：

图 3.9　正态分布的概率密度函数和分布函数(
和
).由图中可以看出, 概率密度函数是相对于均值
对称的钟形曲线.当 x
离开
的时候, 概率密度函数的表达式中的项
很快地下降. 在图中,概率密度函数在区间[-1,3]之外非常接近于0

正态随机变量的均值和方差可由下式给出

由于 X
的概率密度函数相对于
对称, 其均值只能是
. 至于方差,依定义它由下式给出

将公式中的积分作积分变量替换
以及分部积分,得到

上面最后的等式是由于

这个公式是当
和
的时候的正态随机变量的概率密度函数的归一化条件.

正态随机变量具有若干重要的性质. 下面的性质尤其重要,并且将在4.1节中加以证明.

线性变换之下随机变量的正态性保持不变

设 X
是正态随机变量, 其均值为
, 方差为
.若
和 b
为两个常数, 则随机变量

仍然是正态随机变量, 其均值和方差由下式给出：

标准正态随机变量

设正态随机变量 Y
的期望为0, 方差为1,则 Y
称为标准正态随机变量
.以
记它的CDF(参看图3.10)：

通常将它的值列成一个表(见表3.1),这是计算有关正态随机变量的概率的重要的工具.

图 3.10　标准正态随机变量的概率密度函数
和相应的分布函数
.
的数值有表可查

表3.1　标准正态分布表

0.00

0.01

0.02

0.03

0.04

0.05

0.06

0.07

0.08

0.09

0.0

0.5000

0.5040

0.5080

0.5120

0.5160

0.5199

0.5239

0.5279

0.5319

0.5359

0.1

0.5398

0.5438

0.5478

0.5517

0.5557

0.5596

0.5636

0.5675

0.5714

0.5753

0.2

0.5793

0.5832

0.5871

0.5910

0.5948

0.5987

0.6026

0.6064

0.6103

0.6141

0.3

0.6179

0.6217

0.6255

0.6293

0.6331

0.6368

0.6406

0.6443

0.6480

0.6517

0.4

0.6554

0.6591

0.6628

0.6664

0.6700

0.6736

0.6772

0.6808

0.6844

0.6879

0.5

0.6915

0.6950

0.6985

0.7019

0.7054

0.7088

0.7123

0.7157

0.7190

0.7224

0.6

0.7257

0.7291

0.7324

0.7357

0.7389

0.7422

0.7454

0.7486

0.7517

0.7549

0.7

0.7580

0.7611

0.7642

0.7673

0.7704

0.7734

0.7764

0.7794

0.7823

0.7852

0.8

0.7881

0.7910

0.7939

0.7967

0.7995

0.8023

0.8051

0.8078

0.8106

0.8133

0.9

0.8159

0.8186

0.8212

0.8238

0.8264

0.8289

0.8315

0.8340

0.8365

0.8389

1.0

0.8413

0.8438

0.8461

0.8485

0.8508

0.8531

0.8554

0.8577

0.8599

0.8621

1.1

0.8643

0.8665

0.8686

0.8708

0.8729

0.8749

0.8770

0.8790

0.8810

0.8830

1.2

0.8849

0.8869

0.8888

0.8907

0.8925

0.8944

0.8962

0.8980

0.8997

0.9015

1.3

0.9032

0.9049

0.9066

0.9082

0.9099

0.9115

0.9131

0.9147

0.9162

0.9177

1.4

0.9192

0.9207

0.9222

0.9236

0.9251

0.9265

0.9279

0.9292

0.9306

0.9319

1.5

0.9332

0.9345

0.9357

0.9370

0.9382

0.9394

0.9406

0.9418

0.9429

0.9441

1.6

0.9452

0.9463

0.9474

0.9484

0.9495

0.9505

0.9515

0.9525

0.9535

0.9545

1.7

0.9554

0.9564

0.9573

0.9582

0.9591

0.9599

0.9608

0.9616

0.9625

0.9633

1.8

0.9641

0.9649

0.9656

0.9664

0.9671

0.9678

0.9686

0.9693

0.9699

0.9706

1.9

0.9713

0.9719

0.9726

0.9732

0.9738

0.9744

0.9750

0.9756

0.9761

0.9767

2.0

0.9772

0.9778

0.9783

0.9788

0.9793

0.9798

0.9803

0.9808

0.9812

0.9817

2.1

0.9821

0.9826

0.9830

0.9834

0.9838

0.9842

0.9846

0.9850

0.9854

0.9857

2.2

0.9861

0.9864

0.9868

0.9871

0.9875

0.9878

0.9881

0.9884

0.9887

0.9890

2.3

0.9893

0.9896

0.9898

0.9901

0.9904

0.9906

0.9909

0.9911

0.9913

0.9916

2.4

0.9918

0.9920

0.9922

0.9925

0.9927

0.9929

0.9931

0.9932

0.9934

0.9936

2.5

0.9938

0.9940

0.9941

0.9943

0.9945

0.9946

0.9948

0.9949

0.9951

0.9952

2.6

0.9953

0.9955

0.9956

0.9957

0.9959

0.9960

0.9961

0.9962

0.9963

0.9964

2.7

0.9965

0.9966

0.9967

0.9968

0.9969

0.9970

0.9971

0.9972

0.9973

0.9974

2.8

0.9974

0.9975

0.9976

0.9977

0.9977

0.9978

0.9979

0.9979

0.9980

0.9981

2.9

0.9981

0.9982

0.9982

0.9983

0.9984

0.9984

0.9985

0.9985

0.9986

0.9986

3.0

0.9987

0.9987

0.9987

0.9988

0.9988

0.9989

0.9989

0.9989

0.9990

0.9990

3.1

0.9990

0.9991

0.9991

0.9991

0.9992

0.9992

0.9992

0.9992

0.9993

0.9993

3.2

0.9993

0.9993

0.9994

0.9994

0.9994

0.9994

0.9994

0.9995

0.9995

0.9995

3.3

0.9995

0.9995

0.9995

0.9996

0.9996

0.9996

0.9996

0.9996

0.9996

0.9997

3.4

0.9997

0.9997

0.9997

0.9997

0.9997

0.9997

0.9997

0.9997

0.9997

0.9998

表中的数据为标准正态分布函数的函数值
,其中 Y
为标准正态随机变量, y
的变化范围为
. 例如要查找
的值,我们只需在1.7这一行中找与0.01对应那一列的数值.故
. 当 y
为负值的时候,可利用公式
计算
的值

表中列出的数据为
的值(
),利用标准正态随机变量的概率密度函数的对称性,可将
时
的值推导出来. 例如

更一般地, 我们有

对一切 y
成立.

现在设 X
是正态随机变量, 期望为
, 方差为
.将 X
标准化成为新的随机变量 Y
:

由于 Y
是 X
的线性函数, 所以 Y
也是正态随机变量. 进一步,

这样, Y
就是一个标准正态随机变量. 利用这个事实,可以计算关于 X
的事件的概率. 将关于 X
的事件化成由 Y
表达的事件,再利用标准正态分布表, 就可以计算 关于 X
的事件的概率.

例 3.7(利用正态分布函数表)
某地区的年降雪量是一个正态随机变量,期望为60英寸,标准差
英寸, 本年降雪量至少为80英寸的概率有多大？

记 X
为年降雪量, 令

显然 Y
是标准正态随机变量.

其中
为标准正态分布函数. 通过查表得

故

将上面的方法进行总结, 得到如下结果.

关于正态随机变量的CDF的计算

利用标准正态分布表计算正态随机变量 X
的分布函数(X
的均值为
,方差为
), 下面分两部分进行：

(a) 将 X
标准化, 即减去
,再除以
得到标准正态随机变量 Y
.

(b) 从标准正态分布表查得CDF的值：

其中 Y
是标准正态随机变量.

在信号处理和通信工程中通常将噪声看成一个随机变量, 它加在信号上面,使之变形. 下面是一个典型的例子.

例 3.8(信号检测)
记一个传输的信号为 S
, S
=1 或 S
=-1. 由于通信误差,在接收端得到的是加有噪声的信号, 噪声 N
是一个正态随机变量, 均值为
, 方差为
. 如果 接收端得到的混有噪声的信号大于0,则判断信号 S
=1; 如果 接收端得到的混有噪声的信号小于0,则判断信号 S
=-1(见图3.11). 问这种判断方法的误差有多大？

图 3.11　例3.8中信号检测问题的图示.图中阴影部分的面积分别表示传输的信号为-1和+1时发生误传的概率

当传输方传输的信号为 S
=-1, 而噪声 N
>1, 此时 S
+N
=N
-1>0,接收方误判为 S
=+1. 当传输方传输的信号为 S
=1, 而噪声
,此时
, 接收方误判为 S
=-1. 因此, 当 S
=-1的时候,误判概率为

由对称性可知, 若发送的信号为 S
=+1,其相应的误判概率也是
.而
可通过查表得到, 例如当
的时候,
, 判断误差的概率为0.158 7.

正态随机变量在概率论中起着十分重要的作用.其原因是在物理、工程和统计中,许多随机量是由许多独立效应叠加而成的. 而数学上,又有这样的事实：大量的独立同分布的随机变量(不必为正态)的和的分布近似地服从正态分布,而这个事实与各个和项的具体的分布是无关的.
这个事实就是著名的中心极限定理.
我们将在第5章讨论此内容.

3.4　多个随机变量的联合概率密度

现在将PDF的概念推广到多个随机变量的情况. 与离散的情况相似,我们将引进联合、边缘以及条件PDF的概念, 其直观解释和主要性质与离散情况完全平行.

设 X
和 Y
为在同一个试验中的两个随机变量.若它们存在联合概率密度函数,则称 X
和 Y
是联合连续的
. 那么联合概率密度函数是如何定义的呢？非负的二元函数
称为 X
和 Y
的联合概率密度函数
,如对任意的平面上的二元集合 B
, 下式成立：

上式的积分是二重积分, 积分区域为 B
. 特别地,若
, 则上式变成

进一步, 若令 B
为全部二维平面, 就可以得到密度函数的归一化条件

为解释联合概率密度函数的意义, 取
为一个充分小的正数,考虑
落入一个小方块内的概率

我们可以将
看成
落入
附近单位面积中的概率.

联合概率密度函数包含了所有关于
的取值概率的信息,包括它们之间的相互依赖的信息. 利用它,我们可以计算任何由
所刻画的事件的概率. 作为特殊情况,我们可以计算单独一个随机变量( X
或 Y
)所刻画的事件的概率. 例如,令 A
为一个实数的集合, 考虑事件
. 我们有

与下面的公式比较

就可以知道,X
的边缘概率密度函数
由下式给出

类似地可得

例 3.9(二维均匀概率密度函数)
罗密欧和朱丽叶约定在某时某地约会, 但是每个人都会延迟,延迟时间在0至1小时之间(见1.2节的例子).令 X
和 Y
分别为罗密欧和朱丽叶迟到的时间. 假定他们迟到的时间
在单位正方形中是等可能的.这样
的联合概率密度函数就很自然地定为

其中 c
是一个常数. 由于概率密度函数满足归一化条件

由此可以确定

这是一个联合均匀概率密度函数的例子. 更一般地,令 S
是二维平面上的一个子集.在子集 S
上的联合均匀概率密度函数是由下式定义的：

对 S
的任何子集 A
,
落入区域A
的概率为

例 3.10
设 X
和 Y
是在平面中集合 S
上的均匀随机变量,即它们的联合概率密度函数在集合 S
上为常数 c
, 在集合 S
之外为0.而S
的形状如图3.12所示. 现在希望求出概率密度函数中的常数 c
以及 X
和 Y
的边缘概率密度函数.

图 3.12　例3.10中的联合概率密度函数和相应的边缘概率密度函数.

由图所示, S
的面积为4, 这样
.现在求 X
的边缘概率密度函数
, 我们只需固定 x
的值,将联合概率密度函数对 y
进行积分, 就可以得到
的值.最后的结果都列于图3.12中.
的计算是类似的.

例 3.11(布丰的抛针试验)
3
这是一个著名的例子,几何概率由此发源. 所讨论的问题是对随机放置的对象的几何性质的分析.

3
这个问题为法国自然学家布丰于1777年提出并解决. 此后,出现许多类似的问题,包括拉普拉斯(1812年)提出的向具有网格的平面上丢针问题(见本章末尾的习题). 这个问题引起了科学家的兴趣,并且作为以试验产生
的主要手段. 据说, 在美国内战的时候,有一个名为福克斯的陆军上尉在养伤的时候用针进行抛掷试验, 以获得
的值. 在互联网上也有人利用布丰的想法,他们用几个图形模拟程序计算
的值.

在平面上画了若干条平行线, 相互之间的距离为 d
(见图 3.13).现在往平面上随机地抛掷一根针, 针的长度为 l
.问针与直线相交的概率有多大？

我们假定
, 这样针不会同时与两条直线同时相交.令 X
为针的中点离最近的那一条直线的垂直距离,
表示针与平行直线之 间的夹角(见图3.13).我们假定
的联合概率密度函数为矩形集合
上的联合均匀概率密度函数.因此

由图3.13可以看出, 针与平行直线相交的充要条件为

其相应的概率为

我们也可利用试验来估计针与平行直线相交的概率.其方法是重复大量的抛掷针的试验,将针与平行直线相交的频率作为这个概率的估计值.由于这个概率值等于
, 这种方法也同时提供了
的经验估值的方法.

图 3.13　布丰的抛针试验. 设针的中点与最靠近的平行线的距离为 x
,针的中点与针所在直线与平行线的交点之间的距离为
.显然针与平行线相交的充要条件为

3.4.1　联合分布函数

设 X
和 Y
是在同一个试验中的两个随机变量.我们定义它们的联合分布函数为

与一个变量的分布函数一样, 它既适用于离散随机变量,也适用于连续随机变量. 特别地,若
具有联合概率密度函数(简称联合PDF)
, 则

反过来, 联合概率密度函数也可从联合分布函数通过求微商得到：

例 3.12
设 X
和 Y
为单位正方形上的联合均匀随机变量.其联合分布函数为

对
.

这样, 对于单位正方形中的
,

3.4.2　期望

设 X
和 Y
为联合连续随机变量, g
是一个函数,则
也是一个随机变量.在4.1节中我们将讨论 Z
的概率密度函数的计算方法(如果 Z
有概率密度函数). 现在我们必须指出,计算期望的期望规则仍 然有效. 因此

作为一种重要的特殊情况, 对于常数 a
, b
, c
, 我们有

3.4.3　多于两个随机变量的情况

三个随机变量 X
、Y
、Z
的联合概率密度函数的定义与两个随机变量的情况是完全相似的.例如, 满足下列条件

(B为任意三元集合)

的非负函数
就是 X
、Y
、Z
的联合概率密度函数.下列类型的关系都是成立的：

计算随机变量
的期望的规则是

若 g
是一个线性函数
, 则

若涉及的随机变量的个数多于三个, 相应的改变是明显的. 例如,对于随机变量
, 我们有

多元连续随机变量性质的小结

令 X
和 Y
为联合连续随机变量, 其联合概率密度函数为
.

- 利用联合概率密度函数
可以进行概率计算：

- X
和 Y
的边缘概率密度函数可利用联合概率密度函数进行计算得到：

- 联合分布函数
由公式
定义,并且, 在联合概率密度函数的连续点上, 下面的公式成立：

- X
和 Y
的函数
定义了一个新的随机变量, 并且

若 g
是一个线性函数
, 则

- 上面的结论能够很自然地推广到多于两个随机变量的情况.

3.5　条件

与离散随机变量的情况相似,可以以一个随机事件或另一个随机变量为条件, 讨论随机变量的特性,并在此基础上建立 条件概率密度函数和条件期望的概念.各种定义和公式都与离散的情况平行, 且其意义的解释也都是类似的.在连续情况下, 还会遇到以零概率事件
为条件的情况,这在离散情况下是无法处理的.

3.5.1　以事件为条件的随机变量

一个连续随机变量 X
在给定事件
发生的条件下的条件概率密度函数

是这样定义的：它是一个非负函数,并且对一切直线上的集合 B
, 满足

特别地, 当 B
取成全部实数集合的时候, 得到归一化等式

这说明
是一个合格的概率密度函数.

当我们将事件 A
取成
的形式以后(
),由条件概率的定义得到

将这个式子与前面的关于条件概率密度函数的定义比较, 可知

与离散情况相同, 条件概率密度函数在条件集合外边的取值为0.在条件集合内部, 条件概率密度函数与无条件概率密度函数具有相同的形状, 唯一的差别是条件概率密度函数还有一个归一化因子
. 归一化因子
使得
的积分为1,从而
成为一个合格的概率密度函数(见图3.14). 这样,条件概率密度 函数与通常的概率密度函数一样, 不过它将已经发生的事件
作为随机试验的全空间.

例 3.13(指数随机变量的无记忆性)
一个灯泡的使用寿命 T
是一个指数随机变量,其参数为
. 阿丽将灯打开后离开房间,在外面呆了一段时间以后(时间长度为 t
), 她回到房间, 灯还是亮着.这相当于事件
发生了. 记 X
为灯泡的剩余寿命,问 X
的条件分布函数是什么？实际上 X
是在 A
发生的条件下的寿命,我们有

此处我们利用了3.2节中得到的指数随机变量的分布函数的公式.

图 3.14　无条件概率密度函数
和条件概率密度函数
,其中 A
是区间
. 注意在集合 A
内,
的形状与
保持一致,除了在 y
轴方向有一个比例因子

灯泡的剩余寿命 X
的分布函数是指数分布, 其参数也是
,这和灯泡已经亮了多少小时是无关的. 指数分布的这个性质就是指数分布的无记忆性
. 一般地,若将完成某个任务所需要的时间的分布 定为指数分布,那么只要这个任务没有完成,要完成这个任务所需要的剩余时间的分布仍然是指数分布,并且其参数也是不变化的.

当涉及多个随机变量的时候, 相应地有联合条件概率密度函数. 例如,设 X
和 Y
是联合连续随机变量, 其联合概率密度函数为
.设作为条件的正概率事件为
,X
和 Y
的联合条件概率密度函数为

此时 X
的相对于条件 C
的条件概率密度函数可从联合条件概率密度函数得到

这两个公式说明, 当刻画条件的事件不具有形式
,而是通过多元随机变量表达的时候,X
的条件概率密度函数可通过联合条件 概率密度函数得到.

最后我们介绍全概率定理的条件概率密度函数版本.设
是样本空间的一个分割, 则

为验证这个公式, 我们只需利用第1章的全概率定理, 得到

将这个公式写成积分形式

再在两边对 x
求导数, 就得到所需的结果.

以事件为条件的条件概率密度函数

- 对于给定的事件 A
(
),连续随机变量 X
的条件概率密度函数
是满足下列条件的函数：

其中 B
是实数轴上的任意集合.

- 设 A
是一个实数集合, 满足条件
, 则

- 设
为互不相容的 n
个事件, 对每个 i
,
, 并且这些事件形成样本空间的一个分割. 则

(全概率定理的一种变形).

下面的例子用全概率公式来计算概率密度函数.

例 3.14
你家离城铁车站比较近. 已知从早晨6:00开始,每一刻钟有一列车进入城铁车站.而你步行到达城铁车站的时刻为7:10到7:30之间, 并且到达时刻是[7:10,7:30]上均匀分布的随机变量. 求你在车站上等车时间的概率密度函数.

记 X
为你到达车站的时刻, X
的分布为[7:10,7:30]上均匀随机变量(见图3.15a). 记 Y
为等待时间.我们利用全概率公式计算 Y
的概率密度函数
. 记

事件 A
发生的条件下,你到达车站的时刻 X
是在[7:10,7:15]上均匀随机变量.这样你等待时间 Y
是在0分到5分之间的均匀 随机变量(见图3.15b).类似地, 在 B
的条件之下, Y
是在0分到15分之间的均匀随机变量(见图3.15c). 利用全概率定理的变形,Y
的概率密度函数为

(见图3.15d). 这样

图 3.15　例3.14中的概率密度函数
和

3.5.2　一个随机变量对另一个随机变量的条件

设 X
和 Y
为联合连续随机变量, 其联合概率密度函数为
.对任何满足
的 y
值, 在给定
的情况下, X
的条件概率密度函数
由下式定义：

这个定义与离散情况下的公式
完全相似.

在考虑条件概率密度函数的时候, 最好将 y
值固定下来,并将
看成 x
的函数. 作为 x
的函数,条件概率密度函数
与联合概率密度函数
具有相同的形状,这是因为它们仅相差一个与 x
无关的常数因子
(见图3.16).另外,

暗示了归一化性质

所以, 对任何固定的 y
值
,
是一个合格的概率密度函数.

图 3.16　条件概率密度函数
的直观解释.设 X
和 Y
的联合概率密度函数是在 S
上的均匀概率密度函数.对固定的 y
值, 我们将联合概率密度函数沿
这一片进行归一化使得它的积分等于1

例 3.15(圆上的均匀概率密度函数)
本在玩一个掷飞标游戏,靶是一个半径为 r
的圆板(见图3.17). 我们假定飞标总是掷向目标,而每一个落点
是等可能的.所以作为落点的
的联合概率密度函数是圆上的均匀概率密度函数.根据例3.9,X
和 Y
的联合概率密度函数为

图 3.17　例3.15中的圆形靶

现在计算条件概率密度函数
.为此先计算边缘概率密度函数
. 对于
,
.对于
, 通过下列计算得到
的值：

注意, Y
的边缘概率密度函数不是均匀的.

X
的条件概率密度函数为

这样, 对固定的 y
, 条件概率密度函数
是均匀的概率密度函数.

现在来解释条件概率密度函数的概率意义.令
和
是两个小的正数,考虑条件
. 我们有

换言之,
就是在给定
的条件之下,X
属于小的区间
的概率.由于
并不依赖于
,我们可以将
认为是当
的极限情况,即

(
较小),

更一般地,

在第1章中, 给定零概率事件
, 相应的条件概率是没有定义的. 但是,上述公式给出了以零概率事件为条件的条件概率的一个自然的定义. 此外,条件概率密度函数
(作为 x
的函数)可以解释为 X
的在给定
之下的概率律.

正如离散情况一样,我们可以利用条件概率密度函数
和边缘概率密度函数
计算相应的联合概率密度函数
.事实上, 为了刻画一个概率律, 我们并不需要直接列出联合概率密度函数
, 通常只需先给出 Y
的概率律
,然后给出已知
的情况下 X
的(条件)概率密度函数
.

例 3.16
一辆汽车正在通过交通测速雷达, 汽车的速度是一个随机变量 X
.通常假定 X
是一个指数随机变量, 其平均值为每小时50英里.而测速雷达的测量值 Y
是带有误差的. 测量误差为正态随机变量,其均值为0, 标准差为车速的1/10.X
和 Y
的联合概率密度函数是什么？

根据题意, X
的边缘概率密度函数为

而对于固定的
, 测量值 Y
的条件概率密度函数为正态概率密度函数,其期望为 x
, 方差为
. 这样

从而, X
和 Y
的联合概率密度函数为

以另一个随机变量为条件的条件概率密度函数

设 X
和 Y
为联合连续随机变量,其联合概率密度函数为
.

- X
和 Y
的联合、边缘和条件概率密度函数是相互关联的.它们的关系用下面的公式表示

条件概率密度函数
只在集合
上有定义.

- 关于条件概率, 我们有

对于多个随机变量的情况, 其推广是很自然的.例如可定义如下的条件概率密度函数：

对一切
成立,

对一切
成立.

对于概率密度函数, 相应的乘法规则也是成立的：

本节中的其他公式, 也可推广到多个变量的情况.

3.5.3　条件期望

对于连续随机变量 X
,给定事件 A
的条件期望

的定义与无条件期望的定义相似,不过现在我们利用条件概率密度函数
来定义. 类似地,条件期望
是通过条件概率密度函数
进行定义的.关于期望的各种性质可以原封不动地搬到 条件期望中来. 要注意的是,此处所有的公式与离散情况的公式是完全相似的,只是将离散情况下的求和号变成积分号, 分布列改成 概率密度函数.

条件期望性质的小结

记 X
和 Y
为联合连续随机变量, A
是满足
的事件.

- X
在给定事件 A
之下的条件期望由下式定义

给定
之下的条件期望由下式定义

- 期望规则
仍然有效：

- 全期望定理
：设
为互不相容的 n
个事件, 对每个 i
,
, 并且这些事件形成样本空间的一个分割. 则

相似地,

- 涉及几个随机变量的函数的情况, 具有完全相似的结果. 例如

关于期望规则的证明与无条件期望规则的证明完全相同,在此不予重复论证. 现在我们验证全期望定理. 对于第一个公式,利用全概率定理

在两边乘 x
, 然后在
上积分,便得到全期望定理的第一个公式.

关于全期望定理的第二个公式, 可从下面一系列等式得到：

全期望定理可用于随机变量的期望、方差和各阶矩的计算.

例 3.17(阶梯形概率密度函数的均值和方差)
假定 X
的概率密度函数为下列的阶梯函数

(见图3.18). 现在记

利用 X
的概率密度函数, 得到

图 3.18　例3.17中的阶梯形概率密度函数

此外,我们还可以利用 X
的条件概率密度函数计算 X
在
和
之条件下的均值和二阶矩.由于
和
都是均匀概率密度函数, 从例3.4的结论可知,区间
上具有均匀分布的随机变量的均值是
,二阶矩是
, 于是

现在利用全期望定理, 得到

X
的方差为

本例的方法可以推广到多于两段的阶梯形概率密度函数的期望和方差的计算.

3.5.4　独立性

与离散的情况完全相似,若两个连续随机变量 X
和 Y
的联合概率密度函数是它们各自的边缘概率密度函数的乘积,即

对一切 x
和 y
成立,

则称 X
和 Y
相互独立
. 比较公式
可知, 独立性条件与下式是等价的 ：

对一切 x
和满足
的 y
成立.

基于对称性, 下列条件也与独立性条件等价：

对一切 y
和满足
的 x
成立.

自然地,两个随机变量的相互独立性的概念可以推广到多个随机变量的相互独立性.例如设 X
、Y
、Z
为三个联合连续随机变量. 若它们的联合概率密度函数具有下面的表达式

对一切 x
、y
、z
成立,

则称它们是相互独立的.

例 3.18(独立的正态随机变量)
设 X
和 Y
是相互独立的正态随机变量,其期望和方差分别为
、
和
、
.它们的联合概率密度函数为4

4
式中
表示指数函数
.——编者注

联合概率密度函数的形状像一口钟, 中心在
但是这口钟不是圆形的钟,在 x
轴和 y
轴方向上的宽度分别与
和
成正比.为了对概率密度函数有一个直观的了解, 我们考虑这口钟的等高线,即
平面上, 概率密度函数等于某个常数的点的集合.这些等高线可以由下列方程 表示：

=常数.

这些等高线都是以
为中心的椭圆,它们的长轴和短轴分别平行于两个坐标轴 (见图3.19). 哪个轴为长轴,要看
和
的大小.若
,则等高线为圆.

图 3.19　相互独立的正态随机变量 X
和 Y
的联合概率密度函数的等高线,分布的期望和方差分别为
、
和
、

若 X
和 Y
相互独立,则任何两个形如
和
的事件是相互独立的.事实上,

特别地, 独立性蕴涵

这些结论的逆命题也是成立的, 见本章末尾的习题. 性质

对一切
x
和 y
成立

可以作为两个随机变量相互独立的一般定义, 即使是 X
为离散,Y
为连续的情况, 这个定义也是适用的.

相似于离散的情况, 可以证明：若 X
与 Y
相互独立,则对任意函数 g
和 h
, 下式成立：

最后, 独立
随机变量之和的方差等于它们的方差之和.

连续随机变量的相互独立性

令 X
和 Y
为联合连续随机变量.

- 若

对一切 x
和 y
成立,

则 X
和 Y
相互独立
.

- 若 X
和 Y
相互独立,则

进一步地, 对于任意函数 g
和 h
,随机变量
和h(Y) 也是相互独立的, 于是

- 若 X
和 Y
相互独立, 则

3.6　连续贝叶斯准则

在许多实际问题中, 我们会遇到未观察到的对象.用一个随机变量 X
代表这种未观察到的量, 设其概率密度函数为
.我们能够观察的量是经过噪声干扰的量 Y
, Y
的分布律是条件分布律,其条件概率密度函数为
. 当 Y
的值被观察到以后,它包含 X
的多少信息呢？ 这类问题与1.4节处理的推断问题类似,在1.4节, 我们用贝叶斯准则解决推断问题(见图3.20).现在唯一的不同之处是我们处理的 是连续随机变量.

图 3.20　推断问题的框图. 我们有一个未观察到的随机变量 X
,其概率密度函数
是已知的, 同时我们得到一个观察随机变量 Y
,其条件概率密度函数为
. 给定 Y
的观察值 y
,推断问题化解成条件概率密度函数
的计算问题

注意, 当观察到事件
以后,所有的信息都包含在条件概率密度函数
中.现在只须计算这个条件概率密度函数.利用公式
可以得到

这就是我们所求的公式.由于归一化性质
与之等价的表达式为

例 3.19
通用照明公司生产一种灯泡, 已知其使用寿命 Y
为指数随机变量,其概率密度函数为
. 按过往经验,在任意给定的一天参数
实际上是一个随机 变量,其概率密度函数为区间[1,3/2]上的均匀分布. 现在取一只灯泡进行试验,得到灯泡的寿命数据. 得到数据以后,对于
的分布有什么新的认识？

我们将
看成一个随机变量
,作为对
的初始认识,
的概率密度函数是

当得到数据 y
以后,关于
的信息包含于条件概率密度函数
中,利用连续贝叶斯准则, 得到

3.6.1　关于离散随机变量的推断

在实际问题中, 未观察到的随机变量可能是离散的随机变量. 例如,在通信问题中传输的信号是一个二进制的信号, 经过传输以后,混入的噪声是正态随机变量, 这样,观测到的随机变量就是连续的随机变量; 或者在医疗诊断中, 我们观察到的量是也是连续的测量值, 例如体温或血液样本中的指标.这种情况下我们需要将贝叶斯准则作适当的改变.

现在我们研究一种特殊情况, 未观察到的是一个事件 A
.我们不知道 A
是否发生了. 事件 A
的概率
是已知的.设 Y
是一个连续的随机变量, 并且假定条件概率密度函数
和
是已知的.我们感兴趣的是事件 A
的条件概率
.这个量代表得到观察值 y
以后关于事件 A
的信息.

由于事件
是一个零概率事件,我们转而考虑事件
,其中
是一个很小的正数, 然后令
趋向于0.利用贝叶斯准则, 假定
我们得到

利用全概率定理, 可将上式的分母写成

这样, 得到

现在令事件 A
具有形式
, 其中 N
是一个离散随机变量,代表未观察到的随机变量. 记
为 N
的分布列. 令 Y
为连续随机变量,对任意 N
的取值 n
, Y
具有条件概率密度函数
.这样上面的公式变成

利用下面的全概率定理

得到

例 3.20
设 S
是一个只取两个值的信号. 记
和
.在接收端, 得到的信号为
, 其中 N
是一个正态噪声, 期望为0,方差为1, 并且与 S
相互独立. 当观察到的信号为 y
的时候,S
=1的概率是多少？

对于给定的 S
=s
, Y
是一个正态随机变量, 期望为 s
, 方差为1.应用刚才得到的公式

将上式简化得

注意,
当
时趋于0, 当
时趋于1,y
在实数轴上变化时,
是 y
的严格上升函数,这符合直观的理解.

3.6.2　基于离散观察值的推断

与前面的情况相反, 现在观察值是离散的.我们可以反解前面的关于
的公式, 得到

利用归一化性质
其相应的等价的表达式为

这个公式可以用于对 Y
的推断. 当事件 A
发生的时候,全部关于 Y
的信息都包含在这个条件概率密度函数中.当事件 A
具有
的形式的时候, 可以得到相应的公式,其中 N
是一个观察到的离散随机变量,该离散随机变量在条件分布列
下依赖于 Y
.

连续随机变量的贝叶斯准则

令 Y
为连续随机变量.

- 若 X
为连续随机变量, 我们有

和

- 若 N
为离散随机变量, 我们有

得到的贝叶斯公式为

和

- 对于事件 A
, 关于
和
具有类似的贝叶斯公式.

3.7　小结和讨论

通常用概率密度函数来刻画连续随机变量.连续随机变量的概率密度函数用于计算由随机变量刻画的事件.概率密度函数与离散情况下的分布列的作用完全相同, 唯一的区别是计算概率的时候, 它使用积分计算,而离散的情况下使用求和进行计算.联合概率密度函数的作用与离散情况下的联合分布列一样,均用于计算由多个随机变量刻画的事件的概率. 条件概率密度函数用于计算给定条件随机变量的值的情况下的条件概率.条件概率的一个重要的应用是推断问题.本章介绍了各种各样的用于推断的贝叶斯准则.

在概率模型中, 有许多十分重要的连续随机变量. 本章介绍了几个分布,并且在下面列出了它们的重要的特性指标：期望和方差.

连续随机变量的某些结果

[a
,b
]上的连续均匀随机变量

分布参数为
的指数随机变量

分布参数为
和
的正态随机变量

本章也引入了分布函数的概念. 分布函数可以刻画一般的随机变量,它涵盖了连续和离散的随机变量,也可用于刻画既非连续又非离散的随机变量.因此分布函数的概念更加一般. 在离散的情况下,我们可将分布函数进行差分, 得到分布列; 在连续情况下,将分布函数微分, 得到概率密度函数.

习题

3.1 节　连续随机变量和概率密度函数

1
. 设 X
为区间[0,1]上的均匀分布的随机变量.考虑随机变量
, 其中

首先求出 Y
的分布列, 然后利用期望的计算公式求出 Y
的期望.用期望规则验证计算结果.

2. 拉普拉斯随机变量
. 设 X
的概率密度函数为

其中
为分布的正参数. 验证
的归一化条件,并计算 X
的均值和方差.

3
.* 对于离散或连续随机变量 X
, 证明下式成立

解
先假定 X
是连续随机变量. 我们有

其中第二个等式是交换积分次序的结果,在交换次序的过程中利用了集合等式
. 类似地, 可以证明

利用上述两个等式, 可以得到所需的结果.

其次, 设 X
是离散随机变量, 此时

其余部分的证明与连续情况完全相似.

4
.* 证明下列期望规则：

其中
是连续随机变量 X
的概率密度函数.

解
将函数 g
写成两个非负函数的差：

其中
,
. 对于
,
与
是等价的.

现在利用习题3的结果

上式右边的第一项等于

利用对称性, 对于右边的第二项有

将两个结果合并, 得到

3.2 节　分布函数

5
. 按照均匀分布律, 在一个三角形内随机地取一个点.设已知三角形的高, 求这个点到底边的距离 X
的分布函数和概率密度函数.

6
. 简去银行取款, 有1个或0个顾客在她前面,这两种情况是等可能的. 已知一个顾客的服务时间是一个指数随机变量,参数为
. 简等待时间的分布函数是什么？

7
. 阿尔文在进行投飞标游戏, 飞标的靶是一块半径为 r
的圆板.记 X
为飞标的落点到靶心的距离. 假定落点在靶板上均匀地分布.

(a)
求出 X
的概率密度函数、均值和方差.

(b)
靶上画了一个半径为 t
的同心圆. 若
, 阿文尔的得分为
,其他情况 S
=0. 求出 S
的分布函数. S
是不是连续随机变量？

8
. 设 Y
和 Z
是两个连续随机变量.随机变量 X
以概率 p
等于 Y
, 以概率
等于 Z
.

(a)
证明 X
的概率密度函数为

(b)
求出双边指数随机变量的分布函数, 双边指数随机变量的概率密度函数为

其中
,
.

9.* 混合随机变量
. 有时候,一个概率模型可以看成一个离散随机变量 Y
和一个连续随机变量 Z
的混合.例如, X
以概率 p
取 Y
值, 以概率
取 Z
值. 这样,称 X
为混合随机变量
,利用全概率定理可得到 X
的分布函数

通过全期望定理, 可求得 X
的期望值

阿尔家附近有一个公共汽车站和一个出租汽车站, 两个站是在一起的.阿尔出门的时候, 若车站有出租车等着(这种机会的概率为2/3),他就上出租车; 不然 他就在站上等车, 来出租车就上出租车,来公共汽车就上公共汽车, 先到先上.已知出租车将在0~10分钟内到达, 等待时间是在(0,10)分钟之间均匀分布的. 而等待下一趟公共汽车的时间是5分钟.求阿尔等待时间的分布函数和期望值.

解
记 A
表示当阿尔到达车站的时候有一辆出租车等着他或者他在车站上等5分钟以后,登上公共汽车. 当阿尔必须等车的条件下,阿尔登上公共汽车的概率为

P(出租车在5分钟后到达)=1/2.

阿尔的等车时间 X
是一个混合随机变量. 以概率

等于离散随机变量 Y
(相当于或者出租车在站上等着或者登上公共汽车).Y
的分布列为

通过下列计算得到
的值：

的计算是类似的. ]与概率
相对应的随机变量 Z
(相应于到达车站以后, 必须等车,但5分钟内到达一辆出租车)的概率密度函数为

这样,X
的分布函数
由下式给出

阿尔的平均等车时间为

10.* 模拟一个连续随机变量
. 计算机有一个产生[0,1]上均匀分布的随机变量 U
的程序.利用这个程序可以产生一个连续随机变量 X
, 而 X
的分布函数为
.设 U
产生一个数 u
, 相应 X
的取值 x
为满足方程
的解.为简单起见, 我们假定分布函数
在
上严格上升.这个假定条件可以保证对每一个
, 唯一地对应一个 x
,使得
.

(a)
证明如此生成的 X
, 其分布函数的确为给定的
.

(b)
利用这种方法模拟产生一个指数随机变量, 其参数为
.

(c)
如何利用这种方法模拟产生一个离散的整数值随机变量？

解

(a)
根据产生规则, X
和 U
应该满足关系式
.由于 F
是单调的, 对每一个 x
的值,

的充要条件为

这样

上式的最后一个等式是利用了 U
是一个均匀随机变量的特性.这样 X
的分布函数就是事先确定的
.

(b)
指数分布函数具有形式
. 为生成 X
, 首先产生一个单位区间(0,1)上的均匀随机变量 U
的一个值 u
. 之后只需解方程
. 这个方程的解为
.5

5
与 x
相应的随机变量 X
的分布函数为
.——译者注

(c)
设 F
是离散的取整数值的随机变量的分布函数. 对于每一个
, 存在唯一的一个整数
, 满足
. 这相当于定义了随机变量 X
作为随机变量 U
的 一个函数. 对每一个整数 k
,

如此构造的随机变量 X
的分布函数就是事先指定的 F
.

3.3 节　正态随机变量

11
. 设 X
和 Y
是两个正态随机变量, 其均值分别为0和1,方差分别为1和4.

(a)
求
和
.

(b)
求
的概率密度函数.

(c)
求
.

12
. 设 X
是正态随机变量, 其均值为0, 标准差为
.利用正态分布函数表计算
和
,
.

13
. 设某个城市的气温为正态随机变量,其均值和标准差均为10
. 问在给定的时刻气温不高于59
的概率有多大？

14
.* 证明正态概率密度函数的归一化性质.提示：
积分
的值等于积分

的平方根, 而后面的积分可以通过积分变换化成极坐标系内的积分.

解
注意下面的等式：

此处, 第三个等式是将积分变成极坐标中的积分的结果.第五个等式是作变量替换
的结果.这样我们得到(因为这个积分是非负的)

现在利用变量替换
, 得到

3.4 节　多个随机变量的联合概率密度

15
. 在半圆周
内按均匀分布随机地取一个点
(这里
,是固定的正数).

(i) 求出
的联合概率密度函数.

(ii) 求出 Y
的边缘概率密度函数,并利用它求出
.

(iii) 不用边缘概率密度函数,利用期望规则直接计算
.

16
. 考虑下面的布丰抛针问题(例3.11)的变形,这是拉普拉斯研究过的问题. 在坐标平面上画上格子,水平线之间的距离为 a
, 垂直线之间的距离为 b
.现在往平面上丢一根长度为 l
的针, 不妨假定
和
成立.针与格子相交的边数的期望值是多少？针与至少一条边相交的概率是多少？

17.* 利用另一个随机变量的样本估计一个随机变量的期望值
.设
为来自概率密度函数
的一个样本.令 S
为
的所有可能值的集合, 即
.令 X
的概率密度函数为
. 假定对一切
,均有
. 考虑随机变量

证明

解
我们有

这样,

3.5 节　条件

18
. 设 X
是一个随机变量, 其概率密度函数为

令
.

(a)
计算
、
、
、
.

(b)
令
. 计算
和
.

19
. 设 X
是一个随机变量, 其概率密度函数为

(a)
确定常数 c
.

(b)
令
. 计算
和 X
在 A
发生的条件下的条件概率密度函数.

(c)
令
. 计算 Y
在 A
发生的条件下的条件期望和条件方差.

20
. 一个粗心的教授错误地将两个学生的答疑时间安排在了同一时刻.已知两位同学的答疑时间长度是两个相互独立并且同分布的随机变量.其共同的分布是指数分布, 期望值为30分钟. 第一个学 生按时到达,5分钟以后, 第二个学生也到达.从第一个学生到达起直到第二个学生离开所需时间的期望值是多少？

21
. 我们从一根长度为 l
的杆开始,在杆上按均匀分布找一个点, 以这个点为切断点, 将杆分为两半.我们保留杆的左边部分. 设这部分的长度为 X
.对于长度为 X
的这一根杆, 重复这一切断的过程,设第二次切断后保留下来的部分的长度为 Y
.

(a)
求出 X
和 Y
的联合概率密度函数.

(b)
求 Y
的边缘概率密度函数.

(c)
利用 Y
的边缘概率密度函数计算
.

(d)
利用关系式
计算
.

22
. 我们有一根长度为1的杆,利用下面3种不同的方法将杆截成3段.

(i) 利用均匀分布在杆上随机且相互独立地取两个点,在这两个点处将杆截断.

(ii) 首先,在杆上按均匀分布随机地取一点, 在这个点处将杆截断.然后将右端这一截如法炮制, 还是按均匀分布随机地找一点, 在这个点处将这一截再分成两段.

(iii) 首先, 在杆上按均匀分布随机地取一点,在这个点处将杆截断. 然后将较长的那一截如法炮制,还是按均匀分布随机地取一点, 在这个点处将这一截再分成两段.

对这三种方法的每种方法, 分别求出截成小段后杆能组成一个三角形的概率.

23
. 设在直角坐标系中三个点(0,0)、(0,1)、(1,0)组成一个三角形.假定
是一个随机点的坐标, 这个随机点是在三角形上均 匀分布的.

(a)
找出 X
和 Y
的联合概率密度函数.

(b)
找出 Y
的边缘概率密度函数.

(c)
找出 X
的在给定 Y
值之下的条件概率密度函数.

(d)
求出
, 利用全期望定理求出
的依赖于
的表达式.

(e)
利用对称性求出

24
. 设在直角坐标系中三个点(0,0)、(1,0)、(0,2)组成一个三角形.假定
是一个随机点的坐标, 这个随机点是在三角形上均匀分布的(与题23不同, 此题中的 X
和 Y
是不对称的).按题23中的方法求出
和
.

25
. 设平面上一个随机点的两个坐标为 X
和 Y
.它们是独立同分布的正态随机变量, 公共期望为0, 方差为
.已知这个点离原点的距离至少为 c
. 求 X
和 Y
的条件联合概率密度函数.

26
.* 设
为独立随机变量序列. 证明公式

解
我们有

再在等式两边用

除, 便得到所需的结论.

27. 以随机事件为条件的多元随机变量
. 设 X
和 Y
为联合连续随机变量,其联合概率密度函数为
. 令 A
是二 维平面的一个子集,又令
, 事件 C
满足
. 定义

(a)
证明
是一个合格的联合概率密度函数.

(b)
令
为二维平面的一个分割. 记
, 并假定对每一个 i
,
. 推导下列 形式的全概率定理:

28
.* 设随机变量 X
具有双边指数概率密度函数

其中
和 p
是参数,
,
.利用下面的两种方法求 X
的期望和方差：

(a)
利用期望和方差的定义直接计算.

(b)
利用全期望定理进行计算.

解

(a)

利用方差的定义, 得到

(b)
记
. 利用 X
的概率密度函数的公式, 很快得到
. 在 A
发生的条件下, X
的条件分布为指数分布, 其参数为
. 同样在
发生的条件下,随机变量
也具有指数分布, 参数为
. 由此可得

和

再利用全期望定理得到

最后, 得到

29
.* 设 X
、Y
、Z
的联合概率密度函数为
.证明乘法规则：

解
利用条件概率密度函数的定义,

和

将两个关系组合便得到三个变量的概率密度函数的乘法规则.

30.* 贝塔概率密度函数
. 参数为
和
的贝塔概率密度函数为

其归一化常数为

就是著名的贝塔函数.

(a)
证明对任何
, X
的 m
阶矩的公式为

(b)
设
和
为正整数, 证明

因此,

(注意：按惯例 0!=1. )

解

(a)
我们有

(b)
对于
或
, 我们可以通过直接积分验算结果. 现在讨论一般情况. 记
为独立同分布的随机变量, 其公共分布为[0,1]上均匀分布. 令

由于
个随机变量的各种次序都是等可能的, 我们有

现在考虑事件

利用全概率定理, 得到

由于给定 B
和 C
的条件下,所有
个
和所有
个
的次序是等概率的, 这样

现在将所得到的公式代入方程

中, 便得到

或

这个方程可写成如下形式：

对所有正整数
和
成立.

31.* 利用模拟求期望值
. 设
为某个概率密度函数,它满足下面的条件：a
、b
、c
为三个非负数
,
在区间
外为0, 并且
对一切 x
成立.现在以如下方式产生独立随机变量
：由(a
,0)、(b
,0)、(a
,c
)、(b
,c
)四个点构成坐标平面上的一个矩形, 按这个矩形的均匀分布产生一个随机点列
, 如果
令
, 否则令
. 令

证明

特别地, 当
时
.

解
我们有

随机变量 Z
的方差为

由于
从而
我们得到
.

32
.* 设 X
和 Y
为联合连续随机变量,其联合概率密度函数为
. 设对任意实数子集 A
和 B
, 事件
和事件
相互独立.证明 X
和 Y
是相互独立的随机变量.

解
对于任意两个实数 x
和 y
,利用事件
和
的相互独立性,得到

对两边求导数, 得

由上式可知, 按随机变量 X
和 Y
相互独立之定义, 它们是相互独立的.

33.* 随机数个独立随机变量的和
. 假如你逛了 N
个商店,其中 N
是一个随机变量. 又设在第 i
个商店, 你花掉的钱数是
.故你花掉的总钱数为

我们假定 N
是一个离散随机变量, 其分布列为已知,而
的期望和方差相同, 记为
和
. 进一步假定,所有的
以及 N
都是相互独立的. 证明

解
设
, 此时你只进了 i
家商店, 在每一家商店,你花钱的平均值为
. 这样, 对所有 i
,

现在利用全期望定理, 得到

相似地, 由
之间的独立性可知,如果
则
. 这样 T
的二阶矩为

T
的方差为

注：在第4章中我们将以更抽象的方式得到
和
的公式.

3.6 节　连续贝叶斯准则

34
. 一台有问题的硬币浇铸机所生产的硬币是有缺陷的.在抛掷硬币的试验中正面出现的概率 P
是一个随机变量. P
的概率密度函数是

现在从这批产品中抽取一枚进行抛掷硬币试验, 进行独立重复的抛掷.

(a)
求出抛掷硬币的时候正面出现的概率.

(b)
已知抛掷一枚硬币后出现正面, 求 P
的条件概率密度函数.

(c)
给定第一次抛掷的结果是出现正面.求第二次抛掷硬币的时候出现正面的条件概率.

35
.* 设 X
和 Y
为相互独立的连续随机变量,其概率密度函数分别为
和
. 令
.

(a)
证明
.提示：
写出给定 X
的条件下 Z
的分布函数,然后求导.

(b)
假设 X
和 Y
的分布为指数分布, 其参数为
. 求出 X
在给定
之下的条件概率密度函数.

(c)
假设 X
和 Y
的分布为正态分布, 其期望为0, 方差分别为
和
. 求出 X
在给定
之下的条件概率密度函数.

解

(a)
我们有

其中第三个等式是由于 X
和 Y
的独立性. 两边进行微商,可得所需的结果.

(b)
对于
, 我们有

由上述表达式可知, 对固定的 z
,作为 x
的函数
在
是一个常数,而在区间
外,
显然为0.这样 X
的条件分布是
上的均匀分布,即 X
的条件概率密度函数
.

(c)
我们有

我们将注意力集中在指数的幂上, 其负部按 x
配成平方, 得到

这样, X
的条件密度函数具有形式

其中
不依赖于 x
,
在概率密度函数中是一个归一化的平衡常数. 这样,条件分布是正态分布, 均值

方差

第 4 章　随机变量的深入内容

本章引入一些更深入的内容. 我们介绍如下一些有用的方法：

(a) 推导出关于一个或者多个随机变量的函数的分布;

(b) 处理独立随机变量和的问题, 包括求和的随机变量的个数自身也是随机的情形；

(c) 量化两个随机变量之间的相依程度.

为实现这些目标, 我们介绍了一些工具, 包括矩母函数和卷积,并且我们将细化对条件期望概念的理解.

学习第5~7章时, 并不需要本章内容作为基s础, 因此,在首次阅读本书时可将本章视为选读内容. 然而,这里讨论的很多概念和方法为概率论和随机过程提供了更深入的研究背景,并为应用概率论和随机过程的其他学科提供了有力的工具. 但是,4.2节和4.3节所提到的概念, 是第8章和第9章中学习统计推断的准备知识.

4.1　随机变量函数的概率密度函数

本节考虑连续随机变量 X
的函数
的概率密度函数,即在已知 X
的概率密度函数(PDF)的情况下, 我们计算 Y
的PDF(也称为导出的密度函数
).主要考虑如下的两步方法.

计算连续随机变量 X
的函数
的概率密度函数(PDF)

(1) 使用如下公式计算 Y
的概率函数 (CDF)

(2) 对
求导, 得到 Y
的 PDF：

例 4.1
设 X
服从 [0,1]上的均匀分布, 令
. 注意,对任意的
, 有

求导, 可以得到

在区间[0,1]之外, 分布函数
是个常数, 即当
时
, 而当
时
. 所以,求导可以得到：当
时

例 4.2
庄驶悠驾车匀速从波士顿前往纽约, 两地距离为180英里, 速度值服从 [30,60] (单位：英里/小时)区间内的均匀分布. 求这段旅程所费时间的PDF?

设 X
是速度,
是这段旅程所花费的时间：

根据两步法, 首先计算 Y
的分布函数,

利用 X
的均匀分布性质, 即

以及相应的分布函数

因此

(见图4.1). 然后, 对上式进行求导, 得到 Y
的概率密度函数：

图 4.1　例4.2中
的概率密度函数的计算过程示意图. 箭头方向表示计算步骤

例 4.3
设 X
是一个随机变量, 其概率密度函数已知. 现求
的概率密度函数. 对任意的
,

因此, 对上式进行微分, 运用复合函数求导方法,

4.1.1　线性函数

现在我们重点介绍一类重要和特殊的情形：Y
是 X
的线性函数. 如图4.2中的解释,从直观就可以得到我们所需的结论.

图 4.2　用 X
的概率密度函数来表示线性函数 aX
+ b
的概率密度函数. 图中a
= 2、b
= 5.为了直观, 第一步, 计算 aX
的概率密度函数. aX
的值域比 X
的值域大, 倍数为 a
. 所以, aX
的概率密度函数 faX

是将 X
的概率密度函数 fX

在 x
轴的方向上拉长 a
倍. 但是, 为了使得 aX
的概率密度函数 faX

之下围成的面积是 1, 必须将 fX

纵轴下拉到原来的 1/a
. 随机变量 aX
+ b
与 aX
一样, 只是将图形水平平移 b
. 因此, 我们首先得到 aX
的概率密度函数, 然后水平平移 b
. 最后得到的就是随机变量 Y
= aX
+ b
的概率密度函数. 写成公式, 就是

如果 a
是负数, 方法是一样的,只是先将 X
的概率密度函数在横轴进行反射, 得到
. 然后,在横轴和纵轴上分别乘以 |a
| 和 1/|a
|,就得到
的概率密度函数, 最后水平平移b
,就得到
的概率密度函数

随机变量 X
的线性函数的概率密度函数.

假设 X
是连续随机变量, 概率密度函数为
,a
和 b
是实数且
, 如果

则

现在证明该公式, 我们首先计算 Y
的分布函数, 然后求导.只证明
的情形,
时的证明类似.

对上述等式微分, 运用复合函数求导方法, 可得

例 4.4(指数随机变量的线性函数)
假设随机变量 X
服从参数为
的指数分布,概率密度函数为

其中
是正的参数. 定义
, 则

注意, 当 b
=0 且
时 Y
仍然服从指数分布,参数为
. 一般而言, Y
可能不是指数的. 比如, 当
且 b
=0 时 Y
的取值空间在负实轴上.

例 4.5(正态随机变量的线性函数)
假设随机变量 X
服从均值为
方差为
的正态分布,相应的概率密度函数为

定义
,其中 a
和 b
是实数且
, 则

这是均值为
方差为
的正态分布的概率密度函数,所以随机变量 Y
是正态的.

4.1.2　单调函数

线性函数的概率密度函数的计算方法和公式可以推广到g
是单调函数的情形.假设 X
是连续随机变量, 且取值空间在一个给定的区间 I
里, 即当
时
. 现在考虑随机变量
,且在区间 I
上函数 g
是严格单调
的,即以下两种情形之一:

(a) 严格单调递增： 对任意的
,满足
, 则
;

(b) 严格单调递减： 对任意的
,满足
, 则

进一步地, 假设 g
是可微的. 它的导数在递增情形时是非负的,在递减情形时是非正的.

严格单调函数的一个重要性质是它是“可逆的”, 也就是说,存在函数 h
, 称为 g
的逆, 使得对任意的
, 有

当且仅当

比如说,例4.2中考虑的函数
的逆就是
.这是因为,
当且仅当
其他例子, 比如

其中 a
和 b
是实数, 且
.可逆函数的例子还有

其中 a
是非零实数.

对于严格单调函数 g
, 使用如下方便的公式来计算
的概率密度函数.

连续随机变量 X
的严格单调函数
的概率密度函数计算公式

假设 g
是严格单调函数, 其逆函数 h
满足：对 X
的取值空间内任意一点 x
,

当且仅当

而且函数 h
是可微的, 则 Y
在支撑集
内的概率密度函数是

现在证明上式. 假设 g
是严格递增函数. 则

其中第二个等式运用了函数 g
的严格递增性 (见图4.3). 对上式进行微分,并运用复合函数微分公式, 我们可以得到

因为 g
是严格递增时, 函数 h
也是严格递增的, 所以它的导数是非负的：

这样, 就验证了单调递增函数 g
的概率密度函数公式.当 g
是单调递减时, 推导过程是类似的：

对上式进行微分, 并运用复合函数微分公式就可以证得.

图 4.3　计算概率
.当 g
是严格递增的(左图), 事件
与事件
是一样的. 当 g
是严格递减的(右图), 事件
与事件
是一样的

例 4.2(续)
我们将上述公式, 应用于例4.2.在区间
内,
, 所以

所以,当
时, 运用概率密度函数计算公式可以得到

这个结果与例4.2中得到的结论是一样的.

例 4.6
定义
, 其中 X
服从 (0,1]区间的均匀分布.在这个区间里, g
是严格递增函数, 它的逆函数是
.对任意的
, 有

所以

最后值得注意的是,若用随机变量落入小区间的概率来解释概率密度函数的意义,概率密度函数计算公式变得十分直观(见图4.4的解释).

图 4.4　对 g
是严格递增函数时,
的概率密度函数公式的解释.考虑区间
其中
是非常小的正数.在映射 g
下, 该区间映射到另一个区间
. 因为
是 g
在点 x
处的斜率, 所以

用逆函数来表述, 就是

注意, 事件
与事件
是同一事件. 所以

将
移到公式的左端, 并利用比率
的结论,就可以得到

也可以将
移到公式的右端,并利用比率
的结论, 就可以得到

4.1.3　两个随机变量的函数

和一个随机变量的情形一样, 我们采用两步法：先计算分布函数,然后微分得到概率密度函数.

例 4.7
在两个射手射击同一目标的游戏中, 假定每个射手的弹着点与目标中心的距离服从[0,1]上的均匀分布,而且彼此相互独立.问失败者的弹着点离目标中心距离的概率密度函数是什么?

设 X
和 Y
分别是第一个和第二个射手的弹着点离目标中心的距离.令 Z
是失败者的弹着点离目标中心的距离, 则

我们知道 X
和 Y
都服从[0,1]上的均匀分布, 所以对任意的
,我们有

利用 X
和 Y
的独立性, 对任意的
,我们有

经过微分可得

例 4.8
假设随机变量 X
和 Y
都服从区间[0,1]的均匀分布,而且彼此相互独立. 问随机变量
的概率密度函数是什么?

我们还是根据两步法先计算 Z
的分布函数,然后微分得出它的概率密度函数. 在计算的时候要对两种情形(即
和
) 分别处理. 如图4.5所示, 我们可以得到

将
微分, 可得

图 4.5　计算例4.8中
的概率密度函数.概率
等于单位正方形内阴影部分的面积. 左图处理
情形下的概率, 右图处理
情形下的概率

例 4.9
罗密欧和朱丽叶定期约会,他们每个人每次到达约会地点时都会离约定的时间有延迟,而且他们的延迟时间是彼此相互独立的. 假定延迟的时间都服从指数分布,参数为
.那么他们到达约会地点的时间差具有什么样的概率密度函数?

记 X
和 Y
分别是罗密欧和朱丽叶约会时到达的时间(假定约会时刻为0).我们的目标是计算
的概率密度函数. 由假设可知 X
和 Y
都是服从 参数为
的指数分布.我们先计算分布函数
, 分两种情况
和
来讨论, 见图4.6.

图 4.6　计算例4.9中
的分布函数.为了求出概率
,必须对联合概率密度函数
进行积分,积分区域如图中的阴影部分所示. 左图处理
的情形, 右图处理
的情形

当
(见图4.6的左图)

当
, 我们可以使用类似的计算方法, 但是也可以利用对称性. 实际上,由对称性可知, 随机变量
与
的分布是相同的.所以

当
时,
, 所以可以使用已经推导出来的公式得到

综合
和
两种情况, 我们得到

对分布函数进行微分, 可以得到概率密度函数, 即

这就是著名的双边指数
概率密度函数,也称为拉普拉斯
概率密度函数.

4.1.4　独立随机变量和——卷积

设 X
和 Y
是两个独立的随机变量, 考虑它们的和
的分布. 首先,我们推导当 X
和 Y
都是离散的情况下 Z
的分布列.

设 X
和 Y
是仅取整数值的独立随机变量,它们的分布列分别为
和
. 则对于任意整数 z
,

得到的分布列
称为 X
和 Y
的分布列的卷积
.关于卷积的直观意义见图4.7的说明.

图 4.7
时对应的概率
是所有满足
的
出现的概率之和, 图中标出了这些点.这类点的概率计算公式如下：

现在我们假设 X
和 Y
为独立的连续随机变量,它们的概率密度函数分别为
和
.我们希望求出
的概率密度函数, 为此,我们首先求出 X
和 Z
的联合概率密度函数, 然后通过积分求出 Z
的概率密度函数.

首先注意到,

第三个等号由 X
和 Y
的独立性所致. 两边同时取 z
的微分, 可知
. 利用乘法法则, 有

最后由上式可推得

这个公式和离散情况下的公式是完全类似的, 只是用积分替代了求和,用概率密度函数代替了分布列. 图4.8给出了这个公式的一个直观理解.

图 4.8　连续随机变量情形下卷积公式的说明(对比图4.7). 对非常小的
,图中带形区域所代表的事件发生的概率就是
. 于是,

去掉上式左右两边的
即得所求公式

例 4.10
设随机变量 X
和 Y
相互独立并且都服从区间[0,1]上的均匀分布. 按独立随机变量之和的密度公式,变量
的概率密度函数为

被积函数
当
且
时是非零的(实际上等于1). 将这两个不等式联合起来, 被积函数当
时非零. 因此,

如图4.9所示,
的图像像个三角形的尖顶.

图 4.9　两个独立的[0,1]上均匀分布随机变量的和的概率密度函数

下面我们给出卷积公式的一个重要的应用.

例 4.11(相互独立正态随机变量之和的分布)
设随机变量 X
和 Y
相互独立,服从均值分别为
和
、方差分别为
和
的正态分布. 定义
.由卷积公式, 可得

上式中的积分有明确的表达式, 但是细节比较麻烦, 所以在此省略.最后的结论是

这是均值为
方差为
的正态分布的概率密度函数. 所以可以得出结论：两个独立正态随机变量之和仍然是正态的.正态随机变量的线性函数仍然是正态的(参见例4.5),可以推出对于任何非零常数 a
和
也是正态的.在4.4节里会使用矩母函数的方法来讨论本题的派生问题.

例 4.12(两独立随机变量之差)
卷积公式也可以用于计算 X
-Y
的概率密度函数.其中 X
和 Y
是相互独立的. 方法是将 X
-Y
看成是 X
与 -Y
的和. 注意,-Y
的概率密度函数是
, 从而

现在 设 X
和 Y
相互独立, 且都服从参数为
的指数分布(见例4.9).对任意
, 注意到只有当
时,
才非零,所以

这与例 4.9 得到的结论是一致的. 当 z
< 0 时, 可以使用相同的方法, 只需注意到

上式中第一个等式是因为 X
与 Y
同分布, 因而
的分布具有对称性.

使用卷积公式时, 最关键的步骤是要确定正确的积分限. 但是这通常是繁琐且易错的, 但是可以利用下面将要介绍的 图像法加以避免.

4.1.5　卷积的图像计算法

我们使用一个哑变量 t
作为本节涉及的不同函数的自变量, 见图4.10.考虑两个概率密度函数
和
. 给定 z
一个值,计算卷积

的图像表达包括如下步骤.

图 4.10　卷积计算的描述.对于考虑中的 z
的值,
与最后一幅图中所示的函数的积分相等

(a) 画出
关于 t
的函数图像.这个图像和函数
的图像的形状完全类似, 除了一点不同：它是先“翻转”然后平移一个 z
的量. 如果
, 向右平移；如果
, 向左平移.

(b) 将
和
的图像放在彼此上面, 制作出它们的乘积.

(c) 通过计算乘积函数的积分得到
的值.

通过变化 z
的量, 即平移的量, 就可得到取任何 z
时的
.

4.2　协方差和相关

本节介绍如何量化两个随机变量之间关系的大小和方向. 该内容非常重要,将应用于在第8章和第9章的估计方法.

X
和 Y
的协方差
记为
,其定义如下：

当
时, 我们说 X
和 Y
是不相关
的.

粗略地说, 一个正或者负的协方差表示在一个试验中的
和
的值“趋向”有相同或者相反的符号 (见图4.11).因此,协方差的符号提供了一个 X
和 Y
之间关系的重要定量指标.

图 4.11　正相关随机变量和负相关随机变量的例子.这里
在图中所示的椭圆中均匀分布. 在情况(a)中
是正值, 在情况(b)中是负值

协方差的另一种表达为

通过简单运算就可证明这个等式. 从协方差的定义出发,我们还可以推导出协方差的一些性质：对任意的随机变量 X
、Y
、Z
, 以及任意实数 a
和 b
,

要提醒注意的是下面的事实：如果 X
和 Y
是相互独立的, 则
即有
. 因此,如果 X
和 Y
是相互独立的, 它们是不相关的. 但是, 逆命题不成立,见下例.

例 4.13
设随机变量对
分别以1/4的概率取值于(1,0)、(0,1)、(-1,0)、(0,-1)(见图4.12).因此, X
和 Y
的边缘分布列都关于0对称, 且
.更进一步, 对
可能取到的任何值, x
和 y
中总有一个为0, 此时
且
因此

即 X
和 Y
不相关. 但是, X
和 Y
不是独立的. 因为,例如 X
取非零值时就要求 Y
取零值.

图 4.12　例4.13中 X
和 Y
的联合分布列.图中所示的四个点中每个点的出现概率都为1/4.这里 X
和 Y
不相关但是却不是独立的

这个例子可以推广出一个一般的结论.假设 X
和 Y
满足

对任意的 y
成立,

则如果X
和 Y
是离散变量时, 利用全期望定理可以得到

这样 X
和 Y
是不相关的.在连续的情形下,这个结论仍然成立.

两个方差非零的随机变量 X
和 Y
的相关系数

定义如下：

(当 X
和 Y
在上下文中很明显时可使用简化记号
.) 它可视为协方差
的标准化.且事实上, 可证明
取值于-1到1之间(见章末习题).

如果
(
), 则
和
的值趋向同号(反号),且
的大小反映了趋向程度的标准度量大小. 事实上,总可以假定 X
和 Y
有正的方差, 在此种情况下, 可以证明
(
) 当且仅当存在一个正的(负的)常数 c
, 使得

(见章末习题). 下面的例子部分地解释了这个性质.

例 4.14
考虑一个硬币的 n
次独立的抛掷, 其中正面朝上的概率是 p
.设 X
和 Y
分别是正面朝上和反面朝上的次数, 现在让我们来看一下 X
和 Y
的相关系数. 这里, 我们总有
且
因此

我们将计算 X
和 Y
的相关系数, 证明它确实等于-1.

我们有

因此, 相关系数为

随机变量和的方差

协方差可以用于计算多个随机变量(不必独立)之和的方差. 特别地, 设随机变量
具有有限的方差, 则

更一般的结论是

上述公式可以如下推导：简记
,

下面举一个例子来运用这个公式.

例 4.15
考虑2.5节中讨论的帽子问题. 有 n
个人将帽子扔进一个盒子,然后每人随机地选一顶帽子. 设 X
是拿到自己帽子的人数,现在计算 X
的方差. 设
表示第 i
个人是否拿到自己帽子的随机变量, 即
,表示拿到了自己的帽子, 否则
. 此时,

注意,
服从
的伯努利分布, 我们有

当
时

所以

协方差和相关

- X
和 Y
的协方差
公式如下：

- 如果
, 则称 X
和 Y
不相关
.

- 如果 X
和 Y
是独立的, 则它们不相关. 反之不总成立.

- 两变量和的方差公式：

- 具有正方差的随机变量 X
和 Y
的相关系数

定义为

且满足

4.3　再论条件期望和条件方差

本节再次讨论随机变量 X
在给定另一个随机变量 Y
之下的条件期望,可将这个条件期望看成依赖于 Y
的函数, 因而是随机变量.我们将导出全期望定理的另一个版本, 称为重期望法则
, 用通俗的语言说,就是条件期望的期望等于无条件期望. 同时, 我们也推导全方差法则
, 该法则涉及条件方差和无条件方差.

一个随机变量 X
的条件期望
的值, 依赖于 Y
的值 y
. 因为
是 y
的函数, 所以
是 Y
的函数,因此也成为一个随机变量, 它的分布依赖于 Y
的分布. 在本节中,我们研究
的期望和方差. 它的性质不仅在本章很重要,而且在第8章和第9章的估计和统计推断中也特别重要.

例 4.16
假设我们在投掷一个不均匀的硬币, 正面朝上的概率, 记为 Y
,也是随机的. 假定正面朝上的概率 Y
的分布为已知, 它是[0,1]上的分布. 现在我们投掷 n
次硬币, 定义 X
为正面朝上的总次数.由于对任意的
, 我们有
,所以
是随机变量
.

既然
是一个随机变量, 那么就应该有自己的期望
. 使用期望法则, 可得

右边的两个表达式在第2章和第3章中都非常熟悉. 使用全期望定理,它们都等于
. 这样我们就可以得出如下结论：不管随机变量 Y
是离散的、连续的、或混合的,只要随机变量 X
具有有限的期望
, 下面的法则成立.

重期望法则
：

下面使用实例来说明如何运用重期望法则来计算涉及条件概率的问题中的期望值.

例 4.16(续)
假设 Y
是投掷硬币出现正面的概率( Y
是随机变量！),Y
的分布是[0,1]上的均匀分布. 因为
, 且
,运用重期望法则, 可得

例 4.17
我们考虑一根长度为 l
的木棍. 从一点将其折断,这点是随机选择的, 即 这个点的分布是在整条木棍上均匀分布. 折断以后,留下含木棍左端的那一半. 我们接下来重复以上步骤. 试问在折两次之后剩下的木棍长度的期望是多少?

记 Y
为第一次折断之后剩下的木棍长度, X
为第二次折断之后木棍剩下的长度. 我们有
,这是因为断点是在剩下的长度 Y
上均匀选择. 类似地, 有
因此,

例 4.18(全班平均成绩与分组平均)
一个班级有 n
名学生.学生 i
的测验分数记为
. 已知班级测验的平均分为

现将全部学生分成 k
个互不相交的子集
(组).我们记
为第 s
组的学生数. 第 s
组的平均分数为

全班的平均分数可以用每组的平均分数
的加权平均来计算,第 s
组的权重正比于为该组的学生数,即权重为
. 直接计算证明此法得到的结果是正确的：

这和条件期望怎样联系起来的呢? 考虑这样一个实验.随机地选择一位学生, 其中每个学生被选中的概率是1/n
.考虑下面两个随机变量：

所以

事件
与选中的学生属于 s
组是等同的事件.
发生的条件下, 每个在这个组的学生被选中的概率为
.因此,

一个随机选中的学生属于 s
组的概率为
, 即
因此,

因此,利用组平均求全班平均成绩的方法可视为重期望法则的一种特殊情况.

例 4.19(预测调整)
记 Y
为公司来年上半期的销量, X
为全年销量.公司已经建立销量统计模型, 所以 X
和 Y
的联合分布是已知的. 在年初,期望
可以作为实际销量 X
的一种预测. 在年度中期时,上半年的销量已经实现, 因此随机变量 Y
已知.这将我们置于一个新环境中, 在这里所有变量都依赖于 Y
.基于对 Y
的了解, 公司建立了一个调整后的年度销量预测
.

根据年度中期信息, 我们可将
看成中期的销量预测的修正值. 由重期望法则可知：

这意味着虽然中期的销量预测的修正值一般不等于0,但在年初我们并不知道上半年的销售量, 只能把销量预测的 修正值
看成一个随机变量.概率计算说明这个随机变量的平均值为0. 这在直观上是十分合理的,事实上, 如果这个期望值取正值, 原先的预报在最初就应该更高.

最后给出条件期望的一个重要性质：对任意给定的函数 g
,均有

这是因为, 在给定 Y
的条件下,
是一个常数,所以可以从期望中提出来(见习题 25).

4.3.1　条件期望作为估计量

如果我们将 Y
视为能提供关于 X
的信息的观测值,则我们很自然地将条件期望作为给定 Y
的条件下对 X
的估计
, 记为

这样, 估计误差
就定义为

显然估计误差也是随机变量, 且满足

所以随机变量
恒为0：对任意的y
,
. 运用重期望法则, 还可以得到

这就表明估计误差没有系统性的正或负的偏倚.

下面接着证明
具有另一个有趣的性质： 它与估计误差
是不相关的
. 事实上, 运用重期望法则, 可得

最后两个等式成立的原因是
完全由 Y
确定, 所以

从而

故
与
是不相关的.

基于
这个结论, 又注意到
, 两边取方差, 我们可以得到

上面这个等式, 可以表述为一个有用的法则, 下面我们开始讨论这个法则.

4.3.2　条件方差

首先介绍随机变量

这是一个关于Y
的函数, 对于给定的 Y
值 y
,它等于在已知
的条件下, X
的条件方差为

利用结论
和重期望法则,我们可以将估计误差的方差写成

所以等式
就可以写为如下形式.

全方差法则
：

下面举例说明全方差法则对计算随机变量的方差非常有用.

例 4.16(续)
我们还是考虑 n
次投掷一枚不均匀的硬币的实验.设 Y
是投掷硬币正面朝上的概率, 服从[0,1]区间的均匀分布.定义 X
为 n
次投掷硬币正面朝上的总次数. 则对任意的
,我们有
, 故
, 且
.所以

再有

所以, 运用全方差法则, 我们有

例 4.17(续)
重新考虑两次折断木棍的问题. 木棍原长l,断点是随机选择的. Y
是第一次折断后剩下的长度,X
是第二次折断后剩下的长度. 我们已经计算得到 X
的期望为 l/4.现在运用全方差法则来计算
.

因为 X
服从0到 Y
之间的均匀分布, 得

因为 Y
服从 0 到 l 之间的均匀分布, 得

同时
, 所以

根据全方差法则,得

例 4.20(学生成绩的方差与分组方差)
所讨论的问题背景与例4.18中的相同,我们重新考虑这些随机变量

记
为第 s
组的学生数目, 记 n
为学生总数.我们解释下列公式中的不同的量

在这里,
是第 s
组测验分数的方差. 因此,

所以
是各组方差的加权平均,这里每个组的权重与组内人数成正比.

注意,
是第 s
组的平均成绩. 因此,
就是各组均值波动性的度量. 全方差法则表明分数的总方差可以划为两部分：

(a) 在每组内部
方差的平均数
;

(b) 各组之间
的方差
.

我们前面已经发现重期望法则(以全期望定理的方式给出)可以用来化简复杂的期望计算. 对于方差计算也可用类似的方法.

例 4.21(通过给定条件来计算方差)
考虑一个连续随机变量 X
, 它的概率密度函数在图4.13中给出,我们定义一个辅助的随机变量 Y
如下：

这里,
以1/2的概率分别取值1/2和2. 因此,
的均值为5/4. 接下来

图 4.13　例4.21中的概率密度函数

当在给定 Y
=1 或 Y
=2 的条件下, X
在长度为1或2的线段上均匀分布. 因此

且

归总, 得

总结本节要点如下.

条件期望和条件方差的性质

- 的值依赖于y
.

- 是随机变量 Y
的函数, 因此它也是一个随机变量. 当 Y
的值为 y
时,它的值就等于
.

- (重期望法则
).

- 可视为已知
时对 X
的估计. 相应的估计误差
是一个零均值的随机变量, 且与
是不相关的.

- 也是个随机变量, 当 Y
的值为 y
时 它的值就等于
.

- (全方差法则
).

4.4　矩母函数

在本节中,我们引进与随机变量相关的矩母函数1
这个概念.矩母函数是对概率(分布列或者概率密度函数)的另一种表述.它并不是特别直观的, 但是在解决某些类型的数学计算时很方便.

1
原文为变换,按国内术语译成矩母函数. ——译者注

一个与随机变量 X
相关的矩母函数
是参数 s
的函数
, 定义如下

当从上下文中可以明显看出所指随机变量是 X
时,矩母函数也可以简记为
. 更具体地, 当 X
是离散随机变量时,相关矩母函数为

当 X
是连续随机变量时,有2

2
对拉普拉斯变换熟悉的读者可能会发现一个连续随机变量的相关矩母函数和它的概率密度函数的拉普拉斯变换是基本相同的, 唯一的区别是拉普拉斯变换通常使用
而不是
.对于离散型的情况,变量 z
有时取代
, 得到的矩母函数
称作
z
-变换
. 但是,本书中不会使用 z
-变换.

下面给出矩母函数的一些例子.

例 4.22
设

则相应的矩母函数为

例 4.23(泊松随机变量的矩母函数)
设随机变量 X
服从参数为
的泊松分布

则其矩母函数如下所示

记
,则

例 4.24(指数随机变量的矩母函数)
设随机变量 X
服从参数为
的指数分布

则

以上运算和
的公式仅在
下成立, 否则积分为无穷.

重要的是要认识到矩母函数不是一个数而是一个参数为 s
的函数
. 矩母函数作用于一个函数(比如说概率密度函数),得到一个新函数.严格地说,
只在使得
有限的 s
上有定义. 上一个例子已经说明了这个事实.

例 4.25(随机变量线性函数的矩母函数)
记
为随机变量 X
的矩母函数,考虑新随机变量
的矩母函数. 由矩母函数定义, 有

例如,如果 X
服从参数
的指数分布, 则
,如果
, 则

例 4.26(正态分布随机变量的矩母函数)
记 X
为服从均值为
、方差为
的正态随机变量.为了计算它的矩母函数, 首先我们考虑标准正态随机变量 Y
的情况,对 Y
有
且
. 求出 Y
的矩母函数以后, 再应用前面例子里推出的公式, 导出 X
的矩母函数.标准正态分布的概率密度函数为

相关矩母函数为

其中,最后一个等号利用了服从均值为 s
方差为1的正态随机变量的概率密度函数的归一化性质.

均值为
方差为
的正态随机变量可表成标准正态随机变量的线性函数：

而标准正态随机变量 Y
的矩母函数为
,应用例4.25中的公式,有

4.4.1　从矩母函数到矩

“矩母函数”这一名称是由于随机变量的矩可以通过矩母函数的公式轻易计算出而得来的. 为验证这一点, 现在考虑一个连续随机变量 X
,根据定义

在
定义式两边取 s
的导数

上面的等式对 s
取任何值都成立3
.考虑 s
=0时的特殊情况, 有

3
这个导数涉及微分和积分次序的交换. 这种交换对本书讨论的所有情况都适用. 更进一步,对于一般的随机变量这种积分和微分的次序都是可交换的(包括离散随机变量). 事实上,下面更抽象的等式也是成立的：

更一般地,如果我们对
取 n
次 s
的导数, 通过类似的计算有

例 4.27
我们在前面(例4.22)已知

其相关矩母函数为

因此,

同时

指数随机变量的概率密度函数为

前面(例4.24)已得

因此,

令s
=0,有

这和第3章中推出的公式相吻合.

我们以矩母函数的两个更有用且普遍的性质结束本节.对于任意的随机变量 X
, 有

且如果 X
仅取非负整数值时, 有

(见本章末习题).

4.4.2　矩母函数的可逆性

矩母函数
的一个非常重要的性质是它可逆,即可用它来确定随机变量 X
的概率律. 当然,为了使矩母函数
能够确定相应的概率律,一些合适的数学条件是必要的. 幸运的是, 我们所列举的例子中的矩母函数都满足这些条件. 下面是一个更精准的描述,其证明已经超出了本教程的范围.

矩母函数可逆的条件

假定随机变量 X
的矩母函数
满足：存在一个正数 a
,对在区间
中的任意 s
,
都是有限的, 则矩母函数
唯一地决定 X
的分布函数.

实际上,有显式的公式可以让我们从随机变量的矩母函数导出它的分布列或概率密度函数,但是使用起来相当困难. 实际上,矩母函数通常可以基于已知分布-矩母函数组合的表格,通过“类型配合”进行反演. 下面来看一些这样的例子.

例 4.28
已知随机变量 X
的相关矩母函数为

因为
是
的代数和,我们可以与离散随机变量的矩母函数的通用公式

相比较, 通过比较可以推出 X
是一个离散随机变量.X
的取值范围可以从相应的 指数读出来,即-1、0、4、5. 取每个 x
值的概率可以从
前面乘的系数得到. 在本例中, 即

从上面的例子可以看出,一个只取有限个值的离散随机变量的分布可以通过观察其矩母函数得出.同样, 这样的方法对于取可数无限多个值的离散随机变量也有效,可见下例.

例 4.29(几何随机变量的矩母函数)
已知随机变量 X
的矩母函数为

这里 p
是一个常数, 且
. 我们想要求出 X
的分布.由几何级数公式得

上式对于任意满足
的
都成立. 我们对
运用此公式,这里要求 s
充分接近0使得
. 此时,矩母函数具有展开式

将这个式子与上例中一般离散随机变量的矩母函数的表达式比较,可知
所对应的随机变量是取正整数值的离散型随机变量. 概率
可以通过读取
的系数得到.具体来说,
,
, 一般地有

可见这个分布正是参数为 p
的几何分布.

注意

当 s
=0时,右边等于
, 这和第2章推出的
公式相符.

例 4.30(混合分布的矩母函数)
已知附近银行有三位交易员, 两位快速交易员, 一位慢速交易员.已知交易员为一名客户服务 的时间服从指数分布,快速交易员对应的参数
, 慢速交易员对应的参数
.简来到银行, 随机选择了 一位交易员, 每位交易员被选中的概率为1/3.试求出简接受服务的时间的 概率密度函数和矩母函数.

记 X
为简接受服务的时间, 我们有

相应的矩母函数为

更一般地, 设
为概率密度函数
的连续随机变量. 随机变量 Y
的一个值 y
是这样取得的：先随机地选出指标 i
, 选到 i
的概率为
, 如果指标 i
被选中,y
即取
的值. 此时, Y
的概率密度函数为

相应的矩母函数为

反过来, 我们也可从矩母函数求出相应的分布. 例如, 已知随机变量 Y
的矩母函数有如下形式：

将这个函数改写为

可见 Y
是两个参数分别为2和1的 指数随机变量的混合变量,这两个变量被选中的概率分别为1/4和 3/4.

4.4.3　独立随机变量和

矩母函数的方法对于处理随机变量和的问题尤其便利. 我们将看到,独立随机变量的和的矩母函数是和项的矩母函数的乘积
.这样也提供了卷积公式之外的另一个便利的公式.

记 X
和 Y
为独立的随机变量, 并记
根据定义, Z
的矩母函数为

因为 X
和 Y
是独立的, 对于任意的 s
,
和
是相互独立的随机变量, 因此,它们乘积的期望即为它们期望的乘积, 即

同样地, 如果
是独立的随机变量,且

相应的矩母函数之间有下面的关系：

例 4.31(二项随机变量的矩母函数)
设
为独立的伯努利随机变量, 参数都为p
. 按定义,不难得到

对一切 i
成立 i
.

随机变量
服从参数为 n
和 p
的二项分布,相应的矩母函数为

例 4.32(独立泊松随机变量之和仍为泊松随机变量)
设 X
和 Y
为两个相互独立的泊松随机变量,均值分别为
和
. 由例4.23知,

记
由于 X
和 Y
相互独立,我们有

因此, Z
的矩母函数和均值为
的泊松随机变量的矩母函数相同. 根据矩母函数的唯一性,Z
服从均值为
的泊松分布.

例 4.33(独立正态随机变量之和仍为正态随机变量)
设 X
和 Y
为两个相互独立的正态随机变量, 均值分别为
和
, 方差分别为
和
.记
, 则

且

因此, Z
的矩母函数与均值为
方差为
的正态随机变量的矩母函数相同.根据矩母函数的唯一性, Z
服从上述参数的正态分布.这与4.1节中根据卷积公式计算出来的结果是一样的.

矩母函数及其性质的小结

- 随机变量 X
的矩母函数定义如下：

- 随机变量的分布完全由它的矩母函数确定.

- 利用矩母函数计算随机变量的各阶矩：

- 若
, 则

- 若 X
和 Y
相互独立, 则

我们已经得到了一些常见随机变量的矩母函数的公式.我们也可以用适量的代数学知识,对许多其他的分布推导类似的公式(见本章末有关均匀分布的习题).现将这些结果列于下面的表格中.

常见的离散随机变量的矩母函数

- 参数为 p
的伯努利分布

- 参数为
的二项分布

- 参数为 p
的几何分布

- 参数为
的泊松分布

- 上的均匀分布

常见连续随机变量的矩母函数

- 上的均匀分布

- 参数为
的指数分布

- 参数为
的正态分布

4.4.4　联合分布的矩母函数

如果两个随机变量 X
和 Y
通过联合分布(例如联合概率密度函数)来描述,那么每个变量都有一个矩母函数
和
.它们是边缘分布的矩母函数, 不包含任何关于这两个随机变量相依性的信息.而两个随机变量相依性的信息包含在多元矩母函数中, 下面给出定义.

考虑同一试验中的 n
个随机变量
.记
为 无量纲实参数. 多元矩母函数
是这 n
个参数的函数, 它定义为

前面讨论过的矩母函数的可逆性可以推广到多元情形,即如果
是另一组随机变量,且
与
相同,则
的联合分布与
的联合分布相同.

4.5　随机数个相互独立的随机变量之和

到现在为止, 我们讨论过的随机变量求和的问题中,总是假定随机变量个数是已知且固定的. 在本节中,我们考虑这样的情况： 在随机变量求和的过程中,随机变量的数目本身也是随机的. 特别地, 我们考虑

这里 N
是个取正整数值的随机变量,
是同分布的随机变量(如果 N
=0, 则定义 Y
=0).假定
彼此独立,即这些随机变量的任意有限子集都是独立的.

下面我们记
和
分别为
的公共的均值和方差.我们想要求出 Y
的均值、方差和矩母函数.我们使用的方法为先给定一个条件
,这样我们就将情况转化为常见的情况：求固定数目随机变量和的问题.

确定某非负整数 n
. 随机变量
与 N
独立. 由此可知,
与事件
相互独立. 因此,

这对于任意非负整数 n
都成立. 因此

使用重期望法则, 有

类似地,

因为这对任意非负整数 n
都是成立的, 随机变量
等于
. 我们现在运用全方差法则得

矩母函数的计算和上面的计算类似. 基于条件
的 Y
的矩母函数为
但是, 基于
的条件,Y
是独立随机变量
的和, 且

这里
为
的矩母函数(对于任意 i
). 运用重期望法则,Y
的(无条件)矩母函数为

与下列公式相对照

可见
和
形式完全相同,或者等价地, 将
的表达式中所有
用
替换即可得到
.

下面总结推导出的性质如下.

随机数个相互独立随机变量之和的性质

记
为均值
方差
的同分布随机变量. 记 N
为取值于非负整数的随机变量.我们假定上述所有变量相互独立, 下面考虑变量和

那么：

- 矩母函数
可由计算矩母函数
的公式得到, 将其中的
全部替换成
即可.

例 4.34
一个遥远的村庄有三家加油站.每家加油站在任意一天营业的概率都是1/2,而且各家的营业与否都是相互独立的.各家加油站的汽油存量是相互独立的随机变量,其分布都是0到1 000加仑之间的均匀分布. 我们想要刻画营业的加油站汽油存量总和的概率分布规律.

营业加油站的数目 N
是服从
的二项随机变量,相应的矩母函数为

每家营业的加油站的汽油存量的相应矩母函数
为

汽油存量总和 Y
的相应矩母函数可通过
来计算, 把
公式中的
替换成
即可, 即有

例 4.35(个数服从几何分布的独立指数随机变量之和)
简为买一本《远大前程》的书逛了很多家书店.每家书店有这本书 的概率都是 p
, 且与其他书店相互独立.逛任意一家书店, 简停留的时间都是随机变量,服从参数为
的指数分布, 直到她找到这本书或者她肯定这家书店没有这本书后才离开.假定简会一直逛下去直到她买到这本书,且她在每家书店停留的时间与其他任何事情都独立.我们希望求出简逛书店的时间总和的均值、方差和概率密度函数.

简逛的书店数目 N
服从参数为 p
的几何分布. 因此,在书店中花费的总时间 Y
是 N
个独立同分布指数随机变量
的和, 其中变量
服从指数分布,参数为
. 我们有

运用几何分布和指数分布随机变量的方差公式, 得到

为得到矩母函数
, 首先有

将
公式中每个
都换成
, 即得

经过化简可得

这就是服从参数为
的指数随机变量的矩母函数,所以,

这个结果很令我们惊讶, 因为定数 n
个独立指数随机变量和反而不服从指数分布. 例如, 当 n
=2 时, 变量和的矩母函数为
, 这与指数随机变量的矩母函数不相符.

例 4.36(个数服从几何分布的独立几何随机变量之和)
本例是与前例对应的一个离散类型. 我们记 N
服从参数为 p
的几何分布. 同时记每个随机变量
服从参数为 q
的几何分布.假定这些随机变量都是独立的. 记
, 我们有

为了计算
, 先从计算
的公式入手, 并且将公式中出现的
都用
替换. 这样有

经过计算, 有

这样即推断出 Y
服从参数为 pq
的几何分布.

4.6　小结和讨论

在本章, 我们学习了很多内容. 这里我们总结一下其中的一些重点.

在4.1节,我们介绍了一个连续随机变量 X
的函数
的概率密度函数的计算方法.运用分布函数的概念非常有用. 特别地,
的密度函数是通过计算它的分布函数, 然后对其进行微分而得到的.在很多情况下,
是严格单调函数,那么可以通过特殊的公式来直接计算概率密度函数.我们同时也考虑了两个连续随机变量函数
的概率密度函数的计算问题.特别地, 我们推导出两个独立随机变量和的概率律的卷积公式.

在4.2节, 我们介绍了协方差和相关系数的概念,它们都是量化两个随机变量之间的关系大小的指标. 协方差、相关系数都可以用于计算相关的随机变量和的总方差.它们在8.4节的线性最小二乘估计方法中也会大有作为.

在4.3节, 我们重新考虑关于条件的话题,目的是导出条件期望和条件方差的有用工具.对条件期望进行了大量的研究和分析, 结果表明条件期望可视为随机变量,也有自己独特的期望和方差. 我们推导了许多性质,包括重期望法则和全方差法则.

在4.4节, 我们介绍了随机变量的矩母函数以及矩母函数是怎么算出来的.反过来, 我们指出给定一个矩母函数,与这个矩母函数相关联的随机变量的分布是唯一确定的.对于常用的随机变量, 可利用矩母函数表查到其相应的矩母函数.我们发现矩母函数有以下很多有用的用途：

(a) 随机变量的矩母函数提供了一种计算随机变量矩的捷径;

(b) 两个独立随机变量和的矩母函数等于它们各自矩母函数的乘积,这个性质用来说明两个独立正态(泊松)随机 变量的和也是正态(泊松)分布;

(c) 矩母函数可以用来确定个数为随机数的随机变量和的分布(见4.5节),其他的方法是不可 能做到这一点的.

最后在4.5节中, 我们推导出个数为随机变量的独立随机变量和的均值、方差和矩母函数的计算公式, 这其中综合运用了4.3节和4.4节中的方法.

习题

4.1 节　随机变量函数的概率密度函数

1
. 如果 X
是-1到1之间的均匀随机变量, 求出
和
的概率密度函数.

2
. 试用 X
的概率密度函数来表示
的概率密度函数. 然后求出当 X
服从[0,1]区间的均匀分布时,
的概率密度函数.

3
. 试用 X
的概率密度函数来表示
和
的概率密度函数.

4
. 城铁从早上6:00开始, 每隔15分钟到达你家附近的车站.你每天早晨在7:10到7:30之间的某时刻到达车站.设到达时间为一个随机变量, 其分布已知(见第3章中例3.14的分布). 记 X
为你到达车站的时刻与7:10之间的时间长度(单位：分钟). 记 Y
为你上车之前需要等待的时间. 试用 X
的分布函数来表示 Y
的分布函数, 然后求导, 计算 Y
的概率密度函数.

5
. 设 X
和 Y
是相互独立的随机变量,均服从[0,1]的均匀分布, 求
的分布函数和概率密度函数.

6
. 在笛卡儿坐标系中, 设
是在三点(0,1)、(0,-1)、(1,0)围成的三角形内均匀分布的随机点,求出
的分布函数和概率密度函数.

7
. 从区间[0,1]中随机地、 独立地、均匀地选出两个点,证明这两个点之间距离的期望值是1/3.

8
. 设 X
和 Y
是相互独立的随机变量,均服从参数为
的指数分布, 求
的概率密度函数.

9
. 再次考虑例4.9, 但是假设 X
和 Y
分别服从参数为
和
的指数分布, 求
的概率密度函数.

10
. 设 X
和 Y
是相互独立的随机变量,它们的分布列如下：

请用卷积公式计算
的分布列.

11
. 请用卷积公式证明：两个分别服从参数为
和
的泊松分布的随机变量之和仍然是泊松分布, 其参数为
.

12
. 设 X
、Y
、Z
是服从区间[0,1]的均匀分布的独立随机变量, 求
的概率密度函数.

13
. 设一个概率密度函数只在区间
上取正值, 且关于区间中点
对称. 设 X
和 Y
相互独立, 且 具有这样的概率密度函数. 如果已经计算出
的概率密度函数, 如何计算
的概率密度函数.

14. 竞争型指数分布
. 设两盏灯泡的寿命 X
和 Y
相互独立, 且分别服从参数为
和
的指数分布. 则首先用坏的时间是

试证明：Z
也是服从指数分布, 参数为
.

15. 柯西随机变

(a)
设 X
是-1/2与1/2之间均匀分布的随机变量, 证明
的概率密度函数是

(Y
称为柯西随机变量
.)

(b)
设 Y
是柯西随机变量, 设 X
是位于
和
之间的角度数, 满足
. 求 X
的概率密度函数.

解
(a)
首先注意到 Y
是连续的且关于 X
严格递增的函数. 当
时,Y
的取值空间位于
和
之间. 所以对任意实数 y
,

最后一个等式是运用了 X
是-1/2与1/2之间均匀分布的随机变量的分布函数的性质.所以, 通过求导, 并利用公式
, 我们可以得到：对任意的实数 y
,

(b)
首先计算 X
的分布函数,然后求导就可以得到其概率密度函数. 对任意的
, 我们有

当
时,
, 而当
时,
. 对分布函数
求导,可以看出 X
的分布是在区间
上的均匀分布.

值得注意的是, 柯西分布的一个有趣的性质是

这个性质很容易验证.所以柯西分布没有期望值, 尽管分布关于0点对称.见3.1节中关于连续变量期望的定义的备注.

16. 两个独立正态随机变量的极坐标
. 设 X
和 Y
是独立的标准正态随机变量. 对
可以使用极坐标来描述, 记
和 夹角
, 则

(a)
证明
在区间
均匀分布, R
具有概率密度函数

并且 R
和
相互独立. (随机变量 R
通常称为瑞利
分布.)

(b)
证明
的分布是参数为1/2的指数分布.

注意
, 利用该题的结论, 我们可以看出, 正态分布的随机样本可以通过独立均匀分布样本和指数分布样本来产生.

解
(a)
X
和 Y
的联合概率密度函数是

现在我们来求 R
和
的联合分布. 固定
和
. 定义集合 A
是点
的集合：点的极坐标
满足
, 且
. 注意, 集合 A
是以 r
为半径,夹角为
的扇形. 所以

最后一个等式利用了极坐标的转换. 求导, 可得

因此

而且

因为
的条件概率密度函数
与 R
的值无关,所以, 它必与无条件概率密度函数
是一样的. 特别地,
,所以 R
与
是相互独立的.

(b)
记
. 我们有

这里我们运用了变量替换
. 求导可得

4.2 节　协方差和相关

17
. 假设随机变量 X
和 Y
具有相同的方差, 证明：
与
不相关.

18
. 假设四个随机变量 W
、X
、Y
、Z
满足

假设 W
、X
、Y
、Z
相互之间两两不相关.计算相关系数
和
,这里
、
、
.

19
. 假设随机变量 X
满足

定义新的随机变量

计算相关系数
.

20
.* 施瓦兹不等式**. 证明对任意的随机变量 X
和 Y
均有

解
假设
, 否则,
, 有
,所以不等式成立. 我们有

即,

21
.* 相关系数.**考虑随机变量 X
和 Y
的相关系数

并假定它们的方差为正. 证明：

(a)

.提示
：用上题的施瓦兹不等式.

(b)
如果
是
的正(或负)倍数,那么
(或者
, 相应地).

(c)
如果
(或者
), 那么,
概率为1地为
的正(或者相应地为负)倍数.

解
(a)
记
以及
. 用施瓦兹不等式,得到

所以有
.

(b)
如果
, 那么

(c)
如果
, 那么由题20可得

因此, 概率为1地, 随机变量

等于0. 由此得到, 概率为1地,

即,
和
的倍数关系的正负号由
决定.

4.3 节　条件期望和条件方差

22
. 设一个赌徒每次赢或输的概率分别为 p
和 1-p
,而且每次输赢与以前独立. 当
时,一个流行的赌博方法(称为凯利策略)是每次赌上当前资产的 2p
-1 部分.设初始资产为 x
元, 运用凯利策略,计算经过 n
次赌博之后资产的期望值.

23
. 帕特和纳特在约会, 他们所有的约会都在晚上9点以后.纳特总是在9点的时候到达, 而帕特比较散漫,她到达的时间是均匀分布在8点和10点之间的.记 X
是8点和帕特到达时间的间隔时间. 如果帕特在9点之前到达,他们的约会将持续3小时. 如果帕特在9点以后到,他们的约会持续的时间是均匀分布在 0 和 3-X
小时之间的.他们的约会在他们见面后开始. 当帕特迟到的时候, 纳特会很生气,并且会在他们的第二次约会帕特迟到多于45分钟的 时候结束他们的关系.所有的约会都是相互独立的.

(a)
纳特等待帕特的小时数的期望是多少?

(b)
一般约会持续时间的期望是多少?

(c)
在他们分手之前他们约会次数的期望是多少?

24
. 一位退休教授到办公室的时间服从早上9点到下午1点的均匀分布, 然后他做一件工作, 完成这个任务后就离开办公室. 这项任务 完成的时间服从参数为
的指数分布, 这里 y
是9点和教授到达时刻的时间段长度.

(a)
教授完成任务需要时间的期望是多少?

(b)
任务完成时刻的期望是多少?

(c)
现在, 换一种情况. 这位教授除了完成他本人的任务外, 他还有一个博士生, 这个学生会在指定的一天去找教授,学生去找他的时刻服从从早上9点到下午5点的均匀分布. 如果这个学生没有找到教授, 就离开并且不回来了. 如果找到了教授, 他将会和教授一起待一定的时间, 这段时间服从0到1小时的均匀分布. 教授总在他自身的任务上花同样的时间, 不管他是否被这个学生打扰. 这一天, 教授和学生在一起的时间的期望 是多少? 教授离开办公室的时间的期望是多少?

25
.* 证明：对任意的离散型或者连续型随机变量 X
, 以及另一个随机变量 Y
的任意函数
, 都有
.

解
假设 X
是连续的. 由第3章的条件期望公式可得

这就证明了随机变量
的每一个实现值
与随机变量
的每一个实现值
总是相等的,所以这两个随机变量也总是相等的.

对 X
是离散的情形,证明类似.

26
.* X
和 Y
是独立的随机变量. 用全方差法则证明

解
设
. 全方差法则说明

我们有

所以

进一步地,

所以

结合前面的关系, 我们得到

27
.* 我们投掷 n
次不均匀的硬币,且每次正面朝上的概率为 q
, q
值的大小是随机变量 Q
可能的取值,Q
的均值是
, 方差
. 设
为第 i
次投掷结果的伯努利随机变量(即第 i
次投掷硬币正面朝上,
, 否则
). 假设
在给定
时, 是条件独立的. 记 X
为 n
次投掷硬币正面朝上的总次数.

(a)
运用重期望公式, 计算
和
.

(b)
计算
.
独立吗?

(c)
运用全方差公式计算
.并运用(b)中的结果来验证.

解
(a)
运用重期望公式以及
,

因为
, 则有

(b)
当
, 使用条件独立假设可得

以及

所以

因为
,所以
不独立.

当
时, 注意到
,

(c)
运用全方差法则和
的条件独立性, 我们有

为运用(b)中的结果来验证上式, 计算如下:

28.* 二维正态分布的概率密度函数
. (零均值)二维正态分布的概率密度函数具有如下形式

其中 指数部分的函数
是 x
和 y
的二次多项式,

这里
和
是正常数,
是满足
的常数, c
是归一化常数.

(a)
配方, 即把
写成
, 其中
、
、
是常数.

(b)
证明 X
和 Y
分别是期望为0方差为
和
的正态分布.

(c)
求出归一化常数 c
.

(d)
证明在给定
的条件下,X
的条件概率密度函数是正态的, 并求其期望和方差.

(e)
证明 X
和 Y
的相关系数是
.

(f)
证明 X
和 Y
的相互独立的充要条件是它们不相关.

(g)
证明估计误差
是正态的, 均值为0,方差为
, 而且与 Y
是独立的.

解
(a)
可将
写成下面的形式

其中

(b)
由(a)可得

运用变量替换

可得

所以

这就是均值为0方差为
的正态分布的概率密度函数. 由对称性,可证得 X
是正态的.

(c)
Y
的概率密度函数的归一化系数一定为
.所以

从而

(d)
因为

和

所以

对任意给定的 y
, 这是均值为
方差为
的正态分布的概率密度函数. 特别地,我们有
和

(e)
运用期望公式和重期望法则, 可得

所以相关系数
是

(f)
如果 X
和 Y
不相关, 则
, 而且联合概率密度函数满足
, 所以 X
和Y
独立. 反之, 若 X
和 Y
独立, 则它们自动不相关.

(g)
从结论(d)可知, 给定
的条件下, X
是正态的,均值为
, 方差为
. 所以,给定
的条件下, 估计误差
是正态的,均值为0, 方差为
,即

既然
的条件概率密度函数不依赖于 Y
的值 y
,所以
与 Y
独立,而且上述条件概率密度函数也是
的无条件概率密度函数.

4.4 节　矩母函数

29
. 设 X
为取值 1、2、3的随机变量,分布列如下：

求X的矩母函数并且用它得到前三个矩
、
、
.

30
. 计算标准正态随机变量 X
的
和

31
. 计算参数为
的指数分布的三阶、四阶、五阶矩.

32
. 一个非负的整数随机变量 X
有以下两个表达之一作为它的矩母函数：

(1)

(2)

(a)
解释为什么这两者中的有一个表达式不是矩母函数.

(b)
用真矩母函数计算
.

33
. 计算具有下列矩母函数的连续随机变量 X
的概率密度函数:

34
. 设一个足球队有三名球员, 轮流罚点球.第 i
个球员踢中点球的概率为
, 而且与其他球员是相互独立的.设每个球员有一次罚点球机会, 记 X
为三名球员踢球完后踢中的总次数.运用卷积公式计算 X
的分布列. 计算 X
的矩母函数,然后再计算 X
的分布列. 看看这两个结论是否一致.

35
. X 为取值非负整数的随机变量, 并且具有矩母函数

这里c是一个常数. 计算
以及
.

36
. X
、Y
、Z
是独立的随机变量,X
为参数为1/3的伯努利分布, Y
是参数为2的指数分布,Z
是参数为3的泊松分布.

(a)
考虑新的随机变量
. 计算 U
的矩母函数.

(b)
计算
的矩母函数.

(c)
计算
的矩母函数.

37
. 一个比萨店提供 n
种不同的比萨饼, 在一段时间内,有 K
个顾客来消费, 其中 K
是取非负整数的随机变量,且已知其矩母函数是
.每个顾客订一种比萨饼, 而且订哪种的概率都是相同的,与其他顾客是独立的.请以
来表述预定的比萨饼的种类数的期望.

38
.* X
是取值为非负整数的离散随机变量.
是 X
的矩母函数.

(a)
证明

(b)
用(a)证明下列结果：如果 X
是服从参数为 n
和 p
的二项分布的随机变量,我们可以得到
. 进一步,如果 X
是服从参数为
的泊松分布的随机变量,我们可以得到
.

(c)
假设 X
已知为只取大于或者等于已知整数
的整数.运用 X
的矩母函数我们怎么计算
?

解
(a)
我们有

当
时, 所有
趋向于0,所以我们得到
.

(b)
在二项分布的条件下, 我们可以得到矩母函数

所以
.在泊松分布的条件下, 我们有

所以
.

(c)
随机变量
只取非负整数值,相应的矩母函数是
(参考例4.25).因为
, 我们从(a)得到,

39
.*　均匀随机变量的矩母函**

(a)
计算在
上均匀分布的整数值随机变量 X
的矩母函数.

(b)
计算在区间
上均匀分布的连续随机变量 X
的矩母函数.

解
(a)
X
分布列是

矩母函数为

(b)
我们有

40
.* 假设离散随机变量 X
的矩母函数有下列形式

这里
和
都是 t
的多项式. 假设
和
没有共同根,而且
的次数比
的小. 假定
的所有根是绝对值大于1的互异非零实根.那么可以看出
可以写成下面形式

这里
是
的根,而且当
时
是等于
的常数.

(a)
证明 X
的分布列为

注意：对于大的 k
,X
的概率密度函数可以通过
来逼近,这里
是最大的
(假定
是唯一的)的相应的指标.

(b)
把(a)的结果推广到
的情况, b
为整数.

解
(a)
对于所有的满足条件
的 s
, 我们有

因此,

根据矩母函数的定义, 我们得到

对于所有的
成立, 并且对于
,
.注意如果系数
为非负实数的话, 这个分布列为几何分布列的混合.

(b)
在这种情况下,
相当于矩母函数为
的随机变量通过平移 b
以后所得到的矩母函数(参考例4.25),所以我们有

4.5节　随机数个相互独立的随机变量之和

41
. 在某一确定时间,进入电梯的人数服从参数为
的泊松分布.每个人的体重都是相互独立的, 并且服从100磅到200磅之间的均匀分布.
是第 i
个人 超出100磅部分与100的比值, 例如,如果第七个人重175磅, 那么
. Y
是诸
的和.

(a)
求 Y
的相关矩母函数.

(b)
用矩母函数计算 Y
的期望值.

(c)
用重期望法则证明(b)的答案.

42
. 构造一个个数为随机的独立正态随机变量之和为非正态的例子(即使固定数目的独立正态随机变量的和是正态随机变量).

43
. 一个摩托车手过四个红绿灯,过每个灯的时候红灯的概率都是1/2. 在每个灯等待的时间由模型假设为均值为1分钟、标准差为1/2分钟的正态分布.X
是在红灯前等待的总时间.

(a)
用全概率定理计算 X
的概率分布函数和相应矩母函数,并计算 X
超过四分钟的概率. X
是正态的吗?

(b)
把 X
看作个数为随机的各随机变量之和,计算 X
的相应矩母函数.

44
. 计算下列随机变量和的期望和方差:

其中 N
自身 也是整数随机变量的和, 即

这里
都是独立的随机变量,
是取整数值且非负的随机变量,
分布相同, 具有相同的均值
和方差
.
也具有相同的均值
和方差
.

(a)
用
、
、
、
来推导
和
.

(b)
用
、
、
、
、
、
来推导
和
.

(c)
一个板条箱里有 M
个纸盒, M
服从参数为 p
的几何分布.第 i
个纸盒含有
个小零件,
服从参数为
的泊松分布,每个小零件的重量服从参数为
的指数分布.假定所涉及的随机变量都是独立的. 求整个箱子的总重量的期望和方差.

45
.* 用矩母函数方法证明个数服从泊松分布的诸独立同分布的伯努利随机变量之和服从泊松分布.

解
记 N
是服从参数为
的泊松分布的随机变量.
是独立的参数为 p
的伯努利随机变量. 令

是相应的和. L
的矩母函数通过 N
的矩母函数得到, N
的矩母函数为

的矩母函数为

通过
的矩母函数代替
, 我们得到

这就是参数为
的泊松分布的矩母函数.

第 5 章　极限理论

在本章里,我们讨论随机变量序列的渐近性质.设
为一个独立同分布的随机变量序列,其公共分布的均值为
,方差为
.定义

为这个随机变量序列的前 n
项之和.本章的极限理论研究
以及与
相关的变量在
时的极限性质.

由随机变量序列的各项之间的相互独立性可知

所以,当
时,
是发散的,不可能有极限.但是样本均值

却不同.经过简单计算就可以得到

所以当
时,
的方差趋于0.也就是说,
的分布大部分就必然与均值
特别接近.这种现象就是大数定律的内容,即随机变量序列
,从大样本意义上看,收敛于
的均值
.按通常的解释,当样本量很大的时候,从 X
抽取的样本平均值就是
,大数定律就为此提供了一个数学理论基础.

下面考虑另一个随机变量序列.用
减去
,可以得到零均值随机变量序列
,然后再除以
,就得到随机变量序列

易证明

因为
的均值和方差不依赖于样本容量 n
,所以它的分布既不发散,也不收敛于一点.中心极限定理
就研究
的分布的渐近性质,并且得出结论：当n
充分大的时候,
的分布就接近标准正态分布.

极限理论的用处很多.

(a) 从理论上看,极限理论为期望(或概率)和独立同分布试验序列之间的联系提供了合理的解释.

(b)极限理论提供了
等随机变量序列当样本量 n
充分大时的渐近性质.与精确方法比较,为了了解
的性质,精确方法需要计算
的分布列或概率密度函数,但是在 n
充分大的时候,这些计算是非常复杂而且不得要领.

(c) 在使用大量观测数据集时,极限理论在统计推断中发挥主要的作用.

5.1　马尔可夫和切比雪夫不等式

本节介绍一些重要的不等式.这些不等式使用随机变量的均值和方差去分析事件的概率.在随机变量 X
的均值和方差易于计算,但分布不知道或不易计算时,这些不等式就非常有用.

首先介绍马尔可夫不等式
.粗略地讲,该不等式是指,一个非负
随机变量如果均值很小,则该随机变量取大值的概率也非常小.

马尔可夫不等式

设随机变量 X
只取非负值,则对任意
,

现在来证明马尔可夫不等式.固定正数 a
,定义随机变量
,

易知

总成立,从而

另一方面

所以

(见图5.1给出的马尔可夫不等式推导过程示意图).

图 5.1　马尔可夫不等式推导过程示意图.图(a)是非负随机变量 X
的概率密度函数.图(b)是与 X
相关的随机变量
的分布列.分布列的构造如下：把 X
位于 0 和 a
之间的所有质量都赋值于点 0,大于等于 a
的质量都赋值于点 a
.因为所有的质量向左转移,所以期望必然减少,因此

例 5.1
设 X
服从[0,4]的均匀分布.易知
.由马尔可夫不等式可得

与真实概率进行比较

可以看出由马尔可夫不等式给出的上界与真实概率相差非常远.

下面介绍切比雪夫不等式
.粗略地讲,切比雪夫不等式是指如果一个随机变量的方差非常小的话,那么该随机变量取远离均值
的概率也非常小.注意的是：切比雪夫不等式并不要求所涉及的随机变量非负.

切比雪夫不等式

设随机变量 X
的均值为
,方差为
,则对任意
,

.

下面来证明切比雪夫不等式.考虑非负随机变量
.令
,使用马尔可夫不等式,可得

注意,事件
等价于事件
,所以

在证明切比雪夫不等式的时候也可以不使用马尔可夫不等式,其推理如下.不妨设 X
是连续型随机变量,定义函数

注意,对任意的 x
,
,所以

这就是切比雪夫不等式.

令
,其中 k
是正数.切比雪夫不等式的另一个版本是：

所以一个随机变量的取值偏离其均值 k
倍标准差的概率最多是
.

切比雪夫不等式比马尔可夫不等式更准确,即由切比雪夫不等式提供的概率的上界离概率的真值更近.这是因为它利用了 X
的方差的信息.当然一个随机变量的均值和方差也仅仅是粗略地描述了随机变量的性质,所以由切比雪夫不等式提供的上界与精确概率也可能不是非常接近.

例 5.2(续例5.1)
设 X
服从[0,4]的均匀分布.现在使用切比雪夫不等式来给出事件
的概率上界.显然
,
,则

由于概率的值永远不超过1,所以这个不等式并不带来任何信息.

现在看另一例子,设 X
服从参数
的指数分布,则
.对任意的
,使用切比雪夫不等式可得

而真实概率是
.可以看出由切比雪夫不等式给出的上界比较保守.

例 5.3(切比雪夫不等式的上界)
设随机变量 X
取值空间是
,现在我们证明
因此,如果
未知,我们就可以用上界
来代替切比雪夫不等式中的
,即

对任意的
成立.

现在来证明
对任意的常数
,我们有

而且该二次多项式在
处达到极小.因此对任意的常数
,我们有

令
,可得

其中等式可以通过直接计算来验证,最后一个不等式成立的原因是：当
时

上界
可能会非常保守,但是在对 X
的信息缺乏更深的认识的情况下,这个上界很难更加精确.当 X
各以1/2的概率只取极端值 a
和 b
时,
.

5.2　弱大数定律

弱大数定律
是指独立同分布的随机变量序列的样本均值,在大样本的情况下,以很大的概率与随机变量的均值非常接近.

下面考虑独立同分布随机变量序列
,公共分布的均值为
,方差为
.定义样本均值

则

再运用独立性可得

利用切比雪夫不等式可得

对任意的
成立.

注意,对任意固定的
,上面不等式的右边在
时趋于0,于是就得到如下的弱大数定律.这里要提到的是：当
的方差无界时,弱大数定律仍然成立,但是需要更严格而精巧的证明,在此省略.因此,在下面陈述的弱大数定律中,只需要一个假设,即
是有限的.

弱大数定律

设
独立同分布,其公共分布的均值为
,则对任意的
,当
时,

弱大数定律是指对于充分大的 n
,
的分布的大部分都集中在
附近.设包含
的一个区间为
,则
位于该区间的概率非常大.当
时,该概率趋于1.当然当
非常小时,则需要更大的 n
,使得
以很大的概率落在该区间内.

例 5.4(概率与频率)
在某个试验中,考虑一个随机事件 A
.记
为事件 A
发生的概率.现在假定在 n
次独立重复的试验中,记
为 n
次独立重复试验中事件 A
发生的次数占总试验次数 n
的比例,
通常称为事件 A
的频率
.注意到

其中
表示事件 A
发生,否则
.特别地有
.运用弱大数定律可以证明：当 n
充分大时,频率以很大的概率落在 p
的
邻域里.也就是说频率是 p
的一个很好的估计.换句话说,可以将事件 A
发生的频率解释为概率 p
.

例 5.5(选举问题)
设 p
为选民支持某候选人的比例.现在“随机”地对 n
个选民进行调查,然后计算这 n
个选民对该候选人的支持率
.我们将
视为 p
的估计,并研究它的性质.

“随机”的含义是指这 n
个选民是所有选民中的独立同分布样本.所以每个选民的回答也可以视为独立的伯努利随机变量
,
表示选民支持候选人,或“试验成功”.成功的概率为 p
,
的方差为
.利用切比雪夫不等式可得

当然参数 p
的真值是未知的.另外注意到
,所以

比如,
且
时,

也就是说,在
的情况下,估计量
与 p
的真值相差大于0.1的概率不超过0.25.

现在考虑另一个问题,假设我们希望估计量与真值 p
相差不到0.01的概率至少超过95%,那么至少需要调查多少人?现在我们唯一可以使用的就是不等式

为满足要求,只需求充分大的 n
,使得

由上式可得
.取这样的 n
,就能满足我们的要求,但是基于切比雪夫不等式得到的结论仍然很保守.更好的结论将在5.4节中讨论.

5.3　依概率收敛

{弱}大数定律可以表述为“
收敛于
”.但是,既然
是随机变量序列,而不是数列,所以这里的“收敛”的含义不同于数列的收敛,应该给予更明确的定义.下面先给出数列的收敛的定义,以便于进行比较.

数列的收敛

设
是一实数数列,a
为一实数,如果对任意的
,存在正整数
,使得对所有的
都有

则称数列
收敛于 a
,记为
.

所以,如果
,则对任意给定的
,当 n
充分大时,
必须在 a
的
邻域内.

依概率收敛

设
是随机变量序列(不必相互独立),a
为一实数,如果对任意的
都有

则称
依概率收敛于
a
.

根据这个定义,弱大数定律就是说样本均值依概率收敛于真值
.更一般地,利用切比雪夫不等式可以证明：如果所有的
具有相同的期望,而方差
趋于0,则
依概率收敛于
.

如果随机变量序列
有分布列或者概率密度函数,且依概率收敛于 a
.则根据依概率收敛的定义,对充分大的 n
,
的分布列或概率密度函数的大部分“质量”集中在 a
的
邻域
内.所以依概率收敛的定义也可以这样描述：对任意的
和
,存在
,使得对所有的
都有

下面称
为精度
,
为置信水平
.依概率收敛的定义有如下的形式：任意给定精度和置信水平,在 n
充分大时
等于 a
.

例 5.6
设
独立同分布,服从[0,1]上的均匀分布,定义

当 n
增大时,
的值不会增大,有时还会减小(当
的值比前面得到的值小时),所以
从直觉上看可能收敛于0.实际上,对任意的
,利用
的独立性可以得到

于是,

上式对任意的
都是成立的,所以
依概率收敛于0.

例 5.7
设随机变量 Y
服从参数
的指数分布.对任意的正整数 n
,定义
.(注意该随机变量序列不是独立的.)现在研究
是否依概率收敛于0.

实际上,对任意的
,可以得到

于是,

上式对任意的
都是成立的,所以
依概率收敛于0.

人们很容易认为,如果
依概率收敛于实数 a
,则
也应该收敛于 a
.下面的例子说明这个结论是不对的,从而说明依概率收敛的定义有局限性.

例 5.8
考虑离散随机变量序列
,其分布列为

见图5.2.则对任意的
有

所以
依概率收敛于0.另一方面,当
时,
.

图 5.2　例5.8中随机变量
的分布列

5.4　中心极限定理

根据弱大数定律,样本均值
的分布随着 n
的增大,越来越集中在真值
的邻域内.特别地,在我们的论证中,假定
的方差为有限的时候,可以证明
的方差趋于0.另一方面,前 n
项和

的方差趋于
,所以
的分布不可能收敛.换一个角度,我们考虑
与其均值
的偏差
,然后乘以正比于
的刻度系数.乘以刻度系数的目的就是使新的随机变量具有固定的方差.中心极限定理指出这个新的随机变量的分布趋于标准正态分布.

具体地说,设
是独立同分布的随机变量序列,均值为
,方差为
.定义

经过简单计算可以得到

中心极限定理

设
是独立同分布的随机变量序列,序列的每一项的均值为
,方差为
.记

则
的分布函数的极限分布为标准正态分布函数

即

对任意的 x
成立.

中心极限定理是一个非常具有一般性的定理.对于定理的条件,除了序列为独立性同分布的序列之外,还假设各项的均值和方差的有限性.此外,对
的分布再也没有其他的要求.
的分布可以是离散的、连续的或是混合的.本章末尾的习题对此定理提供了证明概要.

这个定理不仅在理论上非常重要,而且在实践中也是如此.从理论上看,该定理表明大样本的独立随机变量序列和大致是正态的.所以当人们遇到的随机量是由许多影响小但是独立的随机因素的总和的情况,此时根据中心极限定理就可以判定这个随机量的分布是正态的.例如在许多自然或工程系统中的白噪声就是这种情况.

从应用角度看,中心极限定理可以不必考虑随机变量具体服从什么分布,避免了分布列和概率密度函数的繁琐计算.而且,在具体计算的时候,人们只需均值和方差的信息以及简单查阅标准正态分布表即可.

5.4.1　基于中心极限定理的近似

中心极限定理允许人们可以将
的分布看成正态分布,从而可以计算与
相关的随机变量的概率问题.因为正态分布在线性变换下仍然是正态分布,所以可以将
视为均值为
,方差为
的正态随机变量.

基于中心极限定理的正态近似

令
,其中
是独立同分布的随机变量序列,均值为
,方差为
.当 n
充分大时,概率
可以通过将
视为正态随机变量来近似计算.步骤如下：

(1) 计算
的均值
和方差
;

(2) 计算归一化后的值
;

(3) 计算近似值

其中
可从标准正态分布表查得.

例 5.9
飞机上运载100件包裹,每件包裹的重量是独立的随机变量,且在5磅到50磅之间均匀分布.那么这100件包裹的总重量超过3000磅的概率是多少?直接计算总重量的分布,从而计算该概率是非常不容易的.但是使用中心极限定理,可以很容易计算该概率的近似值.

现在计算
,其中
是这100件包裹的总重量.每件包裹的平均重量和方差是

然后计算标准正态值

使用标准正态近似,可以得到

所以

例 5.10
机器对零件进行加工,每次加工一个零件.对于不同的零件,其加工时间是相互独立并具有相同分布的随机变量,其公共分布为时间区间[1,5]上的均匀分布.设在320个单位时间之内所加工的零部件总数为
,问
至少为100的概率是多少?

我们不能将
表示为独立随机变量的和,但是可以换一种观点来处理问题.记
为第 i
个零件的加工时间,而
是前100个零件的加工总时间.事件
和事件
是同一个事件,而后者中的
是独立同分布的随机变量之和,它的分布可用正态分布来近似.注意到
计算

则概率近似为

若
的方差未知,但方差的上界已知,使用正态近似的方法可以得到人们感兴趣的事件的概率上界.

例 5.11(选举问题)
现在重新考虑例5.5的选举问题.设对 n
个选民进行调查,记录下他们赞成某候选人的比例
,

其中
是被调查的第 i
个选民的态度,
表示选民 i
支持某候选人,
表示选民 i
反对某候选人.假设 p
是这个候选人在全体选民中的支持率,则
是服从参数为 p
的伯努利随机变量.故
的均值为 p
,方差为
.利用中心极限定理,
近似服从正态分布.

下面计算概率
,
是估计精度,即计算候选人这 n
个人中的支持率与在全体选民中的支持率相差大于
的概率.由正态分布的对称性,可得

显然
的方差为
,依赖于未知参数 p
,所以也是未知的.注意,偏离均值的概率随着方差的增大而增大,所以为了得到概率
的上界,人们可以假设
有最大的方差,即当
时,方差为
.为此,先计算

所以

例如,当
且
时,假设方差取最大值,且
是近似正态的,此时

由此得到
的上界为0.046,这比在例5.5中使用切比雪夫不等式得到的上界0.25要小得多,所以更准确.

现在考虑另一个问题.如果希望估计
与真值 p
的差距为0.01之内的概率至少是0.95,则样本容量 n
应该多大?现在我们假设最坏的情况发生,此时
的方差达到最大,这个假设引向条件

即

根据正态分布表,可查得
,所以上式等价于

即

这个结果是比较理想的,若使用切比雪夫不等式,需要50 000个样本才能保证上述结论.

当
时,正态近似就会越精确,但是在实践中,样本容量 n
是固定的、有限的.所以须知道 n
多大时正态近似的结果是可信的.可惜的是,没有简单和普遍的准则来判断.这要依赖于
的分布是否与正态分布接近,特别地,还依赖于
的分布是否对称.比如说,假设
是均匀分布,则
就已经与正态分布接近了.但是如果
是指数分布,那么 n
必须要充分大,
的分布与正态分布才接近.进一步,使用正态近似计算
的时候,其近似的程度与 c
的值有关.一般来说,如果 c
在
均值的附近,其精度会更高一些.

5.4.2　二项分布的棣莫弗-拉普拉斯近似

服从参数为 n
和 p
的二项分布的随机变量
可以看成 n
个服从参数为 p
的伯努利分布的独立随机变量
的和：

显然

现在使用中心极限定理去近似事件
的概率,其中 k
和 l
是给定的整数.实际上,运用事件的等价性

将事件表达成标准化随机变量的形式.利用中心极限定理可知
近似服从标准正态分布,所以

上述近似方法等价于将
看成均值为 np
方差为
的正态分布.图5.3表明,如果 k
和 l
替换成
和
,则概率的近似结果更加准确,下面给出相关的近似公式.

二项分布的棣莫弗-拉普拉斯近似

设
是服从参数为 n
和 p
的二项分布,n
充分大,k
和 l
是非负整数,则

图 5.3　正态近似将二项分布随机变量
看成均值为 np
方差为
的正态分布.图中显示二项分布的分布列和相应的正态概率密度函数.(a) 概率值
可以由正态概率密度函数从 k
到 l
进行积分计算,即图形中阴影部分的面积,使用这种方法,当
时,概率
就会近似为0.(b) 弥补这个缺陷的方法就是用区间
内正态分布的概率来近似.使用这种想法,
可以用正态概率密度函数在区间
内的面积来近似

当 p
靠近1/2时,
的分布列是对称的,当 n
接近40或50时,使用上述近似方法就能得到很好的结果.当 p
靠近1或0时,这个近似结果就不好,这时需要更大的 n
才能得到相同的精度.

例 5.12
设
是服从参数为 n
=36 和 p
=0.5 的二项分布,则

是精确的概率.

使用中心极限定理,若端点不经过修正,上述概率可以近似为

若端点经过修正,可以得到

上述计算说明,端点经过修正以后,近似的概率与精确概率非常接近.

使用端点修正技术,同样可以近似
在单点的概率,比如,

这也与真值

非常接近.

5.5　强大数定律

强大数定律与弱大数定律一样,都是指样本均值收敛于真值
.但是,它们强调的是不同的收敛类别.

下面是强大数定律的一般陈述.在本章末尾的习题中,在
的四阶矩有限的附加条件之下给出了证明.

强大数定律

设
是均值为
的独立同分布随机变量序列,则样本均值
以概率1
收敛于
,即

为解释强大数定律,还是采用样本空间的概率模型来解释.由于试验是由无穷长的一串独立重复的小试验序列组成,每次试验的结果,就是随机变量序列
的一个数据的无穷序列
.所以,人们可以把样本空间定义为无穷序列
的集合：任何一个无穷的数列都可能是试验的一个结果.现在考虑样本空间中的一个集合
,A
中的样本满足如下条件：在极限意义下的样本均值为
,即

强大数定律是指样本空间中几乎所有可能的样本点都集中在这个特殊的子集中.换句话说,所有不在 A
中的可能结果组成的子集的概率为0.

强大数定律与弱大数定律的区别是细微的,需要仔细说明.弱大数定律是指
显著性偏离
的事件的概率
在
时趋于0.但是对任意有限的 n
,这个概率可以是正的.所以可以想象的是,在
这个无穷的序列中,常常有
显著偏离
.弱大数定律不能提供到底有多少会显著性偏离
,但是强大数定律却可以.根据强大数定律,
以概率1收敛于
.这意味着,对任意的
,偏离
超过
的只能发生有限次.

例 5.13(概率与频率)
如同例5.4,考虑某试验中事件 A
发生的概率.在多次进行重复试验中,记
为 n
次试验中事件 A
发生的频率.强大数定律保证
以概率1收敛于
.相比之下,弱大数定律则保证
依概率收敛于
(见例5.4).

我们经常将事件 A
的概率直观地解释为独立重复无穷试验序列中事件 A
出现的频率.强大数定律支持了这种直观的解释.并且指出在独立重复的试验序列中,可以肯定地说(即事件发生的概率为1)：事件 A
长时间出现的频率就是概率
.

以概率1收敛

强大数定律中的收敛与弱大数定律中的收敛是两个不同的概念.现在给出以概率1收敛的定义,并讨论这个新概念.

以概率1收敛

设
是某种概率模型下的随机变量序列(不必独立),c
是某个实数,如果

则称
以概率1
(或几乎处处
)收敛于 c
.

类似于前面的讨论,我们应该正确理解以概率1这种收敛类型,这种收敛也是在由无穷数列组成的样本空间中建立的：若某随机变量序列以概率1收敛于常数 c
,则在样本空间中,全部的概率集中在满足极限等于 c
的无穷数列的子集上.但这并不意味其他的无穷数列是不可能的,只是它们是非常不可能的,即它们的概率为0.

例 5.14
设
是独立随机变量序列,
的公共分布是区间[0,1]中的均匀分布.令
.下面证明
以概率1收敛于0.

注意,
是非增的,即对所有的 n
有
.既然序列
有下界0,所以一定有极限,将这个极限记为 Y
.固定
,如果
,则对所有的 i
都有
,故对所有的 n
有

进一步有

这就证明了对任意的正数
有
.故
,从而
.又因为 Y
是
的极限,所以
以概率1收敛于0.

以概率1收敛蕴含依概率收敛(见本章末尾的习题),但反之不成立.下一个例子说明依概率收敛和以概率1收敛的区别.

例 5.15
考虑一个离散时间到达的过程1
.我们假定到达的时刻属于正整数集合
.现将这个集合分割成若干互不相交的集合(区间)
.注意,
的长度是
,随着 k
的增大而增大.假定在每个区间
,只有唯一的一个到达时刻,且在区间内每个时刻到达是等可能的,在各个区间到达时刻是相互独立的.若记第 k
个区间
内的到达时刻为
,则
是相互独立的随机变量序列,
.现在定义随机变量序列
：如果在时刻 n
到达了,则定义
,否则定义
.

1
到达时刻的直观含义是非常清楚的,例如,时刻 n
到达一位顾客,或时刻 n
到达一个基本粒子等说法.——译者注

如果
,则
.注意到,对任意的 n
,存在唯一的 k
使得
.而且随着 n
的增大,k
也随之增大,所以

故
依概率收敛于0.但是在每个区间
都有到达时刻,所以到达的次数是无穷多次的,所以存在无穷多个 n
使得
.这样,事件
的概率为0,即
不以概率1收敛.

直觉上看,对任意给定时刻 n
,
与0的偏差显著大于0的概率很小,而且随着 n
的增大,概率在减少.这就是说
是依概率收敛的序列.另一方面,只要时间足够大,
肯定会发生,因此
就不以概率1收敛.

5.6　小结和讨论

本章中,我们讨论了概率论中许多重要的理论,并主要从概念和实际应用两个角度来论述.从概念上看,概率可以看作大量独立试验的相对频率,并且本章给出了其坚实的理论依据.从实践角度看,对计算关于独立随机变量和的事件的概率给出了合理的近似计算方法,而对这些事件概率的精确计算却往往很困难.在统计推断中,我们将看到这些定律的大量应用.

本章论述了如下三个涉及极限理论的定律.

(a) 弱大数定律：表明在样本容量 n
充分大时,样本均值与真均值非常接近.切比雪夫不等式是概率论中一个非常有用的不等式.

(b) 中心极限定理：概率论中最重要的理论之一.它是指大量独立随机变量之和的分布可以近似为正态分布.中心极限定理有许多应用,它是统计分析中的一个主要工具,而且确信在大量实例中使用正态模型的假设的合理性.

(c) 强大数定律：将概率和频率更加紧密地联系起来,在理论研究中也是非常重要的工具.

在研究极限理论中,本章介绍了很多收敛的概念(依概率收敛,以概率1收敛),同时也提供了概率模型中关于收敛的精确语言.极限理论和收敛概念是研究概率模型和随机过程中非常重要的课题.

习题

5.1 节　马尔可夫和切比雪夫不等式

1
.一位统计学家欲估计某类人群的平均身高 h
(以米为单位),他在该类人群中随机抽取 n
个人,获得样本
.使用样本均值
作为 h
的估计,大致猜测
的标准差为1米.

(a)
样本容量多少时,使得
的标准差最多不超过1厘米?

(b)
样本容量多少时,使用切比雪夫不等式可以保证估计值与 h
的差距至少以0.99的概率在5厘米之内?

(c)
该统计学家认识到该类人群里所有的人的身高都在1.4米到2.0米之间,然后他基于例5.3使用的上界方法,来修正对标准差的猜测(即原来的1米).那么(a)和(b)的结论如何修正?

2.* 切尔诺夫界.
切尔诺夫界是概率论的一个有用的工具,它是利用随机变量的矩母函数,给出某些尾事件的概率上界.

(a)
证明不等式

对所有的 a
和
成立,其中
是随机变量 X
的矩母函数.假定矩母函数在
的一个小区域内取有限值.

(b)
证明不等式

对所有的 a
和
成立.

(c)
证明不等式

对所有的 a
成立,其中

(d)
证明：如果
,则

(e)
利用(c)的结论,试给出
的上界,其中 X
服从标准的正态分布,并且假定
.

(f)
设
是独立随机变量序列,与 X
有相同的分布.证明对任意的
,均有

所以样本均值超过均值一定量的概率随着 n
的增大指数递减.

解
(a)
对任意的实数 a
和
,定义随机变量

显然

总成立,所以

另外

故

(b)
证明过程类似于(a),定义
如下：

因为
,关系式

总成立,所以

另外

故

(c)
因为(a)中不等式对所有的
成立,所以

(d)
当 s
=0时,

这里应用了
,而且

因为函数
在 s
=0 处的函数值为0,且导数是正的,所以当 s
是很小的正数时,函数值一定是正的.故函数
在
的最大值
也一定是正的.

(e)
当 X
是标准正态分布时,
.因此,
.为给出
时函数的最大值,先求函数
对变量 s
的导数,得
,令其为0,解得
.从而
.所以概率
的上界为

注意,当
时,函数
在
处达到最大值,所以
时给出一个无意义的上界

(f)
定义
.运用结论(c),可得

其中

以及

因
,所以

注意,当
,结论(d)保证了
,所以感兴趣的概率随着 n
的增大而按指数递减.

3.* 詹森不等式.
设实值函数
二次可微.如果二阶导数
在 x
的定义域内是非负的,则称函数
是凸函数
.

(a)
证明函数
、
和
都是凸函数.

(b)
证明：如果 f
是凸的二阶可微函数,则 f
的一阶泰勒展开低估了函数 f
,即

对任意的 a
和 x
成立.

(c)
证明：如果 f
满足(b)中所述的条件,X
是随机变量,则

解
(a)

(b)
因为 f
的二阶导数是非负的,所以它的一阶导数一定是非降. 应用积分原理可得

(c)
由于(b)中的不等式对随机变量 X
的所有可能取值的 x
都成立,所以

取
,并在上式两边取期望,可得

即

5.2 节　弱大数定律

4
. 为估计吸烟人群占总人口的真实比例 f
,阿尔文随机地从其中抽取 n
人.用这 n
个人中的吸烟人数
除以 n
,得到
,作为该比例的估计,即
.对于固定的正数
和
,阿尔文为选取最小的样本容量 n
,使得下式成立(基于切比雪夫不等式)：

指出 n
随着下面参数变化而变化的规律.

(a)

缩小为原来的一半.

(b)
概率值
缩小为原来的一半.

5.3 节　依概率收敛

5
. 设
独立同分布,服从[-1,1]上的均匀分布.证明下列情形的随机变量序列
依概率收敛,并求出它们的极限.

(a)

(b)

(c)

(d)

.

6
. 考虑两个随机变量序列
和
.假定
和
都分别依概率收敛,c
为已知常数,证明：
、
、
、
、
都依概率收敛于各自的极限.

解
假设 x
和 y
分别是
和
的极限.对任意的
和常数 c
,如果
,则
对所有的 n
都等于0,自然就收敛.如果
,则
,所以就证明了
依概率收敛于 cx
.

对任意的
,现在我们证明概率
.为给该概率一个上限,注意到：当
时,必有
或者
(或者两者都成立).所以,从事件的角度看,

故

以及由
和
分别依概率收敛于 x
和 y
的假设条件可得

类似地,事件
包含在事件
之中.又因为
,所以

这就证明了
依概率收敛于
.

我们有
.前面已经证明了
和
都依概率收敛,所以它们的和也依概率收敛于
.

最后,

因为
和
都依概率收敛于xy,所以上式中后一个概率值趋于0.所以我们只需证明

为给该概率一个上限,注意到：当
时,必有
或者
(或者两者都成立).类似于
依概率收敛的证明,同样可以证明

7
.* 称随机变量序列
为均方
收敛于常数 c
,如果

(a)
证明:均方收敛的随机变量序列必定依概率收敛.

(b)
给出一个例子,说明依概率收敛的随机变量序列不是均方收敛的.

解
(a)
假设
均方收敛于常数 c
,利用马尔可夫不等式,有

令
,可得

即依概率收敛.

(b)
在例5.8中,
依概率收敛于0,但是
发散到无穷大.

5.4 节　中心极限定理

8
. 假设你将在赌场玩轮盘赌,通常你需要检验轮盘的公正性.其办法如下：轮盘上标有1~36的数字,将轮盘转动100次,然后计算轮盘停止在奇数点处的总次数.如果次数大于55,则可判断轮盘不是公正的.假设轮盘是公正的,试估计做出错误判断的概率.

9
. 假设计算机系统每天至少出现一次死机的概率为5%,而且在不同天里,出现死机的事件是相互独立的.求在50天之内计算机至少有45天没有死机的概率.

(a)
试用二项分布的正态近似方法来计算.

(b)
试用二项分布的泊松近似方法来计算.

10
. 一工厂在第 n
天生产小配件
件,且
是相互独立的随机变量序列,均值为5,方差为9.

(a)
试给出在100天内生产至少440件小配件的概率的近似值.

(b)
给出最大的 n
的近似值,使得

(c)
用 N
表示小配件的总产量首次超过1 000的天数,计算
的概率的近似值.

11
. 设
是独立的随机变量序列,服从[0,1]上的均匀分布.定义

试给出概率
的近似值.

12.* 中心极限定理的证明
.设
独立同分布,均值为0,方差为
.其矩母函数为
.假设对某个正实数 d
,当
时,
是有界的.定义

(a)
证明：
的矩母函数为

(b)
设
在 s
=0 处附近存在二阶泰勒展开,即

其中
满足
.试写出 a
、b
、c
的表达式(用
表示).

(c)
用(a)和(b)的结论证明
的矩母函数
收敛于标准正态分布的矩母函数,即对所有的 s
,

注
中心极限定理的证明就是利用结论(c)以及如下结论(证明在此省略)：如果
收敛于一个连续的随机变量 Z
的矩母函数
,那么
的分布函数
必收敛于 Z
的分布函数
.这个结论的证明超出本书的范围,在此不再论述.利用结论(c)和上述结论,可以得到
的分布函数
必收敛于标准正态分布的分布函数,即中心极限定理成立.

解
(a)
利用
的独立性可得

(b)
利用矩母函数的性质,有

(c)
综合结论(a)和(b),可得

再由 a
=1、b
=0、
可知

令
,再利用
可得

5.5 节　强大数定律

13
.* 考虑两个随机变量序列
和
.假定
和
分别以概率1收敛于 a
和 b
,证明
以概率1收敛于
.进一步,如果
,证明
以概率1收敛于
.

解
记事件
不收敛于
,
不收敛于
,
不收敛于
,则
.

因为假定
和
分别以概率1收敛于 a
和 b
,所以
.故

从而
,即
以概率1收敛于
.类似可证：
以概率1收敛于
.

14
.* 设
是独立同分布的随机变量序列,
是另一个独立同分布的随机变量序列.假定
和
的均值有限,且
不可能为零值.

是否以概率1收敛?如果是,极限是什么?

解
显然

运用强大数定律可知,分子和分母都分别以概率1收敛于
和
.利用习题13的结论可得
以概率1收敛于
.

15
. 假设
以概率1收敛于常数 c
,证明该序列依概率收敛于常数 c
.

解
定义事件
收敛于
.由假设可知
.给定
,定义事件
对所有的
.如果随机变量序列
的一组取值序列收敛于 c
,则必然存在 k
,使得
时,
与 c
的偏差在
范围之内.所以,C
中的任何元素必属于某个
,即

注意,事件序列
是单调递增的,即
.由事件
是事件
的子集可知

上式的第一个等式利用了概率的连续性(第1章的习题13).所以

即证明了
依概率收敛于常数 c
.

16
. 假设
为非负的随机变量序列,且

证明 Y_n 以概率1收敛于0.

注
这个结论是用来证明序列以概率1收敛的常用方法.为计算
的期望,人们常用公式

上式成立的原因是期望和无穷和可以交换顺序.当随机变量序列是非负值,就是著名的单调收敛定理
.这是概率论中的重要结论,该定理的证明超出本书的范围.

解
无穷和
必定以概率1有界.事实上,如果这无穷和等于无穷大的概率大于0,则其期望一定也是无穷大.但是如果
任何数值序列的无穷和是有界的话,那么该序列一定收敛于0.所以事件
的概率为1,即
以概率1收敛于0.

17
. 考虑伯努利随机变量序列
,记
为第 n
次试验成功的概率.如果
证明成功的总次数以概率1有界.(与第1章习题48(b)的结果比较).

解
利用单调收敛定理(见习题的备注)可得

所以

以概率1成立.所以成功的总次数以概率1有界.

18.* 强大数定律的证明
.假设
是独立同分布的随机变量序列,且
,证明强大数定律.

解
注意到
蕴含着
的期望是有限的.事实上,利用不等式
可得

首先假设
下面证明

我们有

现在考虑以上和式中的各项.如果项中某一下标与其他下标不同,则该项为0.比如,
与
、
、
都不相同,则
蕴含着

所以和式中非零项要么是
(共有 n
项),要么是
.现在计算后者有多少项.获得这种形式有三种方式：
或者
或者
在这三种方式的每一种方式中,第一对指标共有 n
种选择,第二对指标共有
种选择,故每一种方式共有
项.综合这三种方式,一共有
项.故

使用不等式
,可得
故

于是

最后一步使用了熟知的性质
这就证明了
以概率1收敛于0.(参见习题16).所以
以概率1收敛于0.即证明了强大数定律.

现在考虑一般的情况：
的期望非零.由上述证明方法可得
以概率1收敛于0,故
以概率1收敛于
.

第 6 章　伯努利过程和泊松过程

随机过程是处理包含时间以及数据序列的概率模型.比如随机过程可用于如下数据序列建模：

(a) 每天的股票价格数据序列;

(b) 足球比赛得分数据序列;

(c) 机器失效时间数据序列;

(d) 交通网络中的每个点的交通负荷数据序列;

(e) 雷达对一架飞机的定位数据序列.

序列中的每个数据都视为一个随机变量, 所以简单地说,随机过程就是一串(有限或者无限)随机变量序列,与概率的基本概念没有本质的区别.设在某个试验的样本空间中的每一个试验结果, 对应着一个数列,这个数列中的每一个数,都对应着一个随机变量.1

1
这里我们强调的是, 在随机过程中产生的随机变量都是通常的随机变量,它们都定义在一个相同的样本空间上.相应的概率规律只要求明确无误地确定所有随机变量集合的任何子集的联合分布,而这些联合分布之间应该具有某种相容性.

但是, 随机过程还是跟以前强调的随机变量序列有明显的区别,主要表现在如下几个方面.

(a) 我们更倾向于强调过程中产生的数据序列之间的相关
关系. 比如, 股票的未来价格与历史价格是什么关系?

(b) 我们对整个过程中长期均值
感兴趣.比如, 有多大比例的时间, 机器处于闲置?

(c) 有时需要刻画某些边界事件
的似然或者频率. 比如在给定的时间内, 电话系统里所有的电路同时处于忙碌状态的概率是多少? 计算机网络中缓冲器数据溢出的频率是多少?

随机过程的种类非常多, 但本书只讨论两类重要的随机过程.

(i) 到达过程
：我们感兴趣的是某种“到达” 特性是否发生. 比如, 接收器接收信号的时刻, 生产线上的工作完成时刻, 商店顾客的购买行为的实施时刻, 等等. 我们重点研究相邻到达时间(即两次到达之间的时间)是相互独立的随机变量的模型. 在6.1节, 我们考虑到达时间是离散的情形, 相邻时间服从几何分布, 即伯努利过程
. 在6.2节, 我们考虑到达时间是连续的情形, 相邻时间服从指数分布, 即泊松过程
.

(ii) 马尔可夫过程
：考虑 数据在时间点上演化, 而且未来数据的演化与历史数据有概率相关结构. 比 如, 股票的未来价格明显依赖于过去的价格. 但是在马尔可夫过程中, 我们假设一类特殊的相关：未来的数据只依赖于当前的数据, 而与过去的数据无关. 对于马尔可夫过程, 概率统计学家积累了丰富的研究成果, 处理方法也已经成熟, 这是第7章讨论的主题.

6.1　伯努利过程

伯努利过程可视为独立投掷硬币序列,而且每次投掷硬币正面朝上的概率都是 p
,
. 一般而言,伯努利过程是由一串伯努利试验组成. 每次试验以概率 p
产生数据1(成功), 以概率 1-p
产生数据0 (失败),而且跟试验序列中的其他试验是相互独立的.

当然, 投掷硬币只是对独立二进制输出数据的一个范例说明. 比如,伯努利过程经常用于对诸如顾客到来, 服务中心找到工作等系统进行建模.这里, 时间被离散化为若干时间段, 在第 k
段时间内,至少有一个顾客到达服务中心, 就视为第 k
次试验“成功”. 因此,我们常常使用“到达”这个词语, 而不用“成功”,这是由实际背景决定的.

我们用更加正式的语言描述如下, 伯努利过程为一串相互独立
的伯努利随机变量序列
, 且 对任意的 i
,2

2
有限个随机变量的独立性, 可以推广到一串无限
个随机变量序列的独立性：如果对任意有限的 n
,随机变量
是独立的. 直观上看,独立性意味着获得任意有限子集的随机变量的信息,都不能对其他变量提供任何概率信息,即后者变量的条件分布函数与无条件分布函数是相同的.

在到达随机过程中, 人们常常感兴趣的是在一定时间内总到达次数,或者首次到达的时间. 对伯努利过程, 前几章里已经得到许多结果,现在总结如下.

与伯努利过程相关的随机变量及其性质

- 服从参数为 n
和 p
的二项分布.
这是 n
次相继独立的试验成功的总次数 S
的分布. 它的分布列、期望和方差是

- 服从参数为 p
的几何分布.
这是相互独立重复的伯努利试验首次成功的时刻 T
的分布.它的分布列、 期望和方差是

6.1.1　独立性和无记忆性

伯努利过程中的独立性假设, 暗含了很多重要的特征,比如无记忆性(无论过去发生了什么,都不能对未来试验的结果提供任何信息).对这个假设进行直观和正确的了解非常有用,这能帮助人们很快地解决一些非常难的问题. 在本小节里,我们将加深这种直觉.

我们从与伯努利过程中的某些试验结果相关的随机变量入手. 比如,随机变量
涉及的是第1, 3, 6, 7次试验结果.现在假定我们研究这类随机过程的两个随机变量,而它们所涉及的试验结果没有重叠, 则这两个随机变量一定是独立的.这推广了第2章里的结论：如果两个随机变量 U
和 V
独立,则它们的任何函数
和
也是独立的.

例 6.1
(a) 设 U
是第1~5次试验的成功总次数,V
是第6~10次试验的成功总次数. 则 U
和 V
独立. 这是因为
,
, 而且集合
与
没有相同的元素.

(b) 设 U
是在奇数次试验序列中首次成功的时刻,V
是在偶数次试验序列中首次成功的时刻.U
是由奇数次试验的结果序列
所决定的, 而 V
是由偶数次试验的结果序列
所决定的.而这两个试验结果序列没有相同的元素, 所以, U
和 V
是相互独立的.

现在假设伯努利过程运行了n
次, 得到了观测数据
.未来试验序列
仍然是独立的伯努利试验,形成了新的伯努利过程. 进一步, 这些未来试验与过去的试验都是独立的.所以, 我们可以得出这样的结论：从任意一个时刻开始,未来也可以用相同的伯努利过程来建模, 而且与过去相互独立.人们称这种伯努利过程性质为重新开始
.

注意到伯努利过程首次成功时试验的总次数 T
服从几何分布.假设我们已经观测过程 n
步, 但是没有“成功”的结果出现.那么人们对直到出现“成功”的结果进行余下的试验次数
有什么结论呢? 既然未来的过程 (n
次之后的过程)与过去的过程是独立的, 而且重新构成一个“重新开始”的伯努利过程, 所以,直到出现“成功”的结果的未来试验次数仍然是相同的几何分布. 即

人们称这种性质为无记忆
性质. 当然这个性质可以运用条件概率的定义来进行数学的推导,但是刚才这种推理过程更加直观.

与伯努利过程相关的独立性质

对任意给定的时刻 n
,随机变量序列
(过程的将来) 也是伯努利过程,而且与
(过程的过去) 独立.

对任意给定的时刻 n
, 令
是时刻 n
之后首次成功的时刻, 则 随机变量
服从参数为 p
的几何分布 且与随机变量
独立.

例 6.2
计算机执行的任务分为两类：优先任务和非优先任务.计算机将运行时间划分为互相连接的时间小区间,每个小区间称为“瞬间”(slot), 时间区间就实现了离散化.计算机在每一个瞬间只有两个状态：忙碌
或空闲
.这样计算机运行状态形成一个随机过程. 假定各个瞬间的忙闲是相互独立的. 又假定在每个瞬间 的开始,优先任务以概率 p
到达, 而且与其他瞬间是独立的.当优先任务到达的时候, 计算机执行优先任务, 处于忙碌的状态.非优先任务总是处于等待状态, 只有在没有优先任务的前提下, 才会执行.当计算机执行非优先任务的时候, 称计算机处于空闲的状态.这样计算机在各瞬间的状态形成一个随机过程.

在这种背景下, 人们关心的是非优先任务运行的时间间隔的概率特性.我们称顺序相连的瞬间形成的时间区间称为段
,段的长度就是这个时间区间内的瞬间数.现在我们来推导下列随机变量的分布列、 均值和方差(参见图6.1).

(a) T
=首个空闲瞬间的时间下标;

(b) B
=首个忙碌段的时间长度(即忙碌段中含有的忙碌瞬间的个数);

(c) I
=首个空闲段的时间长度;

(d) Z
=第一个忙碌瞬间之后直到出现首个空闲瞬间的瞬间数(含这个空闲瞬间,但不含第一个忙碌瞬间).

图 6.1　随机变量示意图,例6.2中的忙碌时间段和空闲时间段. 在上图中,
.在下图中,

T
是服从参数为 1-p
的几何分布随机变量, 其分布列是

均值和方差是

现在我们考虑第一个忙碌时间段. 起始于第一个忙碌瞬间(称为瞬间 L
,图6.1的上图 L
=1, 下图 L
=6.)直到出现下一个空闲瞬间(包括这个瞬间)的瞬间数 Z
与 T
具有相同的分布,这是因为伯努利过程从时间 L
+1“重新开始”. 然后我们注意到
,所以 B
与 T
, 具有相同的分布列.

如果我们将空闲瞬间和忙碌瞬间的位置对换, 把 p
换成 1-p
,则第一个空闲段的长度 I
与第一个忙碌段的长度具有一样的分布列, 所以

最后注意到上述结论对第二, 三,四 等忙碌(或空闲)段都是成立的.所以计算得出的分布列也可以应用在任何第 i
个忙碌(或空闲)段.

如果我们从时间 n
才开始观测伯努利过程,这等价于我们重新观察一个新的伯努利过程. 进一步,我们可以从任意随机的时间 N
开始观测伯努利过程, 得到的结论是一样的,即重新观察一个伯努利过程. 当然这里的 N
完全由过程的过去决定,不能对未来提供任何信息. 事实上, 在例6.2中, 在讨论 Z
的分布列时,我们强调了过程是从 L
+1 个瞬间重新开始的, 运用了这个性质,就可以得到 Z
与 T
同分布的结论. 现在再举一个例子,考虑一个轮盘赌轮子, 出现红色就视为成功. 从任意一次旋转(比如,第25次)开始记录数据,它遵从的概率特征与从连续五次旋转出现红色就立即开始记录数据所遵从的概率特征是完全一样的.这两个例子, 就是过程随时重新开始的例子(尽管我们可以发现有些赌徒另有他们的解释).下面的例子说明同样的结论, 但是更正式一些.

例 6.3(随机时间的重新新开始)
设 N
是第一次遇到连续两次成功的时刻(即, N
是满足
的第一个 i
). 现求概率
, 即紧接着两次实验都失败的概率.

直观上看, 一旦条件
满足的话, 从那时开始,未来的过程由独立的伯努利实验组成. 所以,关于未来事件的概率与重新开始的伯努利过程的相应概率是一样的,所以

现在对上述结论进行严格的证明. 注意, N
是一个随机变量,利用全概率公式得到

因为 N
确定后, 事件
发生, 当且仅当
满足某个特定的条件, 而这些随机变量与
是独立的,所以

故

6.1.2　相邻到达间隔时间

与伯努利过程相关的一个重要的随机变量就是第 k
次成功(或到达)的时间,记为
. 与之相关的变量是第 k
次相邻到达的间隔时间, 记为
.即所谓 k
次相邻到达的时间是第
到达之后到第 k
次到达之间所需的总时间.它们满足如下关系

如图6.2所示. 同时它们还满足

图 6.2　相邻到达时间示意图,图中1代表一个到达. 在这个例子中,
. 另外,

我们已经得到首次成功的时间
服从参数为 p
的几何分布.有了第一次在时间
的成功之后, 未来是一个新的伯努利过程.利用重新开始的原理,下次成功所需的试验次数
与
有相同的分布. 进一步,过去的试验(直到,且包括时间
) 与未来的试验(从时间
开始) 是独立的.既然
仅仅由未来的试验决定, 所以
与
独立. 类似继续下去,我们可以得到随机变量
都是相互独立的,而且具有相同的几何分布.

这种重要的方法, 可以给伯努利过程一个等价的另一种描述方法,这种描述方法有时更方便.

伯努利过程另一种描述

(1) 开始于一串相互独立的、参数为 p
的几何分布随机变量序列
,它们是相邻到达时间间隔.

(2) 观测成功(或到达)的时间为
, 等等 .

例 6.4
观测数据表明雨天之后, 再次下雨所经过的天数服从参数为 p
的几何分布, 而且与历史数据独立.求出本月第5天和第8天同时下雨的概率.

如果我们用几何分布的分布列来解决这个问题, 那么方法会非常繁琐.但是, 如果我们将下雨看为“到达”,则我们就可以对天气描述为一个伯努利过程. 所以,任何一天下雨的概率是 p
, 而且与其他的天是独立的. 特别地,在第5天和第8天同时下雨的概率就是

6.1.3　第 k
次到达的时间

第 k
成功(或到达)的时间
等于 k
个独立同分布、服从几何分布的随机变量之和, 即
.这样我们就可以利用下表计算
的期望、 方差、分布列.

第 k
次到达的时间的性质

- 第 k
次到达的时间等于前 k
个相邻到达时间之和

而且
独立同分布, 服从参数为 p
的几何分布.

- 的期望和方差分别为

- 的分布列是

这就是著名的阶数为 k
的帕斯卡分布
.

下面我们来证明
的分布列. 首先注意到
不小于 k
. 对
, 注意到事件
(第 k
次成功的时间是t
) 发生当且仅当下面两个事件同时发生:

(a) 事件 A
：第 t
次试验成功了;

(b) 事件 B
：在前 t
-1 次试验中, 恰好成功了 k
-1次.

这两个事件发生的概率分别是

和

另外,这两个事件是相互独立的(这是因为第 t
次试验成功与否,与前 t
-1 次试验的结果是独立的), 所以

证毕.

例 6.5
在篮球比赛中, 在每分钟内艾丽西亚犯一次规的概率是 p
,不犯规的概率是 1-p
. 在不同的分钟内是否犯规是相互独立的.艾丽西亚犯了6次规后, 就会被罚出场, 否则的话就能比赛30分钟.那么艾丽西亚参加篮球比赛的时间的分布列是什么?

我们对犯规的次数建立伯努利过程, 参数为 p
.艾丽西亚参加比赛的时间为 Z
, 如果她犯规次数为6, Z
就等于
;如果
, Z
就等于30, 即
.
的分布是阶数为6的帕斯卡分布, 即

为求 Z
的分布列
,我们首先考虑 z
位于
的情形. 在这个区间内,

Z
=30 的概率则由下式确定

6.1.4　伯努利过程的分裂与合并

伯努利过程每次到达的概率为 p
, 现在考虑如下的分裂
：每当有一个到达时, 我们选择或者保留下来(概率为 q
),或者抛弃(概率为 1-q
), 见图6.3.假设保留还是抛弃的决定在不同的到达时间是相互独立的.如果我们集中研究保留下来的过程, 那么可以看到,保留下来的过程仍然是个伯努利过程. 在每个瞬间,发生一次被留下到达的概率是pq
, 而且跟其他的瞬间是相互独立的.相同的原因, 被抛弃的到达过程也是伯努利过程,在每个瞬间发生被抛弃的到达的概率是 p
(1-q
).

图 6.3　伯努利过程的分裂示意图

反之, 如果有两个独立
的伯努利过程(参数分别是 p
和 q
),然后我们采取如下方法进行合并.
一个到达被收录到合并的过程中, 当且仅当在这两个原始的过程中,至少有一个是到达状态. 那么这个事件发生的概率是
[等于1减去两个过程都没有发生的概率
]. 既然不同的瞬间两个过程是相互独立的, 合并后的 不同的瞬间仍然是独立的.所以合并后的过程仍是伯努利过程, 每次成功的概率是
, 见图6.4.

图 6.4　伯努利过程的合并示意图

伯努利过程(或其他过程)的分裂和合并在实际中经常发生. 比如,两个机器工作中心可能有零部件到达流水线,然后把每个零部件随机分开到某一个机器. 反之,一个机器可能面临许多不同类型的零部件, 然后合并成一条流水线.

6.1.5　二项分布的泊松近似

n
次独立的伯努利试验成功的次数是一个二项分布的随机变量,参数为 n
和 p
, 期望为 np
. 在本小节里,我们集中处理一类特殊的情况：n
充分大, 而 p
很小,均值 np
比较适中. 如果考虑的不是离散时间而是连续时间,那是6.2节讨论的主题. 例如, 人们考虑任何一天内发生飞机事故的总数,飞机飞行次数 n
很大, 但是每次飞机发生事故的概率 p
很小.或者考虑一本书上的总共错误数：单词非常多, 但是拼错的概率很小.

数学上, 我们可以这样处理, 让 n
增长, 但是同时缩小 p
,这样可以保持它们的乘积 np
是一个固定值
. 从极限意义上看,二项分布的分布列可以简化为泊松分布列. 下面将提供精确的描述, 注意,泊松分布列已在第2章里推导出了很多很好的性质.

二项分布的泊松近似

- 参数为
的泊松分布的随机变量 Z
取非负整数值, 其分布列如下

均值和方差是

- 当
,
时, 二项分布的概率

收敛到
, 其中
是常数, k
是任意固定的非负整数.

- 一般而言, 泊松分布是二项分布的一个很好的近似,只要
, n
非常大, p
非常小.

现在我们验证泊松近似的正确性, 设
, 则

固定 k
, 令
. 比例项
中的每一项都趋于1, 而且3

3
这里我们使用了著名的公式
. 设
, 则
,所以

所以对固定的 k
, 当
时我们有

例 6.6
凭经验知, 当
、
、
时, 泊松 近似

的精度有好几位小数. 现在检验一下近似的效果. 看看下面这个例子.

加里·卡斯帕罗夫是国际象棋世界冠军.他在一个表演赛中同时与100名业余爱好者对弈. 从历史的经验来看,99%的比赛都是卡斯帕罗夫获胜(用精确的概率术语来说,我们假设他每局获胜的概率为0.99, 而且各局比赛独立).现在我们计算他获胜100场、98场、95场和90场的概率分别是多少.

我们对他总共失败的场数 X
进行建模, 这是一个二项分布,参数为 n
=100,p
=0.01. 所以他获胜100场、 98场、95场和90场的概率分别是

现在我们来检验相应的泊松近似, 参数
. 即

比较一下二项分布的
和泊松分布的
,可以看出它们对应的结果是相近的.

现在我们再假设卡斯帕罗夫只跟5名对手同时对弈, 但是这次对手的水平高,卡斯帕罗夫每场获胜的概率只有0.9. 这里二项分布的分布列
中,
, 相应的泊松分布
中,
：

k

0

1

2

3

4

5

pX

(k
)

0.590

0.328

0.072 9

0.008 1

0.000 45

0.000 01

pZ

(k
)

0.605

0.303

0.075 8

0.012 6

0.001 6

0.000 16

从上表可看出, 近似效果 虽不差,但是与 n
=100、p
=0.01情形下的近似效果相比,精确度有显著的下降.

例 6.7
有 n
个字符连成一串组成一个信息包,在一个有噪声的通道中传输. 每个字符有 p
=0.000 1的概率在传输中传错,而且不同字符的传输过程是独立的.问为保证在传输中发生错误的概率不超过0.001, 这时 n
应该为多少?

每个字符的传输可视为一个独立的伯努利试验.所以整个信息包发生错误传输的概率为

其中 S
为错误传输的字符总数.为使整个信息包发生错误传输的概率小于0.001,只需解不等式
, 即

同样我们也可使用泊松近似的方法来计算
, 即
, 这里
. 由条件
可以得到

n
是一个整数, 两种方法都得出相同的结果：n
最多是10.

6.2　泊松过程

跟伯努利过程相比,泊松过程是连续时间轴上的到达过程.4
通常,一个到达过程在应用上 无法将连续时间离散化时, 就采用泊松过程来刻画.可以说泊松过程是伯努利过程的连续版本.

4
统计上也称泊松过程为点过程. ——译者注

现在从一个例子来看这种连续化的必要性.考虑一个城市内的交通事故的可能模型.可以将时间分割成以分钟为单位的时间段,然后开始记录下每分钟至少发生了一次交通事故的“成功”数据.假设交通事故率不随时间而发生变化, 是个常数,则在每个时间段内发生事故的概率是相同的.进一步假设(也非常合理)在不同的时间段里, 事故发生是相互独立的.这样得到的成功数据序列就是一个伯努利过程. 注意, 在实际生活中,在相同的一分钟时间段里, 发生两次或者多次事故是非常可能的.但是伯努利过程不能记清楚到底发生了多少次事故, 特别地,它无法计算在给定的时间段内的事故发生平均次数.

克服这个缺点的一种可行方法是把时间段选得非常小,使得发生两次或多次事故的概率非常小, 以致可以忽略. 但是多少才算小?一秒钟? 还是一毫秒? 为避免这种随意的选择,人们更喜欢考虑这个时间段的长度趋于零的情况, 即连续型时间模型.

现在考虑连续型的到达过程, 即任意的实数 t
都有可能是到达时刻.我们定义

(在时间段长度为
的时间内有 k
个到达).

注意这个定义的内涵, 它没有指明区间的位置, 这意味着,不管这个区间的位置在哪儿, 只要时间区间的长度为
,这个区间内的到达数的分布律就是
. 此外,我们还要介绍一个正参数
, 称之为过程的到达率
或者强度
.由下面的解释很快就会明白这个参数的重要性.

泊松过程的定义

一个到达过程称为强度为
的泊松过程,如果该过程具有如下性质：

(a) (时间同质性
) k
次到达的概率
在相同长度
的时间段内都是一样的.

(b) (独立性
)一个特定时间段内到达的数目与其他时间段内到达的历史是独立的.

(c) (小区间概率
) 概率
满足如下关系

这里
的函数
和
满足

第一个性质, 人们称为“到达”在任何时候都是“等可能”的.在任何长度为
的时间段内, 到达数具有相同的统计性质, 即具有相同的分布律. 这与伯努利过程中的假设：对所有的试验,成功的概率都是 p
, 是相对应的.

为解释第二个性质, 考虑一个时间长度为
的特殊区间
.在这个时间段里, 发生 了k
次到达的无条件概率是
.假设我们手里有这个区间之外的完全或者部分到达的信息.那么性质(b)是说,这个信息是无用的：在
内发生了 k
次到达的条件概率仍是无条件概率
.这个性质类比于伯努利过程的试验独立性.

第三个性质非常关键.
和
项是指它们相对
而言,当
非常小的时候, 是微不足道的.可以将这些余项理解为
做泰勒展开时,展开式中的
项. 所以, 对非常小的
,到达一次的概率大致是
, 加上一个微不足道的项. 类似地,对非常小的
, 没有到达的概率是
,到达两次或更多次的概率与
相比是可以忽略的.

6.2.1　区间内到达的次数

现在开始推导泊松过程中与到达相关的概率分布. 首先与伯努利过程建立联系来计算一个区间内到达次数的分布列.

先考虑一个固定的长度为
的时间区间, 将它分成
个小区间, 每个小区间的长度为
,
是一个非常小的数, 见图6.5. 由性质(c)可知, 任意一个小区间内有两次或更多次到达的概率是非常小的, 可以忽略不计. 而且由性质(b)知, 不同的时间段到达的状况又是相互独立的. 更进一步地, 在每小区间内, 到达一次的概率大致是
, 没有到达的概率大致是
. 所以这个过程可以大致由伯努利过程来近似. 当
越来越小, 这个近似就会越来越精确.

图 6.5　长度
的时间段内的泊松过程的伯努利近似的示意图

在时间
到达 k
次的概率
近似地等于以每次实验成功概率为
,进行
次独立伯努利试验, 而成功 k
次的(二项)概率.现在保持
不变, 令
趋于0. 我们注意到,这时时间段数目 n
趋于无穷大, 而乘积 np
保持不变,等于
. 在这种情况下, 在上节里,我们已经证明了二项分布趋于参数为
的泊松分布,于是我们可以得到如下重要结论

注意, 由
的泰勒展开,可以得到

跟性质(c)相符.

利用泊松分布的均值和方差的公式, 可以得到

其中
表示在长度为
的时间段中到达的次数.这些公式一点都不令人惊讶.这是因为我们考虑的是参数为
和
的二项分布的极限分布,均值为
, 方差为

现在推导首次到达的时间 T
的概率规律. 假设起始时间为0,则
当且仅当在时间
内没有一次到达, 所以

然后我们对 T
的分布函数求导, 得到概率密度函数公式

这就说明首次到达时间服从参数为
的指数分布.我们将得到的结论总结为下表. 也可参见图6.6.

泊松过程相关的随机变量及其性质

- 服从参数为
的泊松分布.
这是泊松过程的强度为
,在时间长度为
的区间内到达的总次数
的分布.它的分布列、 期望和方差分别是

- 服从参数为
的指数分布.
这是首次到达的时间 T
的分布. 它的分布列、期望和方差是

图 6.6　伯努利过程可以看成泊松过程的离散化.我们将区间分为长度
的小区间, 每个小区间对应一个伯努利试验,其参数为
.上表汇总了两个过程的对应关系

例 6.8
假设收电子邮件是一个强度为每小时
封的泊松过程.每小时检查一次电子邮件. 那么接到 0 封 和1 封新邮件的概率是多少?

可以使用泊松分布
来计算,这里
,k
=0 或 k
=1：

又假设一天都没有检查电子邮件.那么一封电子邮件都没有收到的概率是多少?我们再次使用泊松分布来计算, 即

另一方面, 我们也可以这么想. 在一天24个小时里都没有收到信息,那么连续24个1个小时都没有收到信息. 而后者24个事件都是相互独立的,而且每个事件发生的概率是
所以

这个结果与上面的一样.

例 6.9(独立泊松随机变量之和仍是泊松)
顾客去超市购物可以用泊松过程来刻画,强度为每分钟
个顾客. 记 M
为9:00到9:10来超市的顾客总数. N
为9:30到9:35来超市的顾客总数. 那么
的分布是什么?

注意, M
是泊松的, 参数是
, N
也是泊松的,参数是
. 进一步, M
和 N
是独立的. 在4.4节里,运用矩母函数的方法已经证得
也是泊松分布, 参数是
(也可参见第4章习题11). 现在我们用直观的方法来推导这个公式.

记
是在时间:10到9:15来超市的顾客总数,则
与 N
一样是泊松的 (参数为50), 而且
与 N
独立.所以
的分布与
的分布是一样的.但是
是长度为15分钟的时间区间内来超市的顾客总数,所以仍是泊松分布, 参数是

这个例子的结论是普遍的. 对于一个泊松过程来说,设 X
为若干个不相重合的区间内的到达总数,则随机事件
的概率为
,其中
为这些不相交的区间长度的总和. 上述结论中,不相交的区间的个数是不受限制的, 只要他们的总长度为
(在本例中, 我们处理的是时间段[9:00,9:10]和[9:30,9:35],总时间是15分钟).

6.2.2　独立性和无记忆性

泊松过程有许多性质与伯努利过程是类似的,比如不相交时间区间内的到达是相互独立的, 相邻时间分布的无记忆性.泊松过程也可视为伯努利过程的极限的情况,所以泊松过程继承了伯努利过程的许多性质,也是不奇怪的.

泊松过程的独立性质

- 对任意给定的时间
,时间 t
之后的过程也是泊松过程,而且与时间 t
之前(包括时间 t
)的历史过程相互独立.

- 对任意给定的时间 t
, 令
是时间 t
之后首次到达的时间, 则随机变量
服从参数为
的指数分布,且与时间 t
之前(包括时间 t
)的历史过程相互独立.

上表中的第一个性质成立,是因为从时间 t
开始的过程满足泊松过程定义的性质.未来与过去的独立性直接来源于泊松过程定义中的独立性假设. 最后,
具有相同的指数分布, 这是因为

(在时间
没有到达

这就是无记忆性, 这个性质与伯努利过程的无记忆性是类似的.下面两个例子运用了这个性质.

例 6.10
你和朋友一起去网球场, 需要一直等到正在打球的人打完为止.假设(有些不太现实) 他们打球的时间服从指数分布.则不管他们什么时候开始打球的, 你们等待的时间(等价地,他们打球的剩余时间)也是相同的指数分布.

例 6.11
进入银行, 你会发现有三个营业员正在服务客户,而且没有其他人在排队等待.假设你的服务时间和正在服务的客户的服务时间都是具有相同参数的指数分布,且相互独立. 那么你是最后一个顾客离开银行的概率是多少?

答案是1/3. 从你开始接受一名营业员服务的那一刻算起,另两名正在接受服务的顾客还需要的服务时间,与你所需要的服务时间具有相同的分布.另外两位顾客,虽然比你早接受服务, 但由于泊松过程的无记忆性,他们与你处于同一起跑线上, 不算以前的服务时间, 三人所需的服务时间的分布是相同的.所以你和其他两人具有相同的概率最后离开银行.

6.2.3　相邻到达时间

设有一个从时刻0开始的泊松过程.与这个过程相关的重要的随机变量是第 k
次成功(或到达)的时间,记为
. 与
密切相关的变量是第 k
次相邻到达的时间,记为
. 这些变量满足如下关系

的含义是在
次成功之后到下次成功所需的时间. 由上面的关系,可以推导得到

我们已经得到首次到达的时间
服从参数为
的指数分布.第一次在时刻
成功之后,未来是一个新的泊松过程,5
因此,下次到达所需的时间
与
有相同的分布. 进一步, 过去的过程(直到, 且包括时间
) 与未来的试验(从时刻
以后开始)是独立的.既然
仅仅由未来决定, 所以
与
独立. 类似继续下去,我们可以得到随机变量序列
是相互独立的,而且具有相同的指数分布.

5
以前我们说的随机过程“重新开始”是指从任意固定的时刻 t
开始的随机过程. 现在的“重新开始”结论比较强, 这是因为开始时刻
是随机变量.但是这个结论还是很直观的.可以用类似例6.3的证明方法证明这个重新开始的过程还是一个泊松过程,即对
可能的取值取条件的方法,来证明现在的结论.

这个重要的结论,可以给泊松过程一个等价的另一种描述方法.

泊松过程另一种描述

(1) 开始于一串相互独立并且公共参数为
的指数随机变量序列
,它们是相邻到达时间.

(2) 过程的 到达 的时间为
, 等等.这样形成的随机过程就是泊松过程.

6.2.4　第 k
次到达的时间

第 k
成功的时间
等于 k
个独立同分布且服从指数分布的随机变量之和,即
.这样我们就可以利用下表计算
的期望、方差和概率密度函数.

第 k
次到达的时间的性质

- 第 k
次到达的时间等于前 k
个相邻到达时间之和

而且
独立同分布, 服从参数为
的指数分布.

- 的期望、方差为

- 的概率密度函数是

这就是著名的阶数为 k
的埃尔朗分布
6

6
也称伽玛分布. ——译者注

下面我们来证明
的概率密度函数公式. 对非常小的
, 乘积
可以近似看成第 k
个到达发生在时刻 y
与
之间的概率.7
当
非常小时, 在区间
到达的次数超过一次的概率是可以忽略的.在 y
与
之间第k
次到达发生 当且仅当下面两个事件同时发生.

7
下面介绍另一种推导方法,不使用近似方法论证. 注意到对任意的
事件
与下列事件相同

{在时间
内至少到达 k
次}.

所以
的分布是

的概率密度函数可通过将上述表达式将y
求导得到,直接求导就可以得到埃尔朗概率密度函数公式

(a) 事件 A
：在时间段
到达了一次;

(b) 事件 B
：在时间 y
之前恰好发生了k
-1次.

这两个事件发生的概率分别是

事件 A
与 B
是相互独立的, 所以

所以

例 6.12
你拨打国税局的热线电话后, 被告知, 除正在接受服务的人外,你前面还有55位等待服务. 呼叫者离开所需时间是泊松过程,强度
是每分钟2人. 那么平均而言,直到接受服务你需要等待多长时间?你的等待时间超过30分钟的概率是多少?

利用无记忆性,正在接受服务的人还需服务的时间服从参数为
的指数分布.所以你前面55人的服务时间也是服从参数为
的指数分布.而且所有这些变量都是独立的. 所以你等待的时间(记为 Y
)是56阶的埃尔朗分布, 所以

你的等待时间超过30分钟的概率是

计算上述概率非常麻烦. 另一方面, 既然 Y
是一串独立同分布随机变量序列 之和,我们可以使用中心极限定理和正态分布表来近似计算.

6.2.5　泊松过程的分裂与合并

类似于伯努利过程, 强度为
的泊松过程,也可以按如下的方法进行分裂：每当有一个到达时, 我们选择保留下来(概率为 p
), 或者抛弃(概率为 1-p
), 独立于其他的到达.在伯努利过程, 我们知道分裂后的过程仍是伯努利的. 在现在的情况下,泊松过程分裂出来的过程仍是泊松的, 只是强度为
.

类似地,如果有两个相互独立的泊松过程(参数分别是
和
), 在这两个原始的过程中, 随便哪一个到达, 就认为是新过程的一个到达, 这个新过程就是原来过程的合并过程. 可以证明这个合并过程还是泊松的, 强度为
. 合并后的过程, 任何一个到达状态以
的概率来自于第一个 泊松过程, 以
的概率来自于第二个 泊松过程.

我们举例来说明这些性质, 同时提供证明方法.

例 6.13(泊松过程的分裂)
到达数据网络某个节点的信息包可能是目的地信息包(目的地信息包的定义是：这个信息包以该节点为目的地,不再转发到其他节点. 到达的信息包为目的地信息包的概率为p
),也可能是转发的信息包 (这种事件发生的概率为1-p
),这样的信息包必须转发到其他节点. 信息包到达节点的过程是泊松过程,强度为
,而且到达信息包的类别与其他到达信息包的类别是相互独立的. 如前所述,接收 目的地信息包的过程也是泊松的, 强度是
.下面对此进行解释.

我们只需验证目的地信息包的到达过程满足泊松过程的定义.因为
和 p
是常数, 不随时间变化而变化.任何时间长度为
的区间内的到达次数的分布与这个区间的位置无关.所以第一条性质 (时间同质性) 满足. 进一步,无论到达的信息包是否为目的地信息包, 在不相交的时间区间内,这些事件都是彼此独立的, 这就验证了泊松过程关于独立性的第二条性质.最后, 我们重点研究长度为
的一个小区间,目的地信息包到达的概率就是事件：有一个信息包进入节点,而且这个信息包就是目的地信息包的概率,这个概率近似于
. 另外,两个或多个目的地信息包到达节点的概率相对于
而言,是忽略不计的,这就验证了泊松过程关于小区间内到达次数的分布列的第三条性质.所以我们得出目的地信息包到达过程也是泊松过程. 特别地,在长度为
的时间内,到达的目的地信息包的数目服从强度为
的泊松分布.由对称性, 转发信息包的到达过程也是泊松的, 强度是
.有点奇怪的是,从原始泊松过程分裂出去的两个泊松过程居然是相互独立的.见本章末习题.

例 6.14(泊松过程的合并)
人们去邮局寄信的到达过程是泊松过程, 强度是
,去邮局邮寄包裹的到达过程也是泊松过程, 强度是
,而且邮信与邮包裹是独立的. 这样,人们进邮局办事(寄信或邮寄包裹)的到达过程是泊松的,强度是
. 下面对此进行解释.

首先,合并后的过程显然满足泊松过程的时间同质性(时间区间内到达个数的分布列只与区间的长度有关,与区间的起始时刻无关)进一步,原来的两个随机过程在不同的时间区间内所发生的事件是相互独立的,所以合并后的过程在不同的时间区间内所发生的事件也是相互独立的.这说明合并后的过程也符合泊松过程定义中的独立性要求.现在考虑长度为
的小区间,在下面的论证过程中近似号“
”表示两边相差一个与
相比可忽略的项. 我们有

(合并后过程在小区间内无到达)

(合并后过程在小区间内只有1次到达)

由上式看出, 合并后的过程满足泊松过程定义的第三个要求,并且其强度参数为
.

假设记录了一个人进入邮局, 问这个人来寄信的概率是多少?首先将焦点放在某时刻附近的时间长度为
的小区间内,此时把问题化为一个条件概率的计算问题,即计算

(1个寄信的人进了邮局|有个人进了邮局).

使用条件概率的定义, 忽略超过1个人进邮局那些小概率值, 得到

由泊松过程的性质可知, 这个条件概率与这个人进入邮局的时刻无关,无论他何时进入邮局,这个人是来“寄信”的概率也是
.现在记
为事件“第 k
个进入邮局的人是来寄信的”, 类似可得

因为不同的人, 到达的时间也不一样. 所以, 对泊松过程,不同时间的事件是相互独立的,所以随机事件
是独立的.

例 6.15(竞争指数)
两个灯泡8
具有独立的寿命
和
,它们分别服从参数为
和
的指数分布.问两个灯泡首次烧坏的时间
的分布是什么?

8
如果把两个灯泡串联起来, 形成一个串联系统.当其中一个灯泡寿终的时候,系统就寿终.系统的寿命就是本例中的首次烧毁的灯泡的寿命.串联 系统在可靠性统计具有重要的地位.——译者注

对任意的
, 有

这就是参数为
的指数分布的分布函数.所以两个独立的参数分别为
和
的指数分布随机变量之较小的随机变量服从参数为
的指数分布.

可以更直观地解释这个事实.假设
和
分别是强度为
和
的泊松过程首次到达的时间.如果我们将两个过程合并, 那么首次到达的时间是
.我们已经知道合并后的过程是强度为
的泊松过程, 所以首次到达时间
是指数分布, 参数为
.

前面的结论可以推广到更多过程的情形. 即 n
个独立的泊松过程,强度分别为
,则合并后的过程仍然是泊松的, 强度是
.

例 6.16(竞争指数的进一步讨论)
点亮三盏灯泡, 其寿命分布都是参数为
的指数分布, 而且相互独立.那么直到最后一盏灯泡烧坏的时间的期望值是多少?

我们已经讲过, 每盏灯泡烧坏的时间可视为独立泊松过程的首次到达时间.开始, 我们有三盏灯泡, 所以合并后的过程是泊松过程,强度是
. 所以第一次烧坏的时间
服从指数分布,参数是
, 均值是
. 一旦有一盏灯泡烧坏了,由指数分布的无记忆性, 剩下的两个灯泡的寿命时间仍是指数分布,而且独立, 重新开始. 所以我们有两个泊松过程.剩下的两个过程合并后仍是泊松过程, 强度是
.故首次烧坏的时间
服从指数分布, 参数是
,均值是
. 最后, 在第二盏灯泡烧坏之后, 只剩下一盏灯泡.再次运用无记忆性, 最后一盏灯泡烧坏的时间
是指数分布, 参数是
, 均值是
. 故整个时间的期望值是

注意, 因为无记忆性, 随机变量
、
、
是独立的.这样, 人们也可以计算总时间的方差

6.2.6　伯努利过程和泊松过程, 随机变量之和

利用伯努利过程和泊松的分裂和合并的性质,可以既巧妙又直观地得到独立随机变量之和的许多有趣的性质. 当然,你也可以直接按定义推导出有关分布, 或者利用矩母函数进行分布推导.但是这些方法都不是很直观. 我们将这些性质归纳如下表.

随机数个独立随机变量和的性质

设 N
,
是独立随机变量, 其中 N
取非负整数.当
时, 定义
, 当 N
=0 时, 定义 Y
=0.

- 如果
的分布是参数为 p
的伯努利分布,N
的分布是参数为 m
和 q
的二项分布,则 Y
的分布是参数为 m
和 pq
的二项分布.

- 如果
的分布是参数为 p
的伯努利分布,N
的分布是参数为
的泊松分布, 则 Y
的分布是参数为
的泊松分布.

- 如果
的分布是参数为 p
的几何分布,N
的分布是参数为q
的几何分布, 则 Y
的分布是参数为 pq
的几何分布.

- 如果
的分布是参数为
的指数分布,N
的分布是参数为 q
的几何分布, 则 Y
的分布是参数为
的指数分布.

前两个性质在习题22中证明, 第三个性质在习题6中证明,最后一个性质在习题23中证明.最后三个性质也在第4章中得到证明,在那里是使用矩母函数的方法来证的(参见4.4节和第4章的最后一个习题).此外,在习题24中给出了另一个有趣的性质,即记
是在长度 t
的时间内强度
的泊松过程到达的总数目,T
为时间长度, 服从参数为
的指数分布, 且与泊松过程独立,则
的分布是几何分布, 参数为
.

下面我们讨论一个更深的相关性质. 一个非常大
数目多个的独立到达过程(不必
是泊松)的合并,是否可以用强度为各自强度之和的泊松过程来近似呢?每个过程的强度相对总过程而言是非常小的(所以它们之间没有一个过程对总过程的概率特征施加影响),而且它们必须满足一些数学上的假设. 更深的讨论超出本书的范围.但是注意, 在实际中,的确需要对大量类似泊松的过程的大样本性质进行分析. 比如,城市里的电话通信流量就是由许多分支的小的过程合并而成,每个分支的小过程刻画了当地居民打电话的性质.这些小的过程不一定是泊松的. 比如,有些人喜欢一批人一起打电话(小型电话会议),同时一个人在打电话的时候是无法接听第二个电话的. 但是,将许多小的过程合并以后可以使用泊松过程来刻画. 相同的原因,城市里汽车事故的过程、商店里顾客的到达过程、放射性物质的粒子发射过程等,都可以使用泊松过程.

6.2.7　随机插入的悖论

泊松过程的到达时间序列将时间轴分割成一串相邻的时间间隔序列,每个时间段开始于一个到达, 结束于下一个到达.已经证得每个相邻时间段的长度(称为相邻到达时间)是相互独立的、参数为
的指数分布的随机变量,其中
是泊松过程的强度. 更精确地说, 对每个 k
,第 k
个相邻到达时间服从指数分布. 在这个小节里,我们从另一个角度来看这些相邻到达时间.

固定一个时间点
, 现在来看包含时间点
、长度为 L
的相邻时间段.现在看一看这个问题的 实际背景, 比如有一个人,在一个任意的时间点
, 到达公共汽车站,然后记录前次汽车到达与下一次到达的时间间隔.通常称这个人的到达为“随机插入”, 然而, 这个词汇容易引起误导,
只是一个特定的时间, 不是随机变量.

假设
比泊松过程的起始时间大得多, 所以可以明确地知道,在时间
之前有到达. 为避免时刻
所引发的这种担忧,我们假设泊松过程的起始点为
, 所以可以确信在时间
之前有到达, 从而 L
有定义.人们会错误地认为 L
只是一个“典型”的相邻时间段的长度,因此也是指数分布的, 但是这是错误的. 事实上,我们将证明 L
服从阶数为2的埃尔朗分布.

这就是有名的随机插入的影响
或者随机插入悖论
,可以使用图6.7来解释. 假设
是含时刻
的相邻时间段,则
. 特别地, U
是
之前的最后一次到达时间,V
是
之后的首次到达时间. 将 L
分成两部分

其中
是已经过去的时间,
是剩下的时间. 注意,
取决于过程的历史(
之前), 而
取决于过程的未来(
之后). 由泊松过程的独立性, 随机变量
与
是独立的. 由泊松过程的无记忆性, 泊松过程从时刻
重新开始,所以
也是参数为
的指数分布.当然随机变量
也是指数的, 参数为
.得到这个结论的最简单方法就是：如果泊松过程倒着运行, 仍是泊松过程.这是因为泊松过程的定义中时间不管是顺着的还是倒着的, 没有什么区别.下面的公式是关于
的分布之结论的严格证明

(在时间段
内没有到达)

于是我们就证明了 L
是两个参数为
的独立指数分布随机变量之和,即是阶数为2的埃尔朗分布, 均值是
.

图 6.7　随机插入影响示意图. 对于固定时间点
, 对应的相邻时间段
的组成：流逝时间
与剩余时间
. 这两个时间变量是独立的, 服从参数为
的指数分布, 所以它们之和服从阶数为2的埃尔朗分布

随机插入现象通常让人产生误解和造成失误,但是这通常能够通过仔细地选择概率模型来避免.关键的问题是,一个观测者到达的任意时刻更可能落在一个较大而不是较小的时间间隔区间里, 因此, 在这种情况下,观测者观测的平均长度将为
,比指数分布的均值
要大. 类似的情况在下面的例子中也会发生.

例 6.17(非泊松达到过程中的随机影响)
公交车按照一定的规定分别于整点和整点后5分钟到达车站, 这样到达间隔时间在5分钟和55分钟交替, 平均到达间隔时间是30分钟. 一个人在某随机时刻到达公交车站. 我们说“随机”是指在某特定小时内均匀分布.这样一个人落在长度为5的间隔 区间的概率为
, 落在长度为55的间隔区间的概率为
, 则到达间隔时间的期望值是

这比平均到达间隔时间30分钟要大得多.

如上例所示, 随机插入是一个引起更大的相邻到达时间间隔的微妙现象,已在非泊松过程的上文中被很好地说明.更一般地说,当不同的计算方法给出了相悖的结论时,往往是他们给予了不同的概率机制.比方说, 考虑给定一个非随机
的 k
, 观察相应的第 k
个相邻到达时间的试验与固定时间 t
,观察第 K
个相邻到达时间间隔覆盖 t
的试验是完全不同的,其中 K
可视为随机
变量.

考虑最后一个有类似味道的例子.关于城市公交车使用情况的调查,一种方法是随机选择一些公交车, 并计算所选车辆的平均乘车人数.另一种方法是随机选择一些公交乘客,观察他们所乘的公交车并计算出这些车上的平均乘车人数.这两种方法得到的估计有很大的不同,而第二种方法的估计明显偏高, 原因是 当使用第二种方法时,我们更容易选择到具有大量乘客的公交车,而不是几乎空着的车.

6.3　小结和讨论

在本章中, 我们介绍和分析了两种无记忆到达过程.伯努利过程涉及离散时间, 在每一个离散时间中都有一个常值的到达概率 p
.泊松过程涉及连续时间,对于每一个长度为
的小区间内, 都有一个到达的近似概率
.在两种情况中, 不相邻的时间间隔中到达的次数是独立的. 在离散时间间隔是一个很小的值
时, 泊松过程可以看作是伯努利过程的极限情况. 这个事实可以用来提炼两个过程主要性质的相似处, 将一个过程的本质转移到另一个过程中.

使用伯努利过程和泊松过程的无记忆性, 我们得到如下结论：

(a) 对于给定长度的时间间隔, 到达次数的分布列是二项分布或泊松分布;

(b) 相邻到达时间分别服从几何分布和指数分布;

(c) 第 k
次到达时间的分布分别为 k
阶帕斯卡分布和 k
阶埃尔朗分布.

此外, 我们发现, 可以从两个独立的伯努利(或泊松)过程开始,将它们合并后形成一个新的伯努利(或泊松)过程.相 反地,如果以投掷硬币的成功概率 p
接受每一次到达 (“分裂”),则接受的到达过程仍是伯努利过程或泊松过程,只是平均到达率或强度是原始到达率的 p
倍.

我们最后考虑了随机插入现象,它是指一个外在观测者在某特定时刻到达并测量了他到达的那个到达时间间隔.测量的区间的概率性质与传统的“典型”的到达间隔区间的概率性质不同,原因就在于 观测者的到达时间更可能会落入大一些的到达间隔时间区间中.这种现象说明, 当谈及“典型”区间时, 我们必须仔细描述区间选择的机制, 不同的机制会导致不同的统计性质.

习题

6.1 节　伯努利过程

1
. 某单位有两辆货车,一辆是红色的, 另一辆为绿色的.现在一共有 n
个包裹需装到车上. 装车的时候,每一个包裹都是独立地放到红色货车(以概率 p
)或绿色货车 (以概率 1-p
)上的, 设 R
为红车上包裹的总个数, G
表示绿车上包裹的总个数.

(a)
确定随机变量 R
的分布列、期望和方差值.

(b)
求第一次装车的时候将一个包裹装上某辆车,一直到装完第 n
个包裹以后, 这辆车上还只有一个包裹的概率.

(c)
计算在装完货以后至少有一个货车只有一个包裹的概率.

(d)
计算 R
-G
的期望和方差.

(e)
假设
,在前两个包裹都装在红货车的条件下求出随机变量 R
的条件分布列、期望和方差值.

2
. 大卫在每次小测验中不及格的概率为1/4,并且各次小测验的结果是相互独立.

(a)
计算大卫在6次小测验中恰好不及格2次的概率.

(b)
计算大卫在不及格3次之前通过的平均测验数.

(c)
计算大卫恰好在第8次和第9次测验时发生第2次和第3次不及格的概率.

(d)
计算大卫在连续2次通过测验之前连续2次不及格的概率.

3
. 计算机系统执行两个用户提交的任务, 时间被划分为几部分,每一部分以
的概率空闲, 以
的概率忙碌. 在忙碌时间,来自用户1或用户2的任务被执行的概率分别为
或
,我们假设不同时间段的事件彼此独立.

(a)
计算在第4个时间段第一次执行用户1的任务概率.

(b)
在前10个时间段中有5个空闲的条件下,计算第6个空闲时间段为第12个时间段的概率.

(c)
计算系统在执行来自用户1第5个任务时的总时间段数的期望值.

(d)
计算执行来自用户1的第5个任务时,计算机经历的繁忙时间段的期望数.

(e)
计算执行来自用户1的第5个任务时,计算机所执行的用户2的任务数的分布列、均值和方差.

4
.* 考虑一个伯努利过程, 每次试验成功概率为 p
.

(a)
将第 r
次成功之前失败的次数(通常称作负二项分布
随机变量)与一个服从帕斯卡分布的随机变量联系起来,并求出它的分布列.

(b)
求出第 r
次成功之前失败次数的期望和方差.

(c)
写出第 i
次失败发生在第 r
次成功之前的概率的表达式.

解
(a)
设 Y
表示第 r
次成功之前试验的次数, 它是 r
阶帕斯卡分布随机变量,再设 X
表示第 r
次成功之前失败的次数, 所以有
, 因此,
, 并且

(b)
使用上一部分的记号, 我们有

进一步地,

(c)
再次设 X
表示第 r
次成功之前失败的次数,在第 r
次成功之前发生第 i
次失败当且仅当
, 因此, 其概率等于

一个替代的公式可如下推导而得.考虑前
次试验,在这些试验中失败的次数至少为 i
当且仅当成功的次数少于 r
. 但是,这也等价于在第 r
次成功之前发生第 i
次失败, 这样,想要的概率也就是在前
次试验中 成功的次数少于 r
的概率,它是

5.* 伯努利过程中的随机插入.
你的表弟很久以前就开始在玩一个视频游戏, 假设他赢每一局的概率是 p
,并且独立于其他游戏的结果. 午夜时,你进入他的房间并且发现他输掉了当前的游戏.试计算他最近一次赢和他未来将要第一次赢之间输的次数的分布列.

解
设 t
表示当你进入房间时所玩游戏的序号,M
表示他赢的最近一盘游戏的序号, N
表示即将赢的游戏序号,则随机变量
服从 参数为 p
几何分布. 由于游戏的对称性和独立性,随机变量
也同样服从参数为 p
的几何分布,在他最近一次赢和未来将要第一次赢之间输掉游戏的次数即为 M
和 N
之间游戏个数, 上述次数 L
为

这样,
就有2阶帕斯卡分布, 并且

因此,

6.* 项数为几何随机变量的独立几何随机变量之和.
设
,其中随机变量
服从参数为 p
的几何分布,并且 N
服从参数为 q
的几何分布.假设随机变量
相互独立.在不利用矩母函数的前提下证明,Y
服从参数为 pq
的几何分布. 提示
:利用分裂的伯努利过程解释题中所涉及的随机变量.

解
我们在第4章中使用矩母函数得到了这个结论,但是我们在这里要进行更加直观的推导.我们分别将随机变量
和 N
作如下解释,我们将时刻
视作参数为 p
的伯努利过程中的到达时刻,每一个到达以概率 1-q
拒绝, 以概率 q
接受.我们将 N 解释为第一次接受之前到达的个数,被接受的到达过程是通过分裂伯努利过程而获得的,因此它本身就是参数为 pq
的伯努利过程.注意到随机变量
就是出现到达被第一次接受的时间, 因此是参数为 pq
的几何分布.

7.* 来自伯努利过程的均匀分布随机变量的比特数.
设
是取值于{0,1}的二值随机变量序列,设 Y
表示取值于[0,1]的连续随机变量,我们假设 Y
为具有二进制表示为
的实数,因此将 X
和 Y
联系起来. 更加具体的表达式是

(a)
假设
来自参数为 p
=1/2 的伯努利过程, 证明 Y
服从均匀分布.提示
：考虑事件
的概率, 其中
都是正整数.

(b)
假设 Y
是均匀分布的,证明
来自参数为
的伯努利过程.

解
(a)
我们有

进而,

类似的, 我们考虑形如
的区间,其中
都是正整数并且
, 要想 Y
落在这个区间内,我们需要
取一些特殊的值(也就是 i
-1 的二进制展开的小数点后的 k
个数),这样

同时注意到：对于[0,1]中任意的数 y
, 我们有
,这是因为事件
只有当无穷多个
取特殊值时才可能发生,是一个零概率事件. 因此, Y
的分布函数是连续型的并且、满足

既然每一个[0,1]中的 y
都可以用形如
的数近似逼近,对于任意的
我们有
,这就证明了 Y
服从均匀分布.

(b)
正如(a)部分,我们发现
的每一种可能的0-1形式都对应着 Y
的一个形如
的特定区间,这些区间具有相同的长度,由于 Y
是均匀分布进而具有相同的概率
.对于
来说,这个特定的联合分布就相当于参数为
伯努利独立随机变量.

6.2 节　泊松过程

8
. 早上8点到9点这段繁忙时间里,交通事故的发生数服从一个强度为每小时5次的泊松分布,在早上9点到11点之间, 交通事故的发生数服从一个独立的频率为每小时3次的泊松分布.试求：早上8点到11点之间发生事故总次数的分布函数.

9
. 一个体育馆有5个网球场.假设每对打球者来到体育馆打网球的时间服从均值为40分钟的指数分布.现有一对打球者来到体育馆, 发现所有的场地都有人在打球,且前面有k
对人正在等待, 问他们等待的期望时间是多少?

10
. 一个渔夫在钓鱼,他钓到鱼的规律服从强度为
条/小时的泊松过程.钓鱼时间至少为两小时.如果他到 两小时的时候至少已经钓到一条鱼, 就退出, 否则,他将一直钓下去直到钓到一条为止.

(a)
求他的钓鱼时间超过两小时(不含)的概率.

(b)
求他钓鱼的总时间在2~5小时之间的概率.

(c)
求他至少钓到两条鱼的概率.

(d)
求他钓鱼条数的期望.

(e)
求他在已经钓鱼四小时条件下的总钓鱼时间的期望.

11
. 顾客离开书店服从一个强度为
人/小时的柏松过程,每一个顾客买书的概率为 p
, 并且独立于其他顾客.

(a)
求直到卖出第一本书所用时间的分布.

(b)
求在一个特定的小时里, 没有书卖出的概率.

(c)
求在一个特定的小时里购书的顾客数的期望.

12
. 一个比萨店供应 n
种不同类型的比萨饼,而且在给定的时间区间内, 有 K
名顾客,其中 K
服从均值为
的泊松分布. 每名顾客只买一个比萨饼,并且买哪种类型的比萨饼是随机的, 而且与其他顾客的选择是独立的.求卖出的比萨饼种类数的平均值.

13
. 发报机 A
和 B
分别以强度
和
的泊松过程的形式向一个单独的接收器独立地发送消息,所有的信息都很简短, 因此我们可以假设它们只占据了单个的时间点.每个信息中的字数 W
的分布列为

这个分布与来自哪个过程无关,同时各个信息的字数 W
之间也是相互独立的.

(a)
求在持续时间为 t
的间隔里总共收到9条信息的概率.

(b)
设 N
表示在持续时间为 t
的间隔里接收到的总字数,求 N
的期望.

(c)
求从时刻 t
=0 开始,直到接收到8条来自发报机 A
的字数为3的信息所需时间的概率密度函数.

(d)
求即将接受的12条信息中恰好有8条来自发报机 A
的概率.

14
. 从时刻 t
=0 开始, 我们一次使用一个灯泡来为房屋照明,灯泡在坏了之后会立刻进行更换.每一个新灯泡将会从 A
类型和 B
类型中等概率独立地选择.对于任何类型的任何一个特定的灯泡, 其寿命 X
都是随机变量,独立于其他灯泡的寿命,且有着如下概率密度函数：

(a)
求灯泡直到第一次用坏时间的期望.

(b)
求在时刻 t
之前没有灯泡用坏的概率.

(c)
在时刻 t
之前没有灯泡用坏的条件下,求第一次使用的是 A
类型灯泡的概率.

(d)
求直到第一个灯泡用坏时间的方差.

(e)
求第12个灯泡用坏恰好是第4个 A
类型灯泡用坏的概率.

(f)
求直到第12个灯泡用坏,总共恰有4个 A
类型灯泡用坏的概率.

(g)
求直到第12个灯泡用坏的所用时间的概率密度函数或者与之相关的矩母函数.

(h)
求前两个 B
类型灯泡的总照明时间长于前两个 A
类型灯泡的总寿命的概率.

(i)
假设此过程在12个灯泡用坏时立刻停止,试求整个过程中 B
类型照明时间总长度的均值和方差.

(j)
在时刻 t
之前没有灯泡用坏的条件下,试求直到第一个灯泡用坏所需时间的期望.

15
. 一个服务站处理两种类型的任务 A
和 B
(多个任务可以在服务站同时处理),两种类型任务的到达分别服从参数为每分钟
和
的独立泊松过程. A
类种任务在服务站停留恰好一分钟,而每一个 B
类任务在服务站停留的时间是一个取整数值的随机变量,其分布为几何分布, 均值为2, 并且各任务的执行时间相互独立.假定服务站很久以前已开业.

(a)
对于一个给定的3分钟区间,求到达服务站的总任务数的均值、方差和分布列.

(b)
我们被告知在一个10分钟的区间里恰好到达了10个新的任务,试求其中恰好有3个是 A
类任务的概率.

(c)
已知在时刻0服务站是空闲的, 即没有任务.试求第一个 A
类任务到达之前 B
类任务到达个数的分布列.

(d)
在时刻 t
=0 恰好有2个 A
类任务在服务站执行,求出在时刻0之前最后一个 A
类任务到达时间的概率密度函数.

(e)
在时刻1, 恰好有一个 B
类任务在服务站,试求直到这个 B
类任务完成所需时间的分布.

16
. 每天早上你开车出门时,更愿意在几个路口直接掉头行驶而不愿绕道, 但是很不幸的是,在你居住的附近地区掉头是违规的,并且警车会以强度为
的泊松过程出现.假设你决定一旦在
个时间单元内路上没有出现警车,你就会掉头一次, 且设在你掉头之前看到了 N
辆警车.

(a)
求
.

(b)
给定
,试求第 n
-1 辆警车和第 n
辆警车之间的间隔时间的条件期望.

(c)
试求在掉头之前等待时间的期望. 提示
：对 N
取条件化.

17
. 圣迭戈动物园的一只袋熊每天从洞穴走到食物盘进食,再走回去休息, 并且一直重复下去, 从洞穴走到食物盘的时间( 也是从食物盘走到洞穴的时间)是20秒,进食时间和休息时间都服从均值为30秒的指数分布.这只袋熊在来回进食的路上将会以1/3的概率瞬间站立一会儿(时间很短可以忽略),至于在哪个时刻站立则是完全随机的.袋熊的行为在各个阶段之间是相互独立的.一个摄影师在随机时刻到达并且可以在袋熊站立的时候立即拍摄照片,试求：摄影师完成拍摄需要等待的时间长度的期望.

18
.* 考虑一个泊松过程,已知在给定的时间间隔
内只发生一个单个到达,试证：到达时间的概率密度函数在区间
上是均匀分布的.

证明
考虑一个区间
,其长度为
,设 T
表示第一次到达的时刻, A
表示在
中单个到达发生的事件,我们有

其中分子等于概率
,即泊松过程在长度为 l
的区间
内恰好发生一次到达的概率乘以在总长度为
的集合
中有0次到达的概率. 这样,

这就证明了 T
是服从均匀分布的.

19
.* (a)
设
和
是相互独立的参数为
和
指数随机变量,求
的期望.

(b)
设 Y
服从参数为
的指数分布,Z
服从参数为
的2阶埃尔朗分布,假设 Y
和 Z
相互独立, 求
的期望.

解
一种直接但是繁琐的方法是首先算得感兴趣的随机变量的概率密度函数,然后计算积分求得它的期望值, 然而更简单的方法则可以通过将感兴趣的随机变量根据潜在的泊松过程进行解释而获得.

(a)
考虑两个独立的强度分别为
和
的泊松过程,我们将
和
分别解释为第一个过程 和第二个过程的首次到达时间, 设
表示两个过程合并以后的首次到达时间,
表示直到两个过程都出现到达的增加时间.因为合并的过程是强度为
的泊松过程,我们有

对于 S
有两种情况需要考虑：

(i) 第一次到达来自于第一个过程,这种情况出现的概率是
,此时我们仍需等待第二个过程的一个到达,平均来说需要时间
.

(ii) 第一次到达来自于第二个过程,这种情况出现的概率是
,此时我们仍需等待第一个过程的一个到达,平均来说需要时间
. 综上, 我们得到

(b)
考虑两个独立的参数分别为
和
的泊松过程,我们将 Y
和 Z
分别解释为第一个过程的首次到达时间和第二个过程的第二次到达时间, 设 T
表示两个过程合并以后的首次到达时间.因为合并过程是强度为
的泊松过程,我们有
. 这里有两种情况需要考虑.

(i) 在时刻 T
的到达来自第一个过程,这种情况出现的概率是
,此时我们仍需等待第二个过程的两个到达,这个增加时间服从参数为
的2阶埃尔朗分布,期望时间为
.

(ii) 在时刻 T
的到达来自第二个过程,这种情况出现的概率是
,此时我们仍需等待的增加时间 S
是直到两个过程各出现一个到达所需的时间,这是两个独立指数分布随机变量的最大值. 由(a)部分得到的结果,我们有

综上, 我们得到

其中
的值由前述公式给出.

20
.* 设
表示参数为
的泊松过程中第 k
个到达的时间,试证明, 对所有的
都有

解
我们有

最后一个等式成立是因为
这一项是参数为
的泊松分布的随机变量取值为 m
的概率值, 因此其和必为1.

一个更为直观的推导过程如下. 设
是一个很小的正数,考虑如下事件：

：第 k
次到达发生在 y
和
之间,这个事件发生的概率为
;

A
：一次到达发生在 y
和
之间,这个事件发生的概率为
;

假设
被取得足够小以至于在一个长度为
的区间内发生两次或更多次到达的概率可以被忽略.通过这种近似, 事件
不相交, 它们的并集是 A
,因此,

所需结论只要将两边的
消去即可.

21
.* 考虑两个参数分别为
和
的独立泊松过程.设
和
分别表示第一个过程和第二个过程中第 k
次到达的时间,证明：

解
考虑合并的参数为
的泊松过程,每一次当合并的泊松过程中出现一个到达时, 它来自第一个过程(成功)的概率为
, 来自第二个过程(失败)的概率为
. 考虑
次到达之后的情况, 来自第一过程的到达至少有 n
次当且仅当来自第二个过程的到达数少于 m
, 这种情况的发生当且仅当第 n
次 成功发生在第 m
次失败之前.这样, 事件
就相当于在前
次试验中至少成功 n
次这个事件.在一个具有确定试验次数的试验中,成功次数的分布列是二项分布列, 我们有

22.* 随机数目个独立伯努利随机变量之和.
设
是独立随机变量, N
取非负整数,随机变量
服从参数为 p
的伯努利分布. 当
时, 定义
,否则定义 Y
=0. 证明：

(a)
如果 N
是参数为 m
和 q
的二项分布,则 Y
是参数为 m
和 pq
的二项分布;

(b)
如果 N
是参数为
的泊松分布,则 Y
是参数为
的泊松分布.

解
(a)
将伯努利过程
进行分裂,以概率 q
接受,以概率 1-q
放弃.分裂后产生两个随机过程,第一个随机过程是分裂中接受的随机过程,第二个随机过程是分裂中放弃的随机过程.而 Y
是第一个过程前 m
次试验成功的次数. 因为分裂过程是伯努利的,参数为 pq
, 所以 Y
是参数为 m
和 pq
的二项分布.

(b)
将参数为
的泊松过程进行分裂, 以概率 p
接收,以概率 1-p
放弃.则 Y
是在单位时间内分裂过程到达的次数.Y
具有表达式
,其中 N
是原来的泊松过程在单位时间内到达的个数,由于每一个到达要分裂, Y
刚好是分 裂过程在单位时间内的到达次数.因为分裂过程是泊松的, 参数为
, 所以 Y
是参数为
的泊松分布.

23.* 个数为几何随机分布的独立指数随机变量之和.
设
,其中随机变量
服从参数为
的指数分布,且 N
服从参数为 p
的几何分布, 假设随机变量
是独立的,在不使用矩母函数的前提下证明：Y
服从参数为
的指数分布.提示
：根据分裂的泊松过程随机变量的含义来证明.

解
我们在第4章利用矩母函数的方法得到了这个结论,但是在这里要得到更加直观的推导.分别将随机变量
和 N
作如下解释,将时刻
视作参数为
的泊松过程中的到达时刻.现在将这个过程(我们称为原过程)进行分裂,每一个到达以概率 1-p
拒绝, 以概率 p
接受,将接受的到达形成分裂过程的到达,分裂过程是参数为
的泊松过程.我们将 N
解释为第一次接受时原过程到达的个数,注意到随机变量
就是原过程的到达中第一次被接受的时间,这个时间也是分裂过程的第一次到达时间, 按泊松 过程的定义,这个分裂过程的第一次到达时间的分布是参数为
的指数分布.

24.* 泊松过程在指数分布的随机区间内的到达个数.
考虑一个参数为
泊松过程和一个独立的参数为
的指数分布随机变量 T
, 计算在时间区间
内的泊松过程到达个数的分布列.

解
让我们将 T
视作一个新的独立的参数为
的泊松过程第一次到达的时间,并且将此过程与原始过程合并. 在这个合并的过程中,每一个到达来自原始过程的概率为
,且独立于其他到达.如果我们将合并过程中的每一次到达都看作是一次试验,将来自新过程的到达都视作一次成功的话, 注意到,直到第一次成功的到达数(试验数)K
是几何分布,它的分布列是

而第一次成功之前来自原始泊松过程的到达数 L
等于 K
-1,并且它的分布列为

25.* 无限服务队列.
我们考虑一个拥有无限个服务者的排队系统,在此系统中的顾客以强度为
的泊松过程到达.第 i
个顾客在系统中停留一段随机时间, 记为
.我们假设随机变量
独立同分布, 并且独立于到达过程. 为了简单起见,我们还假设
以给定的概率取
中的整数值.试计算在时刻 t
时系统中的顾客数
的分布列.

解
我们将那些在系统中停留时间
为 k
的顾客记为“类型 k
”顾客.可以将整个到达过程看作是 n
个子泊松过程的合并,第 k
个子过程就相应于“类型 k
”顾客的到达过程,它独立于其他过程且频率为
, 其中
,令
表示在时刻 t
系统中的“类型 k
”顾客数, 这样就有

且随机变量
是独立的.

我们现在计算
的分布列.一个“类型 k
”顾客在时刻 t
在系统中当且仅当那个顾客是在时刻
和时刻 t
之间到达的,因此,
具有均值为
的泊松分布,由于独立泊松随机变量之和依然服从泊松分布,于是我们有
服从参数如下的泊松分布列, 参数是

26.* 分裂的泊松过程的独立性.
考虑一个泊松过程,以独立的成功概率为 p
的投硬币的方式, 将之分裂为两个过程. 在例6.13中, 我们得出了每一个子过程都是泊松过程的结论, 现在证明这两个子过程是独立的.

解
让我们从两个独立的强度分别为
和
的泊松过程
和
开始,将两过程合并得到一个强度为
的泊松过程
,然后按照如下规则将过程
分裂为两个子过程
和
：一个到达注册为子过程
(或
),当且仅当该到达是来自子过程
(或
).很明显,新的两个子过程
和
是独立的,因为它们就等同于原始的子过程
和
.然而,产生子过程
和
的分裂机制与题目中的陈述看上去并不一致.我们现在就要证明这个新的分裂机制在统计意义上是等同于题目中的陈述的.进而将会得到,按题目中的陈述构造的子过程与上述子过程
和
具有相同的统计性质,所以是独立的.

现在我们考虑上述分裂机制.假设过程
在时刻 t
出现一个到达,这将或者来自子过程
(以概率 p
), 或者来自于子过程
(以概率 1-p
).因此这个过程
的到达注册到子过程
和
的概率分别为 p
和 1-p
,与题目中描述的分裂过程一致.现在考虑过程
中的第 k
个到达,并且令
表示这个到达来 自子过程
这个事件,这与第 k
个到达注册到子过程
这个事件是完全一样的.就像在例6.14中解释的, 事件
是独立的.这样, 对于不同的到达,它们注册到子过程
和
也是独立的.这说明将
分裂成
和
的统计机制与题目中所描述的分裂机制是一样的.题目中所分裂的两个过程与
和
的统计性质是一样的.由于
和
是相互独立的,由题目中分裂得到的两个子过程也是相互独立的.

27.* 在埃尔朗到达过程中的随机插入
. 考虑一个到达过程,其中到达间隔时间是独立的均值为
的2阶埃尔朗随机变量,假设过程已经进行了很长一段时间.一 个外在观测者于时刻 t
到达,求包含 t
的到达间隔区间长度的概率密度函数.

解
我们将题目中所说的埃尔朗到达过程视作强度为
的泊松过程的一部分.特别的,泊松过程每出现两次到达则埃尔朗过程出现一次到达, 更具体地,我们可以说埃尔朗过程的到达相当于泊松过程中的偶数次到达.设
表示泊松过程中第 k
次到达的时间.

取满足
的 K
,通过文中对泊松过程的随机插入的讨论,我们知道
服从2阶埃尔朗分布,而这里考虑的埃尔朗过程的到达间隔区间根据 K
的偶奇分别具有形式
或者
.在第一种情况中,埃尔朗过程的到达间隔时间具有形式
.这里
服从参数为
的指数分布,且独立于
.事实上, 一个观测者在时刻 t
到达并发现 K
是偶数,则必须首先等待到下一个泊松到达时刻
.从那个时刻起, 泊松过程重新开始,所以到下一个泊松到达所需时间
是独立于过去的(也就独立于
),并且服从参数为
的指数分布. 这就说明, 在 K
是偶数的条件下,埃尔朗过程的到达间隔时间区间长度
是一个3阶埃尔朗分布(因为它是一个指数随机变量和2阶埃尔朗随机变量之和).同理可得,在 K
是奇数的条件下,埃尔朗过程的到达间隔时间区间长度
的条件概率密度函数是一样的.因为对于每一个条件,包 含时刻 t
的到达间隔区间长度的条件概率密度函数都是3阶埃尔朗分布,这样, 覆盖 t
的相邻的到达区间的长度的无条件分布也是3阶埃尔朗分布.

第 7 章　马尔可夫链

第6章所讨论的伯努利过程和泊松过程是无记忆性的,也就是未来的状态不依赖于过去的状态：新的“成功”或“到达”不依赖于该过程过去的历史. 在本章中, 我们将考虑未来会依赖于过去的过程,并且能够在某种程度上通过过去发生的情况预测未来.

我们强调的模型里, 过去对未来的影响归结为对状态
的影响,它的概率分布随时间变化. 进一步地, 我们讨论的模型中, 假设变量取值的状态只取有限个值. 我们将分析状态值序列的概率性质.

本章中介绍的模型的应用范围是很广的. 它包含了几乎全部的动力系统.该系统的状态随时间变化, 具有不确定性. 这种系统在很多领域都有应用,例如, 通信、自动控制、信息传输、制造业、经济以及运筹学.

7.1　离散时间的马尔可夫链

我们首先考虑离散时间的马尔可夫链
,其中状态在确定的离散时间点上发生变化, 由于时间已经离散化,通常使用变量 n
来表示时刻. 在任意时刻 n
, 用
表示链的状态,并且假定 所有可能状态组成有限
集合
, 称该集合为状态空间
. 不失一般性,除非另有陈述, 我们用
表示这个状态空间,其中 m
为某一个正整数. 马尔可夫链由转移概率

所描述：即当状态是 i
时,下一个状态等于 j
的概率是
. 数学上表示为

马尔可夫链的核心假设是只要时刻 n
的状态为 i
,不论过去发生了什么,也不论链是如何到达状态 i
的, 下一个时刻转移到状态 j
的概率就一定是转移概率
. 数学上, 马尔可夫链的特征称为马尔可夫性质
, 即满足：对于任意的时间 n
,对任意的状态
, 以及任意之前可能的状态序列
, 均有

所以, 下一个状态
的概率分布只依赖于前一个状态
.

转移概率
一定是非负的, 且其和为1, 即

对所有的 i
成立.

通常
可取正值,这样下一个状态有可能和当前状态一样. 就算状态不发生变化,我们也认为状态发生了一次特殊的转移 (“自身转移”).

马尔可夫模型的性质

- 一个马尔可夫链模型由以下特征确定：

(a) 状态集合
,

(b) 可能发生状态转移
的集合, 即由所有
的
组成,

(c)
的取值(取正值).

- 由该模型描述的马尔可夫链是一个随机变量序列
, 它们取值于
, 并且满足：对于任意的时间 n
, 所有状态
,以及所有之前可能的状态序列
, 均有

马尔可夫链可以由转移概率矩阵
所刻画,它是一个简单的二元矩阵, 其第 i
行第 j
列的元素为
：

同时, 也可以直观地用转移概率图
表示马尔可夫链,图中用节点(node)表示状态,连接节点的(有向)弧线(arc)表示可能发生的转移.将
的数值标记在相应的弧线旁边,这样做可使得整个模型更加直观, 模型的主要性质变得显而易见.

例 7.1
爱丽丝上一门概率课程, 每周她可能进步, 也可能落后.如果在给定的一周里 她进步了, 那么她下一周进步(或落后)的 概率是0.8(或0.2); 相应地, 如果在给定的一周里她落后了,那么她下一周进步(或落后)的 概率是 0.6 (或0.4).我们假设这些概率都不依赖于她之前的每周是否进步或落后,所以该问题就是一个典型的马尔可夫链问题(未来的状态依赖过去的方式是只依赖于当前状态来体现).

我们令状态1和状态2分别表示进步和落后, 那么转移概率为

转移概率矩阵是

转移概率图见图7.1.

图 7.1　例7.1中的转移概率图

例 7.2　(蜘蛛和苍蝇)
一只苍蝇在一条直线上移动, 每次移动一个单位长度. 每单位时间,它以0.3的概率向左移动一个单位, 以0.3的概率向右移动一个单位,且以0.4的概率停留在原地, 并且它们独立于过去的移动.两只蜘蛛等在位置1和位置 m
：如果苍蝇到达这两个位置,它将被蜘蛛捕捉, 于是过程就结束. 我们将应用马尔可夫链模型,假设苍蝇开始位于1和 m
中间的某一个位置.

我们令状态为
, 表示苍蝇对应着的位置.于是非零转移概率为

转移概率图以及转移概率矩阵见图7.2.

图 7.2　例7.2中的转移概率图和转移概率矩阵, 其中 m
=4

例 7.3(机器出现故障、维修和更换)
一台机器在给定的某天可能正常工作也可能出现故障. 如果它正常工作,那它以概率 b
在下一天出现故障, 并且以概率 1-b
在下一天正常工作.如果它在该天出现故障, 那就维修这台机器.则它以概率 r
在下一天正常工作,并且以概率 1-r
在下一天仍然出现故障.

我们利用马尔可夫链给该机器的状态建立模型,两个状态如下：

状态1: 机器正常工作;　　　状态2: 机器出现故障.

转移概率图如图7.3所示. 转移概率矩阵为

图 7.3　例7.3中的转移概率图

这里的状态转移显然具有马尔可夫性质：第二天机器的状态只依赖于当天的状态. 但是,就算状态是依赖于前几天的状态, 也是可以利用马尔可夫链模型的.一般的想法是添加新的状态来刻画过去相关的信息,下面介绍这种处理方法.

假设只要机器在 l
天内都出现故障的话,那么就用一台新机器代替这台机器. 为了利用马尔可夫链模型,我们将原来的表示机器出现故障的状态2, 用几个新的状态代替,这些状态包含了机器出现故障的天数. 它们是

状态(2, i
):机器已经出现故障 i
天,

该转移概率图如图7.4所示, 其中 l
=4.

图 7.4　例7.3中第二部分的转移概率图.如果机器持续出现故障 l
=4 天将会被换成一个新的能正常工作的机器

前面例子的第二部分说明了如果想建立马尔可夫模型,我们需要根据未来状态对过去的依赖性建立新的状态. 我们要注意的是,添加新的状态具有一定的自由性, 但是一般而言, 数量要尽量少, 这样是为了避免分析或计算的麻烦.

7.1.1　路径的概率

给定一个马尔可夫链模型,我们可以计算未来任何一个给定状态序列的概率. 这类似于在序贯树形图中乘法规则(the multiplication rule)的应用. 特别地, 我们有

为证明该性质, 注意到

其中最后一个等式我们利用了马尔可夫链的性质.接下来应用同样的方法来计算
, 依次计算下去就可以得到我们所期望的形式.如果初始状态
已知, 且等于某个
, 那么类似的推导可得

图形上, 一个状态序列能表示为在转移概率图中一个转移弧线序列,并且在给定初始状态下, 该路径的概率等于每个弧线上转移概率的乘积.

例 7.4
对于蜘蛛和苍蝇例子 (例7.2)中, 我们有

我们也可以得到

注意, 要计算上述非条件形式的路径概率,需要知道初始状态
的概率分布.

7.1.2　n
步转移概率

许多马尔可夫链问题要求计算在当前状态的条件下,未来某个时期状态的概率分布. 这个概率称为
n
步转移概率
, 定义为

换句话说,
表示在给定当前状态 i
的条件下,n
个时间段后的状态将是 j
的概率.它可以通过下面的基本迭代公式计算, 该公式被称为查普曼-科尔莫戈罗夫方程
(Chapman-Kolmogorov方程,也即C-K方程).

n
步转移概率的查普曼-科尔莫戈罗夫方程

n
步转移概率利用迭代公式求得

对于所有
成立,

其中

为证明该公式, 我们只需应用如下全概率公式：

我们在这里利用了马尔可夫性质：只要以
为条件, 那么条件
将不会对下一步到达 j
的概率
产生影响. 图示请见图7.5.

图 7.5　C-K方程的推导示意图.n
时刻达到状态 j
的概率等于以不同路径到达 j
的概率
的总和

我们把
看成一个二维矩阵第 i
行第 j
列的元素,组成的矩阵称为
n
步转移概率矩阵
.1
图7.6和图7.7分别表示例7.1和例7.2中的 n
步转移概率
. 在这两个例子中,发现了许多
很有趣的极限性质. 在图7.6中,我们发现当
时, 每一个
都收敛于一个极限值, 这个极限值不依赖于初始状态 i
.因此, 当时间不断增大时 每个状态都有一个正的“稳态”概率. 进一步地,概率
在 n
很小时, 依赖于初始状态 i
,但是随着时间的增大, 这种依赖性将会逐渐消失.很多(但不是全部)随时间变化的概率模型都具有这样的性质：在充分长的时间后, 初始条件的影响可以被忽略.

1
对矩阵乘法运算熟悉的读者, C-K 方程可以如下表述：
组成的 n
步转移概率矩阵,等于由
组成的 n
-1 步转移概率矩阵乘以一步转移概率矩阵. 所以 n
步转移概率矩阵是转移概率矩阵的 n
次方.

图 7.6　例7.1的 n
步转移概率.观察到随时间 n
的增加,
收敛于不依赖于初始状态的极限值

在图7.7中, 我们发现了在数值上的不同极限行为：
依旧收敛,但是极限值依赖于初始状态, 而且对于某特定的状态极限值可能为0. 这里,我们有 两个状态是“吸收”状态, 也就是说一旦到达了这个状态,将永远处于这个状态. 具体地说状态1和状态4是“吸收状态”,与实际问题相对应的意思是苍蝇被两只蜘蛛之一捕捉.只要给足时间,苍蝇一定会到达吸收状态, 即苍蝇被蜘蛛捕捉. 因此,处于非吸收状态2和状态3的概率随时间的增长将减小为0. 最后,究竟达到哪个吸收状态, 其概率的大小取决于初始位置的远近.

图 7.7　图的上部表示“蜘蛛和苍蝇”的例7.2中,n
步转移概率
随 n
变化的状况.我们观察到这些概率收敛于一个极限值, 但是极限值依赖于初始状态 i
.图的下部展示 n
步转移概率矩阵随 n
的变化状况, 注意,处于非吸收态2或状态3的概率
和
, 随 n
的增大,其概率值趋近于0

这些例子说明了马尔可夫链状态类型以及渐近性质的多样性.这激发了我们对马尔可夫链进行分类和分析的兴趣,这将是接下来三节的主题.

7.2　状态的分类

在7.1节,从我们列举的例子中可以看到马尔可夫链的不同状态在数值上具有不同的性质.特别地, 一些状态被访问一次后, 一定还会被继续访问,而对于另外一些状态却不是这样的. 本节将重点讨论这种情 况的原理.特别地, 我们希望给出马尔可夫链的状态分类,并重点分析它们被访问的长期频率.

第一步, 我们将状态的可访问性给出一些严格的定义.称状态 j
为从状态 i
可达的
, 如果对于某一个 n
, n
步转移概率
是正的, 也就是说,从状态 i
出发,某个时段之后, 以一个正概率可以到达状态 j
. 另一个等价的定义是存在可能的状态序列
,开始于状态 i
, 结束于状态 j
, 并且其中每步转移
都具有正概率.今后,我们采用直观的语言“从 i
出发 可到达 j
"表示这种意思.令
是所有从状态 i
可达的状态集合. 我们定义状态 i
是常返的
, 如果对于每个从 i
出发可达的状态 j
,相应地从 j
出发也可达 i
; 也就是说, 对于所有属于
的状态 j
,状态 i
也属于
.

当我们开始于一个常返状态 i
, 我们只能访问状态
,其中 i
是从 j
可达的. 由于 i
是常返的, 从未来任何一个状态,总是有一定概率可以回到状态 i
的. 只要给足时间, 这总是能发生的.重复该推导可知, 如果一个常返态被访问一次, 那么一定能被回访无限次(参见本章末关于该推导严格证明的习题).

如果一个状态不是常返的,我们称之为非常返的
. 所以, 如果存在一个状态
,使得
,那么 状态 i
是非常返的. 当状态 i
每次访问后,将以正概率可以到达状态 j
. 只要给足时间, 这将会发生, 但那之后,状态 i
将不再会被回访. 所以, 非常返的状态只能被回访有限次,参见本章末的习题.

注意, 状态的非常返或常返能由转移概率图的弧线所决定[这些状态转移对
有
],而不是由
的具体数值决定. 图7.8列举了一个转移概率图,并且附上了状态的特性:常返的或非常返的.

图 7.8　转移概率图中表示状态的分类示意图.对于状态1, 唯一可达的状态就是它本身, 所以状态1是常返态.状态1、 3、 4是可从2可达的, 但是2却不能从它们可达,所以状态2是非常返状态. 状态3、 4是相互可达的,所以它们都是常返的

如果 i
是常返态, 那么从 i
可达的状态集合
组成一个常返类
(或简称为类
),这意味着
中所有的 状态都是相互可达的,
之外的状态不是从这些状态可达的. 用数学形式来表述就是,对于一个常返态 i
, 对任意的 j
属于
, 我们有
,这个结论由常返的定义可得. 例如, 在图7.8中, 状态3和状态4形成一个常返类, 而状态1自身形成一个常返类.

可以看到, 从任何一个非常返状态出发, 至少有一个常返状态是从它可达的. 这是一个直观的事实,证明将留作本章末的习题. 由此可以知道,一个马尔可夫链至少存在一个常返状态, 从而也就至少存在一个常返类.所以我们可以得到以下结论.

马尔可夫链的分解

- 一个马尔可夫链的状态集合可以分解成一个或多个常返类,加上可能的一些非常返状态.

- 一个常返态从它所属的类里任何一个状态出发是可达的,但从其他类里的常返状态出发是不可达的.

- 从任何一个常返状态出发都不可到达非常返状态.

- 从一个非常返状态出发, 至少有一个(可能有更多个)常返态是可达的.

图7.9提供了一些马尔可夫链分解的例子.状态的分解为研究马尔可夫链提供了一种强有力的方法,同时对状态转移也提供了直观的解释. 特别地, 我们可以看到如下现象.

(a) 一旦一个状态进入(或开始于)一个常返类, 它将停留在这个类里.因为在这个类里的所有状态都是相互可达的,类里所有状态将被无限次的回访.

(b) 如果初始状态是非常返的,那么状态转移的路径开始部分包含非常返状态,最后部分一定是由来自同一个类的常返状态组成的.

图 7.9　一些马尔可夫链的状态分解为常返类和非常返状态的例子示意图

为了理解马尔可夫链长期的行为, 分析由单个常返类组成的链是很重要的.为了理解它短期的行为, 分析如何从一个给定的非常返状态出发,进入一个特定的常返类的机理也是很重要的. 这两个问题,长期行为和短期行为, 将分别是7.3节和7.4节的研究重点.

周期

常返类还有一个重要的性质,即一个状态被回访时间出现或者不出现周期性. 特别地, 称一个常返类是有周期的
,如果它的状态能被分成
个相互不相交的子集
,且满足所有的转移都是 从一个这样的子集到下一个, 参见图7.10.更加精确地说, 就是

如果一个常返类不具有周期, 我们称之为非周期的
.

图 7.10　有周期的常返类的结构.本图中, 周期 d
=3

所以, 在一个有周期的常返类中, 我们从某个子集的一个状态出发,依次通过每一个子集, 经过 d
步后, 又回到了原来的子集. 举例说明,图7.9中的第二个链, 常返类(状态1和状态2)是有周期的, 由状态1出发,经过状态2, 又回到状态1. 同样地, 图7.9中的第三个链,由状态4和状态5组成的常返类也是有周期的.此外,该图中所有其他的常返类都是非周期的.

注意, 给定一个有周期的常返类, 对于链中任意一个正时刻 n
,以及类中的状态 i
, 则必存在一个或多个状态 j
, 使得
.其原因是从状态 i
出发, 时刻 n
只可能到达其中一个集合
. 所以,要证明一个给定的常返类 R
是非周期的,只需验证是否存在一个特定的时刻
和特定的状态
,使得经过 n
步以后, 可以到达 R
中所有的状态,也就是说, 对于所有的
有
. 举例说,图7.9中的第一个链. 从状态1开始, 每一个状态都可能在时刻 n
=3 时到达,所以 该链中唯一的一个常返类是非周期的.

相反的陈述也是正确的(在此不给予证明)：如果一个常返类 R
是非周期的, 那么必存在时刻 n
, 使得对于任何属于 R
的任意 i
和 j
, 均有
,参见本章末的习题.

周期

考虑一个常返类 R
.

- 如果一个类中的状态能被分成
个互不相交的子集
, 满足所有的转移都是从子集
到
的(或到
,当
时), 则称该类为周期类.

- 类 R
称为非周期的
, 当且仅当存在时刻 n
, 使得对于任何
, 满足
.

7.3　稳态性质

在马尔可夫链模型中, 我们常常感兴趣的是它长期的状态性质, 也就是说,当时刻 n
非常大时, n
步转移概率
的渐近行为.我们在图7.6看到
收敛到一个固定的值,并独立于初始状态的选取.我们希望了解这种收敛性质在多大程度上是典型的性质.

如果有两个或者更多个常返状态类, 很显然,
的极限值一定依赖于初始状态(未来访问 j
的概率依赖于状态 j
是否和初始状态 i
处于相同的类).所以, 我们将链限定于只有一个 常返类, 加上一些可能存在的非常返状态.对于单个常返类的情况研究清楚以后,多个常返类的情况也就变得简单明白了. 因为我们知道, 一旦状态进入一个特定的常返类, 它将一直处于这个类中. 所以,可以利用单一类链的渐近行为去理解具有多个常返类的马尔可夫链的渐近行为.

就算是一个只有单个常返类的链,
也可能是不收敛的.为了验证这点, 我们假设一个常返类具有两个状态, 状态1和状态2,满足状态1只能到达状态2, 而状态2也只能到达状态1(
).那么, 从某一个状态开始, 任意偶数次转移后 将回到原来的状态,任意奇数次转移之后达到对方的状态. 也就是,

这种现象说明该常返态是周期的, 并且
是摆动的.

排除我们前面讨论的两种情况(多个常返类和有周期的类)外,现在我们可以断言, 对于每一个状态 j
,处于状态 j
的概率
趋近于一个独立于初始状态 i
的极限值,这个极限值记为
, 有如下表示：

当 n
很大时,

并且称之为状态 j
的稳态概率
. 接下来是一个重要定理. 它的证明很复杂,将结合本章末问题的几个其他证明列出.

稳态收敛定理

考虑一个非周期的、 单个常返类的马尔可夫链.那么, 状态 j
和它对应的稳态概率
具有如下性质.

(a) 对于每个 j
, 我们有：

对于所有的 i
.

(b)
是下面方程组的唯一解：

(c) 另外有：

对于所有的非常返状态j
,

对于所有的常返态j
.

稳态概率
的总和为1, 在状态空间中形成了概率分布,通常称之为链的平稳分布
(stationary distribution). 称之为平稳的原因是, 如果初始状态是根据该分布选择的,也就是说, 如果

那么, 利用全概率公式, 我们有

其中上式最后一个等号利用的是稳态收敛定理的第(b)部分. 类似地,对于所有的 n
和 j
均有
. 所以,如果初始状态根据平稳分布选择,那么未来任何时候的状态都具有相同的分布.

方程组

称之为平衡方程组
.它们是上述定理第(a)部分和查普曼-科尔莫戈罗夫方程组的简单结合的结果.实际上, 一旦
收敛于某一个
, 那么我们考虑方程组

两边对
取极限,得到平衡方程组.2
又结合归一化方程

2
运用线性代数中一个重要的著名定理(称为佩龙-弗洛比尼斯定理),可以证明任意马尔可夫链的平衡方程组总有非负解.一个非周期的只有单个常返类的马尔可夫链, 综合归一化方程,平衡方程组的解是唯一的,也就是 n
步转移概率
的极限.

平衡方程组能够解出
. 下面举一些例子来说明如何求解.

例 7.5
考虑两个状态的马尔可夫链, 它们的转移概率是

(这和例7.1和图7.1介绍的链是相同的.) 平衡方程组为

即

注意到上面的两个方程是相互依赖的, 因为它们都等价于

这是一个一般结论,实际上可以证明平衡方程组内的任何方程都可以利用剩下的式子推导出来.然而, 我们知道
满足归一化方程

它是平衡方程组的一个补充, 从而能唯一地得到
.实际上,将方程
代入方程
,可以得到
, 从而

再将它代入
, 得到

这个结果和我们前面通过迭代查普曼-科尔莫戈罗夫方程组得到的结果一致(见图7.6).

例 7.6
一位健忘的教授有两把雨伞, 用于上下班往返于家和学校之间.如果下雨且在她所处位置有一把雨伞可用, 那么她就会带上它.如果没有下雨, 她总是忘记带雨伞. 假设每次她出门下雨的概率是 p
,且独立于其他时候. 请问她在路上被淋湿的稳态概率是什么?

我们利用马尔可夫链建立模型, 假设以下状态：

状态 i
:　在她所在地有 i
把雨伞可用,　i
=0, 1, 2.

图7.11表示对应的转移概率图,相应的转移概率矩阵为3

3
矩阵中第一行表示她出门时门口没有伞,她到达目的地的门口必定有两把伞,因此由
,第二行表示她出门时门口只有一把伞, 她以概率 p
将这把伞带走,以概率为
将伞留在原地,这样目的地门口的状态为1或2, 相应的转移概率如矩阵的第二行所示.总之, 她所在地门口的伞的把数形成一个马尔可夫链. ——译者注

图 7.11　例7.6中的转移概率图

这个马尔可夫链具有单个常返类, 且是非周期的(假设
),所以可以利用稳态收敛定理. 其平衡方程组是

由第二个方程, 我们知道
,再结合第一个方程
和归一化方程
,得到

根据稳态收敛定理, 教授发现自己所在地方没有雨伞的稳态概率是
.那么教授将被 淋湿的概率是
乘上下雨的概率 p
.

例 7.7
一个迷信的教授在一个具有 m
扇门的环形建筑里面工作,m
是奇数. 他绝不连续两次打开同一扇门. 相反,他以概率 p
(或概率 1-p
)以顺时针方向(或相应地以逆时针方向)打开他上一次打开的相邻门.请问选定一扇门将在未来一天被用到的概率?

图 7.12　例7.7中的转移概率图,m
=5 对应的情况示意图. 假设
, 不难发现, 选定一个初始状态i
,每一个状态 j
都可以在5步能达到, 所以该链是非周期的

我们利用马尔可夫模型, 有以下 m
个状态：

状态 i
:教授打开的是第 i
扇门,

转移概率图如图7.12所示(图中m
=5). 转移概率矩阵为

假设
, 该链有非周期的单个常返类 (验证非周期性,我们选定一个初始状态 i
, 每一个状态 j
都可以在确定的 m
步能到达,于是上节末提出的非周期性判定规则能满足).平衡方程组为

注意, 由其对称性, 这个方程组很好解, 所有的门都具有一样的稳态概率.所以解为

确实, 我可以看到
是满足平衡方程组和归一化方程的,所以它们一定就是我们所求的 稳态概率(利用稳态收敛定理的唯一性).

注意, 如果 p
=0 或者 p
=1, 链也只有单个常返类, 但是是有周期的.在这种情况下, n
步转移概率
不会收敛于某一个极限值,因为门将会被按照环形顺序使用. 类似地, 如果 m
是偶数, 链的常返类也是有周期的, 因为状态将可以分成两个子集,偶数和奇数号码的状态, 并且满足从一个子集只能 到达下一个子集.

7.3.1　长期频率解释

{概}率通常被解释为无限次独立重复试验的事件发生的对应频率.尽管缺乏独立重复试验的那种独立性,马尔可夫链的稳态概率也具有这样类似的解释.

例如, 考虑一个与机器相关的马尔可夫链. 每天工作结束的时候,机器有两种状态, 正常工作或出现故障. 每次出现故障时,就立即花1美元维修. 我们应该如何建立模型, 计算长期的每天平均修理费?一种可能是将它看成未来任意一天 的修理费的均值,这就需要计算故障状态的稳态概率. 另一种方法是：首先可以计算 n
天内的总期望花费. 当 n
很大时, 再除以 n
.直觉告诉我们, 两种计算方法将会得到一样的结果,这样的直觉是有理论根据的.下面是关于稳态概率的解释(证明将在本章末的习题中给出).

稳态概率的期望频率解释

对于一个非周期的具有单个常返类的马尔可夫链,状态的稳态概率
满足

其中
表示从状态 i
出发,在 n
次转移中到达状态 j
的总次数的期望值.

基于上述解释,
表示状态是 j
的长期的期望频率.每次状态 j
被访问了,则下一步将转移到状态 k
的概率是
. 所以,我们得到结论
可以看作从 j
转移到 k
的长期转移概率.4

4
事实上, 下面更强的结论也是成立的.对马尔可夫链 进行一个概率试验,产生一个马尔可夫链的无限长的轨道,观测这个轨道的到达状态 j
的长期频率就是
,发生从状态 j
转移到状态 k
的长期频率正好是
.尽管轨道是随机的, 这些等式仍然概率1地成立.

特定转移的期望频率

考虑一个马尔可夫链的 n
次转移,该链是从给定初始状态出发的、非周期的, 且具有单个常返类.令
为在时间 n
内, 从状态 j
到状态 k
的转移期望次数,那么, 无论初始状态是什么, 均有

给出
和
的频率解释以后,平衡方程组

就具有直观的意义.访问 j
的期望频率
等于能到达 j
的转移的期望频率
的总和,参见图7.13.

图 7.13　在频率意义下对平衡方程组的解释. 在次数很大的转移中,我们认为
表示状态从 k
到 j
的期望频率(它也可以应用于 j
到本身的转移, 对应频率为
).这样的转移的期望频率总和就是访问 j
的期望频率

7.3.2　生灭过程

一个生灭过程
也是马尔可夫链.它的状态是线性排列的,具体地说,生灭过程的状态空间为
,且转移只发生在相邻状态之间, 或者状态保持不变.实际背景的例子非常多, 尤其是排队论.图7.14表示了一个生灭过程的一般结构, 也介绍了转移概率的一般情况.特别地,

(在状态 i
“生”的概率),

(在状态 i
“灭”的概率).

图 7.14　生灭过程的转移概率图

对于一个生灭过程, 平衡方程组能够充分地化简. 我们重点考察相邻状态 i
和 i
+1. 在马尔可夫链的任何轨迹中,从 i
到 i
+1 的转移一定会跟着一个从 i
+1 到 i
的转移(虽然不总是从 i
+1 马上转到 i
),后面这个转移会在另一个 i
到 i
+1 的转移发生之前. 换言之,在马尔可夫链的任何轨迹中,由 i
到 i
+1 的转移和由 i
+1 到 i
的转移一定是交替出现的. 所以,从 i
到 i
+1 的转移 的期望频率
,一定等于从 i
+1 到 i
的转移的期望频率
.这就推出了一个局部平衡
方程组5

5
不运用频率解释法, 也可以如下正式推导. 状态0的平衡方程是
,所以可以推导出第一个局部平衡方程：
.状态1的平衡方程是
运用前一个状态的局部平衡方程
,可得
化简可得
. 继续推导下去,就可以得到所有状态的局部平衡方程组.

利用这个局部平衡方程组, 可以得到

由此, 再利用归一化方程
,稳态概率
就容易算出了.

例 7.8(具有反射壁的随机游动)
一个人在直线上行走, 每一个时刻, 他向右走的概率是 b
,向左走的概率是 1-b
. 该人开始于位置
中的任一个,但是如果他到达 位置0(或者 m
+1),他将自动返回到位置1(或者位置 m
). 这等价于,我们假设当他到达位置1(或者 m
)的时候,下一步将以概率 1-b
(或者 b
)停留在原处,以概率 b
向右走一步(或以概率 1-b
向左走一步). 我们利用马尔可夫链建立模型, 其状态为
.转移概率图如图7.15所示.

图 7.15　例7.8随机游动例子的转移概率图

局部平衡方程组为

所以,
其中

于是我们用
表示所有的
, 有

再利用归一化方程
, 我们得到

于是得到

注意, 如果
(向左和向右的概率一样),那么对于所有 i
有
.

例 7.9(排队论)
在通信网络中, 信号包到来后, 被存放在缓冲器中然后传输.缓冲器的储存容量是 m
： 如果已经有 m
个信号包存在缓冲器中,那么新到的信号就自动丢失了. 我们将时间切分成 很小的部分,并且假设每个时间段,最多有一个事件发生(一个新的信号包的到达或将已经存在一个信号包传送出去),改变系统中信号的数量. 特别地, 我们假设每个时间段,只有以下事件之一发生.

(a) 一个新的信号包的到达,发生概率是
;6

6
如果缓冲器中信号包的个数为 m
, 则事件发生的概率为0.——译者注

(b) 如果至少存在一个信号包在系统中, 则传送出去一个信号包,发生的概率是
, 否则概率为0;

(c) 没有新信号到达,也没有将已经存在的信号包传送出去.如果当时在缓冲器中信号包的个数为 m
,则事件发生的概率为 1-d
;如果当时在缓冲器中存在至少一个信号包, 则事件发生的概率为 1-b
-d
; 如果当时在缓冲器中没有信号包, 则事件发生的概率为 1-b
.

我们建立一个马尔可夫链, 其状态空间为
,这些状态表示缓冲器中信号包的个数. 转移概率图如图7.16所示.转移概率图能够更加明晰地表达这种状态的转移关系.

图 7.16　例7.9的转移概率图

局部平衡方程组为

我们定义

可以得到
, 从而推出

通过应用归一化方程
,我们可以得到

以及

再利用等式
, 稳态概率为

当缓冲器容量 m
很大, 实际中可以认为无穷的时候,看看会发生什么很有趣的事情. 我们分两种情况.

(a) 假设
, 或者说
. 这种情况下,新信号到达的概率小于缓冲器中信号离开的概率.这就避免了缓冲器中信号数量的增加,并且稳态概率
随着 i
增大而减少, 其分布列为截尾型的几何分布.注意到当
, 有
以及

对于所有的 i
.

我们可以把它看成是具有无限个缓冲器的系统的稳态概率. [验证时,注意到
]

(b) 假设
, 或者说
. 这种情况下,新信号到达的可能性大于缓冲器中信号离开的可能性.缓冲器中信号的数量趋近于增加,并且稳态概率
随着 i
增大而增加. 由于我们考虑的缓冲器具有很大的容量 m
,任何状态 i
的稳态概率都是逐渐趋近于0的：

对于所有的 i
.

如果我们考虑系统具有无限个缓冲器,我们将得到一个具有可数无穷多个状态的马尔可夫链.尽管我们不讨论这样的链, 但是根据前面的计算,我们知道每一个状态都具有零的稳态概率, 每个状态将是非常返的.缓冲器中的信号的个数将增加到无穷多个,并且任何特定的状态都只能被访问有限次.

前面的分析对具有可数无穷多个状态的马尔可夫链的性质有了一个大致的了解.在这种马尔可夫链中, 即使是只有一个非周期的常返类,链的状态也不会是稳态, 也不会有平稳概率分布存在.

7.4　吸收概率和吸收的期望时间

在本节中, 我们将学习马尔可夫链的短期行为. 首先,考虑开始于非常返状态的情形,我们感兴趣的是首次访问常返态的分布以及对应的到达时间的分布.

当我们讨论这个问题的时候,马尔可夫链的后续行为(到达常返态之后)是不重要的. 所以我们重点讨论每一个常返态 k
为吸收的
, 也就是

对于所有的

如果只有唯一的一个吸收态 k
,那么它的稳态概率为1(因为其他所有的状态都是非常返的,并且其稳态概率都是0).从任何一个初始的非常返状态出发,将以概率1达到这个吸收状态. 如果有多个吸收状态, 那么经过若干步的转移, 这个状态终将到达某个吸收态.但是具体到达哪一个吸收态, 这是随机的,并且到达各吸收态的概率分布依赖于初始状态. 现在 我们固定一个吸收态,设为 s
, 令
表示链从状态 i
开始, 最终达到 s
的概率：

(
最终等于吸收状态
).

这个概率称为吸收概率.吸收概率可以通过解以下线性方程组得到.

吸收概率方程组

考虑一个马尔可夫链, 它的每一个状态或者是非常返的,或者是吸收的, 并固定一个吸收状态 s
. 那么从状态 i
开始,最终达到 s
的概率
是下列方程组的唯一解：

对于所有吸收状态
,

对于所有非常返状态 i
.

由吸收概率的定义, 很明显得到方程组
以及对于所有吸收状态
,
. 为了证明剩下的方程组,论证如下. 考虑一个非常返状态 i
, 令 A
表示状态 s
最终被达到的事件.我们有

关于吸收概率方程组的解的唯一性需要单独的证明,将在本章末的习题中给出.

接下来的例子将阐述我们如何利用前面所述的方法计算进入给定常返态的概率(并非仅仅是进入给定吸收状态).

例 7.10
考虑如图7.17(a)所示的马尔可夫链. 注意这里具有两个常返类,分别是{1}和{4,5}. 我们计算开始于一个非常返状态、最终进入常返类{4,5}的概率. 为了解决这个问题, 考虑常返类{4,5}内的可能转移不是实质性的. 所以我们将该常返类的状态整合,把它们看成单个的吸收状态(称之为状态6), 参见图7.17(b).现在只需计算新链中 最终进入状态6的概率.

从非常返状态2和3, 最终达到6的概率满足以下方程组：

利用事实
和
, 我们得到

图 7.17　(a)例7.10的转移概率图;(b)将状态4和状态5整合成吸收状态6的新链

这是关于未知数
和
的二元一次方程组.求解得到
及

例 7.11(赌徒的破产问题)
一个赌徒每局赌博以概率 p
赢1美元, 同时以概率 1-p
输掉1美元.假设不同赌局之间是相互独立的.赌徒会一直赌博直到资金到达某个目标总数 m
, 或者输掉全部的钱.请问最终资金能到达目标 m
或者 输掉他全部资金的概率是多少?

我们建立马尔可夫链, 参见图7.18, 它的状态 i
表示每次赌局开始时,赌徒的资金. 状态 i
=0 和 i
=m
分别表示最终输和赢.

除了最终输和赢的状态是吸收的, 其余状态都是非常返的. 所以,问题转变成了对应计算每个吸收态的吸收概率. 当然,这些吸收概率会依赖于初始状态 i
的选取.

图 7.18　赌徒的破产例子(例7.11)的转移概率图, 这里 m
=4

我们令 s
=m
, 且吸收概率
表示从状态 i
出发, 最终赢的概率.那么这些概率满足

这个方程组可以通过很多种方法来求解.下面我们利用一种比较简单的方法解该方程组.

对于每个
, 我们有

那么, 令

以及

从而方程组转变成

由此可得

于是结合等式
,可得

也就是

因为
以及
, 从一个状态 i
出发,最终赢的概率
是

化简得

结果揭示了, 如果
, 也就是
, 赌徒每次赢的概率相对小,那么最终赢的概率(不管初始资金是多少) 随
趋近于0, 这就表明, 如果我们在不理想的概率下(每次赢的概率小于输的概率), 想赢取更大的资金,最终完全破产是几乎一定的.

7.4.1　平均吸收时间

现在我们转而关注从一个特定的非常返状态出发,直到到达一个常返状态(称为“吸收”)的平均步数. 对于任何一个 i
,我们定义

注意, 如果 i
本身为常返态, 那么根据定义
.

我们利用全期望定理得到关于
的方程组.从一个非常返状态 i
出发直到进入吸收状态所需的时间的期望值等于1加上从下一个状态 j
出发直到进入吸收状态所需的时间的期望值的加权平均,而权值刚好是由 i
到下一个状态 j
的概率
.于是我们得到一个线性方程组,可以证明,这个线性方程组具有唯一的解(参见本章末的习题33).

平均吸收时间方程组

平均吸收时间
是下列方程组的唯一解:

对于所有的常返状态 i
,

对于所有的非常返状态 i
.

例 7.12(蜘蛛和苍蝇)
考虑例7.2中的蜘蛛和苍蝇的模型. 它对应图7.19中的马尔可夫链.状态对应苍蝇可能的位置, 吸收状态1和状态 m
表示蜘蛛对苍蝇的捕捉.

接下来我们计算苍蝇被捕捉的平均步数. 我们有

以及

当

解这个方程组有很多方法, 例如通过依次迭代法. 现在我们详细阐述,假定 m
=4, 方程组可以简化为

第一个方程得出
将其代入第二个方程可解得
. 我们得到
,再次代入第一个方程得
.

图 7.19　例7.12中的转移概率图

7.4.2　平均首访时间及回访时间

用于计算平均吸收时间的想法也可以用于计算开始于任何其他状态,到达某特定常返状态的平均时间. 为了简化,我们只考虑只有单个常返类的马尔可夫链.我们着眼于一个特定的常返态 s
, 并令
表示从状态 i
到状态 s
的平均首访时间
,定义为

到达状态 s
之后的转移和计算平均首访时间是没有关系的. 所以,我们将特殊状态 s
看成一个吸收状态 (令
对于所有的
令
), 新的马尔可夫链本质上是和原来一致的.通过这个转化, 除了 s
外的所有状态都是非常返的了.于是我们利用本节前面给出的公式,计算时间
相当于计算从状态 i
出发被吸收的平均步数. 我们有

该线性方程组能用于解未知的
,并且只有唯一的解(参见本章末的习题).

上述方程组给出了从任何其他状态开始, 到达特定状态 s
的平均时间.我们也可以计算到达特定状态 s
的平均回访时间
, 定义为

如果我们知道首次访问时间
,就可以通过以下方程得到
,

为了验证该等式, 我们说从状态 s
开始,回到状态 s
的平均时间等于1加上从下一个状态出发到达状态 s
的平均首访时间, 链处于下一个状态 j
的概率为
.利用全期望定理即可得到
的公式.

例 7.13
考虑例7.1中爱丽丝听课的两种状态“进步”和“落后”,证明她的状态形成一个马尔可夫链, 状态1和状态2分别对应进步和落后,且转移概率为

我们着眼于状态 s
=1, 计算从状态2开始到达状态1的平均首访时间.我们有
, 以及

由此可得

到达状态1的平均回访时间等于

平均首访时间和回访时间方程组

考虑只有单个常返类的马尔可夫链,令 s
为特定的常返状态.

- 从状态 i
到状态 s
的平均首访时间
是下列方程组的唯一解:

对于所有的

- 状态 s
的平均回访时间
为

7.5　连续时间的马尔可夫链

前面所考虑的马尔可夫链中,我们假设状态的转移都是在单位时间内发生的.本节将考虑连续时间的模型, 它能被用于很多按照连续时间到达的过程.例子是通信网络中的分布中心或结点, 其中感兴趣的事件(例如,新信号的到达)是按照泊松过程到达的.

与前面类似, 我们将考虑一个过程,它按照一定的转移概率从一个状态转移到下一个状态, 但是我们令两次转移之间的时间是一个连续随机变量.我们依旧假设状态的个数是有限的, 并且在不特别指明的情况下, 设状态空间是集合
.

为了进一步介绍该过程, 我们引入以下感兴趣的随机变量.

为完整起见, 我们假设
表示初始状态, 且 令
. 我们给出以下假设.

连续时间马尔可夫链的假设

- 如果当前状态是 i
,到下一个转移的时间服从已给参数
的指数分布,且独立于之前的历史过程和下一个状态.

- 如果当前状态是 i
, 按照给定的概率
到达下一个状态 j
,而且独立于之前的历史过程和转移到下一个状态的时间间隔.

上述假设是该过程的一个完整的描述, 并提供一种清晰的方法来解释它：链进入状态 i
, 在状态 i
停留,停留时间是按照参数为
的指数分布,然后再以转移概率
到达状态 j
. 一个直接的结果是,状态序列
在经过依次转移后, 成为了一个离散时间的马尔可夫链,其转移概率是
, 该链称为嵌入的
马尔可夫链.

数学形式上, 我们的假设可以用公式来表达. 令

为直到第 n
次转移发生之前链所有发生的事件. 我们有

到下一个转移的平均时间为

所以我们可以认为
是停留在状态 i
的单位时间上,转移出状态 i
的平均转移次数. 于是, 参数
称为跳出状态 i
的转移速率
.因为
表示从状态 i
转移到状态 j
的概率, 所以

表示停留在状态 i
的单位时间上, 从状态 i
到状态 j
的平均转移次数.从而, 我们称
为从状态 i
到 j
的转移速率
. 注意, 给定转移速率
,我们就可以通过下列公式计算转移速率
,

并利用下列公式计算转移概率,

注意, 模型可能发生自身转移, 就是从一个状态出发又回到该状态.当自身转移概率
不为0时, 自身转移就会发生. 但是,这样的自身转移没有观察的意义： 因为指数分布的无记忆性,直到下一个转移剩余的时间是一样的, 不论自身转移发生与否.由于这个原因, 我们忽略自身转移, 从而假设

对于所有的i
.

例 7.14
一台运转中的机器会一直工作, 直到警告信号产生.从开始工作一直到产生警告信号的时间服从参数为1的指数分布.产生警告之后, 机器将被检修, 检修的时间服从参数为5的指数分布.检修结果以1/2的概率将机器维修好, 此时机器将恢复正常生产;而另一个可能的结果是机器已经损坏 ( 概率为 1/2), 机器将送去修理.修理时间服从参数为3的指数分布.我们假设前面提到的随机变量都是相互独立的, 且独立于检修结果.

令状态1、2、3分别表示正常工作、检验、修理. 转移速率是
转移概率矩阵和转移速率矩阵表示如下

具体解释参见图7.20.

图 7.20　例7.14中马尔可夫链的阐述.弧线附近的数据表示转移速率

我们最终发现前面定义的连续时间的马尔可夫链具有和离散时间马尔可夫链类似的马尔可夫性质：在给定的当前状态下, 未来独立于过去. 为了进一步认识该性质,定义
表示连续时间马尔可夫链在时间
的状态,且注意它在两次转移之间7
将停留一段时间. 利用指数分布的无记忆性, 可以推出,对于第 n
次转移时间
和第
次转移时间
之间的任意时刻 t
,直到下一个转移发生的剩余时间
独立于系统已经在目前状态所停留的时间
. 进一步推出, 对于任意时刻 t
,和给定当前的状态
, 过程的未来 [随机变量
],独立于过去[随机变量
].

7
如果转移恰好发生在时刻 t
, 记号
的定义有些不清楚.通常的做法是令
为恰好发生转移之后的状态,这时
就是
.

7.5.1　利用离散时间马尔可夫链的近似

我们来阐述连续时间马尔可夫链和对应离散时间形式的联系.这个联系给出了连续时间马尔可夫链的另一种描述,以及表示稳态行为的平衡方程组.

取定一个小的正数
, 考虑离散时间马尔可夫链
,它是每隔一小段时间
观察
所得到的

实际上, 根据
的马尔可夫性质,可知
是一个马尔可夫链(给定当前状态的前提下, 未来独立于过去).我们利用记号
表示
的转移概率.

给定状态
,则时刻
和
之间发生转移的概率近似等于
.进一步地, 概率
表示转移到下一个的状态是 j
. 所以

如果

其中
表示随
变小时的无穷小量.停留在状态 i
的概率是 [也就是,在时刻
和
之间没有发生转移]

这就给出连续时间马尔可夫链如下所述的另一种描述.8

8
到目前为止, 我们已经证明一个连续时间的马尔可夫链满足这些性质.相反, 也可以证明如果使用这种描述方法,可以证明： 直到从状态 i
发生转移所需要的时间是指数分布,参数是
. 进一步,在这种转移已经发生的事实条件下,转移到状态 j
的概率是
.这就证得了这种描述方法与原始的方法描述的马尔可夫链是一样的.

连续时间马尔可夫链的另一种描述方法

给定连续时间马尔可夫链的当前状态 i
, 对于任何
, 单位时间
之后的状态是 j
的概率是

且独立于过程过去的情况.

例 7.14(续)
忽略
项,对应的离散时间马尔可夫链
的转移概率矩阵为

例 7.15(排队论)
在一个通信系统中到达缓冲器的信号包的过程是一个参数为
的泊松过程.信号存放在容积为 m
的缓冲器里, 且每次只传输一个信号. 但是,如果缓冲器里面的信号已满, 新来的信号就会丢失.传输一个信号需要的时间服从参数为
的指数分布.不同信号之间的传输时间是相互独立的, 也独立于所有间隔时间.

我们将利用连续时间马尔可夫链对该系统建模,状态是
表示 t
时刻对应系统中的信号数量[如果
,那么
表示队列 中等待的信号数量, 有一个信号正在被传输].当新信号达到, 状态将增加1; 当已存信号被传输, 状态将减少1.为了证明
确实是 一个马尔可夫链,我们利用马尔可夫过程的另一种描述性定义,并且同时给出转移速率
.

首先考虑系统中为空的情况, 也就是状态
为0的情况.从状态0的转移只有当新信号到达才能发生, 在这种情况下, 状态变成了1.因为信号的到来是一个泊松过程, 所以有

接下来, 考虑系统中信号满的情况, 也就是状态
为 m
的情况.状态 m
的转移只有当现有的一个信号完成传输才能发生,传输完成后状态变成了 m
-1.因为传输所用的时间服从指数分布(具有无记忆性), 所以有

最后, 考虑系统状态
等于某个中间状态 i
,
.在下一个单位时间
中, 新信号到来的概率是
, 使得状态变成了 i
+1,完成一个信号的传输的概率是
, 使得状态变成了i
-1.[在时间间隔
中同时有新信号到来和已有信号的传输完成的概率是与
同阶的,所以可以被忽略,
的其他形式的情况也类似处理.]所以

参见图7.21.

图 7.21　例7.15中的转移图

7.5.2　稳态性质

现在我们把注意力放在连续时间马尔可夫链的长期行为上,重点在计算当时间 t
不断增大时, 停留在状态 i
的概率
的极限情况.我们通过研究对应的离散时间马尔可夫链
的稳态概率来解决该问题.

因为
, 很显然如果
的极限
存在的话, 必等于
的极限.所以 我们只需考虑
的稳态概率. 因为是在离散时间链里,我们知道因为稳态概率是独立于初始状态的,所以我们只需假定链
只有一个 常返类.我们也注意到马尔可夫链
一定是非周期的. 这是因为自身转移概率为

当
很小时, 这个概率为正数. 而具有非零自身转移概率的链总是非周期的.

链
的平衡方程组有以下形式

对于所有的 j
,

也就是

我们合并方程两边关于
的项, 再除以
,计算当
趋于0时的极限,得到平衡方程组

我们现在可以给出链
的稳态收敛定理.

稳态收敛定理

考虑具有单个常返类的连续时间马尔可夫链. 那么,状态 j
以及对应的稳态概率
具有如下性质.

(a) 对于每个 j
, 我们有

对于所有的 i
.

(b)
是下列方程组的唯一解:

(c) 另外有

对于所有的非常返态 j
,

对于所有的常返态 j
.

为了进一步阐述平衡方程组,我们把
看成过程花费在状态 j
上的时间的平均长期频率.那么
就可以看成从 k
到 j
的转移的平均频率(单位时间内,转移从 k
到 j
的平均次数).所以平衡方程组的本质就是从状态 j
开始的转移的频率(方程的左边
) 等于进入状态 j
的转移的频率(方程的右边
).

例 7.14(续)
该例子的平衡方程组和归一化方程为

和离散时间的情况一样, 这些方程组中有一个是多余的.比如说,第三个方程可以由前两个方程得到. 进一步地, 得到唯一解

所以, 例如, 如果我们让过程长期转移下去,
将以稳态概率30/41停留在状态1, 且独立于初始状态.

该稳态概率
要区分于嵌入的马尔可夫链
的稳态概率
.实际上, 嵌入的马尔可夫链
的平衡方程组和归一化方程为

得出结论

为了阐述概率
的意义, 我们举例说明,如果让过程长期转移下去, 到达状态1的转移平均频率为2/5.

注意, 尽管
(也就是,转移到达状态1的次数和到达状态2的次数相当), 我们也有
.原因是过程倾向于在到达状态1时多花费一些时间,相对于花费在状态2上的时间要长. 所以, 给定一个时刻 t
,过程
更有可能处于状态1. 这种情况是典型的,两组稳态概率(
和
)一般情况下是不同的.主要的例外情况是, 转移速率
对每一个 i
都是一致的,参见本章末的习题.

7.5.3　生灭过程

类似于离散时间的情况, 生灭过程
中的状态是线性排列的,转移只发生在相邻状态之间, 或者停留在原处.正式地说, 我们有

当
.

在生灭过程中,从 i
到 j
的转移和从 j
到 i
的转移的长期平均频率是相同的,由此推出了局部平衡方程组

对于全部的
.

局部平衡方程组与离散时间的情况具有相同的结构,能推出类似形式的稳态概率公式.

例7.15(续)
局部平衡方程组形式如下

我们得到
, 其中
. 所以,对于所有的 i
有
.又由归一化方程
得到

于是稳态概率为

7.6　小结和讨论

在本章中, 我们介绍了具有有限个状态的马尔可夫链.在离散时间马尔可夫链中, 在整数时刻发生状态转换,转移概率为
.马尔可夫链区别于一般随机过程的核心性质是转移概率
的性质,在当前状态为 i
的条件下, 下一个时刻为状态 j
的转移概率为
,这与 i
所在的时刻是无关的, 且独立于时刻以前的状态. 所以, 给定当前一个状态,未来的状态与过程的过去状态是相互独立的.

从现实角度看建立适当的马尔可夫链模型从某种意义上说的确是一门艺术.一般地, 我们需要给出足够充分的状态信息,使得当前状态能反映来自过程中任何能联系过去与未来相关的信息.在满足上述要求的基础上, 我们通常需要将模型变得尽量简洁,避免不必要的多余状态.

给定一个马尔可夫链模型, 这里有几个有趣的问题.

(a) 有关有限时间上过程的统计量的问题.我们已经计算过过程经过任何一个特定路径的概率,通过沿路径轨迹的转移概率的连乘积得到.更一般的事件是由一些相关的路径组成,因此在计算这些事件的概率的时候只需将与事件相关路径的概率相加即可.在一些情况下, 我们可以利用马尔可夫性质进行计算,从而避免列举与事件相关的所有路径. 例如, 在计算 n
步转移概率的时候,可以利用查普曼-科尔莫戈罗夫方程进行迭代计算.

(b) 有关马尔可夫链的稳态概率的问题. 为了解决这类问题,我们对马尔可夫链的状态进行分类, 状态可分为非常返的和常返的两类.马尔可夫链的所有常返状态的集合又可以划分为互不相交的常返类,使得在同一个常返类中的状态都是相互可达的.而每一个常返类又可以区分为周期和非周期的两个不同性质的常返类.马尔可夫链的理论的中心结论是,如果链是由单个非周期的常返类以及加上几个可能的非常返状态组成的,那么状态到达某个 j
的概率
在时间趋于无穷大时是收敛的,其极限值称为稳态概率
, 这个极限值不依赖于初始状态 i
.换句话说, 初始状态不论取什么值, 当 n
很大时,对
的统计特性没有影响.通过解由平衡方程组和归一化方程
组成的线性方程组,我们可以得到稳态概率.

(c) 有关马尔可夫链的状态转移性质的问题.我们已讨论过吸收概率(从一个给定的非常返状态出发,最终进入给定的常返状态的概率),以及平均首访时间(假设链具有单个常返类,一个特定常返态被首次访问的平均时间). 两种情况下,我们都证明了感兴趣的量可以通过求解一系列线性方程而得到唯一解.

最后我们也考虑连续时间的马尔可夫链. 在这类模型中, 给定当前状态下,下一个状态由类似于离散时间的马尔可夫链的相同机制所决定. 但是,直到下个转移发生的时间是指数型随机变量, 参数只依赖于当前状态.连续时间的马尔可夫链在许多方面可以类比离散时间的马尔可夫链.它们具有相同的马尔可夫性质 ( 在给定当前情况下, 未来与过去独立.)事实上,人们可以将连续时间的马尔可夫链看成时间轴上进行细分离散化的离散时间的马尔可夫链. 建立这个联系后,连续时间的马尔可夫链与离散时间的马尔可夫链的稳态特性是相似的：假设只有一个常返类, 那么处于任何状态的概率, 当时间趋于无穷的时候都收敛于一个稳态概率, 而且该概率不依赖于初始状态.稳态概率可以通过求解平衡方程组和归一化方程得到.

习题

7.1 节　离散时间的马尔可夫链

1
. 相邻两个顾客陆续到达一个机构的时间间隔是独立同分布的随机变量序列,其公共分布列为

构造一个四状态马尔可夫链模型来描述该到达过程. 在这个模型里,其中一个状态应该与到达发生的时间相对应.

2
. 一只老鼠在走廊里移动, 走廊里有 2m
块瓷砖,
.在瓷砖
时, 老鼠就以等概率向左( i
-1) 或向右( i
+1)移动.在瓷砖1或者 2m
时, 老鼠就必定分别移向瓷砖2或者 2m
-1. 每次,老鼠走到瓷砖
或
时,电子设备就会分别发出信号 L
或者 R
.那么由信号 L
和 R
组成的序列是由状态 L
和 R
组成的马尔可夫链吗?

3
. 考虑例7.2中如图7.2所示的 m
=4情况下的马尔可夫链.假设过程以等概率地从4个状态中的任意一个开始,当马氏链处于状态1或状态2时, 令
,当马尔可夫链处于状态3或状态4时, 令
. 那么,过程
是马尔可夫链吗？

7.2 节　状态的分类

4
. 一只蜘蛛和一只苍蝇在一条直线上以单位增量移动,蜘蛛总是向苍蝇移动一个单元,而苍蝇以0.3的概率向靠近蜘蛛方向移动一个单元,以0.3的概率向远离蜘蛛方向移动一个单元, 以0.4的概率保持在原地不动.蜘蛛和苍蝇间的初始距离是整数, 当蜘蛛和苍蝇到达同一个位置时,蜘蛛就捉住了苍蝇.

(a)
构造一个马尔可夫链描述蜘蛛和苍蝇之间的相对距离.

(b)
指出状态空间中哪些是非常返状态, 哪些是常返状态.

5
. 设有一个马尔可夫链, 有状态
.转移概率如下：
,当
时,
, 且
.该马尔可夫链的常返类是有周期的吗?

6.* 常返状态的存在性
证明：在马尔可夫链中,从任意一个给定的状态出发至少可以到达一个常返状态, 也就是说,对于任意状态 i
,在从 i
出发可以到达的状态集合
中至少存在一个常返状态 j
.

解
固定一个状态 i
, 如果 i
是常返的, 此时每一个
也是常返的, 结论成立. 如果 i
是非常返的,此时就存在一个状态
使得
.如果
就是常返的,那我们就已经找到了一个从 i
出发可以到达的常返状态.假设
是非常返的,则必有
, 因为若不然, 则由假设
和
, 而 i
与
又相同, 这样就得到
和
这两个相悖的结论.因为
是非常返的,必存在某个
使得
并且
. 特别地,
.如果
是常返的, 则结论成立,所以此时假设
是非常返的, 相同的方法可以证得
.更进一步地, 我们必须有
, 这是因为如果我们有
,则将得到
的结论, 和假设
相矛盾.将这个过程一直继续下去, 在第 k
步时,我们将得到一个可以从状态 i
出发到达的常返状态
, 或者得到不同于之前所有状态
的非常返状态. 因为状态的个数是有限的, 因此,常返状态必然会最终达到.

7
.* 考虑一个由一些非常返状态和常返状态组成的马尔可夫链.

(a)
证明：存在正数
和
, 使得

是非常返状态
对于所有的 i
和
成立.}

(b)
设 T
表示使得
到达常返状态的第一个时刻 n
, 证明：这样的一个时刻确实是存在的[等价于, 以概率为1地存在一个时刻 n
(n
不是一个常数, 与试验结果序列有关)使得
为常返状态], 并且
.

解
(a)
为方便起见, 记

是非常返状态

容易证明, 从状态 i
出发,一定可以找到步长不大于 m
的路径(这里 m
是指状态个数),这些路径以常返状态为终点,并且其概率为正.这些路径不可能以正的概率延长到一个非常返状态. 这样,在计算
的时候, 要排除 这些路径的概率, 因此, 有结论
. 令

注意, 对于所有的 i
,都有
.如果到时刻 m
还没有到达一个常返状态,此事件发生的概率至多为
.在此条件下,在未来 m
步还不能到达常返状态的条件概率也同样至多为
,也就是说
, 事实上,我们可以将这个不等式形式地写下来.

类似地继续下去, 我们有

对于所有的 i
和

令 n
表示任意正整数, k
表示使得
的整数,我们有

因此, 取
即可获得想要的关系.

(b)
设 A
表示状态永远不进入常返状态集合的事件, 使用 (a)部分得到的结果, 我们有

是非常返状态

因为这对于所有的 n
都成立, 并且因为
,我们必然有
,这就说明几乎可以肯定(概率等于1)第一次到达常返状态的时间 T
是有限的. 这样便得到

其中, 最后一个等式是使用了几何分布均值的计算公式.

8.* 常返状态.
证明：如果常返状态已经被访问了一次,那么在将来它被再次访问的概率等于1(因此,在将来时间里无限次被访问的概率也等于1). 提示：
修改马尔可夫链, 使得感兴趣的常返状态是唯一的常返状态,然后使用习题7(b) 的结论.

证明
在文中已经指出,常返状态的集合可以分解成若干个互不相交的常返类,不同类的状态是互不可达的.设 s
是一个常返状态,并假设 s
已经被访问过一次, 从那时开始,可能的状态就只在 s
所在的常返类内. 因此, 不失一般性,我们假设只有一个常返类.假设目前的状态是某个
,我们想要证明, s
保证会在将来的某个时间被再次访问.

考虑一个新的马尔可夫链, 在原来的转移概率矩阵中将
设成1,
, 这样 从 s
状态不能够转移出去.对其他状态
, 其转移出去的概率
保持不变.显然,s
是新链的常返状态.更进一步地, 对于任何状态
,在原链中从 i
到 s
都有一条有着正概率的路径(因为 s
在原链中是常返状态).同样的结论在新链中也成立.而在新链中从 s
出发无法到达 i
,所以对于新链中的每一个
都是非常返状态.通过习题7(b)的结论,状态 s
在新链中将以概率1被最终到达,但是原始链在 s
被第一次到达之前与新链是完全等同的. 因此,在原链中状态 s
保证能被最终到达. 重复这个证明过程, 我们可以得到,s
保证会以概率1被无穷次访问.

9.* 周期类.
考虑一个常返类 R
. 证明下述二者之一成立.

(i) R
中的状态可以被分为
个不相交的子集
, 使得
中的所有状态下一步都转移到
中,或者当
时
中的所有状态下一步都转移到
中(在这种情况下,R
是周期的).

(ii) 除了有限个时刻外, 对所有的时刻 n
和所有的
都有
(在这种情况下, R
是非周期的).

提示：
固定一个状态 i
,并且设 d
是集合
中元素的最大公因数.如果 d
=1,使用如下基础数论的事实： 如果正整数的集合
没有除1以外的公因数,则除一个有限集外的任意正整数 n
,均可以表达为如下形式：
,其中
为某些非负整数, t
是某个满足
的整数.

证明
固定状态
,考虑集合
.设 d
是集合 Q
中元素的最大公因数.首先考虑
的情况. 对于
,设
表示对于某个非负整数 l
,从状态 i
出发经过
步能到达的所有状态的集合. 假设
并且
.因为
, 所以对某个 l
,从状态 i
出发经过
步能到达 s
,也就是说我们从状态 i
出发经过
步能到达
.这就证明了当
时
, 当
时
.现在只剩下证明集合
是互不相交的.使用反证法.假设存在某个
, 且存在 s
使得
且
.设 q
表示一条从 s
到 i
的正概率路径的长度.从 i
出发,我们经过
步到达 s
,再经过 q
步返回 i
.这样就有
属于集合 Q
,也就是说 d
可以整除
, 同理可证, d
也可以整除
,这样 d
就可以整除
, 但是由于
,因此得到矛盾.9

9
由
可导致马尔可夫链的常返类是有周期的, 并且周期为 d
,这个性质与
的取法是无关的,即从一开始随便固定一个状态 (例如取定
),也会得到相同的结论. ——译者注

现在考虑 d
=1 的情况, 令
,因为这些都是从 i
出发再回到 i
的正概率路径的可能长度,因此具有形如
的任何整数 n
也在集合 Q
里(想得到这个结论,用
乘以长度为
的路径,
乘以长度为
的路径, ......).通过提示中已给的数论事实可知,除了有限多个正整数以外,集合 Q
几乎包含全体正整数, 即存在一个
, 使得

对所有的
成立.

固定某个
, 且设 q
是从 i
到 j
长度最短的正概率路径,故
, 这里 m
是链中状态的总个数. 考虑某个满足
的 n
,并注意到
. 这样,我们就可以经过
步从 i
出发回到它自己,然后经过 q
步从 i
到 j
.因此,只要
,从 i
到 j
就有
对任意
成立.这个结论显然对任意 i
都成立.故结论(ii) 成立.

我们至今已经证明了题目中的两个结论至少一个是成立的.这两个结论显然不能同时成立,这是因为一个常返类, 要么是周期的, 要么是非周期的,两者不能同时成立.

为了完整起见,我们在这里提供上面用到的数论事实的证明.我们从正整数集合
开始, 并假设它们除了1外没有其他的公因数.我们定义 M
表示一切具有形式
的正整数的集合,其中
表示非负整数.注意这个集合在加法运算下是封闭的(M
中的两元素之和也具有这种形式,因此必定属于 M
).设 g
表示 M
中两不同元素的最小差.这样有
,且对于所有的 i
有
(因为
和
都属于M
).

假设
, 因为
的最大公因数为1,就存在某个
不能被 g
整除, 于是对于某个正整数 l
, 我们有

其中余数 r
满足
.进一步地, 从 g
的定义角度来看,存在非负整数
,使得

将上式两边同乘以 l
, 并利用方程
, 得到

这就证明了在集合 M
中存在两个数它们的差为 r
.因为
,这就和我们假设 g
是最小的可能差值相矛盾,因此也就证明了 g
必须等于1.

既然 g
=1,就存在某个正整数 x
使得
并且
.我们将要证明,每一个大于
的整数 n
都属于 M
.事实上,通过用
去除 n
我们可以得到
, 其中
, 且余数 r
满足
.我们将 n
改写成如下形式

因为x
、 x
+1、
都属于 M
,这就证明了 n
是 M
的元素和, 因此也属于 M
, 这样就证明了我们的结论.

7.3 节　稳态性质

10
. 考虑例7.3中机器损坏和维修的两个模型.求马尔可夫链含有单个非周期常返类时 b
和 r
应满足的条件,并在这个条件下求出稳态概率的闭合式表达式.

11
. 一位教授进行的测试分为难、中等、容易三类.如果她给出的是难的测试,那么下一次测试的难度将是中等难度或者是容易的,并且这两种难度出现的概率是相等的.但是,如果她给出的是中等难度的测试题或者是容易的测试题,则下一次测试将以0.5的概率依然保持此难度,以0.25的概率分别采用其他两种难度的测试.构造一个合适的马尔可夫链,并计算稳态概率.

12
. 阿尔文喜欢在每个星期六出海去附近的小岛上的别墅.他很喜欢钓鱼,只要天气好, 他会在来回小岛的路上钓鱼. 但是,在来回小岛的路上天气好的概率只有 p
,并且独立于过去航行的天气情况(所以天气可能在去的时候很好,但是回来的时候很不好). 如果天气很好的话,阿尔文会带着他 n
支渔竿中的一支, 但是如果天气不好的话,他就不会随身携带渔竿.我们想求出在给定一段来小岛(或者从小岛回家)的旅途中,天气很好但是阿尔文因为他的渔竿都在另一个房子而没有钓鱼的概率.

(a)
计算每个有着 n
+1 个状态的合适的马尔可夫链,并计算各状态的稳态概率.

(b)
在给定行程的条件下,求阿尔文在好天气出海却没有带渔竿的稳态概率.

13
. 考虑如图7.22所示的马尔可夫链, 我们将转移到一个高(低)指标状态称为“生”(“死”).假设在我们开始观测这个链时它就已经平稳了, 计算如下各个量.

图 7.22　习题13中的转移概率图

(a)
对于每个状态 i
, 求当前状态是 i
的概率.

(b)
求我们观测到的第一次转移是“生”的概率.

(c)
求我们观测到的第一次状态变化是“生”的概率.10

10
“状态转移”是指从状态 i
转移到状态 j
, 但是 i
与 j
可以相同;“状态变化”是指从状态 i
变化到状态 j
,这时状态 i
与 j
一定不同.——译者注

(d)
在转移是“生”的条件下,求在我们观测到的第一次转移之前过程位于状态2的概率.

(e)
在状态变化是“生”的条件下,求在我们观测到的第一次状态变化之前过程位于状态2的概率.

(f)
在第一次观测到的转移造成了状态改变的条件下,求第一次转移是“生”的概率.

(g)
在第一次观测到的转移造成了状态改变的条件下,求第一次转移到状态2的概率.

14
. 考虑一个已知转移概率并且含有单一非周期常返类的马尔可夫链.假设对于
, n
步转移概率非常接近于平稳状态概率.

(a)
求
的近似计算公式.

(b)
求
的近似计算公式.

15. 埃伦费斯特扩散模型.
我们总共有 n
个球,其中一部分为黑球, 一部分为白球.在每一个时间点上,我们或者以概率
) 什么也不做,或者随机选一个球, 使得每一个球被选中的概率为
.在后一种情况下,我们将所选球的颜色改变(白的变成黑的, 黑的变成白的),过程就这样无穷地重复下去.问：白球个数的稳态分布是什么？

16. 伯努-拉普拉斯扩散模型.
两个坛子中的每一个都有 m
个小球.2m
个小球中, 有 m
个是白球,m
个是黑球.同时从两个坛子中拿出一个球放入另一个坛子中并且过程一直持续下去,问每个坛子中白球个数的稳态分布是什么？

17
. 考虑一个两状态(分别记为1和 2)的马尔可夫链,转移概率为

其中
和
满足
,
.

(a)
证明：链中的两状态形成了一个非周期常返类.

(b)
使用归纳法证明, 对于所有的 n
,我们有

(c)
稳态概率
和
是多少？

18
. MIT的停车库安装了一个磁卡门, 但不幸的是,由于人们的粗心, 门非常容易出现问题.具体来说,每天一辆车撞门的概率为 p
, 并且在这种情况下就需要安装一个新门.同样,门在坚持了m
天之后由于周期性的维修必须进行替换.问：门更换频率的长期期望是多少？

19.* 稳态收敛
.考虑一个含有单个常返类的马尔可夫链,并且假设存在一个时刻
使得：对于所有的 i
和所有常返态的 j

(这和假设“常返类是非周期的”是等价的).我们想证明：对于任意的 i
和 j
, 极限

存在, 且不依赖于 i
. 为了证明这个结论,我们需要证明初始状态的选择没有长期效应.要量化这个效应,我们考虑两个不同的初始状态 i
和 k
,并考虑两个独立的马尔可夫链
和
, 它们具有相同的转移概率,但是初始状态不一样,
,
.令
表示两个链第一次到达同一状态的时间.

(a)
证明存在正常数 c
和
, 使得

(b)
证明如果在时刻 n
以前某个时刻(含 n
)两个链的状态是相同,则它们在时刻 n
的状态概率也相同, 即

(c)
证明对所有的 i
、 j
、 k
、 n
,都有
.提示：
分别计算在两事件
和
的条件下的条件概率.

(d)
设
, 证明：对所有的 n
, 有

(e)
证明序列
收敛于一个不依赖于 i
的极限.提示：
综合 (c)和 (d) 两部分的结论,证明两序列
和
是收敛的, 并且极限相同.

证明
(a)
此结论与习题7中计算直到到达常返状态所需时间的分布列的上界是相似的.设 l
是某个常返状态, 定义
.无论现在链
和
的状态是什么,在
步后两链都处于状态 l
的概率至少为
.这样,

类似地, 可得

这就证明了

其中,
,
.

(b)
我们分别在 T
可能的取值上以及两链在时刻 T
时的共同状态 l
下取条件化,使用全概率公式, 我们有

类似地

但是事件
和
是等同的,因此具有相同的概率, 也就是说,
.

(c)
我们有

将上述两式相减, 使用(b)部分的结论消去右边的第一项, 我们得到

(d)
通过对第一次转移的状态取条件化, 使用全概率公式,我们得到如下查普曼-科尔莫戈罗夫方程的另一种形式

使用这个等式, 我们得到

利用对称性可得不等式
,由定义直接可以得到
.

(e)
由于序列
和
对 n
的单调性,当
时, 这两个序列是收敛的.对于所有的 i
和 k
,不等式
可以推出
.令
,由这个不等式可知
和
的极限是一样的.令
表示这个共同的极限.因为
,因而
也收敛于
, 并且极限独立于 i
.

20.* 平衡方程组解法的唯一性.
考虑一个具有单个常返类并且附加一些非常返状态的马尔可夫链.

(a)
假设常返类是非周期的,证明平衡方程组加上归一化方程存在唯一非负解. 提示：
给出一个不同于 稳态概率的解,使得它是
的分布列并且考虑当时间趋于无穷时的情况.

(b)
证明在(a)部分的唯一解的结论在周期性的常返类的情形下依然成立.提示：
引入自我转移的马尔可夫链,这样可以产生等价的一些平衡方程组, 再运用(a)部分的结论.

证明
(a)
设
是稳态概率,即
的极限.它们满足平衡方程组和归一化方程.假设存在另一组非负解
.我们通过这些概率建立马尔可夫链,因而对于所有的 j
, 有
. 由文中的讨论,我们得到在各个时间点都有
. 因此,

(b)
考虑一个新的马尔可夫链,其转换概率
如下给出：

这里
满足
这个新的马尔可夫链的平衡方程组表达式为

即

这些方式和原链的平衡方程组是等价的.注意, 新链是非周期的,原因是自我转移有正概率.这就为新链建立了平衡方程组的唯一解, 这对原链同样适用.

21.* 平均长期频率的解释.
考虑一个非周期的单一常返类马尔可夫链. 证明：

对所有的
都成立,

这里
是稳态概率,
是指在头 n
次转移中从状态 i
开始, 到达状态 j
的平均访问次数. 提示：
使用以下分析的事实.如果数列
收敛到实数 a
,那么定义为
的序列
也同样收敛到 a
.

证明
我们首先证明对于所有的 n
、 i
、 j
, 有

为了更明白这点, 注意到

这里
是随机变量, 当
时取1, 其他情况下取0,于是

又因为

收敛到
,这表明
同样收敛到
,这就是我们希望的结果.

为了完整性, 我们同样证明在提示中给出的事实(它在上面讨论的最后一步中用到).考虑一个序列
收敛到 a
,并设
. 固定某个
,因为
收敛到 a
, 所以存在某个
使得对所有的
,
. 再令c=max
k

a

k

.我们得到

当 n
趋于无穷时, 上式右边的极限是
.因此, 存在某个
使得当
时, 有
. 运用对称的论证, 存在某个
使得当
时, 有
.我们已经证明对任意的
, 存在某个
(比如,
), 使得对所有的
,有
. 这表明
收敛到 a
.

22.* 二重随机矩阵.
考虑一个非周期的单一常返类马尔可夫链, 且转换概率矩阵是 二重随机的.也就是说它每一列或每一行的元素和为1, 因此有

(a)
证明例7.7中链的转换概率矩阵是二重随机的.

(b)
证明其稳态概率是

(c)
假设这个链的常返类是周期的.证明
是这个由平衡方程组和归一化方程组成的方程组的唯一解.在例7.7的条件中当 m
是偶数时讨论你的答案.

证明
(a)
很明显地,本例中的转换概率矩阵的每一行和每一列的和均为1.

(b)
我们有

因此给定的概率
满足平衡方程组,它必定是稳态概率.

(c)
令
是平衡归一化方程的任意一组解.考虑一个特别的 j
,使得对于所有的 i
有
, 令
.在状态 j
时平衡方程满足

这里的最后一步能够成立是因为转移概率矩阵是二重随机的.这表明以上的不等式事实上是一个等式即

由于对所有的 i
有
,我们得到对所有的 i
有
,因此对每一个可能转移到 j
的状态 i
有
.既然所有满足
的状态 i
, 均有
,重复这一过程,可知所有满足
(此处 i
满足
)的状态 l
,均有
, 即所有两步能到达状态 j
的状态,其相应的稳态概率为 q
.进而我们发现对于每个状态 i
当存在一个从 i
到 j
的非负的概率路径时,就有
. 因为所有状态都属于同一个周期类,因此所有的状态 i
都有这一特性, 对所有的 i
,
都是一样的.因为
的和为1, 所以我们得到对所有的 i
有
.

例7.7中如果m
是偶数, 链的周期是2.我们得到的结果表明：
确实是这个平衡方程组和归一化方程组成的方程组的唯一解.

23.* 排队问题.
考虑例7.9中的排队问题,但是假设信息的到达和发送的概率是取决于排队的状态本身.特别地,在每一段时间里, 在节点处有 i
个信息包,那么以下三种情况中会有一种发生.

(i) 一个新信息到达,发生的概率是
.我们假定
时
而
.

(ii) 一个现存的信息发送出去,发生的概率是
, 当
时
,当 i
=0 时
.

(iii) 既没有新信息到达, 也没有信息完成传送. 发生的概率是：当
时概率为
,当 i
=0 时 概率为
.

计算对应马尔可夫链的稳态概率.

解
我们引入一条马尔可夫链, 状态为0, 1,
, m
,它们分别对应在节点上存放的信息总数目.转换概率图如图7.23所示.

图 7.23　习题23中的转移概率图

与例7.9类似, 局部平衡方程组如下：

因此我们有
, 其中

因此对
有
.再由归一化方程
,我们得到

由此得到

其他的稳态概率是

24.* 平衡方程之间的相依性.
对于前 m
-1 个平衡方程
, 证明将它们加起来, 则能得到最后一个方程
.

证明
把前 m
-1 个 平衡方程 加起来, 我们得到

这个方程和最后一个平衡方程
是等价的.

25.* 局部平衡方程.
我们给出一个非周期的单一常返类的马尔可夫链, 假设
是下面的局部平衡和归一化方程组的一组解.

(a)
证明
是稳态概率.

(b)
利用
之间的平均长期转移频率的意义来解释方程
的含义.

(c)
构造一个例子,使得局部平衡方程组不满足稳态概率.

解
(a)
把局部平衡方程
对下标 i
相加, 得到

因此
满足平衡方程.所以它们就等于稳态概率.

(b)
我们知道
可以解释为从状态 i
到状态 j
的平均长期频率,所以局部平衡方程表明从一个状态到另一个状态的转移,其长期平均频率与反方向转移的长期平均频率是相同的 (这个性质也叫作链的时逆性
).

(c)
我们构造有三个状态的一个例子.设状态为1、2、 3. 同时令
, 同时其他转移概率均为0.这条链有一个非周期的单一常返类.此时局部平衡方程组不能成立因为1到3的平均转移频率都是正的, 但逆转移频率的期望值是0.

26.* 抽样马尔可夫链.
考虑一个马尔可夫链
, 其转移概率是
, 记
是 n
步转移概率.

(a)
证明对所有的
以及
,我们有

(b)
假设有一个非周期的单一常返类.我们对这条马尔可夫链所有每隔 l
个转移取样,由此得到过程
, 其中
.证明这个取样过程能用一个非周期的单一常返类马尔可夫链刻画,而且转移概率为
.

(c)
证明(b)部分中的马尔可夫链和原过程有同样的稳态概率.

证明
(a)
我们在
的条件上使用全概率定理.我们得到

在第三个等式中我们用到了马尔可夫性质.

(b)
因为
是马尔可夫链, 所以, 在给定
的条件上,那么过程的过去(
时的状态
) 与将来的状态(
时的状态
)是独立的.这表明给定的
, 过程的过去(
时的状态
)与其将来(
时的状态
)是独立的.因此
有马尔可夫性质. 又由对
的假设, 存在一个时间
使得： 对所有的
、所有的状态 i
以及所有的在
的单一常返类 R
中的状态 j
,均有

这表明

对所有的
、 所有的 i
以及所有的
成立.因此过程
有一个非周期的单一常返类.

(c)
过程
的 n
步转换概率
收敛到稳态概率
.过程
的 n
步转换概率形式为
, 同样收敛到
.这表明
是过程
的稳态概率.

27
.* 给定一个 非周期的单一常返类马尔可夫链
,考虑一个新的随机变量序列, 序列在时刻 n
时状态为
.新链的状态是原链的状态再加上前一个时刻的状态.

(a)
证明新链的稳态概率是

这里
是原链的稳态概率.

(b)
现在设新的马尔可夫链是这样定义的：在时刻 n
的状态为
,其状态和原链的连续 k
步转移建立起联系.将(a)的结论推广到这个新的马尔可夫链.

解
(a)
对新链的每一个状态
, 我们有

因为马尔可夫链
有一个非周期的单一常返类, 并且对所有的 i
,
收敛到稳态概率
. 这表明
收敛到
, 这同样是
的稳态概率.

(b)
使用乘法法则, 我们得到

因此, 与(a)部分相类似的讨论, 状态
的稳态概率为
.

7.4 节　吸收概率和吸收的期望时间

28
. 某系有 m
门课,每一学年学生将课程难度从1到 m
进行排名,其中排 m
的最难.但是这个排名是完全随机的.因此, 每一学年任意一门课程的排名的分布列是
上的均匀分布(但是, 两门课程的难度排名不可能相同). 某教授只记住他教过的 课程中难度最高的排名.

(a)
求这个教授记住的排名的马尔可夫链的转移概率.

(b)
求常返状态和非常返状态.

(c)
给定第一学年他拿到第 i
名课程的条件下,求教授拿到最高排名课程的期望年数.

29
. 考虑图7.24中的马尔可夫链.稳态概率如下：

图 7.24　习题29中的转移概率图

假设过程在第一次转移前是状态1.

(a)
经过六次转移后过程状态是1的概率是多少？

(b)
求过程重新回到状态1的总转移次数的期望值和方差.

(c)
系统中的转移1000次之后的状态既不与转移999次后的状态相同, 也不与转移1001次后状态相同, 求该事件概率的近似值.

30
. 考虑图7.25中的马尔可夫链.

图 7.25　习题30中的转移概率图

(a)
确定非常返状态和常返状态.同样,将常返状态划分为常返类, 如果有周期的话, 也将其指明.

(b)
在状态1开始时是否存在稳态概率, 如果有, 请确定其值.

(c)
在状态6开始时是否存在稳态概率, 如果有, 请确定其值.

(d)
假设过程在状态1开始, 我们在它到达稳态时开始观察.

(i) 在我们观察到第一次转移时,求状态增加1的概率.

(ii) 在我们观察到第一次转移状态是增加1的条件下,求观察到过程转移到状态2时的条件概率.

(iii)在我们第一次观察到状态变化时, 求状态增加1的概率.

(e)
假设过程从状态4开始.

(i) 对每一个常返类,确定我们最终达到每一类时的概率.

(ii) 求过程第一次达到常返类时的转换总次数的期望值.

31.* 吸收概率.
考虑一个马尔可夫链, 其状态要么是非常返的,要么是吸收的.固定一个吸收状态 s
.证明从状态 i
开始最终达到 s
状态时的概率
是以下方程组的唯一解.

提示：
在证明解的唯一性的时候,采用反证法：如果这里有两个解, 找到一个满足它们差的方程,然后说明这个方程只有零解.

证明
在本书中, 通过全概率定理,已经指出
满足这些方程.为了证明唯一性, 令
是另一组解,再令
.用 A
表示吸收状态集合.由于对所有
有
,我们得到

对所有的非常返状态 i
成立.

把这个关系套用 m
次, 我们得到

因此

以上关系对所有非常返状态 i
均成立,所以

这里

注意
, 因为不管初始状态是什么,
被吸收的概率是正的.因此
,也就是对所有的不吸收的 i
有
.对所有的吸收 j
我们有
, 所以对所有的 i
有
.

32.* 多重常返类.
考虑一个有多个常返类的马尔可夫链,当然还有一些非常返状态.假设所有的常返类都是非周期的.

(a)
对任意非常返状态 i
,令
是从 i
开始到达第 k
个常返类中状态的概率.推导关于
的方程组.

(b)
证明每一个 n
步转换概率
都收敛到一个极限,并讨论如何计算这些极限.

解
(a)
我们引入一条新的只有非常返状态和吸收状态的马尔可夫链.非常返状态对应原链的非常返状态, 而吸收状态对应于原链的常返类.新链的转移概率
表示如下：如果 i
和 j
是非常返状态, 则
; 如果 i
是非常返状态,k
对应常返类,则
是 i
在原链中到达常返类中所有状态的转移概率的和.

所求的概率
是新链中的吸收概率并由以下公式给出：

(b)
如果 i
和 j
是常返态但不属于同一类,
总是0. 如果 i
和 j
是常返态且属于同一类,考虑由这个常返类的状态所组成的一个新的马尔可夫链.原马尔可夫链的
与新的马尔可夫链的
是相同的.在新的马尔可夫链中,
收敛到状态 j
的稳态概率.如果 j
是非常返状态,
收敛到0. 最后如果 i
是非常返状态, j
是常返的,则
收敛到以下两个概率的乘积：(1)从 i
开始过程到达 j
所在的常返类的概率; (2)在开始状态在 j
的常返类的条件下, 过程到达 j
的稳态概率.

33.* 平均首次到达时间.
考虑一条单一常返类的马尔可夫链, 记 s
是固定的常返状态.证明下列方程组

对所有的

是平均首次到达时间满足的方程, 且只有唯一解. 提示：
在证明解的唯一性的时候, 利用反证法.如果存在两组解,考虑两组解之差,找到使差满足的一组方程.并证明这组方程只有零解.

解
记
是首次到达 i
的平均时间, 利用全期望定理,可以证明它满足题目中的方程组.现在只需证明解的唯一性.为了证明唯一性,令
是另一组解.对所有

两者相减, 我们得到

这里
. 将这个等式连续套用 m
次, 得到

因此, 对所有的
,

另一方面, 我们有
.这是因为从任意状态开始 s
能在 m
步内达到的概率为正.这表明
必须是0.

34.* 平均常返时间和平衡方程组.
考虑一条 单一常返类的马尔可夫链,记 s
是固定的常返状态.对任意状态 i
, 令

[在相邻两次访问状态 s
之间访问状态 i
的次数].

这里规定

(a)
证明对所有的 i
, 我们有

(b)
证明数值

的总和为1且满足平衡方程组,这里
是 s
的平均常返时间(从 s
开始第一次回到 s
的期望转移数).

(c)
证明如果
是非负的,满足平衡方程组且和为1, 则

这里
是 i
的平均常返时间.

(d)
证明(b)部分的分布是满足平衡方程组的唯一概率分布.

注意
：本题不仅仅是提供了满足平衡方程的概率分布的存在性和唯一性的另一种证明,也为稳态概率和平均常返时间之间建立了一种直观的联系.主要思路是把整个过程分割成“圈”,每当常返状态 s
被访 问,那么一个新圈就会开始.状态 s
的稳态概率就可以解释为访问状态 s
的长期的期望频率, 长期的期望频率与两次连续访问 s
之间的平均步数(即平均常返时间)成反比例.参见(c). 进一步地, 在某一个圈内, 如果一个状态 i
能被访问到的期望频率是另一个状态 j
的两倍, 那么, 状态 i
的长期期望频率
也应该是
的两倍.因此, 稳态概率
应该和在一圈中期望访问次数
成比例.

解
(a)
考虑马尔可夫链
, 初始状态
.我们首先证明对所有的 i
有

为了验证这个公式, 我们首先考虑
的情况,令
是随机变量, 如果
则取值为1, 否则取0. 因此在访问状态 s
前访问状态 i
的次数为
. 因此11

11
下面将用到无穷和运算和期望运算的可交换性,现在来证明这个事实.对任意的
,

令 T
是序列
中第一次等于 s
的时刻. 因此,

既然平均常返时间
是有限的, 当
时,
的极限等于0, 从而
. 这样,当
时

当
, 对不同值的 n
, 事件

构成样本空间的一个分割.因此,

就完成了我们声明的证明.

我们下一步对
的情况使用全概率公式,

因此,

(b)
用(a)部分建立的关系两边同时除以
, 可得

这里
. 因此
是这个平衡方程组的解.进一步地,
是非负的, 显然
,从而
. 因此
是一个概率分布.

(c)
考虑一个满足平衡方程组的概率分布
. 固定一个常返状态 s
,令
是 s
的平均常返时间,并令
是从不是 s
的状态 i
到状态 s
的平均首次到达时间.我们将证明
.事实上, 我们有

把这些等式分别乘以
和
, 然后相加, 我们得到

运用平衡方程组, 右边等于

结合最后两个等式, 我们得到
.

因为概率分布
满足平衡方程组,如果初始状态
是根据这个分布来选取的,
的分布将与
具有相同的分布.如果过程是从常返状态 i
开始的,当
时,
在此状态的概率趋于0.这表明我们必须有
.

(d)
(b)部分表明至少存在一个概率分布满足平衡方程组. (c)部分表明只有一个这样的概率分布.

35.* 马尔可夫链的大数定律.
考虑一个有限状态的马尔可夫链, 只有一个常返类, 且是非周期的.固定状态 s
, 定义
为第 k
次访问状态 s
的时间,
为前 n
次转移时访问 s
的总次数.

(a)
证明：
以概率1收敛到状态 s
的平均常返时间
.

(b)
证明：
以概率1收敛到
.

(c)
建立
的极限与 s
的稳态概率之间的关系.

解
(a)
固定初始状态 i
, 可能与 s
不同.因此随机变量
对应于相邻两次访问 s
的时间间隔. 由马尔可夫性质(给定当前状态,未来与过去独立), 过程在回访 s
时相当于重新开始,所以随机变量
是相互独立、同分布的随机变量,而且均值等于平均常返时间
. 运用大数定律, 以概率1地,有

(b)
首先我们将固定样本空间(马尔可夫链的所有轨道的集合)的一个轨道来论证.记
和
的取值分别为
和
. 进一步地, 根据结论(a),假设序列
收敛到
, 而且具有这种性质的轨道集合的概率为1.现在取定这样的时间 n
：位于第 k
次访问 s
的时间和第
次访问 s
的时间之间,即

对于这样的 n
,
, 我们有

从而

注意到

令 n
趋于无穷大, 则满足条件
的 k
也必然趋于无穷大.序列
介于两个都趋于
的序列之间,因此序列
也同样趋于极限
.而这个性质对于概率为1的轨道集合中的任一个轨道都 成立,故可以得出
以概率1收敛到
.

(c)
在习题34中已经证明了
.这说明了
以概率1收敛到
. 注解：
人们也试图使用另一种方法来证明
以概率1收敛到
.方法如下： 由(b)知道
收敛, 又
收敛到
(参见7.3节中的稳态概率之长期期望频率的解释),故
以概率1收敛到
. 但是这种推导方法是不对的.这是因为一个随机变量序列
以概率1收敛到一个常数,而序列的期望序列却有可能收敛到另一个常数. 例子如下.设 X
是单位区间[0,1]内的均匀分布随机变量. 定义

只要X
非零 (概率1发生), 则序列
收敛到0. 另一方面, 可以验证

对所有的 n
都成立.

7.5 节　连续时间的马尔可夫链

36
. 一名修理工人需要修理一套有 m
台相同机器的设备.修理损坏机器的时间为指数分布,均值为
. 机器启动后正常工作直到损坏的时间也是随机变量,其分布为指数分布, 均值为
. 损坏和修理时间是相互独立的.

(a)
求所有机器都处于修理状态的稳态概率.

(b)
在稳态情况下, 计算处于工作状态的机器的平均台数.

37
. 空出租车路过某路口的规律是一个泊松过程,通过的车辆数服从强度为每分钟两辆的泊松分布.乘客达到路口的过程也是泊松过程,均值为每分钟一人. 而且如果前面只有少于四名乘客,乘客就会等待出租车;否则他们就会离开而不回来.彭妮在一给定时间到达该路口. 假设过程进入稳态, 求出她在加入等待队列条件下的期望等待时间.

38
. m
个用户共用一个电脑系统.用户有两种状态,一种是“思考状态”, 持续时间为独立的指数分布, 参数为
,另一种是 “活跃模式”,需要先递交一份服务请求.服务器一次只能接收一份请求,且在完成服务之前不会接收其他用户的请求.服务请求的时间为独立的指数分布随机变量,参数为
, 而且与用户的思考时间也是独立的.建立一条马尔可夫链,求出等待请求用户个数的稳态分布(包括正在受理的服务).

39
.* 考虑一个连续时间马尔可夫链,其转移率为
,对所有的 i
相同.假设 过程只有一个常返类.

(a)
试解释为什么转移时间序列
是泊松过程.

(b)
证明马尔可夫链
的稳态概率和嵌入马尔可夫链
的稳态概率是一样的.

解
(a)
用
表示转移率
的共同值.序列
是独立指数分布时间区间序列,参数为
. 因此它们能和到达时间联系起来, 那也是泊松过程,强度为
.

(b)
这条连续时间链的平衡和归一化方程组为

通过关系式
, 约掉公共因子
,这一组方程可写为

于是有
,所以上述方程组中的平衡方程组可以写为

从而

这就是嵌入马尔可夫链的平衡方程组. 因为它是非周期的单一常返类,所以平衡方程组只有唯一解.因此
也是这条嵌入马尔可夫链的稳态概率.

第 8 章　贝叶斯统计推断

统计推断是从观测数据推断未知变量或未知模型的有关信息的过程.本章和第9章旨在：

(a) 评价统计学中两种主要方法 (贝叶斯统计推断和经典统计推断)的优缺点、 区别和类似之处;

(b) 介绍统计推断的主要内容 (参数估计、假设经验 和显著性检验);

(c) 讨论统计学中最重要的方法 (最大后验概率准则, 最小均方估计,最大似然估计, 回归, 似然比检验, 等等);

(d) 举例说明如何运用理论.

1. 概率与统计

统计推断与概率理论在许多重要方面存在不同.概率论是建立在第1章公理的基础上的自我完善的数学课题. 在概率推理中,我们假设
有一个完整的特定概率模型满足这些概率公理.然后运用数学方法对这个概率模型进行量化, 以及回答感兴趣的问题.特别地, 一些模棱两可的问题只有唯一的正确答案,即使这个答案有时也很难发现.概率模型从本质上看也无需与实际相一致(虽然模型有用会更好一些).

统计学却不是这种情况, 可以说统计学是艺术的一部分. 对一个具体的问题, 存在很多合理的方法, 可得出不同的结论. 一般而言, 除非人们可对所研究的问题施加一些假设或者 附加约束条件, 在这些条件下进行推断, 得到“理想”的结论, 否则 没有一个绝对的准则来选择“最好”的方法. 比如, 只知道股票市场在最近五年回报率的历史数据, 就不会有一个“最好”的方法来预测下一年的回报率.

所以人们把寻找“正确”的方法局限在能得到一些理想的性质的方法上, 比如当数据的样本量在无穷大的情况下能做出正确的推断. 判断一种方法优于其他方法可以考虑如下几个因素： 性质优良, 过去的经验, 共同的观点, 以及统计学家对一种特定方法解决一类特殊的问题方面形成的共识. 我们将重点介绍一些最流行的方法, 并介绍对它们进行分析和比较的主要方法.

2. 贝叶斯统计与经典统计

在统计领域, 有两种突出但对立的思想学派：贝叶斯
学派和经典
学派(也称频率
学派).他们之间最重要的区别就是如何看待未知模型或者变量.贝叶斯学派的观点是将其看成是已知分布的随机变量, 而经典统计学派的观点是将其看成未知的待估计的量.

贝叶斯方法主要是想将统计领域拉回到概率论的王国里,使得每个问题都只有唯一的答案. 特别地,当人们欲对未知模型进行推断时,贝叶斯方法将该模型看成是随机地从已知的一类模型中选出来的.处理方法是引入一个随机变量
来刻画该模型,然后构造一个先验
概率分布
.在已知数据 x
的情况下, 人们原则上使用贝叶斯公式来推导后验
概率分布
.这样就抓住了x
能提供关于
的所有信息.

相反, 经典统计方法将未知参数
视为常数, 但是未知就需要估计.然后经典统计的目标就是提出参数
的估计方法,且保证具有一些性质. 本书介绍一个重要的概念.它与本书介绍的其他方法中使用的概念的区别是：经典方法处理的不是一个概率模型, 而是有多个待选 的 概率模型,每个标记为
的一个可能值.

两个学派的争论已经持续一个世纪了, 经常争论的是哲学思想.在两派的争论过程中,每派都构造一些例子来说明对方学派的方法有时会得到不合理的或者不吸引人的结论. 我们简短地回顾两个学派争论的观点.

假设我们要通过噪声实验的手段来测量一个物理常数, 比如电子的质量.经典统计学家认为电子的质量尽管未知, 但也只是一个常数,所以不能把它看成随机变量. 而贝叶斯统计学家却给它一个先验分布,来反映人们对电子质量的已有知识. 比如,如果我们已经从历史实验中获知电子质量的大概范围,则可以将先验分布集中在那个范围内.

经典学派统计学家经常反对这种挑选一个特定先验的随意性.贝叶斯统计学家反驳说, 任何统计推断往往隐含着一些先验. 进一步地,在某些例子中, 先验分布如果是某个特殊选定的分布,经典方法实质上是与贝叶斯方法等价的.通过将所有的假设都以先验的形式放在一起,贝叶斯统计学家主张将这些假设公开, 并认为它们是经得起推敲的.

最后, 从实际的角度考虑. 在许多情况下, 贝叶斯方法在计算方面很棘手,比如需要计算多维的积分. 另一方面, 随着快速计算逐渐为人们所用,贝叶斯统计学派的大量最新研究成果就集中在如何使贝叶斯方法具有可行性上.

3. 模型推断和变量推断

统计推断的应用主要有两种类型：模型推断和变量推断.在模型推断
中,研究的目标是物理现象或过程,基于得到的数据为这些物理现象或过程构造或者验证一个模型(比如行星运行的是否为椭圆轨道).利用这样的模型就可以对未来进行预测, 或者推知许多未知的原因.在变量推断
中, 人们使用许多相关的,或者带有噪声的信息 估计一个或者多个变量值(比如,若给定一些GPS的信息, 那么我们现在的位置在什么地方).

模型推断与变量推断的区别不是很明显. 比如,将模型描述为一组变量的形式,我们就可以将模型推断的问题转换成变量推断的问题. 在很多情况下,我们将不强调它们的区别,这是因为相同的方法可以同时使用在这两种类型的推断中.

在有些应用中, 需要同时考虑这两种推断问题. 比如,我们收集了一些原始数据, 使用数据来建立一个模型,然后利用模型去推知相关变量值.

例 8.1(噪声信道)
发送端发送一串二进制信号
, 接收端观测到

其中
是零均值的正态随机变量(反映信道的噪声),a
是实数(用于刻画信道的衰减率). 在模型推断中, a
是未知的.发送端发送一组测试信号
,接收端是知道发送端发送的信号的.现在的任务是基于观测值
, 接收信号方欲估计 a
的值.这就是模型推断的任务： 建立这个信道的模型.

另一个方面, 在变量推断中,a
是假设已知的(可能是因为如上利用测试数据推断出来了).接收方观测到数据
后,欲估计
的值.这就是变量推断的任务：确定
的值.

4. 统计推断问题的简单分类

这里我们描述一些不同类型的统计推断问题. 在估计
问题中, 模型是完全确定的, 只是有一些未知的(可能是多维的)参数
需要去估计.参数既可以看成随机变量(贝叶斯方法),也可以看成是未知常数(经典方法). 通常的目标就是得到
的估计,使得它在某种意义上与真实值接近. 比如:

(a) 在例8.1噪声信道问题中, 使用测试序列知识和观测值去估计 a
;

(b) 使用民意测验数据, 估计一个选举地方内选民支持候选人 A
,而反对候选人 B
的比例;

(c) 基于股票市场历史数据,估计一个特定股票的价格每日走势的均值和方差.

在二重假设检验
问题中,从两个假设出发, 运用得到的数据去判断这两个中哪一个是正确的. 比如:

(a) 在例8.1噪声信道问题中,使用 a
的知识和
去判断
是0还是1;

(b) 给定一个带有噪声的图片, 判断图片中是否有人;

(c) 给定有两种不同的医疗处理方法的临床实验数据,判断哪种疗法更有效.

更一般地, 在
m
重假设检验
问题中,有 m
个对立的假设.判断一种方法的好坏的依据是该方法做出错误结论的概率大小. 当然,贝叶斯方法和经典方法都是可以利用的.

在本章中, 我们重点介绍贝叶斯估计问题, 但也讨论假设检验问题.在第9章中, 除了讨论估计问题外, 我们还要讨论更广的假设检验问题.我们只是介绍性的讨论, 远远不能满足实际中存在的统计推断问题的需要.为说明实际问题的广泛性, 考虑具有形式
的模型,该模型涉及两个随机变量 X
和 Y
, 其中 W
是零均值噪声,g
是需要估计的未知函数. 这类问题,未知目标(比如这里的函数 g
)是不能表述为固定数目的参数,称为非参数
统计推断问题,就不在本书考虑范围之内了.

本章中的主要术语、问题以及方法

- 贝叶斯统计
将未知参数视为已知先验分布的随机变量.

- 在参数估计
中, 对参数进行估计,使得在某种概率意义下估计接近真实值.

- 在假设检验
中, 未知参数根据对立的假设可能取有限个值.人们去选择其中一个假设, 目标是使犯错误的概率很小.

- 贝叶斯推断的主要方法

(a) 最大后验概率(MAP)
准则：在可能的参数/假设的取值范围内, 选择一个在给定数据下,具有最大化条件概率/后验概率的值(参见8.2节);

(b) 最小均方(LMS)
估计： 选择数据的一个估计量或者函数,使得参数与估计之间的均方误差达到最小 (参见8.3节);

(c) 线性最小均方(LLMS)
估计：选择数据的一个线性函数,使得参数与估计之间的均方误差达到最小(参见8.4节).这可能会得到更高的均方误差, 但是计算简单,因为计算过程只依赖于相应随机变量的均值、方差和协方差.

8.1　贝叶斯推断与后验分布

在贝叶斯推断中, 感兴趣的未知量记为
,视其为一个随机变量, 或者随机变量的有限集合.这里
代表物理量, 比如车辆的位置和速度,也可代表一个概率模型的未知参数集合. 简单而言,在没有明确标明的情况下,
视为一个简单的随机变量.

我们的目标就是基于观测到相关随机变量的值
来提取
的信息. 我们称
为观测值
、 测量值
或者观测向量
. 为此,假定我们知道
和 X
的联合分布. 等价地, 假定我们已知:

(a) 先验分布
或者
, 这要看
是离散的还是连续的;

(b) 条件分布
或者
,同样这也要看
是离散的 还是连续的.

一旦 X
的一个特定值 x
观测到后, 贝叶斯推断问题的完整答案就由
的后验分布
或者
来决定,
见图8.1. 这个分布可以使用贝叶斯法则来计算. 在已经得知的信息下, 它抓住了关于
的一切信息, 从而成为了未来分析的起点.

图 8.1　贝叶斯推断模型的总结. 起点是
和观测 X
的联合分布,或者等价的说法是先验分布和条件分布列/概率密度函数.已知 X
的观测值 x
后, 运用贝叶斯法则计算后验分布列/概率密度函数.后验分布可用来回答更多的推断问题.比如计算
的估计、相关的概率和误差方差

贝叶斯推断的总结

- 起点是未知随机变量
的先验分布
或者
.

- 得到观测向量 X
的
或者
.

- 一旦 X
的一个特定值 x
观测到后,运用贝叶斯法则计算
的后验分布.

在此我们提醒大家注意的是：针对
和 X
的离散性和连续性的不同组合,贝叶斯法则有四种不同的形式. 现在我们列举如下表, 便于使用. 然而,四种形式本质上是类似的,我们只须把最简单的形式(所有变量都是离散的)理解清楚,对其余情况只需做一个概念的对换. 在遇到连续变量时,我们只需将分布列替换成概率密度函数, 把求和换成积分. 进一步地,如果
是多维的话,相应的求和或者积分就是多重求和或者多维积分.

贝叶斯法则的四种形式

- 离散, X
离散：

- 离散, X
连续：

- 连续, X
离散：

- 连续, X
连续：

下面举一些例子来说明如何计算后验分布.

例 8.2
罗密欧和朱丽叶开始约会. 但是朱丽叶在任何约会中都可能迟到,迟到时间记为随机变量 X
, 服从区间
上的均匀分布, 参数
是未知的, 是随机变量
的一个值.
是在0和1小时之间均匀分布. 假设朱丽叶在第一次约会中迟到了x
, 那么罗密欧如何利用这个信息去更新
的分布.

这里先验概率密度函数是

以及观测值的条件概率密度函数是

注意,
只有当
时非零, 运用贝叶斯法则可得： 对任意的
, 后验概率密度函数是

若

且当
或者
时,

现在考虑前 n
次约会情况所引起的变化. 假设朱丽叶迟到的时间记为
, 在给定
条件下,它是区间
的均匀分布, 且条件独立. 记
. 类似于
的情形, 我们有

其中
后验概率密度函数是

其中
是归一化常数, 只依赖于
：

例 8.3(正态随机变量公共均值的推断)
设随机变量观测值
具有相同的均值, 但是均值未知, 需要估计. 假设给定均值的条件下,
是正态的, 且相互独立, 方差分别为
. 使用贝叶斯方法, 我们对均值进行建模, 设
的公共均值为随机变量
, 且已知其先验分布. 具体而言, 我们假设随机变量
的分布为正态分布, 均值已知为
, 方差为已知
.

为将来引用, 注意到我们的模型等价于下列形式

其中随机变量
相互独立, 且是正态的,均值和方差均已知. 特别地, 对任意的
,

这类模型在许多工程应用中非常普遍,工程中一个未知量往往有若干个独立的测量值.

根据假设, 我们有

以及

这里
是归一化常数, 不依赖于
.运用贝叶斯法则

注意, 分子项
的形式是

通过代数运算, 对指数的肩膀上的求和部分进行配平方,可以算出分子项的形式是

其中

d
是常数, 只依赖于
, 不依赖于
.贝叶斯法则公式中的分母项也不依赖于
, 所以我们可以得出结论,后验概率密度函数的形式是

是归一化常数, 只依赖于
,不依赖于
. 这是正态概率密度函数的形式,所以后验概率密度函数是正态的, 均值是 m
, 方差是 v
.

特殊情况下, 假设
都相等,等于
, 则
的后验概率密度函数是正态的,均值和方差分别是

在这种情况下, 先验均值
扮演着一个观测值的作用,而且对
的后验均值发挥相同的作用.同时注意到
的后验概率密度函数的标准差在观测样本量增大时趋于0, 速度大致是
.

如果方差
不相同, 后验均值 m
仍是每个
的加权平均,方差越小, 对 m
的权重就越大.

上例有一个显著的性质,那就是
的后验分布与先验分布是同一个分布族,比如说正态分布族. 这个性质非常吸引人, 原因有两个.

(a) 后验分布的特征只有两个数：均值和方差.

(b) 后验分布的解形式可以使用有效的递归推断
.假设已经获得观测值
,且下一个观测值
也得到了. 那么我们不必从头开始计算后验分布,而是我们可以将
作为先验,然后运用新观测值运算得到新后验
.我们可以使用例8.3的答案来求这个后验. 显然(当然可以正式推导),
的新后验分布也是正态的, 均值是

方差是

其中 m
和 v
分别是后验
的均值和方差.

但是后验分布与先验分布属于同一分布族的情形不是非常普遍.除了正态分布族外, 另外有名的例子是投掷硬币的伯努利试验和二项分布.

例 8.4(非均匀硬币的贝塔先验)
欲估计一个非均匀硬币投掷时正面朝上的概率, 记为
.将
看成随机变量
的一个值,
的先验概率密度函数为
.现在考虑 n
次独立的投掷试验, 记 X
为观测到的正面朝上的总次数.运用贝叶斯法则,
的后验概率密度函数是：对任意的
,

其中 c
是归一化常数(不依赖于
), 且

现在假设先验是贝塔分布, 参数是正整数
和
, 即

其中
是归一化常数, 就是著名的贝塔函数, 即

最后一个等式可以通过分部积分的方法, 或者使用概率方法(第3章习题30)计算得到. 则
的后验概率密度函数的形式是

所以也是贝塔分布, 参数是

特殊情形是
,即先验
是[0,1]的均匀分布密度. 在这种情形下,后验密度也是贝塔密度, 参数是
和
.

贝塔密度常常在统计推断的实际应用中遇到, 而且具有很有趣的性质.特别地, 如果
是服从参数为
和
的贝塔分布时,它的 m
阶矩是

前面几个例子都是讨论
是连续的情形,而且是典型的参数估计问题. 下面这个例子是离散情形,是典型的二重假设检验问题.

例 8.5(垃圾邮件过滤)
一封电子邮件不是垃圾邮件就是正常邮件. 我们引入参数
, 取值为1和2, 分别代表垃圾和正常, 各自 取值的概率分别为
. 设
代表一些特殊的词(或者词的组合)形成的集合, 它们出现就表示邮件是垃圾的. 对每个 i
, 记
是伯努利随机变量, 来定义
是否出现在信息中, 即当
出现时,
, 否则
. 假设条件概率
和
是已知的. 简单起见, 假设在给定
的条件下, 随机变量
是相互独立的.

现在我们运用贝叶斯法则来计算垃圾邮件和正常邮件的后验概率. 即

这两个后验概率可以用于将邮件分类为垃圾还是正常,其计算方法将在后面继续讨论.

多参数问题

目前为止我们只讨论单个未知参数的情形.多个未知参数的情形也是完全类似的.下一个例子讨论的是两个参数的问题.

例 8.6(传感器网络的定位)
假设有 n
个声敏元件, 分布在我们关注的一个地理区域内. 设 第 i
个声敏元件的坐标是
. 一辆发送已知声音信号的车辆在这个区域内, 坐标为
, 但是未知. 每个声敏元件探测到这个车辆(即捕捉到这个车辆的信号)的概率依赖于它们之间的距离. 观测数据是哪些声敏元件 探测到车辆, 哪些没有探测到, 目标就是尽可能地找到车辆所在的位置, 见图8.2.

图 8.2　运用声感传感器网络定位示意图

先验概率密度函数
的意思是我们基于历史观测数据对这个车辆的位置的大致认识.简单起见, 假设
和
是相互独立的正态随机变量,均值为0、方差为1. 所以

当第 i
个声敏元件探测到车辆时, 令
, 否则
.由于信号强度随目标与声敏元件之间的距离的增加而衰变,我们假定捕捉概率与声敏元件与车辆之间的距离
是呈指数递降的.具体说, 我们使用模型

其中
进一步假设在给定车辆位置
的条件下,
是彼此独立的.

定义 S
为
的传感器集合. 现在计算后验概率密度函数. 计算
的贝叶斯公式中的分子是

其中 x
是 n
维向量
, 其第 i
个元素
, 当
时,
, 否则
.
的表达式中的分母就是对分子表达式的一个二重积分,其积分变量分别为
和
.

例8.6表明, 不管
是一个或者多个变量向量,计算后验概率密度函数
的原则是一样的. 但是,即使原则上后验概率密度函数是通过使用贝叶斯法则运算得到,但是一般而言, 不能指望后验概率密度函数有闭合式的表达式. 实际上,可能需要进行数值计算. 通常,运用贝叶斯公式计算分母的归一化常数很具有挑战性. 在例8.6中,分母是对
和
的双重积分, 数值计算具有可行性.但是如果
是高维的话,那么数值积分就非常难了.现在已经有成熟的近似计算方法,即可以运用随机抽样的方法求近似积分,这些内容已不在本书的讨论范围之内了.

当
是多维的时候,我们有时只对
其中一个元素( 比如说
) 感兴趣.这样就集中在计算
,即
的边缘后验分布, 计算公式是

然而, 当
是高维的时候, 计算这个多重积分是非常困难的.

8.2　点估计, 假设检验, 最大后验概率准则

本节介绍一种简单但是普遍的贝叶斯推断方法,并将之应用在点估计和假设检验问题中. 给定观测值 x
,选择
的一个取值, 记为
,使得后验分布列
(若
连续则为后验分布概率密度函数
)达到最大:

(
离散),

(
连续).

这就是最大后验概率
(MAP)准则(见图8.3).

图 8.3　最大后验准则用于推断的说明,左边是连续型变量, 右边是离散型变量

当
是离散型变量, 最大后验概率准则有一条重要的最优性质： 由于
是
最有可能的取值,它使对任意给定的 x
有最大的概率做出正确的决定.这也说明最大后验概率准则使总体(平均了所有 x
可能的取值)做出正确决定的概率达到最大(在所有决策准则中).等价地,最大后验概率准则使得做出错误决定的概率达到最小(对于每个 x
的观测值,也针对总体错误的概率).1

1
为了更准确地表述这一问题, 我们考虑一个基于 x
的观测值的一般决策准则, 即选择一个
的取值. 将这个一般的决策准则记为 g
(x
). 同时, 记最大后验准则为
. 用 I
和
分别表示相应的伯努利随机变量, 当一般决策准则(相应的, 最大后验准则) 正确的时候, I
的取值为1(相应地,
的取值为1). 因此事件 I
= 1 和
是一样的, 对于
也是如此.根据最大后验概率准则的定义, 对于每个可能实现的 X
,

根据条件期望的性质, 得到
,即

因此, 在所有的决策准则中,最大后验准则使得做正确决定的总概率达到最大.注意这里讨论的
是离散的. 当 X
=x
时, 若
连续,则在任何准则下做出正确决定的概率都是0.

在贝叶斯准则下的后验分布有一条计算上的捷径：对所有的
分母都一样, 只由 x
的观测值决定. 因此,为了让后验概率达到最大, 在
和 X
都离散的情况下,只须寻找
使得
的数值达到最大,在
或 X
连续的时候也有类似的表达. 这里没有必要去计算分母.

最大后验概率(MAP)准则

- 给定 x
的观测值,最大后验概率准则是指在所有的
中寻找
使得后验分布
(若
离散)或
(若
连续)达到最大值.

- 等价地,最大后验概率准则是在所有
中找
使得下面函数值达到最大：

(
和 X
均离散),

(
离散, X
连续),

(
连续, X
离散),

(
和 X
均连续).

- 如果
只取有限个数值,则最大后验概率准则(在所有决策准则中)使得选择错误假设的概率达到最小.无论是在给定观测值 x
的情况下,犯错误的条件概率, 或者是犯错误的无条件概率, 这个准则都是正确的.

下面我们通过回顾前面的几个例子来解释最大后验概率准则.

例 8.3(续)
设
是正态随机变量, 均值为
,方差为
. 给定
的取值
,观察到一些随机变量
,它的分量是相互独立的正态随机变量, 均值为
方差分别为
.已经发现后验概率分布密度是均值为 m
, 方差为 v
的正态分布,其中 m
和 v
的表达式为

由于正态分布的概率密度函数在均值处取最大值,最大后验概率估计为
.

例 8.5(续)
在这个例子中, 参数
取值为1和2,分别代表垃圾邮件和正常邮件, 各自取值的概率分别为
和
.
是伯努利随机变量,用于定义词
是否出现在信息中, 即当
出现时,
,否则
. 我们已经计算得到垃圾邮件和正常邮件的后验概率, 即

现在我们想根据响应向量
来判断一封邮件是垃圾还是正常的邮件.最大后验概率准则是这样判断的,如果下面式子成立,则判断该邮件为垃圾邮件：

或等价地

8.2.1　点估计

在一个估计问题中, 给定 X
的观测值 x
, 后验分布抓住了 x
提供的所有相关信息. 而另一方面, 我们对概括了后验性质的某些量很感兴趣.比如, 点估计
是一个数值,它表达了我们关于
取值的最好猜测.

先来介绍一下有关估计的概念和术语. 为简单起见,假设
是一维的, 但是这里讨论的方法同样适用于多维. 估计值
指的是在得到实际观察值 x
的基础上我们选择的
的数值.
的数值是由观测值 x
的某些函数 g
决定的,即
. 随机变量
也称为估计量
, 之所以说
是随机变量是因为估计的结果由随机的观测值所决定.

利用不同的函数 g
可以构造不同的估计量,其中总有一些会是比较好的估计. 举一个极端的例子,考虑函数
. 估计量
根本没有利用到数据, 因此并不是一个好的估计.目前有两个最流行的估计量.

(a) 最大后验概率
估计量. 观测到 x
,在所有的
中选
使得后验分布达到最大,当有很多这样的取值时,
可在备选量中任意选定.

(b) 条件期望
估计量, 曾在4.3节中介绍.这里选定的估计量为
.

条件期望估计量将在8.3节仔细讨论.届时将称它为“最小均方(LMS)估计”, 因为它有个很重要的性质：在所有估计量中使均方误差达到最小(后面会讨论).这里有两条关于最大后验概率估计量的注释.

(a)如果
的后验分布关于(条件)均值对称并且是单峰的[此时,
的后验分布列(或后验概率密度函数)只有一个最大值],并且最大值在均值处取到, 这时最大后验概率估计量和条件期望估计量恰好一样. 比如例8.3中,后验分布保持为正态的情况.

(b) 当
是连续型变量,有些时候最大后验概率估计量
的具体值可以通过分析的方法得到.比如在对
没有限制的情况下,将
(或
)的导数取为0, 得到一个方程,由方程解出
即可. 但是在其他情况下, 可能会需要通过数值计算的搜寻.

点估计

- 估计量
是一个形式为
的随机变量,其中 g
为某些函数. 不同的 g
形成不同的估计量.

- 当观测的随机变量 X
的值 x
得到以后,就得到估计量
的取值
,我们称之为估计值
.

- 一旦观测到 X
的取值 x
, 则最大后验概率
估计量就赋予估计
一个值,它是在所有
中使得后验分布达到最大时所对应的参数值.

- 一旦观测到 X
的取值 x
, 条件期望
估计量赋予估计
的值是
.

例 8.7
考虑例8.2中朱丽叶第一次约会迟到的随机变量 X
.X
服从区间
上的均匀分布, 且参数
是未知随机变量,其先验概率密度函数
为[0,1]上的均匀分布(随机变量
的单位是小时).在那个例子中, 对任意的
, 后验概率密度函数是

对于给定的 x
,
在
的取值范围
中随
增大而减小. 因而最大后验概率估计就是 x
.注意这是一个很“乐观”的估计.如果朱丽叶在第一次约会时只迟到了一小会儿(
),则未来约会迟到时间的估计是很小的.

而条件期望估计就没有这么乐观了. 事实上, 有

图8.4描绘了两个估计量随着 x
变化的函数.可以看出对任意的迟到时间 x
,
比
的最大后验概率估计要大.

图 8.4　例8.7中,最大后验概率估计和条件期望估计的比较

例 8.8
考虑例8.4中的模型, X
为观测到的正面朝上的总次数.假设
的先验分布(正面朝上的概率)是[0,1]上的均匀分布.下面来计算
的最大后验概率估计和条件期望估计.

如例8.4中所示, 当
时
的后验概率密度函数服从参数为
和
的贝塔分布：

后验概率密度函数是单峰的. 为了确定峰值的位置, 将表达式
看作随
变化而变化的函数.令概率密度函数的导数取值为0, 得到方程

由此推出

这就是最大后验概率估计.

为得到条件期望估计, 用贝塔分布的期望公式(见例8.4)：

注意, 当 n
的取值很大时,最大后验概率估计和条件期望估计是基本一致的.

如果没有附加的假设条件, 点估计的准确性是没有多大保障的. 举例来说,最大后验概率估计可能和后验分布的主体部分相距甚远. 因此,总希望得到关于估计的 一些附加信息, 例如条件均方误差
. 在8.3节中,我们将要进一步讨论这个问题. 特别地,要通过对前面两个例子的回顾来分别计算最大后验概率估计和条件期望估计的条件均方误差.

8.2.2　假设检验

在一个假设检验问题中,
取
中的一个值,其中 m
是一个取值较小的整数. 经常处理的问题是
,就是二重假设检验问题. 称事件
为第 i
个假设,记为
.

一旦观测到 X
的取值 x
,就可以用贝叶斯准则对每个 i
计算后验概率
.接着根据最大后验概率准则选出后验概率最大的假设.(如果几个假设都拥有相同的最大后验概率, 可以随机选择.)正如前面提到的,最大后验概率准则在所有准则中使得做正确决定的概率达到最大,从这个意义上来说它是最理想的.

假设检验的最大后验概率准则

- 给定观测值 x
,最大后验概率准则选择使后验概率
最大的假设
.

- 等价地,也就是使
(X
离散)或
(X
连续)达到最大的假设
.

- 与其他决策准则相比,最大后验概率准则对任意观测值x
使得选择错误假设的概率,也即犯错的概率达到最小.

有了最大后验概率准则,就可以计算相应的做出正确决策(或错误决策)的概率, 它是关于x
的函数.特别地, 如果
是最大后验概率准则在
的情况下选出来的假设,那么做出正确决策的概率是

进一步地,
是按最大后验概率准则选择假设
时所对应的 x
的集合,则做出正确决策的总概率为

相应犯错误的概率是

下面是一个典型的用最大后验概率准则计算二重假设的例子.

例 8.9
有两枚不均匀的硬币, 记为硬币1和硬币2,正面朝上的概率分别为
和
.随机选择一枚硬币(每枚有相同的入选概率),希望在一次抛硬币结果的基础上判断这枚硬币是硬币1还是硬币2.令
和
分别代表假设“选择硬币1”和“选择硬币2”.记 X
=1 表示硬币正面朝上,X
=0 表示反面朝上.

利用最大后验概率准则,比较
和
的大小,并且认为所投硬币就是表达式取值相应较大的那个.由于
,只须比较
和
.比如若
,
, 投掷结果是反面, 注意到

(反面
)
(反面
),

因而认为所抛掷的是硬币1.

假设现在将所选的硬币投掷了 n
次, X
是正面朝上的次数.以前的做法仍然正确,根据最大后验概率准则选择观测结果最有可能发生的假设(建立在假设
的基础上).因而当
时, 若

则认为
, 否则, 认为
.图8.5解释了最大后验概率准则.

如图8.5中所示,最大后验概率准则的特征是典型的二重假设检验问题的决策准则：它的实现是将观测空间划分为两块没有交集的子区域,在每个子区域中接受一种假设. 在这个例子中,最大后验概率准则通过
的划分而得以实现： 当
时接受
, 否则接受
.犯错误的总概率由全概率公式计算可得：

其中 c
(k
) 是正规范化常数. 图 8.6 给出了一类门限决策准则的犯错误的概率, 所谓门限决策准则是由一个
决定的决策准则, 当
时接受
, 否则接受
. 因此门限决策准则的犯错误的概率是关于
的函数. 最大后验概率准则是一个特殊的门限决策准则, 此例中
, 这个准则使得做正确决定的概率达到最大, 从而犯错的概率达到最小.

图 8.5　最大后验概率准则在例 8.9 中的应用, 其中, n
= 50,
,
, 计算后验概率

其中
是正规范化常数, 选择有最大后验概率的假设
.由于例中
, 按最大后验概率准则,只须选择使
达到最大的假设
. 在例8.9中,
, 当
时接受
,否则接受

下面介绍的是通信工程中的一个经典例子.

例 8.10(信号检测和匹配的滤波器)
某发射机传送两条可能的信息中的一条.如果传送的是信息1则
, 否则
.假设两条信息传送的概率是相等的, 即
.

为了提高抗噪声的能力, 发射机使用一种信号使得传送信息的时间延长.实际上, 发射机发出信号
, 其中
为实数.若
(或
),则 S
是确定的序列
(或
).假设两个备选信息有相同的“能量”,即
.接收机能够观测到传送的信号, 但是伴随着附加噪声的干扰. 具体地,它的观测值为

其中假设
服从标准正态分布, 互相独立, 且与信号独立.

图 8.6　犯错的概率随门限决策准则中的阈值
(
时接受
,否则接受
)变化的图示. 和图8.5一样,相关的参数为
,
,
. 最大后验概率准则的阈值为
,此时犯错的概率最小

在
的假设下,
是独立正态随机变量,均值为
,方差为1. 因此

类似地,

根据贝叶斯准则, 第一条信息被传送的概率是

展开指数式的二次项,并利用假设
, 表达式化简为

计算
的公式也是类似的,把分子中的
换作
即可.

根据最大后验概率准则, 要选择使后验概率最大的假设, 即

选
如果

选
如果

(如果内积相等, 则随机选择一个假设.)这种特殊的用来判断传送信号的结构称为匹配的滤波器
：根据得到的信号
计算内积
和
,选出取值高的作为假设(也就是最佳“匹配”).

这个例子可以推广到
的情形, 其中每条信息传送的概率是相等的.假设对于信息 k
, 发射机发出确定的信号
,对于每个 k
,
都相等.这样在相同的噪声模型下, 通过类似的计算,最大后验概率准则解码得到的信号
将会是
取值最大的信号 k
.

8.3　贝叶斯最小均方估计

本节将详细讨论条件期望估计量. 特别地,它具有使可能的均方误差达到最小的性质 （最小均方,简称LMS）.我们还将讨论它的一些其他性质.

考虑在没有观测值 X
的情况下用常数
来估计
这个简单的问题.估计误差
是随机的(因为
是随机的),但是均方误差
是一个由
所决定的数,可以达到最小. 在这种准则下, 最好的估计是
, 下面来验证这一结论.

对任何估计
, 有

第一个等号用的是公式
,第二个等号成立是因为减去常数
不改变随机变量
的方差.现在注意到
与
是无关的.因此只要选择使
达到最小的
,也就是
(见图8.7).

图 8.7　均方误差
是关于估计值
的二次函数,在
时达到最小.均方误差的最小值是

假设现在我们由观测值 X
来估计
,同时要求均方误差最小. 一旦得到 X
的值 x
,情况就变得和之前讨论的一样, 但是我们已经进入一个新的“世界”,就是所有的事情都取决于
.所以可以把之前的结论拿过来并且得到结论： 条件期望
在所有常数
中使得条件均方误差
达到最小.

广义上来说, 估计量为
的(非条件)均方估计误差定义为

如果我们将
视为 X
的函数或估计量,下面的分析说明在所有可能的估计量中,
使得均方误差最小.2

2
对于任意给定 X
的取值 x
,
是一个数, 因而

因此

这是关于两个随机变量(X
的函数)的不等式.对两边取期望再用全期望公式, 得到结论

对于所有估计量
成立.

关于最小均方估计的重要事实

- 在没有观测值的情况下, 当
时
达到最小：

对所有
成立.

- 给定 X
的取值 x
, 当
时
达到最小：

对所有
成立.

- 在所有的基于 X
的
的估计量
中,当
时均方估计误差
达到最小：

对所有估计量
成立.

例 8.11
设
服从[4, 10]上的均匀分布.假设在观测
时伴有随机误差 W
. 特别地, 观测到随机变量的值是

假设 W
是服从[-1, 1]上的均匀分布且与
独立.

为计算
,注意到
当
,否则
. 在
取
的情况下,X
就是
, 并且服从于
区间上的均匀分布. 因此, 联合概率密度函数为

上式当
且
时成立,对于其他
取值为0.图8.8右边的平行四边形是
取值不为0的
取值的集合.

图 8.8　例8.11中的概率密度函数.
和 X
的联合概率密度函数是在右图中平行四边形内的均匀分布.给定随机变量
的取值 x
,
的最小均方估计由 x
和右边所示的分段线性函数决定

给定
,后验概率密度函数
相应于平行四边形的纵断面是均匀分布的.因此
是断面的中点,在这个例子中恰好是 x
的分段线性函数. 在给定
的情况下,均方误差定义为
,是
的条件方差. 它是 x
的函数, 解释见图8.9.

图 8.9　例8.11中的估计的条件均方误差, 它是关于 X
的观测值 x
的函数. 注意,有一些观测值要优于其他的. 比如, 若 X
=3,则可确定
且条件均方误差为0

例 8.12
考虑例8.7中朱丽叶第一次约会中迟到时间服从
区间上均匀分布的随机变量 X
.这里
是一个未知的随机变量,它的先验分布
服从[0,1]上的均匀分布. 在那个例子中,已知最大后验概率估计等于 x
且最小均方估计是

下面来计算最大后验概率估计和最小均方估计的条件均方误差. 给定
,对于任意的
有

对于最大后验概率估计,
, 条件均方误差是

对于最小均方估计,
,条件均方误差是

图8.10绘制了两种估计(最大后验概率估计和最小均方估计)的条件均方误差.可以看出最小均方估计有一致的相对较小的均方误差.这是最小均方估计量的总体优良性能的体现.

图 8.10　例8.12中最大后验概率估计和最小均方估计的比较

例 8.13
考虑例8.8中的模型,观测 n
次投掷一枚不均匀的硬币正面朝上的次数 X
.假设
(正面朝上的概率)的先验分布是[0,1]上的均匀分布.在那个例子中, 当
时,后验密度是参数
和
的贝塔密度,且最大后验概率等于
. 通过贝塔密度的矩估计公式(参见例8.4),得到

特别地, 最小均方估计为

给定
, 任意估计
的条件均方误差是

最大后验概率估计的条件均方误差是

最小均方估计的条件均方误差是

图8.11画出了投掷 n
=15 次的结果. 值得注意的是, 和前面的例子一样,最小均方估计有一致的相对较小的条件均方误差.

图 8.11　在投掷15次(n
=15)的情况下,最大后验概率估计和最小均方估计及其条件均方误差之比较(参见例8.13)

8.3.1　估计误差的一些性质

将最小均方估计和相应的估计误差分别记为

随机变量
和
有一些很有用的性质,它们在4.3节中已经推导得到,而在这里只是简单地重复引述如下(注意记号上的变化,在4.3节中, 观测值记为 Y
, 待估参数记为 X
,而在这里却分别记为 X
和
).

估计误差的性质

- 估计误差
是无偏
的,具体说来它的条件期望和非条件期望都是0：

对所有x
.

- 估计误差
和估计量
是不相关的：

- 的方差可以分解为

例 8.14
称观测 X
是无信息
的,如果均方误差
和
(
的无条件方差)是一样的.什么时候会出现这样的情形呢?

利用公式

由上式看出 X
是无信息的当且仅当
.一个随机变量的方差为0当且仅当该随机变量是一个常数, 与其均值相等.于是得到结论 X
是无信息的当且仅当估计
与
相等( 对于 X
的任意取值).

若
和 X
是独立的, 对于所有的 x
都有
,很直观地可以看出事实上 X
是无信息的. 反过来却不成立：有可能
总是等于常数
,但是
和 X
不独立. (你能构造一个例子吗?)

8.3.2　多次观测和多参数情况

前面的讨论都是建立在 X
是一元随机变量的基础之上.但是完整的论证和结论在 X
是随机向量
时也适用.因此, 均方估计误差在选
作为估计量的时候达到最小, 即

对于所有的估计量
都成立.

这就对一般的最小均方估计给出了完整的解决方案, 但是它一般很难实现,主要有以下一些原因：

(a) 为计算条件期望
,需要建立概率模型得到联合概率密度函数
;

(b) 即使可以找到联合概率密度函数,
可能是一个关于
的很复杂的函数.

因此, 实际中常常求助于条件期望的近似值,或者更关注于那些并不最优但是简单而易于实现的估计量.最常用的方法(在8.4节讨论)加入了线性估计的约束.

最后, 我们考虑估计多参数
的情况.最自然的是考虑准则

我们的目的是求估计量
,使得上式在一切估计量中达到最小.但是这与寻找每个
使得
达到最小是等价的. 因此,多参数的估计问题本质上是在处理 m
个单参数 的估计问题：对于每个参数
, 其相应的最小均方估计为
, 对所有 i
均成立.

8.4　贝叶斯线性最小均方估计

在本节中,我们在一个较小的统计量的集合类中寻找统计量使得均方误差最小：那些观测值的线性函数的集合类. 虽然这种统计量会导致较高的均方误差,但是在实际中有明显的优势： 对计算要求简单,只包括均值、方差以及观测与参数之间的协方差.在最大后验估计量和最小均方估计量难以计算的情况下,这是个很有用的替代估计量.

基于观测
的
的线性估计量形式为

给定
, 相应的均方误差是

线性最小均方估计选择
使得上面的表达式取最小值.我们首先解决
的情况, 然后再将解法推广.

8.4.1　一次观测的线性最小均方估计

现在我们感兴趣的问题是找到
的线性估计
,使得均方误差
达到最小. 假设已经选好了 a
,如何选 b
呢? 这个问题等价于选择常数 b
来估计随机变量
.通过8.3节最初的讨论, 最好的选择是

选择了 b
之后, 剩下的问题是选择 a
使得下面的表达式取最小值：

将表达式写为

其中
和
分别是
和 X
的标准差,且

是
和 X
的协方差.为使
(关于 a
的一个二次函数)达到最小,令表达式的导数为0, 求解 a
.得到

其中

是
和 X
的相关系数.根据 a
的选择, 所选线性估计量
的均方估计误差是

线性最小均方估计的公式

- 基于 X
的
的线性最小均方估计
是

其中

是相关系数.

- 所得均方估计误差是

线性最小均方估计的公式只包括均值、方差以及
与 X
间的协方差.更进一步, 它有个直观的解释. 为描述准确起见, 假设相关系数
是正的. 估计量以
的基本估计
为基础,通过
的取值来调整. 举例来说, 当 X
比均值大,则 X
与
之间的正相关系数告诉我们预期中的
将大于它的均值.因此, 估计量会是一个大于
的取值.
的取值同样也会影响估计的质量. 当
接近1的时候,两个随机变量高度相关, 了解 X
将帮助我们准确地估计
,从而均方误差也比较小.

最后注意,在8.3节中提到的估计误差的性质对于
的线性最小均方估计量仍然成立(参见本章末尾的习题).

例 8.15
回顾例8.2、例8.7和例8.12中的模型,说的是朱丽叶第一次约会中迟到时间 X
服从区间
上均匀分布,这里
是一个未知的随机变量,它的先验分布
服从[0,1]上的均匀分布.下面来求基于 X
的
的线性最小均方估计.

利用事实
和重期望法则,X
的期望值是

进一步, 利用全方差法则(同第4章例4.17中的计算), 得到

现在计算 X
和
间的协方差,根据公式

和事实

于是有

其中第一个等式用的是重期望法则,第二个等号成立是因为对所有的
,

因此

线性最小均方估计量是

相应的条件均方误差按照例8.12中公式计算,

再将
代入上式,就得到条件均方误差.在图8.12中,我们将线性最小均方估计量、最大后验概率估计量和最小均方估计量(见例8.2、例8.7和例8.12)放在一起比较.注意到最小均方估计量和线性最小均方估计量在图中大部分感兴趣的区域是一致的,相应的条件均方误差也是如此.而最大后验概率估计量与其他两个估计量相比很明显有较大的均方误差.当 x
趋近于1时, 线性最小均方估计量比其他两个估计量的效果要差,有的甚至给出
的估计值,这已经在
可能取值的范围之外了.

图 8.12　例8.15中三个估计量及其条件均方误差的比较

例 8.16(不均匀硬币的线性最小均方估计)
再考虑例8.4、例8.8和例8.13中提到的硬币投掷问题,现在来求线性最小均方估计量. 在这一问题中,随机变量
(正面朝上的概率)的先验分布是[0,1]上的均匀分布.将一枚不均匀的硬币独立地投掷 n
次, 观测到正面朝上的次数为 X
.因此如果
等于
,那么随机变量 X
服从参数为 n
和
的二项分布.

分别计算线性最小均方估计量公式中的系数. 已知
和

的方差是1/12,所以
. 同样, 前面的例子中已经算得
. 当
取值为
,X
的(条件)方差是
. 利用全方差准则, 得到

为了计算 X
和
的协方差, 利用公式

类似例8.15有

所以

将所有的计算结果代入线性最小均方估计量的公式, 得到

注意, 这与之前例8.13中得到的最小均方估计是一致的. 这并不奇怪： 如果最小均方估计量是线性的, 就如例8.13中那样,则此估计量在线性估计量(更小的类)中仍然是最优的.

8.4.2　多次观测和多参数情形

现在将求线性最小均方估计的方法推广到多次观测的情形.由单次观察值的情形推广到多次观察值到情形并不带来本质上到困难,用完全相似的方法可推导得到线性最小均方估计的公式.线性估计的系数只和各观察值的均值、方差以及不同的随机变量对的协方差有关.同样的,对于多参数
估计, 考虑准则

使其在所有估计量
都是观测值的线性函数的情况下达到最小.这与寻找每个
使得
达到最小是等价的,因此本质上将问题化解成 m
个单参数的线性最小均方估计的求解问题.

在多次观测且相互独立的情况下,单个参数的线性最小均方估计量的公式可以简化如下.
是均值为
方差为
的随机变量,
是具有如下形式的多次观测

其中观测误差
是均值为0方差为
的随机变量.假设
是各不相关的,基于观测值
的
的线性最小均方估计量是

上面的结果的推导是非常简单的. 我们的目标函数为

为求其最小值, 令其关于
的偏导数分别为0.经过计算(本章末尾的习题中给出)得到前面线性最小均方估计量公式中的系数为

8.4.3　线性估计和正态模型

线性最小均方估计量往往和最小均方估计量有着不同的形式,因而它是次于最小均方估计量的.但是如果最小均方估计量恰好是观测值
的线性函数,则它同时也为线性最小均方估计量, 也即两个估计量重合.

这种情况发生的一个重要例子是：
是一个正态随机变量,观测值是
, 其中
是独立零均值的正态噪声项,同时与
独立. 这个模型与例8.3中的一样,我们看到
的后验分布是正态的,其条件均值
是观测值的线性函数. 因此,最小均方估计量和线性最小均方估计量是重合的. 事实上,本节中给出的线性最小均方估计量的公式和例8.3中后验均值
的表达式是一致的.这个结果还可以进一步推广：如果
都是一些独立正态随机变量的线性函数,那么最小均方估计和线性最小均方估计量是一致的.它们和最大后验概率估计量也是一致的, 这是由于正态分布是单峰对称的.

上面的讨论提出了线性最小均方估计量的一种有趣的性质：将原模型进行改变, 在保持均值、方差和协方差不变的情况下,假设牵涉到的随机变量都服从正态分布,在改变了的模型中得到的估计量(最大后验概率估计量、最小均方估计量和线性最小均方估计量都是相同的)恰好就是原模型中的线性最小均方估计量.因此, 线性最小均方估计量有两方面的价值：一种是计算的简便(避免公式
的复杂计算),另一种是模型的简化(用正态分布替代较难处理的分布).

8.4.4　线性估计的变量选择

下面指出线性最小均方估计和最小均方估计的一个重要区别.考虑一个未知的随机变量
,观测值
以及经过变换的观测值
, 其中函数 h
是一映射.经过变换后的观测值
和原始的观测值
所传达的信息是相同的,因此基于
的最小均方估计和基于
的最小均方估计是一样的：

另一方面,线性最小均方估计存在的前提是在观测
的线性函数类中存在
的合理的估计量;但这并不总是成立的. 比如,
是某分布的未知方差,而
是从那个分布独立抽样的随机变量. 如此一来,希望从
的线性函数中找出
的好的估计是不可能的.这也说明对观测的变换对于找到
的好的估计是有帮助的.要找到合适的变换并不总是很容易的,对问题结构的直觉往往可以提供一些比较好的选择.习题17就是一个简单的例子.

8.5　小结和讨论

本章介绍了统计推断方法,其目的是从概率相关的观测中提取未知变量或模型的信息.我们关注的未知量是一个(也可能是多个)参数
,并且讨论了假设检验和估计问题.

我们已经对贝叶斯和经典统计推断方法做了区分.本章着重讨论贝叶斯方法,即将参数看作具有先验分布的随机变量
.最感兴趣的目标是给定观测时
的后验分布.后验分布从原理上说可以通过贝叶斯准则来计算, 但是实际上,这是一项很艰巨的任务.

最大后验概率准则(使
的后验概率达到最大)是用途广泛的推断方法,可以用于估计和假设检验问题. 我们还讨论了其他两种参数估计的方法：最小均方(或条件期望)估计量和线性最小均方估计量.它们基于使
和它的估计间的均方误差最小化的原则.线性最小均方估计有时会导致较大的均方误差, 但是计算简单,且只与相关变量的均值、方差和
与观测之间的协方差有关.在
和观测随机变量都服从正态分布的假设下,最大后验概率估计量和两个最小均方估计量是重合的.

习题

8.1 节　贝叶斯推断与后验分布

1
. 阿尔泰米西娅搬入了一间新房子,但是她只有50%的概率确定她的电话号码是2537267. 为了确定,她用房子里的电话机拨打了2537267, 结果接到了“忙碌”的提示,她因此得出结论这个号码是正确的.假设在任何时间内一个典型的7位数电话号码忙碌的概率是1%,那么阿尔泰米西娅的结论是正确的概率为多少呢?

2
. 学生南菲丽在概率论课堂上做选择题测试. 试题有10个问题,每个问题包含3个选项. 每道题有两种可能的情况,且题与题之间是独立的：她知道答案, 这样她就能够答对选择题;她不知道答案, 会猜答案, 但是有1/3的概率猜对答案.

(a)
假设南菲丽答对了第一道题,她的确知道这题正确答案的概率是多大?

(b)
假设南菲丽答对了10道题中的6道,她的确知道答案的题目数的后验分布列是什么?

8.2 节　点估计, 假设检验, 最大后验概率准则

3
. 相继到达阿尔文乘车的公交站的两辆公交车之间的间隔时间(分钟)是一个随机变量,其分钟数服从参数
的指数分布.
的先验概率密度函数是

(a)
周一, 阿尔文到达车站后等了30分钟汽车才来.问
的后验概率密度函数、最大后验概率估计和条件期望估计分别是什么?

(b)
基于周一的经验, 阿尔文决定更准确地估计
,于是记录了他五天的等车时间分别为30、25、15、40、20分钟,并且假设观测值相互独立. 问基于五天的观测数据,
的后验概率密度函数、最大后验概率估计和条件期望估计分别是什么?

4
. 学生们在概率论课上做选择题, 共10道, 每题三个选项.知道答案的学生能够正确作答,不知道答案的会猜答案且猜对的概率为1/3.每个学生属于下面三个类别
的概率是相等的：知道每题答案的概率
, 其中
,
,
(题与题之间独立).假设随机抽取的一个学生答对了 k
个问题.

(a)
对于 k
的每一取值,求这个学生属于哪一类别的最大后验概率估计.

(b)
设 M
是这个学生知道答案的题目数.在这个学生答对了5道题的情况下,计算 M
的后验分布列、最大后验概率估计和最小均方估计.

5
. 将例8.4中不均匀硬币问题稍加变动.假设正面朝上的概率
分布在[0,1]区间,概率密度函数为

假设 n
次独立硬币投掷的结果是 k
次正面和
次反面,求
的最大后验概率估计.

6
. 霍许难教授想在概率论考试中出些难题,她正在考虑一道准备在下次考试中出的题目.因此她让助教解这道题目并记录解题时间.这道题是难题(
)的先验概率为0.3,而助教解题时间的条件概率密度函数(以分钟为单位)为

(
表示题目难),

(
表示题目不难), 其中
和
为归一化常数.她用最大后验概率准则来判断这个问题是否难.

(a)
若助教解题时间为20分钟,她将接受何种假设?而犯错误的概率又是多少?

(b)
为了提高她的判断的可靠性,霍教授又找来四个助教做这一道题目.助教的解题时间是相互独立且服从第一个助教的解题时间的分布.记录的解题时间分别是10、25、15、35分钟.基于这五个观测值, 霍教授现在将接受何种假设?而犯错误的概率又是多少?

7
. 现在有两个盒子, 每个盒子中装了三个球：盒子1中装了一个黑球两个白球, 盒子2中装了两个黑球一个白球.我们随机选择一个盒子, 其中选盒子1的概率是确定的 p
,然后从选定的盒子中抽出一个球.

(a)
描述通过抽出球的颜色来判断盒子编号的最大后验概率准则.

(b)
假设
,求做出判断时犯错的概率,并与不抽球就做出判断时犯错的概率进行比较.

8
. 已知硬币正面朝上的概率为
(假设
) 或
(假设
).现独立重复地投硬币, 并记录在首次出现反面朝上之前正面朝上的次数.假设
, 且给定先验概率
和
的值.

(a)
给定在首次出现反面之前出现了 k
次正面,假定先验概率
计算假设
正确的条件概率.

(b)
考虑决策准则： 当
时选择备择假设
,其中
为一非负整数, 否则就选择假设
.假定先验概率
,试给出这个决策准则犯错概率的公式. 当
取何值犯错的概率达到最小?还有其他类型的决策准则可以进一步降低犯错的概率吗?

(c)
假设
. 在
从0.7变到1的过程中,最优选择
(使犯错概率达到最小)是如何变化的?

9
.* 考虑含有 m
重假设的贝叶斯假设检验问题,观测向量为
是基于
的最大后验概率估计,
是基于
的最大后验概率估计(最大后验概率准则只利用观测向量中的前
个元素).
是观测向量的实际值, 且令

为相应犯错概率. 证明

所以在做最大后验概率决策的时候,增加数据不会造成犯错概率的增加.

解
将
看作基于观测向量所有元素
的特殊决策准则.由于最大后验概率准则
使犯错概率达到最小(在所有基于
的准则中),即得结果.

8.3 节　贝叶斯最小均方估计

10
. 一个警方的测速雷达总是高估驶来汽车的速度,高估的数量服从[0,5]英里/时的均匀分布.假设汽车行驶的速度服从[55,75]英里/时的均匀分布,雷达测量的汽车速度的最小均方估计是什么?

11
. 商店购物车的数目
服从1到100之间的均匀分布,购物车从1到
依次编号.你进入商店的时候观测到的第一辆购物车的编号为 X
,并假定 X
服从
上的均匀分布.现在想利用此信息来估计
.找出最大后验概率估计和最小均方估计并绘图. 提示
：可参见例8.2.

12
. 考虑例8.2中的多个观测变量的情况：给定
,随机变量
相互独立且服从区间
上的均匀分布,
的先验分布是区间[0,1]上的均匀分布. 假设
.

(a)
给定
的值
,求
的最小均方估计.

(b)
当 n
=5 时,画出最大后验概率估计量和最小均方估计量的条件均方误差关于
的函数图像.

(c)
若固定
, 当
,最大后验概率估计、最小均方估计和相应的条件均方误差的表现如何?

13
.* (a)

是独立同分布的随机变量,
. 证明

(b)

和 W
是独立零均值正态随机变量,方差分别为正整数 k
和 m
. 利用(a)的结论求
,并确认这与例8.3中条件期望公式是一样的. 提示
：将
和 W
看作独立随机变量的和.

(c)
重复(b)的过程.不过
和 W
为相互独立的泊松随机变量,均值分别为整数
和
.

解
(a)
根据对称性,对每个 i
来说
是一样的. 进一步地,

所以,

(b)
可以将
和 W
看作独立标准正态随机变量的和：

将(a)中的 Y
看作
得到

因此,

根据例8.3中条件均值的公式,运用到本题的情况(零先验均值、单观察值),得到条件期望的形式为

与这里的答案是一致的.

(c)
回忆独立的泊松随机变量的和的分布还是泊松分布.因此(b)中的论证可以将
和 W
看作
和
个均值为1独立泊松随机变量之和,即得

8.4 节　贝叶斯线性最小均方估计

14
. 考虑例8.11中的随机变量
和 X
.求
的基于 X
的线性最小均方估计量以及相应的均方误差.

15
. 对于习题11中的购物车模型,找出最大后验概率、最小均方和线性最小均方估计量,并画出它们的条件均方误差关于观测到的购物车编号的函数.

16
. 随机变量 X
和
的联合概率密度函数形式为

其中 c
是常数而 S
是集合

现希望基于 X
来估计
.

(a)
找出
的最小均方估计
.

(b)
计算
和
.

(c)
计算均方误差
.它和
是一样的吗?

(d)
用全期望公式计算
.

(e)
求
的基于 X
的线性最小均方估计量,并计算其均方误差.

17
.
是已知均值为
方差为
的正随机变量,将基于具有形式
的测量值来进行估计.假设 W
与
独立, 其均值为0,方差为1且具有已知的四阶矩
. 因此,给定
的情况下 X
的条件均值和方差分别为0和
.我们的目的是在给定观测的情况下来估计 X
的条件方差
.试分别找出
基于 X
的线性最小均方估计量以及基于
的线性最小均方估计量.

18. 吞下的布丰针.
医生正在医治一个不小心吞下一根针的病人.决定要不要做手术的关键是未知的针的长度
,假设服从0到
之间的均匀分布.希望基于X射线下投影长度 X
来估计
. 建立二维坐标系, 记

其中 W
是针和某一轴形成的夹角(锐角).假设 W
服从区间
的均匀分布, 并且与
独立.

(a)
试求最小均方估计量
. 特别地,写出
, 并计算
.提示
： 下面的公式将很有用：

(b)
试求
基于 X
的线性最小均方估计以及相应均方误差.

19
. 光通信系统中的光电探测器对给定时间区间内到达的光子进行计数.用户通过开关光子传送器来传送信息. 假设传送器开着的概率是 p
.当传送器开着的时候,传送过来的光子的个数
服从均值为
的泊松分布.传送器关着的时候不传送光子.

遗憾的是, 不论传送器是关还是开, 由于“发射噪声”现象的存在,光子都有可能被探测到.发射噪声被探测到的个数 N
服从均值为
的泊松分布. 因此,探测到光子的总数 X
在传送器开着的时候是
,关着的时候是 N
. 假设
和 N
是独立的,于是
服从均值为
的泊松分布.

(a)
给定光电探测器探测到的光子数 k
,传送器开着的概率是多少?

(b)
描述判断传送器是否开着的最大后验概率准则.

(c)
基于探测到的光子个数,找出传送光子个数的线性最小均方估计.

20.* 球形不变概率密度函数的估计.

和 X
是连续型随机变量, 其联合概率密度形式为

其中 h
是非负标量函数,
是二次函数, 其形式为

这里
是一些标量.对于任意 x
(
有限且形式固定),给出最小均方估计和线性最小均方估计.假设对于所有的
和 x
,
, h
单调递减.给出最大后验概率估计并说明它和最小均方估计以及线性最小均方估计是一致的.

解

的后验概率密度是

为推导最小均方和线性最小均方估计, 首先考虑最大后验概率估计,假设对于所有的
和 x
,
, h
单调递减.最大后验概率估计使得
达到最大, 又因为 h
是减函数,则要选
使得
达到最小. 令
导数为0,得到

(这里用到结论： 非负二次函数的最小值在导数为0处取得.)3

3
这说明
是
的最大后验概率估计.——译者注

现在将要说明
和最小均方估计以及线性最小均方估计是等价的(不需要假设对于所有的
和 x
,
, h
单调递减).注意到

将
的表达式代入并经过一些代数计算得到

因此, 对于任意给定的 x
,后验概率密度是关于
对称的函数.这说明
和条件均值
是相等的,只要
有限.此外, 我们有

由于
是 X
的线性函数, 因而也是线性最小均方估计量.

21.* 基于两个观测的线性最小均方估计
. 考虑已知均值和方差的三个随机变量
、X
和 Y
.假设
且
给出基于 X
和 Y
的
的线性最小均方估计.

解
考虑形式为
的线性估计量,选择 a
、b
、c
使得均方误差
达到最小.假设 a
和 b
已经选定. 不难验证,

使
达到最小.接下来的问题就变为选择 a
和 b
使下式达到最小

将上式展开,得到

假设 X
,Y
是不相关的, 则有
.将均方误差的表达式分别对 a
和 b
求导, 令导数等于0得到

因此,线性最小均方估计量是

如果 X
,Y
是相关的, 同样对 a
和 b
求偏导数,令式子为0.得到一组两个关于 a
和 b
的线性方程, 解得

注意, 条件
可保证上面两式的分母不为0.

22.* 基于多观测的线性最小均方估计
. 设
是均值为
方差为
的随机变量,
是具有以下形式的多个观测值

其中观测误差
是均值为0方差为
的随机变量,并且假设
是各不相关的.通过取遍
使得下面函数取到最小值

证明基于观测值
的
的线性最小均方估计量是

解
下面将说明取得最小值时的
是

为此,只要说明
是满足 h
关于
的偏导数等于0的系数即可(对于非负二次函数 h
,导数取值为0的点即为最小值).

对 h
求导得

根据
和
的表达式可知

利用这个等式以及事实

得到

再利用下列等式

对所有 i
,

对所有
,

得到

其中最后一个等式成立是由于
和
的定义.

23.* 最小均方估计的性质
. 设
和 X
是两个具有正方差的随机变量.令
是
基于 X
的线性最小均方估计量,
是相应误差. 同样地,令
是
基于 X
的最小均方估计量
是相应误差.

(a)
证明估计误差
满足

(b)
证明估计误差
和观测 X
不相关.

(c)
证明
的方差可以分解为

(d)
证明最小均方估计的估计误差
与观测 X
的任何函数
不相关.

(e)
证明
未必与 X
独立.

(f)
证明线性最小均方估计误差
未必与观测 X
的所有函数
都不相关,且
对于所有 x
未必等于0.

解
(a)
依线性最小均方估计的公式

两边取期望得到
,或

(b)
利用
的公式得到

由于(a)中的事实
,说明
(注意到
, 这刚刚证得), 即估计误差
和观测 X
不相关.

(c)
由于
,而
又是 X
的一个线性函数,于是有
因此,

(d)
这是由于
以及

(e)
此处举出一个反例：设
和 X
是离散随机变量具有联合分布列

在这个例子中,
,这样 X
和
不相互独立.注意到对于任意可能的取值 x
有
,因而
. 所以有
.由于 X
和
不相互独立, X
和
也不相互独立.

(f)
设
和 X
是离散随机变量具有联合分布列

这个例子中,
. 注意到
和
,所以 X
和
是不相关的.依线性最小均方估计的定义,
与 X
不独立.进一步有
,这依赖于 x
=0 或
取值为2/3和-1/3.

24.* 基于多观测的线性最小均方估计的性质.
令
是给定方差和协方差的随机变量.
是
的基于
的线性最小均方估计量,
是相应误差.证明
, 且对每个 i
,
和
不相关.

解
先证明对于所有 i
,
.考虑一个新的线性估计量
,其中
为一个标量参数.由于
是线性最小均方估计量,它的均方误差
不会超过新估计量的均方误差
. 因此,函数
在
的时候取到最小值, 即
. 注意到

和
是等价的.

现在来重复上面的论证, 但是用常数1来代替随机变量
.经过相同的步骤, 得到
. 最后注意,

所以
和
是不相关的.

第 9 章　经典统计推断

在第8章, 我们将未知参数看成随机变量, 利用贝叶斯方法进行统计推断.我们所处理的所有例子都是单一的完全确定的概率模型,并能够利用贝叶斯准则对它们进行推导和计算.

相比之下,本章采用一种与之完全不同的原理：认为未知参数
是确定的(非随机)而取值未知.观测 X
是随机的, 根据
取值的不同,服从
(若 X
是离散的)或
(若 X
是连续的).因此, 我们将同时处理多重候选模型,每个模型对应
的一个可能的取值,而不是仅仅处理单一的概率模型. 在这里,一个“好”的假设检验或者估计过程是指在每个候选模型为真模型时,都拥有某些理想的性质. 某些时候,我们也会采用保守的观点：一个过程不会被认为达到我们的要求,除非它在
取到最坏值的情况下也能保持好的效果.

图 9.1　经典推断模型的总结. 对于
的每个取值, 有分布
.利用观测 X
的取值 x
计算点估计, 或者选择一个假设, 等等

总的来说, 在我们的记号中, 概率和期望都标明了相应的
的值.比如, 记
为随机变量
的期望,不过在求期望的过程中, X
的分布参数为
. 类似地, 用记号
表示一个事件 A
的概率. 需要注意的是, 这里指示
对于
的依赖性仅仅是函数上的依赖性,而不像贝叶斯分析中那样,
的出现意味着相应的概率是条件概率.

本章前面两节将介绍参数估计, 重点是最大似然估计和线性回归方法,经常涉及的是独立同分布的观测值.这里的问题和第8章讨论贝叶斯估计量是类似的.我们的目标是找到那些具有优良性能的估计量(观测值的函数). 但是,选取的准则会有所不同, 因为它们必须面对未知参数的所有可能取值.比如说,我们的选取准则是要求估计误差的期望为0(对一切
的值都成立),或者对于未知参数的所有可能取值, 估计误差在很大的概率下很小.

第3节将讨论简单假设检验的问题. 这里提及的方法和第8章中(贝叶斯)最大后验概率方法类似. 特别地,我们计算每个假设成立的似然程度基于已经观测到的数据,并通过两个假设的似然程度的比值的某种门限值来选择假设.

最后一节将讨论不同类型的假设检验问题. 举一个例子,假设投掷一枚硬币 n
次, 观测到由投掷结果(正面或反面)组成的一个序列,我们想知道这个硬币是否均匀. 需要检验的主要假设是
是否成立,其中 p
是正面朝上的未知概率. 备择假设
是复合
的,因为它由很多甚至可能是无限多的子假设组成(比如
等). 很明显, 在观测值个数不是很大的情况下,没有一种可靠的方法能够区分
还是
.这类问题通常利用显著性检验
的方法来解决.有人会问：观测数据和假设
是否一致？粗糙地说, 在某假设基础上,如果观测到的数据看起来不像是在这个假设之下“偶然”产生的,那么该假设将被拒绝.

本章的主要术语、问题和方法

- 经典统计
将未知参数看作是待确定的常数.对于未知参数的每个可能取值都假设一个单独的概率模型.

- 在参数估计
中,希望找到在未知参数取任何可能值的情况下都基本正确的估计.

- 在假设检验
中,未知参数对应于对立假设取有限的
个值. 想要选择一个假设,使得在任何可能的假设下错误的概率最小.

- 在显著性检验
中, 希望接受或者拒绝一个简单的假设,保持错误拒绝的概率适当的小.

- 本章主要的经典推断方法

(a) 最大似然估计
：选择参数使得被观测到的数据“最有可能”出现,比如使获得当前数据的概率最大(见9.1节).

(b) 线性回归
:在这样的意义下找出一组成对数据之间最合适的线性关系：这种线性关系使得模型与真实数据之间差值的平方和最小(见9.2节).

(c) 似然比检验
：给定两个假设,根据它们发生“可能性”的比值选择其一,使得犯错的概率适当小(见9.3节).

(d) 显著性检验
：给定一个假设,当且仅当观测数据落在某个拒绝域的时候拒绝该假设.特别设计的拒绝域使得错误拒绝的概率低于某个给定阈值(见9.4节).

9.1　经典参数估计

本节利用经典的方法讨论参数估计问题,所谓经典的方法就是将参数
看作未知常数, 而不是随机变量.先介绍一些定义和估计量的相关性质. 然后讨论最大似然估计量,它可以看作是经典统计中与贝叶斯最大后验概率估计量相对应的部分.最后关注简单但是重要的估计未知均值的例子,如果可能的话估计未知的方差. 本章还讨论相关的问题,包括建立一个有很大概率包含未知参数的区间(一个“置信区间”).这里用到的很重要的方法是大数定律和中心极限定理(参见第5章).

9.1.1　估计量的性质

给定观测
, 估计量
是指形式为
的随机变量.注意, 由于 X
的分布依赖于
, 因而
的分布也一样.估计量
的取值称为估计值
.

有时候, 尤其是当我们对观测数目 n
起的作用感兴趣时,用
表示一个估计量.当然将
看作是一系列估计量(分别对应 n
的不同取值)也是合适的.按照一般的定义,
的均值和方差记为
和
.
和
都是
的数值函数,但为简单起见, 情况清楚的时候就不说明这种依赖性了.

下面介绍和估计量的各种性质相关的一些术语.

估计量的相关术语

是未知参数
的一个估计量
,也即关于 n
个观测
(服从依赖参数
的分布)的一个函数.

- 估计误差
,记为
,定义为

- 估计量的偏差
, 记为
, 是估计误差的期望值：

- 的期望值、方差和偏差都依赖于
,而估计误差同时还依赖于观测
.

- 称
无偏
, 若
对于
所有可能的取值都成立.

- 称
渐近无偏
,若
对于
所有可能的取值都成立.

- 称
为
的相合
估计序列,如果对于
所有可能的取值,序列
依概率收敛到参数
的真值.

我们不可能指望作为随机观测的函数(估计量)正好和未知参数真值
相等.因此, 估计误差一般非零. 另一方面, 对于
所有可能的取值,如果平均估计误差是零, 则得到一个无偏的估计量, 这是我们想要的性质.渐近无偏估计只需要随着观测数目 n
的增加, 估计量变得无偏即可,这在 n
比较大的情况下也是所乐见的.

除了偏差
,我们往往对估计误差的大小感兴趣. 均方误差
可以捕捉到这一信息.下面的公式将均方误差、偏差和
的方差联系在一起：1

1
这是公式
的应用,其中
而期望与相应于
的分布有关.我们也利用了事实
和
.

这个公式很重要, 因为在很多统计问题中都存在等式右边两项的平衡.方差的减少总是伴随着偏差的增大. 当然,一个好的估计量会让两项的取值都比较小.

下面将讨论一些具体的估计方法, 首先是最大似然估计.这是一种适用范围较广的估计方法,与之前贝叶斯推断中的最大后验概率估计有很多相似之处.然后我们会考虑简单但是重要的估计随机变量均值和方差的例子.这将和第5章我们讨论的大数定律有一些联系.

9.1.2　最大似然估计

设观测向量
的联合分布列为
(
可为向量或数量),其中
为 X
的观测值.那么, 最大似然
估计是使(
的)数值函数
达到最大的参数值(见图9.2)：

当 X
为连续型随机变量时,可将同样的方法用于联合概率密度函数
(取代
),即

称
(或
,若 X
为连续型随机变量)为似然函数
.

图 9.2　最大似然估计的说明：假设 X
是离散的,
在有限集
中取值.给定观测值
, 对于每个 i
,可计算得到似然函数
的值,从而可以选出使
最大的
的取值

很多应用中都假设观测
独立,从而对于每个 i
,
是离散的随机变量,似然函数的形式为

在这种情况下, 为了分析和计算的方便可让其对数达到最大,下面的式子称为对数似然函数
,

当 X
为连续型随机变量时, 类似地用概率密度函数取代分布列,取遍
使得下面表达式值最大

此处对于术语“似然”需要一些的解释. 对于已知 X
的观测值 x
,
不是未知参数等于
的概率. 事实上,这是当参数取值为
时, 观测值 x
可能出现的概率. 因此,为取定
的估计值时, 我们会问这样的问题：基于已知的观测,
取什么值可使观测值最可能出现呢？这就是术语“似然”的本意.

回忆在贝叶斯最大后验概率估计中,估计的选择是使表达式
取遍
达到最大,其中
是包含一个未知离散参数
先验分布列.因而若将
看作条件分布列,可将最大似然估计解释为具有均匀先验
的最大后验概率估计.所谓均匀先验分布列是指对于所有
都具有一样的先验概率,也即没有任何信息的先验分布列. 同样地,对于连续的取值有界的
,可将最大似然估计解释为具有均匀先验密度的最大后验概率估计,对所有的
其均匀先验密度为
.

例 9.1
让我们来回顾例8.2, 朱丽叶迟到的时间为 X
,服从
的均匀分布, 其中
是未知参数. 在那个例子中,我们用服从均匀先验概率密度函数
([0,1]区间上的均匀分布)的随机变量
建立参数的模型,并说明了最大后验概率估计 是 x
. 在本节的经典内容中, 没有先验,
被当作常数, 但是最大似然估计仍是
.

例 9.2(伯努利随机变量的均值估计)
现在我们希望根据 n
次独立投掷的结果
(
若正面朝上,反之
) 来估计一枚不均匀的硬币正面朝上的概率
.这和例8.8中贝叶斯的做法类似, 假设了一个均匀先验密度.发现后验概率密度函数的峰值(最大后验概率估计)出现在
,其中 k
是观测到正面向上的次数. 从而
也是
的最大似然估计,所以最大似然估计量是

估计量是无偏的. 同时它具有相合性, 因为根据弱大数定律,
依概率收敛到
.

比较最大似然估计量和例8.8中用贝叶斯方法得到的线性最小均方估计量是很有意思的.我们说过, 给了一个均匀先验, 后验均值为
. 因此,最大似然估计
与通过贝叶斯方法得到的线性最小均方估计量相近却不一样.然而当
时, 两个估计渐近一致.

例 9.3(估计指数随机变量分布中的参数)
考虑顾客到达某服务台的时间问题.设第 i
个顾客到达服务台时刻是
.假设第 i
个时间间隔
(通常设
)服从未知参数为
的指数分布,并且随机变量
是相互独立的.(这是第6章学习的泊松到达模型.)现在想用观测
来估计
的值(可解释为到达的速率).

相应的似然函数是

对数似然函数是

其中

对
求导得到
,令其为零, 得到在
上使
最大的是
.所得估计量是

它是到达间隔时间样本均值的倒数,可以解释为经验的到达速率.

注意到由弱大数定律,当
时,
依概率收敛到
. 这说明
依概率收敛到
,因而估计量是相合的.

到目前为止,我们都在讨论单个未知参数的情况.下面的例子中含有二维参数.

例 9.4(正态随机变量均值和方差的估计)
考虑通过 n
个观测
来估计正态分布的均值和方差.参数向量为
.相应的似然函数是

通过计算上式可以写作2

2
为核实之, 对于
,

对 i
求和并注意到

其中
是随机变量

的取值,
是随机变量

的取值.对数似然函数是

将上式分别对
和 v
求导, 令所得导数为零, 得到估计值和估计量,

注意,
是样本均值,同时
可以看成“样本方差”. 易证,
当 n
增大时收敛到 v
,因而
是渐近无偏的. 同样运用弱大数定律可知,
和
分别是
和 v
的相合估计量.

最大似然估计有一些明显的性质. 比如说, 它遵循不变原理
：如果
是
的最大似然估计,那么对于任意关于
一一映射的函数 h
,
的最大似然估计是
对于独立同分布的观测, 在一些适合的假设条件下,最大似然估计量是相合的.

另一个有趣的性质是当
是标量参数的时候, 在某些合适的条件下最大似然估计量具有渐近正态
性质. 特别地,可以看见
的分布接近标准正态分布,其中
是
的方差. 因此,如果我们还能够估计
,就能进一步得到基于正态近似的误差方差估计. 当
是向量参数,针对每个分量可以得到类似的结论.

最大似然估计

- 已知随机向量
的观测值为
,其联合分布列为
(或连续情况下的联合概率密度函数
).

- 最大似然估计是使得似然函数
(或
)达到最大值时
的取值.

- 关于
一一映射的函数
的最大似然估计是
,其中
是
的最大似然估计.

- 当随机变量
是独立同分布时, 在某些合适的假定条件下,最大似然估计的每个分量都具有相合性且渐近正态.

9.1.3　随机变量均值和方差的估计

现在来讨论一个简单而重要的问题：如何估计一个概率分布的均值和方差.这个问题与之前例9.4讨论的问题有些类似, 不同的是,此处没有正态分布的假设. 事实上,这里展示的估计量不需要用到与
(或
,当 X
为连续型随机变量时)有关的知识.

假设观测
是独立同分布的, 均值为未知参数
.
最自然的估计量是样本均值
：

由于
,因而此估计量是无偏的. 它的均方误差和方差相等, 是
,其中 v
是
的方差. 由计算看出,
的均方误差并不依赖于
. 更进一步, 由弱大数定律,估计量依概率收敛到
, 因而具有相合性.

样本均值未必是方差最小的估计量. 比如说,考虑估计量
,完全忽略观测的一个估计(这个估计总是零).
的方差是零, 但偏差
. 特别地,依赖
的均方误差为
.

下一个例子将比较样本均值和在8.2节特定假设下推导的贝叶斯最大后验概率估计量.

例 9.5
假设观测
是正态独立同分布的,具有共同的未知均值
和已知方差 v
.在例8.3中应用的是贝叶斯方法, 假设参数
服从正态的先验分布.对于
的先验均值是零的情况,得到下面的估计量：

这个估计量是有偏的,因为
且
.但是
,所以
是渐近无偏的.它的方差是

它比样本均值的方差
略小一些.注意这个例子的特殊之处,
不依赖于
. 均方误差等于

假设除了样本均值(
的估计量)

我们还对方差 v
的估计量感兴趣.一个自然的选择是

这和基于正态性假设的例9.4推导得出的最大似然估计量一致.

根据事实

得到

因此,
不是 v
的无偏估计量, 尽管它是渐近无偏的.

通过适当的比例缩放可以得到一个方差的无偏估计量

之前的计算说明

因而
是 v
的一个无偏估计量(对于所有n
).但是, 当 n
很大的时候,
和
本质上是一样的.

随机变量的均值和方差估计

观测值
是独立同分布的,均值
和方差 v
均未知.

- 样本均值

是
的一个无偏估计量,它的均方误差是
.

- 方差的估计量有两个

- 当
服从正态分布,估计量
和最大似然估计量相等. 它有偏但是渐近无偏.估计量
是无偏的. 当 n
很大的时候,方差的两个估计量本质上是一致的.

9.1.4　置信区间

考虑未知参数
的一个估计量
.除了估计所得的数值, 我们还想建立一个所谓的置信区间. 粗糙的说,这个区间以某个很高的概率包含参数
的真值.

为准确定义, 我们首先固定一个希望达到的置信水平

,其中
往往是个很小的数.然后用一个略小的估计量
和一个略大的估计量
代替点估计量
,于是
, 且

对于
每个可能的取值成立. 注意, 与一般估计量类似,
和
也是观测的函数,因而是其分布依赖
的随机变量.称
为
置信区间
.

例 9.6
假设观测
是正态独立同分布的, 均值
未知,方差 v
已知.样本均值估计量

是服从正态分布的,3
均值为
, 方差为
.利用标准正态分布的概率分布函数
(可从正态分布表中查得),有
且得到

3
这里用的是独立正态随机变量的和还是正态的重要事实, 参见第4章.

可以整理为如下形式

这说明

是95%置信区间,分别定义
和
为
和
.

在之前的例子中,我们想用这样的表述来刻画一个95%置信区间：真实的参数落在置信区间内的概率是95%.但是这样的表述是模糊的. 比如说,假设得到观测值之后得到置信区间[-2.3,4.1].我们不能说
有95%的概率落在[-2.3,4.1],因为这种表述并不包含任何随机变量. 毕竟, 在经典方法中,
是一个常数. 实际上,短语“真实参数落在置信区间”中的随机项是置信区间, 而不是真实参数.

下面是一个具体的解释, 假设
是固定的.我们运用相同的统计过程建立了很多个置信区间.比如每次获得 n
个独立的观测并建立95%置信区间.可以预期有95%的置信区间将包含
. 无论
的值是多少,这总是正确的.

置信区间

- 对于一维的未知参数
, 其置信区间
是一个以很高概率包括
的区间,端点为
和
.

- 和
是依赖于观测
的随机变量.

- 置信区间对于
所有可能的取值满足

通常情况下, 置信区间是包含估计量
的区间. 更进一步,在许多符合要求的置信区间中, 我们喜欢长度最短的. 但是,这并不容易找到, 因为误差
的分布或者是未知的,或者是依赖于
的. 所幸在很多重要的模型中,
的分布是渐近正态无偏的.这就是说随机变量

的概率分布函数在 n
增加的时候趋于标准正态概率分布函数(对于
所有可能的取值). 现在我们可以像例9.6一样,导出近似的置信区间.

9.1.5　基于方差近似估计量的置信区间

假设观测
是正态独立同分布的, 均值
和方差 v
均未知.用样本均值

来估计
,用之前介绍的无偏估计量

来估计 v
. 特别地, 用
来估计样本均值的方差
.给定
,可以用上述估计和中心极限定理构造一个(近似)
置信区间,即

其中 z
由关系式

和正态分布表得到,
是
的正平方根. 例如, 若
,利用事实
(从正态分布表中可知)得到近似95%置信区间的形式为

注意在这种方法中, 两个不同的近似起了作用. 首先,将
看成正态的随机变量；其次,用估计
代替了
的真实方差
.

即使在
是正态随机变量的特殊情况下,上面建立的置信区间仍然是近似的.这是因为
只是真实方差 v
的近似估计, 而随机变量

不是正态的. 但是, 对于正态的
,
的概率密度函数不依赖于
和 v
, 可以显式地计算出来.称
的分布为自由度为 n
-1 的 t
- 分布
.4
类似标准正态分布的概率密度函数, 它是对称钟形的, 但是散布更广,尾部更重(见图9.3). 感兴趣的各种区间的概率可以通过t
-分布表查到,t
- 分布表类似于正态分布表. 因此,当
(近似)正态并且 n
相对较小的时候,下面给出的是更加精确的置信区间:

4
t
- 分布具有很有意思的性质并且有闭合式的表达式,但是精确的公式对达到我们的目的并不重要.有时候它又被称作“学生分布”.这是1908年由受雇于都柏林酿酒厂的威廉·戈塞特发表的.他假冒学生的名义写了这篇文章,因为以他本人的名字发表文章在当时是被禁止的.戈塞特致力于挑选产量最好的大麦,但只有较小的样本数量.

其中 z
由关系式

得到,
是自由度为 n
-1 的 t
- 分布的概率分布函数,z
的值可以通过查表得到. 这些表可以在很多地方找到,下面给出了一个简略的版本.

图 9.3　自由度为 n
-1 的 t
- 分布的概率密度函数与标准正态概率密度函数的比较

另一方面, 当 n
比较大(如
) 的时候,t
- 分布和正态分布非常接近, 因此可以直接用正态分布表(表3.1).

表9.1　t
- 分布表：给定自由度为 n
-1 时 t
- 分布的概率分布函数
.

0.100

0.050

0.025

0.010

0.005

0.001

1

3.078

6.314

12.71

31.82

63.66

318.3

2

1.886

2.920

4.303

6.965

9.925

22.33

3

1.638

2.353

3.182

4.541

5.841

10.21

4

1.533

2.132

2.776

3.747

4.604

7.173

5

1.476

2.015

2.571

3.365

4.032

5.893

6

1.440

1.943

2.447

3.143

3.707

5.208

7

1.415

1.895

2.365

2.998

3.499

4.785

8

1.397

1.860

2.306

2.896

3.355

4.501

9

1.383

1.833

2.262

2.821

3.250

4.297

10

1.372

1.812

2.228

2.764

3.169

4.144

11

1.363

1.796

2.201

2.718

3.106

4.025

12

1.356

1.782

2.179

2.681

3.055

3.930

13

1.350

1.771

2.160

2.650

3.012

3.852

14

1.345

1.761

2.145

2.624

2.977

3.787

15

1.341

1.753

2.131

2.602

2.947

3.733

20

1.325

1.725

2.086

2.528

2.845

3.552

30

1.310

1.697

2.042

2.457

2.750

3.385

60

1.296

1.671

2.000

2.390

2.660

3.232

120

1.289

1.658

1.980

2.358

2.617

3.160

∞

1.282

1.645

1.960

2.326

2.576

3.090

表中左列是自由度
,顶行是尾部概率
,顶行以下的每行是
中
z

的值

例 9.7
利用电子天平得到一个物体重量的八次测量值.测量值是真实的重量加上服从正态分布均值为零方差未知的随机误差.假设每次观测直接的误差是相互独立的. 得到结果如下：

利用 t
- 分布来计算95%置信区间.样本均值
是0.574 7,
方差的估计是

因而
. 根据 t
- 分布表,
, 所以

的95%置信区间为

与由正态分布表得到的置信区间

相比, 后者更窄, 也即对于点估计
的精度更持乐观的态度.

目前为止建立的近似置信区间依赖于未知方差 v
的特殊估计量
.然而, 方差可能有不同的估计量或近似. 比如,假设观测
是独立同分布的伯努利随机变量,未知均值
和方差
. 除了
,方差的另一个近似是
. 事实上,当 n
增加
依概率收敛到
,因此
也收敛到方差
.还有一种可能是观测到
对于
总成立,用1/4作为方差的保守估计. 下面的例子就说明了这些选择.

例 9.8(选举问题)
考虑5.4节例5.11的选举问题,我们想估计的是选民中支持某位候选人的比例
.收集了 n
个独立选民的回应
,其中将 X
看作伯努利随机变量, 若第 i
位选民支持则
, 否则为0.用样本均值
来估计
,并用正态逼近方法来建立置信区间.但正态逼近方法需要对 X
的方差进行估计,而对于方差的估计, 有不同的方法. 为具体化,假设样本数为
的选民中有684位支持候选人,
.

(a) 如果用方差的估计

并将
看作均值
方差0.245的正态随机变量, 则得到95%置信区间

(b)方差估计

其结果和(a)是一样的(精确到三位小数),所以95%置信区间为

还是[0.542, 0.598].

(c) 利用方差的上界1/4作为方差的估计, 得到的置信区间是

比起(a)和(b)的结果, 仅仅宽了一点, 实际上和前面的几乎一样.

图9.4比较了利用方法(b)和(c)得到的置信区间,其中固定
,样本数量在 n
=10 到 n
=10 000 之间变化. 可以看见,当 n
在几百的时候(这也是典型的调查样本量), 区别很小. 但是需要注意,若 n
的取值很小的时候,两者的差异是十分明显的.因此,在n
比较小的时候,需要特别小心.

图 9.4　例9.8中方法(b)和(c)中的近似方法构造的置信区间,其中
是固定的,样本数量在 n
=10 到 n
=10 000 之间变化

9.2　线性回归

本节讨论的问题是用线性回归的方法对感兴趣的两个或更多个变量之间的关系建立模型.这种方法的一个特征是： 它可以由最小二乘法完成操作,而不需要任何概率上的解释. 当然,{线性回归}也可以在各种概率框架之下进行解释.

首先考虑两个变量的情况, 然后推广到多个变量之间关系的讨论.现在想要对感兴趣的两个变量 x
和 y
的关系建模(例如受教育的年数和收入),为此收集了一些数据
. 例如
是第 i
个个体受教育的年数,
是相应的年收入.通常一个关于样本的二维散点图会显示
和
之间有规律的、近似线性的关系.于是自然想建立如下形式的线性模型

其中
和
是未知的待估参数.

特别地, 给定参数的估计
和
,模型对
相应的
的预测是

一般地,
和已知的
的值会有差异

称为第 i
个残差
.残差小的估计被认为是很好地拟合了数据. 为此,线性回归在所有
和
中选择使得残差平方和

最小的
和
作为未知参数
和
的估计.图9.5作了说明.

图 9.5　由数据集
出发,选择
和
, 使之成为残差
的平方和最小的估计,得到模型

注意, 在实际问题中, 关于线性模型的假定未必是正确的,比如可能实际上两个变量之间的关系是非线性关系. 因此在实际工作中,我们往往首先需要进行模型的鉴定工作,就是检查数据是否支持线性模型的假设.只有经过鉴定,并确认我们所处理的模型是一个线性模型的情况下,我们才应用最小二乘法去找出这个线性模型.

为推导线性回归估计
和
的公式,我们发现一旦给定数据,残差平方和是关于
和
的二次函数. 为求最小值,分别对
和
求导, 再令导数为零. 经过计算,得到解的简单显式表达式, 总结如下.

线性回归

给定 n
个数据对
,使得残差平方和最小的估计是

其中

例 9.9
比萨斜塔随着时间的推移倾斜得越来越厉害.下表记录了从1975~1987年间塔上一固定点的位移(此点的实际位置和塔垂直的时候该点的位置的距离(米数))的测量值.

年份

1975

1976

1977

1978

1979

1980

1981

1982

1983

1984

1985

1986

1987

倾斜

2.964 2

2.964 4

2.965 6

2.966 7

2.967 3

2.968 8

2.969 6

2.969 8

2.971 3

2.971 7

2.972 5

2.974 2

2.975 7

现在用线性回归来估计模型
中的参数
和
, 其中 x
是年份, y
是倾斜值.根据回归公式得到

其中

估计的线性模型为

见图9.6.

图 9.6　例9.9中比萨斜塔的倾斜数据和倾斜度的估计模型

9.2.1　最小二乘公式的合理性
5

5
跳过这一小节不会影响课程的连续性.

基于概率论的考虑,可从不同角度来说明最小二乘方法的合理性.

(a) 最大似然(线性模型, 正态噪声)
.假设
是给定的数(不是随机变量),
是随机变量
的实现,
的模型为

其中
是均值为零, 方差为
的正态独立同分布随机变量.因而
也是独立的正态随机变量, 均值
,方差
. 似然函数的形式为

似然函数达到最大等价于表达式中的指数部分达到最大,即残差平方和最小. 因而,基于最小二乘法的参数
和
的线性回归估计可以看作是 Y
的期望具有线性结构的正态模型中参数
和
的最大似然估计. 事实上, 当
与
有这种关系时,
和
的基于最小二乘法的估计是无偏估计. 更进一步,估计的方差可以用简便的公式算得(参见本章末习题),然后用9.1节中的方法建立
和
的置信区间.

(b) 近似贝叶斯线性最小均方估计(在可能的非线性模型中)
.假设
和
分别是
和
的实现.不同数对
之间是独立同分布的,但是
和
的二维联合分布未知.考虑服从同一分布的另一独立数对
.假设观测到
并希望用线性估计量
来估计
.从8.4节得知给定
,则
的线性最小均方估计量的形式为

也即

由于不知道
的分布, 用
作为
的估计,
为
的估计,
为
的估计,
为
的估计.将这些估计代入
和
的公式中,发现此处得到的线性回归参数估计表达式就是之前给出的最小二乘法公式.值得注意的是这里的论断不需要线性模型正确性的假设.

(c) 近似贝叶斯最小均方估计(线性模型)
.假设数据对
独立同分布, 和(b)中一样.还有附加的假设:数据对满足模型

其中
是独立同分布的零均值噪声项, 与
独立.根据条件期望的最小均方性质, 可知
在所有函数 g
中使得估计误差平方的期望
最小. 根据假设,
.因而真实的参数
和
使得

达到最小. 由弱大数定律,这个表达式是当
时

的极限.这说明通过使上述表达式(用
和
分别代替
和
) 达到最小是使
(真实参数)达到最小的较好的近似.而使这个表达式达到最小和使残差平方和达到最小是一样的.

9.2.2　贝叶斯线性回归
6

6
跳过这一小节不会影响课程的连续性.

线性模型和回归并不仅仅与经典推断方法相关.下面在贝叶斯框架中来学习它们. 特别地,将
当作给定的数,
是向量
的观测值,随机向量
满足线性关系

这里,
是待估参数,
是独立同分布的随机变量, 均值为零,方差已知为
. 与贝叶斯哲学思想一致,将
和
建模为随机变量.假设
相互独立,
和
均值为零,方差分别是
和
.

基于
都是正态随机变量的假设,现在可以利用最大后验概率方法来推导贝叶斯估计量.在所有
和
中让后验概率密度函数
最大.根据贝叶斯准则,后验概率密度函数是7

7
注意这一段用到条件概率的概念, 因为是在贝叶斯框架中.

除以一个和
无关的归一化常数. 根据正态性假设,表达式写成

其中 c
是和
无关的归一化常数. 等价地,在所有
和
中使表达式

最小. 注意,这和前面经典推断中期望达到最小的表达式
是类似的(当
和
足够大,可以忽略
和
,则这两个最小化是一样的). 为求最小值,分别对
和
求导, 再令导数为零. 经过计算,得到如下解.

贝叶斯线性回归

- 模型：

(a) 假设有线性关系

(b) 认为
是已知常数.

(c) 随机变量
服从正态分布且独立.

(d) 随机变量
和
均值为零,方差分别是
和
.

(e) 随机变量
均值为零, 方差为
.

- 估计公式：

给定数据对
,
和
的最大后验概率估计是

其中

这里有一些注释.

(a) 如果与
和
相比
很大,则得到
这种情况是噪声很大, 观测基本被忽略,因而估计和先验均值(假设为零)是一样的.

(b) 如果让先验方差
和
增加到无穷大,那么不存在任何关于
和
的有用的先验信息.在这种情况下, 极大后验概率估计和
不相干,其结果就和之前推导的经典的线性回归公式一样.

(c) 为简单起见假设
. 估计
时,观测
的取值
的权重和其相关
的值是成比例的.这可以从直观上来解释：当
很大,
中
的贡献就相对大,从而
含有关于
有用的信息. 反之,
为0,观测
和
独立, 进而可以被忽略.

(d) 估计
和
是
的线性函数,而不是
的. 然而要记得,
是外生的、非随机的数,而
是随机变量
的观测值. 因而从8.4节定义的意义上来说,最大后验概率估计量
和
是线性的.再看我们的正态性假设,这些估计量同时又是贝叶斯线性最小均方估计量和最小均方估计量(参考8.4节末尾的讨论).

9.2.3　多元线性回归

到目前为止, 我们关于线性回归的讨论只包含了一个解释变量
, 记作 x
, 也即一元回归
.其目标是建立一个用
的值来解释
的观测值的模型.但是很多情况下, 有很多潜在的解释变量(比如我们考虑解释年收入的模型, 它是关于年龄和受教育年数的函数).这类的模型称为多元回归
模型.

举例来说, 现在的数据由三元组的形式
组成,我们想估计参数
,模型如下

比方说,对于随机样本中的第 i
个人,
可以是收入,
是年龄,
是受教育年数.在所有的
和
中寻找使得残差平方和

最小的解. 在理论上,多个解释变量的情况与两个解释变量的情况是没有本质差别的.回归估计
的计算在概念上和单个解释变量情形一样,但显然公式要复杂得多.

一个特例, 假设
,处理的模型变为

如果能够找到
关于
是二次函数关系的解释,那么这个模型是合适的 (当然更高阶多项式模型也是可能的).虽然二次函数关系是非线性的, 但这个模型仍被称作线性的,因为未知参数
和观测的随机变量
是线性关系. 推广之,可以考虑这种一般形式的模型

通过取遍
使得表达式

取值最小即得到参数的估计
.这样的最小化问题的解已经有现存的公式.它们都属于多元线性回归的范畴.

9.2.4　非线性回归

如果假设的关于未知参数的模型结构是非线性的,可将线性回归方法将推广到非线性的情况.特别地, 假设变量 x
和 y
关系如下

其中 h
是给定的函数,
是待估参数.对于已知的数据对
,欲寻找
使得残差平方和

达到最小.

与线性回归不同, 这类最小化问题通常并没有闭合式的解.但是解决实际问题时有一些相当有效的计算方法. 和线性回归类似,非线性最小二乘估计源自参数
的最大似然估计.假定数据
来自下列的模型,

其中
为未知的回归模型的参数,
是独立同分布的零均值正态随机变量. 这个模型的似然函数的形式为

其中
为
的方差. 似然函数最大等价于上式中指数部分最大,也就是使得残差平方和最小. 这说明在
为正态的情况下,非线性回归模型中参数
的最小二乘估计就是参数
的最大似然估计.

9.2.5　实际中的考虑

回归方法的应用领域非常广泛, 从工程到社会科学领域, 无不涉及.但是应用时需要小心. 这里我们讨论一些很重要的需要牢记的问题,忽略了这些事项, 将无法通过回归分析得到可靠的结论.

(a) 异方差性
. 在涉及正态误差的线性回归模型中,最小二乘估计要求模型中误差项,也即噪声项
的方差相同. 但是,在现实中,不同数据对的
的方差可能有很大差别. 比如,
的方差可能受到
的严重影响(更具体一些,假设
是年收入且
是年消费.很自然能够预期富人消费的方差远大于穷人消费的方差). 在这种情况下,一些方差较大的噪声项将对参数估计造成不恰当的影响.一种合适的补救办法是使用加权最小二乘准则
, 其中对于
的方差较大的 i
, 权重
就小一些.

(b) 非线性
. 很多时候, 变量 x
的取值可以影响变量 y
的取值,但是这种影响可能是非线性的. 之前也讨论过, 选择合适的 h
,基于数据对
的回归模型可能更合适.

(c) 多重共线性
. 假设现在用两个解释变量 x
和 z
来建模预测另一个变量 y
.如果 x
和 z
之间本身就有很强的关系,那么估计的过程可能无法可靠的区分两个解释变量各自对模型的影响.一个极端的例子是, 假设
是真实的关系, 而
总是成立的.那么模型
也是正确的,但是并不存在一种计算方法分摊两个解释变量 x
和 z
在建立模型时对 y
的贡献.

(d) 过度拟合
. 用大量的解释变量和相应的参数来建立多元回归,其拟合效果是良好的, 但这种建立模型的方法并非有利,也有可能是没有用的. 举例来说, 假设一个线性模型是正确的,但是我们却用9次多项式来拟合10个数据. 模型的数据拟合效果肯定非常好,但却是不对的. 一个重要的原则是,数据点的数量应该是待估参数个数的5倍, 最好是10倍.

(e) 因果关系
. 不要把两个变量 x
和 y
之间的线性关系错误理解成因果关系.一个非常好的拟合可能是因为变量 x
是导致 y
的原因,也有可能 y
是导致 x
的原因. 或者, 有一些外在的因素,用变量 z
来刻画, 以相同的方式影响着 x
和 y
.一个具体的例子是
是第一个出生的孩子的财富,
是同一个家庭中第二个出生的孩子的财富.粗略地预计
会随着
的增加而线性增长,但是这应该归功于共同家庭和背景的影响,而不是两个孩子之间的因果关系.

9.3　简单假设检验

本节将再次讨论如何从两个假设中进行选择. 与8.2节贝叶斯公式表达不同,这里没有先验概率的假设.可以将此看作
只有两个可能取值的推断问题, 但为保持一致,需要抛弃
的记号, 而用
和
代表两个假设.在传统的统计语言中,
被称作原
假设,
被称作备择
假设.这个假设检验问题称为简单假设检验问题.这说明
的角色是默认的模型,根据得到的数据来决定是支持还拒绝
.

观测随机变量
的分布依赖于假设. 记号
表示当假设
成立时 X
属于 A
的概率.注意与经典推断内容一致, 不存在条件概率,因为真实的假设并没有被当作随机变量对待. 类似地,用
或
分别表示向量 X
在假设
下的分布列或概率密度函数.我们希望找到一个决策准则将观测值 x
映射到其中一个假设上去(见图9.7).

图 9.7　简单假设检验的经典推断框架

任何一个决策准则都可以用样本空间的一个分划来表达.将观测向量
所有可能取值的集合划分为两个部分：集合 R
, 称为拒绝域
；以及它的补集
, 称为接受域
.当观测数据
落在拒绝域 R
中, 假设
被拒绝
(声称
是错误的), 否则就被接受
, 见图9.8. 因此,决策准则的选择等价于拒绝域的选择.

图 9.8　简单假设检验决策准则的结构.它将所有可能的观测划分为集合 R
(拒绝域)和它的补集
(接受域).如果观测的实际值落在拒绝域中, 原假设被拒绝

对于一个选定的拒绝域 R
, 有两种可能的错误.

(a) 拒绝
而实际上
是正确的. 这是第一类
错误,所谓的错拒
, 发生的概率是

(b) 接受
而事实上
是错误的. 这是第二类
错误,所谓的受假
, 发生的概率是

为构造拒绝域的形式,将其和贝叶斯假设检验做类比.在贝叶斯假设检验中,两个假设为
和
,先验概率分别是
和
.于是,对于固定的观测值 x
,利用最大后验概率准则让犯错的总概率达到最小.按这个规则,如果

则称
是真的 (假设 X
是离散的).8
这条准则也可以这样改写：定义似然比

为

8
在这一段我们用到条件概率的概念因为要处理贝叶斯问题.

并称
是真的,如果观测向量 X
的实现值 x
满足

其中临界值

为

如果 X
是连续的, 其分析方法是一样的,只是似然比定义为概率密度函数的比值：

根据之前最大后验概率准则的形式, 考虑如下形式的拒绝域

其中似然比
的定义和贝叶斯情形类似：9

9
注意, 我们用 L
(x
) 表示基于随机观测 X
的观测值 x
的似然比的值. 另一方面, 最好在做实验之前将似然比看作随机变量, 观测 X
的函数, 记为 L
(X
). L
(X
) 的概率分布依赖于哪个假设是真的.

或

现在的情况下,
和
不再具有先验概率,拒绝域中的常数
可以自由地根据各种考虑确定.特殊情况
正好对应了最大似然准则.

例 9.10
现在想检验一个六面的骰子是否均匀, 构造了关于六个面出现的概率的两个假设：

这个骰子一次投掷 x
的似然比是

由于似然比只有两个单独的取值,临界值
所对应的拒绝域有三种不同的情况：

直观上看, 若投掷结果是1或2则倾向于接受
而拒绝
. 另一方面,如果将临界值选得太高(
)就永远不会拒绝
.事实上对于骰子的一次投掷, 检验只有当
时才有意义,因为
取其他值的时候, 决策本身并不依赖于观测.

不同的临界值犯错的概率可以根据数据算出. 特别地, 错误拒绝的概率
(拒绝
)为

错误接受的概率
(接受
)为

注意,在前面的例子中
的选择使得两种错误的概率之间有此消彼长的关系.事实上, 当
增大, 拒绝域变小. 因此,错误拒绝的概率
减小而错误接受的概率
增加(见图9.9).由于这种平衡的存在, 没有一种简单最优的方法来选择临界值.下面介绍一种最受欢迎的方法.

图 9.9　似然比检验中的犯错概率. 当临界值
增加, 拒绝域变小. 因此,错误拒绝的概率
减小而错误接受的概率
增加.当
对于
的依赖连续严格单调下降, 对于给定的
,只有唯一的
与之对应(见左图).但是
对于
的依赖也可能是不连续的,比如似然比
只有有限个不同的取值(见右图)

似然比检验

- 首先确定错误拒绝的概率
的目标值.

- 选择
的值使得错误拒绝的概率为
：

- 观测 X
的取值 x
, 若
则拒绝
.

根据错误拒绝的不愉快程度,
的典型选择是
或
. 注意在应用似然比检验时需要下面的条件.

(a) 对于给定的观测值 x
, 我们必须能够计算
,这样才能与临界值
作比较.所幸在给定分布列或概率密度函数的大部分情况下都可以做到.

(b) 必须有
(或相关随机变量如
)分布的表达式或者可以通过近似分析计算和模拟得到.因为给定错误拒绝概率
, 需要通过它来确定相应的临界值
.

例 9.11
一台监视器周期性地检查某个特定区域, 并记录下信号,
为没有入侵者(假设
),
为存在入侵者(假设
).假设 W
是零均值、已知方差为
的正态随机变量. 由于

似然比为

给定临界值
, 如果
, 似然比检验拒绝
. 或者等价地,经过直接计算, 若

则拒绝
.因此,拒绝域的形式为

其中
为某个常数, 称为临界值.
与
的关系为

见图9.10.当确定错误拒绝的概率
的目标值以后,可通过关系

和正态分布表来找
.比如, 若
, 则
.同样地, 还可以用正态分布表计算错误接受的概率

图 9.10　例9.11中的拒绝域和接受域,以及相应错误拒绝和错误接受的概率

当
是连续随机变量, 就像之前的例子, 概率
随着
的增长从1到0连续移动.因而可以找到
的一个取值满足
.但若
是离散的随机变量, 则未必能找到恰好满足
的
的取值(见例9.10).在这种情况下一般有几种选择.

(a) 寻找使等式近似成立的取值.

(b) 选择满足
的
的最小取值.

(c) 利用外来的随机性在两个候选临界值中作选择.这种检验方法称为“随机化似然比检验”.这种方法在理论研究上有影响.但是由于它在实际中并不十分重要, 本书对此不作深入讨论.

通过与贝叶斯推断的类比, 我们推动了似然比检验的应用.但现在要提出一个更强的结论：在给定的错误拒绝概率之下,似然比检验使得错误接受的概率达到最小.

内曼 - 皮尔逊引理

考虑在似然比检验中一个确定的
, 从而有犯错概率

假设还有其他检验, 拒绝域为 R
, 使得错误拒绝的概率一样或更小:

则有

当
成立时, 严格不等式
成立.

为证明内曼-皮尔逊引理, 考虑一个关于假设的贝叶斯决策问题,其中
和
的先验概率满足

即

如本节开始所讨论,利用最大后验概率准则得到的门限值为
,这与利用似然比检验准则得到的结论是一样的. 由最大后验概率准则知,犯错的概率为

由8.2节知它小于或等于任何其他贝叶斯决策准则的犯错概率.这说明任选拒绝域 R
都有

比较前面两个关系式得, 若
,则必须有
；若
, 则必须有
.这正是内曼-皮尔逊引理的结论.

内曼 - 皮尔逊引理可以用画图的方式来解释, 见图9.11.下面将用几个例子来说明这一引理.

图 9.11　内曼-皮尔逊引理的解释.考虑所有错误概率数对
的集合
,当 R
取遍所有可能的拒绝域(样本空间的子集).
的
有效边界是这样的向量
的集合：不存在
使得
且
,或者
且
.内曼 - 皮尔逊引理说的是似然比检验中所有的
都在有效边界上

例 9.12
接着考虑例9.10, 投掷骰子一次来检验它是否均匀.考虑所有错误概率数对
的集合
,其中 R
取遍所有可能的拒绝域(样本空间
的所有子集).图9.12中画出了集合
.可以看出似然比检验中的犯错概率数对(1,0),(1/3,1/2)和(0,1)具有内曼-皮尔逊引理给出的性质(比如落在有效边界上,见图9.11中的术语).

图 9.12　图中显示了例9.10和例9.12中所有错误概率数对
的集合
,其中 R
取遍观测空间
的所有子集.(1,0),(1/3,1/2)和(0,1)是似然比检验中的犯错概率数对

例 9.13(不同拒绝域的比较)
设观测为
和
,它们是独立同分布的单位方差正态随机变量.在
的假设下它们的共同均值是0,而在
的假设下它们的共同均值是2.设错误拒绝的概率为
.

首先根据似然比检验推导公式, 然后计算
的值.似然比的形式为

比较
和临界值
等价于比较
和
. 因而根据似然比检验,如果
则倾向于承认
. 这确定了拒绝域的形状.

为确定拒绝域的具体形式, 我们要找到
使得错误拒绝的概率
为0.05. 注意, 在
的假设下,
是标准正态随机变量, 则有

根据正态分布表,得到
,因而选择

得到拒绝域为

为评价这个检验的表现, 我们计算错误接受的概率. 在
的假设下,
服从均值为4方差为2的正态分布,因而
是标准正态随机变量. 根据正态分布表,错误接受的概率是

现在来比较似然比检验在不同的拒绝域
下的表现.比如考虑一个形式为

的拒绝域,其中
的选择使得错误拒绝的概率仍然为0.05. 为确定
的值,有

其中 Z
是标准正态的. 推出
. 由正态分布表得到
.

现在来计算相应错误接受的概率. 记 Z
是标准正态的随机变量, 于是

可以看见似然比检验的错误接受的概率
,比另一种检验错误接受的概率
要好很多.

例 9.14(一个离散的例子)
将一枚硬币独立地投掷25次.
：一次投掷正面向上的概率为
；
：一次投掷正面向上的概率为
.令 X
是观测到正面向上的次数. 固定错误拒绝的概率为0.1,似然比检验的拒绝域是什么呢？

当
, 似然比的形式为

注意
是关于 k
的单调增函数. 因此,拒绝条件
等价于
,其中
是依赖于
的一个合适的常数. 所以似然比检验为

若
,则拒绝
.

为保证满足错误拒绝概率, 需要找到使得
成立的最小
值, 即

通过计算不同
对应取值找到符合要求的
.

另一种选择
的方法用到中心极限定理的近似. 在
的假设下,

是近似标准正态随机变量.因而有

由正态分布表,
, 选择
满足
,即
. 由于 X
是整数,似然比检验在
的时候应当拒绝
.

9.4　显著性检验

在实际情况中, 假设检验问题并不总是包含两个特定的选择,因而9.3节的方法便不再适用. 本节的目的是介绍一类更一般的问题,并提供解决办法. 需要提醒的是,我们提供的方法既不是唯一的也不是普适的,判断力和技巧是很重要的组成部分.

可以考虑以下问题来开启思维.

(i) 重复独立投掷一枚硬币. 这枚硬币是均匀的吗？

(ii) 重复独立投掷一个骰子. 这颗骰子是均匀的吗？

(iii) 观测到一列独立同分布的正态随机变量
,它们是标准正态的吗？

(iv) 将得了同一种病的病人分成两组, 用两种不同的药治疗,第一种治疗比第二种更有效吗？

(v) 基于历史数据(比如去年的), 道琼斯指数每日的变化服从正态分布吗？

(vi) 基于两个随机变量 X
和 Y
的一些样本
,能够判断两个随机变量是否独立吗？

在上述所有情况中,我们都在处理具有不确定性并且具有某种统计规律的现象.在上述问题中,我们提出一个默认的假设, 称为原假设
,记作
.我们根据观测
来决定是拒绝还是接受原假设.

为避免主要思想上的含糊,要将我们的讨论范围限制在具有下列特征的情况中.

(a) 参数模型
：假设观测
服从完全由未知参数
(标量或向量)决定的联合分布列(离散情形)或联合概率密度函数(连续情形),
在给定的集合
中取值.

(b) 简单原假设
：原假设断言
的真值等于
中一个给定的元素
.

(c) 备择假设
：备择假设(记作
) 是说
不正确,即
.

前面的引例中,(i)~(ii)满足(a)~(c).而例(iv)~(vi)的原假设并不简单,违背了条件(b).

9.4.1　一般方法

我们首先通过一个具体的例子来介绍一般的方法.然后对不同的步骤进行总结和评论. 最后,再来看一些用一般方法能够解决的例子.

例 9.15(我的硬币均匀吗？)
投掷一枚硬币
次,每次投掷之间独立.
是未知的每次投掷正面朝上的概率.参数可能取值的集合是
.原假设(硬币是均匀的)是
. 备择假设是
.

观测数据是序列
, 代表 n
次投掷硬币的结果,第 i
次投掷的结果为正面朝上则
取值为1, 否则
取值为0.我们选择
的值, 即观测到正面朝上的次数,并用这样的决策准则：

若
则拒绝
,

其中
是待定的合适的临界值
.目前为止我们已经确定了拒绝域
R
(拒绝原假设的数据集合)的形状.最后要做的是选择临界值
使得错误拒绝的概率等于给定的值
：

(拒绝
)

典型的
是一个很小的数, 称为显著水平
,这个例子中取
.

到目前为止, 我们只是提供了一系列直观的操作法.确定临界值
需要一些概率计算. 在原假设下,随机变量 S
服从参数为
和
的二项分布.由于样本量很大的时候, 可利用正态分布逼近二项分布,再利用正态分布表可得到临界值的近似选择
.假设 S
的观测值为
, 则有

因而在5%显著水平下不拒绝假设
.

在上例的最后, 我们是故意说“不拒绝”而非“接受”的.我们没有任何确凿的证据说
等于1/2而不是0.51.我们只能说 S
的观测值没有提供有力的证据来反对假设
.

现在从前面的例子中总结归纳得到一种一般的方法.

显著性检验的方法

基于观测
, 将对假设“
”做统计检验.

- 以下步骤在得到观测数据之前完成.

(a) 选择统计量
S
,一个能够概括观测数据的随机变量. 从数学的角度上看,就是选择函数
使得统计量
.

(b) 确定拒绝域的形状
：拒绝域通常由 S
的取值组成的一个集合,当 S
落入这个集合时, 就拒绝
.在确定这个集合的时候,还涉及一个未定的常数
, 这个常数称为临界值.

(c) 选择显著水平
：错误拒绝
的概率
.

(d) 选择临界值

,使得错误拒绝的概率等于或近似等于
. 这时候,拒绝域就完全决定了.

- 一旦得到
的观测值
：

(i) 计算统计量 S
的值
.

(ii)若 s
落在拒绝域中, 拒绝假设
.

下面对上述方法中各个部分做一些解释和评论.

(i) 没有一种万能的方法来选择“正确”的统计量 S
. 在一些例子中,比如例9.15, 这种选择是自然的并且能从数学的角度证明其优良性能.另外, 我们还可以将似然比的概念进行推广, 得到有使用价值的 S
,这将在本节后一部分讨论. 最后, 在考虑 S
的选择的时候,一个重要的原则是：S
的简洁性,是否足够简单从而能够进行上面方法中步骤(d)的计算.

(ii) 不拒绝
的 S
取值的集合一般是包含(在
的假定下)S
的分布密度峰值的一个区间(见图9.13).当样本量很大的时候, 可利用中心极限定理.由于正态分布密度有对称点,可取关于 S
的均值对称的一个区间作为接受域. 类似地,例9.15中对称的拒绝域是根据事实在
下 S
的分布(参数为1/2的二项分布)关于其均值对称而建立的.其他例子中, 非对称的拒绝域可能更加合适. 比如在例9.15中,若事先我们能够确定
, 那么单边的拒绝域是自然的：

若
则拒绝
.

(iii) 一般错误拒绝的概率
在
和
之间选择.当然人们都希望错误拒绝的概率尽可能地小,但是由于两类错误概率的互相消长关系,
取值很小会使得拒绝错误假设变得困难,相应地增加了错误接受的概率.

(iv) 步骤(d)是唯一需要概率计算的地方.它需要知道
(或者相关随机变量如
)在假设
成立时的分布(或近似分布). 一些特殊情况中,可以是直接给出分布或者经过简单推导就可以得到分布.然而除了相对简单的情形, 一般很难找出 S
的分布的闭合式. 若 n
很大,可以利用中心极限定理求出近似分布. 但是, 当 n
不是很大的时候,就很难得到近似分布.这种想要得到易处理的表达式或近似公式的愿望驱使我们寻找更加实用的统计量 S
.另一种解决困境的途径是利用模拟的方式估计 S
的分布,例如产生大量独立的 X
的模拟样本, 根据
画出直方图或估计的分布.

图 9.13　显著性检验基于统计量 S
在原假设下的分布的双边和单边拒绝域.显著水平是错误拒绝的概率,也就是在
成立时统计量 S
落在拒绝域中的概率

给定
的值, 如果假设
被拒绝, 我们就说
在显著水平
之下被拒绝
. 这个说法需要一个合理的解释.它并不是说事件“
真实”的概率小于
.它说的是：利用这种检验方法时, “错误拒绝”的百分比为
.在1%的显著水平下拒绝一个假设意味着观测数据在
成立的模型中显得很不正常；这种数据只会以1%的可能性出现,因而为“
不真”提供了有力的证据.

很多时候, 统计学家跳过上述方法中的步骤(c)和步骤(d). 取而代之,他们计算 S
的真实值 s
并汇报相关的
p
-值
, 定义如下：

p
-值
在显著水平
之下被拒绝
.

等价地, p
-值就是 s
应当在拒绝与不拒绝分界所处位置的
值.因此举例来说,原假设在5%显著水平下被拒绝当且仅当 p
-值小于0.05.

下面将用一些例子来解释主要思想.

例 9.16(正态分布随机变量的均值等于零吗？)
假设
是独立正态随机变量,均值为
, 方差
已知. 考虑的假设检验问题是：

一个合理的统计量是样本均值
或者变换系数后的

拒绝域形状的自然选择是 拒绝
当且仅当
.因为在
为真的假定之下, S
服从标准正态分布,
相应于任意
的取值可以很容易的从正态分布表中找到.比如
, 由
可知,检验可如下执行：

若
则拒绝
,

或者等价地,

若
则拒绝
.

从单边的角度来考虑, 备择假设变为
.这时候可以用一样的统计量 S
, 但是当
时拒绝
,其中
根据
来取值. 同样, S
服从标准正态分布,
相应于任意
的取值可以很容易的从正态分布表中找到.

最后, 若
未知, 可以用估计来代替, 如

这时得到的统计量服从 t
-分布(而不是正态分布).若 n
相对较小,此时应该使用 t
-分布表而不是正态分布表(参见9.1节).

例9.17讨论复合型原假设
, 这意味着它不是由单一分布所确定的.

例 9.17(两个组的均值相等？)
我们现在想检验一种药物在治疗两个人数不同的小组中效果是否相同.分别从两组中抽取样本
和
,若药物治疗对第一组(或第二组)的第 i
个人有效则
(或
),否则
(或
). 将每个
(或
)看作伯努利随机变量,未知均值为
(或
), 并考虑假设

需要注意的是有很多对
都满足
,因而
是复合型假设.

两组的样本均值为

的一个合理的估计量是
.一个可接受的选择是拒绝
当且仅当

其中 t
值由给定错误拒绝概率
所确定.但是选择合适的 t
很困难,因为
在
下的分布由未明确的参数
和
决定.这激发了另一种统计量的发展, 我们接下来将要讨论这种方法.

对于很大的
和
,
和
近似正态且相互独立,因而
也是近似正态,均值为
, 方差是

在
的假设下,
的均值已知为零,但方差未知, 因为不知道
和
的共同取值. 另一方面,在
的假设下,
和
的共同取值可以用样本均值

来估计,方差
可以近似为

且
近似为标准正态随机变量.因而考虑采取下列方式完成检验

若
则拒绝
,

选择满足
的
, 其中
是标准正态分布的概率分布函数.比如
,得到拒绝域形式为

实际中,问题的提法还会有稍微的变化.10
此时应考虑假设

10
例如第二组病人的效果是否不如第一组病人的效果.——译者注

那么相应的拒绝域就是单边的,形式为

其中临界值是满足
的
.

上一个例子解释了复合型原假设的一类问题. 为确定合适的临界值,我们更希望能找到一个统计量,使得它的近似分布相对于原假设的所有参数值都一样,就像例9.17中的统计量
那样.

9.4.2　广义似然比和拟合优度检验

我们讨论的最后一个课题是：检验给定的分布列是否和观测数据保持一致.这是一个很重要的问题, 称为拟合优度检验
.这也是一个在复合备择假设情况下显著性检验的一般方法.

考虑一个在有限集合
上取值的随机变量,
是随机变量取值 k
的概率.因而这个随机变量的分布列由向量参数
刻画.考虑假设

其中
是一组给定的非负数,且和为1. 现在抽取随机变量的一个样本量为 n
的样本,令
是样本中结果为 k
的次数.这样实际观测得到的随机变量是
,观察值为
.注意

上面这种概率模型有很多实际背景,我们用掷骰子这种易于理解的例子加以说明,考虑 n
次独立地投掷一颗骰子, 原假设
是：骰子是均匀的.这时
,
是 n
次投掷中结果为 k
的次数. 注意备择假设
是复合的,因为
有很多选择.

下面介绍的方法是广义似然比检验
, 它包含两个步骤.

(a) 通过最大似然来估计模型,比如选择在所有
中使得似然函数
达到最大的参数向量
.

(b) 进行似然比检验, 具体地说,比较估计模型的似然函数
和
下的
.更具体地, 计算广义似然比

若它超过临界值
则拒绝
.和简单假设检验中一样,我们选择
使得错误拒绝的概率(近似)等于给定的显著水平
.

从本质上说, 这种方法提出了以下问题：相对于
下的模型,是否存在和
相符的模型对观测数据有更好的解释呢？为回答这个问题,我们比较在
下的可能
和相应于估计模型的最大可能
.

现在按广义似然比检验方法解决掷骰子中的检验问题.第一步,求似然函数在
的集合上的最大值点(最大似然估计).观测向量 X
的分布列是一个多项式(参见第2章习题27),似然函数是

其中 c
是归一化常数.在求最大值点时候, 求对数似然函数的最大值点会相对容易,其形式

此处利用关系式
消除了多余参数
.假设使似然函数达到最大的向量
的每一个分量都是正的,那么对数似然函数的各个偏导数在
处均为0. 利用这个性质,可以得到

其中

由于右边的项等于
,可知所有比值
都相等. 根据
得到

可以看出即使有
为零, 仍能得到正确的最大似然估计, 相应的
也为零.

现在计算广义似然比,得到如下的广义似然比检验11

11
这里运用约定
和
.

若
则拒绝
,

其中
是临界值. 在检验的不等式两边取对数, 检验变为

若
则拒绝
.

根据要求的显著水平来确定常数

其中

因为 S
在
下的分布很复杂, 要求出精确解并非易事,但可以通过模拟解决.

所幸当 n
很大的时候这可以大大简化. 这个时候,观测频率
在
下以很大的概率与
接近.二阶泰勒展式显示统计量
是 S
的很好的近似, 其中 T
是12

12
对任何
, 函数
的二阶泰勒展式为

当
时成立.因此,

进一步地, 当 n
很大的时候, 在
假设下,T
的分布(2S
的分布)逼近 “自由度为 m
-1 的
分布”.13
此分布的分布函数可以在表中查到(类似正态分布表). 因此,可以在
分布表中找到
或
的近似真值,然后根据给定的显著水平
来确定合适的临界值.将所有内容合起来, 对于较大的 n
有下面的检验.

13
自由度为 l
的
分布定义为随机变量

的分布,其中
是服从标准正态分布(均值为零,方差为1)的随机变量.可以从直观上来解释为什么 T
近似
分布：当
,
不仅收敛到
同时也是渐近正态的. 因此,T
等于 m
个零均值正态随机变量
的和.T
的自由度为 m
-1 而不是 m
, 这是因为
,从而 m
个随机变量是相关的.

检验

- 利用统计量

(或者相关的统计量 T
)以及拒绝域

进行检验(或相应的
).

- 临界值
依照自由度为 m
-1 的
分布的概率分布函数表确定,满足

其中
是给定的显著水平.

例 9.18(我的骰子均匀吗？)
独立地投掷一颗骰子共600次,得到数字1, 2, 3, 4, 5, 6出现的次数分别为

现在用基于 T
统计量的
检验来检验原假设
(骰子是均匀的),显著水平为
.根据自由度为5的
分布表得到满足
的
.

由
以及给定的
, T
统计量的值是

因为
, 无法拒绝骰子是均匀的假设. 如果用的是 S
统计量, 得到的是 2S
=6.86,同样小于临界值
. 如果显著水平
, 相应的
值为6.63. 这时由于
和
, 我们将拒绝骰子是均匀的假设.

9.5　小结和讨论

经典推断方法和贝叶斯方法不同, 它将
看作未知的常数.经典参数估计的目标是在
所有可能的取值中找出具有良好性质(如对一切
,偏差很小,或具有满意的置信区间)的估计量.我们首先关注与(贝叶斯)最大后验概率方法密切相关的最大似然估计,它选择
的估计使得给定 x
的似然函数最大.这种估计方法用途很广并且有一些很好的性质,特别是当观测数目很大的时候.接着我们讨论了特殊但是在实际情况中很重要的估计未知均值并建立置信区间.本章中很多方法都依赖于中心极限定理. 最后讨论的是线性回归方法,它主要是在最小二乘意义下找到与观测相匹配的线性模型.虽然这种方法的应用不需要概率假设,但是在某些时候仍和最大似然估计以及贝叶斯最小线性均方估计有着密切的关系.

经典假设检验方法的目标是小的犯错概率以及简单方便的计算.我们首先研究的是当观测落在拒绝域中时拒绝原假设的检验方法.似然比检验是简单假设检验问题的基本方法,内曼 - 皮尔逊引理给其很强的理论支持.我们还讨论了显著性检验, 其中一个(或两个)假设是复杂的假设.主要方法包括适当选择提取观测信息的统计量以及拒绝域,使得错误拒绝的概率达到希望的显著性水平.

在对统计的简单介绍中, 我们旨在阐述核心概念和最常用的方法,但这还远远不够, 只是涉及这个内容丰富的学科的一点皮毛而已.很多重要的话题我们都没有讨论,比如时间变化的环境中的估计(时间序列分析和过滤),非参数估计(如基于经验数据来估计未知的概率密度函数), 线性和非线性回归的后续发展(如检验回归模型的假设是否正确),统计实验的设计方法, 统计研究结论的证实方法, 计算方法, 等等. 但是,我们希望能够通过本章的知识激起读者对这门学科的兴趣并对概念框架有一些基本的认识.

习题

9.1 节　经典参数估计

1
. 爱丽丝将自己每周做作业的时间看作随机变量,服从未知参数为
的指数分布. 不同周做作业的时间是相互独立的.本学期的前五周她做作业的时间分别为10、14、18、8、20小时,那么
的最大似然估计是多少？

2
. 考虑一列独立的硬币投掷试验,
是每次正面向上的概率.

(a)
固定 k
,N
是直到出现第 k
次正面向上时投掷的总次数.试找出基于 N
的
的最大似然估计.

(b)
固定 n
, K
是 n
次投掷中正面向上的次数.试找出基于 K
的
的最大似然估计.

3. 抽样与和的估计.
一个盒子中有 k
个球：
个白色和
个红色的. 假设 k
和
均已知.每个白球上都有一非零数字, 而红球上的数字都是零.我们想要估计球上所有数字的和, 但是由于 k
很大,于是用抽样的方法来估计.此问题的目的是量化从白球(非零数字)中抽样以及挖掘对
的认识的好处.特别地,将比较抽 n
个球时的误差方差和抽少一些的 m
个白球时的误差方差.

(a)
假设独立地有放回地抽球, 其分布为均匀分布.记
为第 i
个球上的数字,
为第 i
个白球上的数字.固定 n
和 m
, 记

其中
是开始的 n
个球中白球的(随机的)个数.说明
、
和
是所有球上数字和的无偏估计.

(b)
计算
和
的方差,并说明为了使它们近似相等, m
必须满足

其中
. 指出当
时有

(c)
计算
的方差,并说明对于较大的 n
有

4. 混合模型.
随机变量 X
的概率密度函数由 m
个部分组成

其中

因此 X
可以看作由两步过程产生的：首先随机地以概率
抽取 j
,然后再从第 j
个总体(其分布密度为
)随机抽取相应的
.假设
是正态的, 均值
, 方差
.此外还假设
是
的独立同分布样本.

(a)
写出似然函数和对数似然函数.

(b)
考虑 m
=2 和 n
=1 的情形,假设
、
、
和
是已知的.试找出
和
的最大似然估计.

(c)
考虑 m
=2 和 n
=1 的情形,假设
、
、
和
是已知的.试找出
和
的最大似然估计.

(d)
考虑
和 n
的一般情况, 假设所有的参数都未知.说明让
以及
减小到零的时候,似然函数可以任意大. 注意
：这个例子说明最大似然方法是有问题的.

5
. 设不稳定的粒子从某个源发出,并在服从参数
的指数分布的距离 X
湮灭.用一种特殊的装置测出最初的 n
次湮灭发生在区间
.假设这些事件记录的距离为
.

(a)
试写出似然以及对数似然函数的形式.

(b)
假设
且
.画出似然函数以及对数似然函数关于
的图.在你的图中找出近似的最大似然估计.

6
. 在一项中学生身高的研究中,假设女生的身高是均值
和方差
的正态分布,男生的身高是均值
和方差
的正态分布.并假设抽出一名男生和一名女生的概率是相等的.现收集了数量为 n
=10 的样本, 记录值(cm)如下

(a)
假设
、
、
和
是未知的.写出似然函数.

(b)
假设已知
和
.给出
和
的最大似然估计的数值.

(c)
假设已知
.给出
和
的最大似然估计的数值.

(d)
将(c
)中的估计作为准确值,描述利用学生身高来判断学生性别的最大后验概率准则.

7. 泊松分布随机变量的参数估计.
利用独立同分布泊松随机变量的观测值
,推导参数的最大似然估计. 这个估计量是无偏且相合的吗？

8. 均匀分布随机变量的参数估计(I).
给定
上均匀分布随机变量的独立同分布观测值
.
的最大似然估计是什么？它是相合的吗？无偏还是渐近无偏？你能构造一个另一个无偏的估计量吗？

9. 均匀分布随机变量的参数估计(II).
给定
上均匀分布随机变量的独立同分布观测值
.试找出
的最大似然估计. 它是相合的吗？无偏还是渐近无偏？

10
. 触动某光源, 它每次将发射随机数量 K
个光子.假设 K
的分布列是

其中
是温度的倒数,
是归一化因子. 假设每次触动发射的光子是独立的.现在想要通过重复触动光源, 记录发射的光子数量来估计温度.

(a)
确定规范化因子
.

(b)
找出一次触动发出光子数 K
的期望和方差.

(c)
根据 n
次触动发出的光子数
,推导温度
的最大似然估计.

(d)
证明此最大似然估计是相合的.

11.* 充分统计量 - 因子分解准则.
考虑如下观测模型. 为简单起见假设所有的随机变量都是离散的,初始观测 T
由分布列
给出. 得到观测 T
,另一个观测 Y
由不含未知参数
的条件分布列
得到.直观告诉我们在观测向量
中只有 T
对估计
是有用的.正是这个问题形成充分统计量的思想.

给定观测
,称(标量或向量)函数
是
的充分统计量
, 如果 X
在给定随机变量
的情况下的条件分布不依赖于
,也就是对于任何事件 D
和随机变量 T
的可能的取值 t
,

对所有
是一样的.假设或者 X
是离散的(在这种情况下 T
也离散),或者 X
和 T
都是连续型随机变量.

(a)
证明：
是
的充分统计量当且仅当满足下面的因子分解准则
：似然函数
(离散情形)或
(连续情形)可以写成
的形式,其中 r
和 s
是两个函数.

(b)
证明：如果
是
的充分统计量,对
的任何函数 h
,
都是参数
的充分统计量.

(c)
证明：如果
是
的充分统计量,
的最大似然估计可以写成
,其中
是一个函数. 注意
：这说明充分统计量抓住了由 X
提供的关于
的所有核心信息.

解
(a)
只考虑离散情形,连续情形的证明类似. 假设似然函数可以写作
.我们来说明
是充分统计量.

固定 t
考虑使得
的
.对任何满足
的 x
, 由条件概率的定义, 立即可得
对所有的
成立.现在考虑使得
的 x
. 利用事实
, 有

因而
不依赖于
.这说明对于任意事件 D
, 条件概率
对所有满足
的
都一样,因而 T
是充分统计量.

反之, 假设
是充分统计量.对以任意满足
的 x
,似然函数为

由于 T
是充分统计量, 右边第一项不依赖于
, 就是
的形式.第二项可写成
和
的函数,即可以写成
的形式.

(b)
这是由充分统计量的定义就可以证明的,因为对
有

所以
对所有的
是一样的.

(c)
根据(a
), 似然函数可以分解为
.因而最大似然估计在所有
中使
最大(若
)或者在所有
中使
最小(若
),因而
只通过
依赖于 x
.

12.* 充分统计量的例子(I)
. 在以下情况中证明
是充分统计量.

(a)

是参数为
的独立同分布的伯努利随机变量.

(b)

是参数为
的独立同分布的泊松随机变量.

解
(a)
似然函数为

因而可以将它分解为函数
和常函数
的乘积,前者只通过
依赖于 x
. 根据因子分解准则得知其为充分统计量.

(b)
似然函数为

因而可以将它分解为函数
和函数
的乘积,前者只通过
依赖于 x
而后者只与 x
有关.根据因子分解准则得知其为充分统计量.

13.* 充分统计量的例子(II)
.
是均值
和方差
的独立同分布正态随机变量.证明：

(a)
若
已知,则
是
的充分统计量.

(b)
若
已知,则
是
的充分统计量.

(c)
如果
和
都未知,则
是
的充分统计量.

解
利用例9.4的计算和因子分解准则.

14.* 拉奥 - 布莱克韦尔定理
. 这个问题是的要义是：一个一般的估计量,可以改进为只依赖于充分统计量的估计量.设给定观测
,
是参数
的充分统计量,
是
的一个估计量.

(a)
证明
对所有
都一样.因此可以去掉下标
, 将

看作
的一个新估计量, 它只通过 T
依赖于 X
.

(b)
证明估计量
和
的偏差相等.

(c)
证明对满足
的
,

进一步地, 给定
,此不等式是严格的当且仅当

解
(a)
因为
是充分统计量,条件分布
不依赖于
, 因而
也不依赖于
.

(b)
利用条件期望的性质

可知
和
的偏差相等.

(c)
对固定对
,将
和
的偏差记为
. 根据全方差定律有

且不等式是严格的当且仅当

15
.* 设
是
上独立同分布的均匀分布随机变量.

(a)
证明 T
=max
i
=1,...n

X

i

是充分统计量.

(b)
证明
是无偏估计.

(c)
找出估计量
的形式,计算并比较
和
.

解
(a)
似然函数为

只通过 q
(x
)=max
i
=1,...n

x

i

依赖于 x
. 根据因子分解准则得知其为充分统计量.

(b)
有

(c)
在事件
中, 一个观测
等于 t
.剩下的 n
-1 个观测服从区间[0,t
]上的均匀分布, 条件期望为 t
/2.这样,

因此

下面来计算两个估计量
和
的均方误差.为此要计算
的一阶矩和二阶矩. 有

为找二阶矩, 首先确定 T
的概率密度函数.对
, 有
,微分得
. 因此,

因为
的均值是
, 其均方误差和方差相等, 且

类似地,
的均方误差也和其方差相等, 即

可以看出对正整数 n
有
. 所以

符合拉奥 - 布莱克韦尔定理.

9.2 节　线性回归

16
. 一家电力公司想要估计消费者日用电量和夏天每日温度(华氏温标)之间的关系.收集数据见下表.

温度

96

89

81

86

83

73

78

74

76

78

用电量

23.67

20.45

21.86

23.28

20.71

18.21

18.85

20.10

18.48

17.94

(a)
建立可用来预测用电量(温度的函数)的线性回归模型并估计参数.

(b)
若某天温度是90度(华氏度), 试预测当天的用电量.

17
. 下表给出5个数据对
,

_x_

0.798

2.546

5.005

7.261

9.131

_y_

-2.373

20.906

103.544

215.775

333.911

想对 x
和 y
的关系建立模型. 考虑线性模型

以及二次模型

其中
和
是附加噪声项,视为独立零均值正态随机变量,方差分别为
和
.

(a)
找出线性模型参数的最大似然估计.

(b)
找出二次模型参数的最大似然估计.

(c)
假设这两个模型为正确模型的概率是一样的,噪声项
和
的方差也一样：
.用最大后验概率准则从两个模型中做出选择.

18
.* 线性回归中的无偏性和相合性**.考虑概率范畴下的回归, 假设
, 其中
是独立同分布的零均值正态随机变量,方差为
. 给定
和
的实际值
,
和
的最大似然估计由9.2节中的线性回归公式给出.

(a)
证明
和
的最大似然估计是无偏的.

(b)
证明估计量
和
的方差分别是

它们的协方差是

(c)
证明若
且
在
时被一个常数控制,则有
和
. (据此以及切比雪夫不等式可知,
和
都是相合的.)

注意
：尽管在本题中假定
是正态的(在求最大似然估计量时要用到
的分布),但是后面的论证说明即使没有这个假设, 估计量仍然是无偏且相合的.

解
(a)
将
和
的真实值分别记为
和
.已知

其中
,并将
看作常数.记
,则有

以及

因此

这里用到事实
. 由于
, 我们得到

同样由

和事实
以及
得到

因此估计量
和
是无偏的.

(b)
现在来计算两个估计量的方差.利用(a
)中推导关于
的公式和
的独立性, 有

类似的用(a)中推导关于
的公式有

由于
以及
对所有 i
成立, 于是得到

组合最后三个等式, 得到

二项展开
得到

组合前面两个等式,得到

最后来计算
和
的协方差.有

或者

由于之前说过
, 最终得到

(c)
若
,由(b)中推导的表达式可知
.进一步由(b)中公式

以及假设
被一常数控制可知
.

19.* 线性回归中的方差估计
.在和18题相同的假设条件下, 证明

是
的无偏估计量.

解
令
用公式
和
的表达式得到

两边取期望得到

同时有

组合4个等式并化简, 得到

9.3 节　简单假设检验

20
. 随机变量 X
由正态概率密度函数刻画, 均值
,方差或者是
(假设
)或者是
(假设
).对于这样的一个简单假设检验问题,我们采用拒绝域

其中
是待定的临界值.设错误拒绝概率为0.05,相应的
等于多少?相应错误接受的概率是多少？

21
. 已知正态随机变量 X
的均值为60,标准差为5(假设
)或8(假设
).

(a)
考虑用一个简单样本 x
来做假设检验.拒绝域的形式为

在错误拒绝
的概率为0.1的情况下确定
的取值.相应错误接受的概率是多少？ 如果以同样的错误拒绝概率,用似然比检验会改变拒绝域吗？

(b)
考虑用 n
个样本
来做假设检验.拒绝域的形式为

其中
使得错误拒绝
概率为0.1.错误接受的概率随着 n
的改变如何变化？就这种检验的恰当之处做个总结.

(c)
用 n
个观察值
来推导似然比检验的构成.

22
. 有两个关于给定硬币正面向上概率的假设：
(假设
) 和
(假设
).设 X
是 n
次投掷中正面朝上的次数, 当 n
足够大时,X
的分布可以合理近似为正态分布. 对于这样的简单假设检验问题,若 X
大于某个合适的选择值
则拒绝
.

(a)
当错误拒绝的概率小于或等于0.05时,
的取值应该是多少？

(b)
为保证错误拒绝和错误接受的概率都不超过0.05,n
的最小值是多少？

(c)
当 n
取(b
)中的值,以相同的错误拒绝概率做似然比检验, 此时错误接受的概率是多少？

23
. 票务公司一天内接到电话的总数服从泊松分布. 平常日,电话数的期望值是
；城里有热门演出的一天,电话数的期望为
, 且
.描述根据电话总数判断城里是否有热门演出的似然比检验.假设给定了错误拒绝的概率, 写出临界值
的表达式.

24
. 有一批灯泡, 其寿命为独立同分布的指数分布随机变量,参数为
(假设
)或
(假设
).对于这个假设检验问题,测量 n
个灯泡的寿命值. 求出相应的似然比检验的拒绝域.假设错误拒绝
的概率给定, 写出临界值
的解析表达式.

9.4 节　显著性检验

25
. 设 X
是均值为
方差为1的正态随机变量.现在想利用 X
的 n
个独立观察值, 在5%显著水平下检验假设
.

(a)
样本均值在什么范围内就接受假设？

(b)
令n
=10.计算在
的真实值是4的情况下接受
的概率.

26
. 从未知均值
和方差
的正态分布中抽取五个独立观察值.

(a)
若样本值为8.47、10.91、10.87、9.46、10.40,估计
和
.

(b)
利用(a)中的估计和 t
-分布表,在95%显著水平下检验假设
.

27
. 两个岛上生长了同一种植物.假设植物在第一个(或第二个)岛上的寿命(按天计算)服从未知均值
(或
)和方差
(或
)正态分布.现在从每个岛上获得10个独立观察值, 我们想检验假设
.相应样本均值是
和
.问数据在95%显著性水平下支持假设吗？

28
. 一家公司在考虑购买一台制造某种零件的机器. 测试时,机器制造的600个零件中28个有缺陷.问数据是否在95%显著水平下支持假设“机器的缺陷率小于3%”?

29
. 设泊松随机变量的五个独立观察值为：34、35、29、31、30.在5%显著水平下检验均值是否等于35.

30
. 一台监视器周期性地检查某个特定区域,并根据是否有入侵者记录信号,
为没有入侵者(此为原假设
),
为存在入侵者, 其中
非负未知.假设 W
是零均值、方差
的正态随机变量.

(a)
得到一个观测值
.在5%显著水平下是否拒绝
?

(b)
得到五个观测值X
=0.96、-0.34、0.85、0.51、-0.24.在5%显著水平下是否拒绝
?

(c)
重复(b), 用t
-分布, 并假设方差
未知.

附表

几个特殊离散随机变量的小结

在[a
, b
]上的均匀分布：

参数为 p
的伯努利分布：刻画单个试验的成功或失败.

参数为 p
和 n
的二项分布：刻画 n
个独立的伯努利试验中的成功数.

参数为 p
的几何分布：刻画在一列独立的伯努利试验中直到出现第一次成功前的试验数.

参数为
的泊松分布：当 n
很大、p
很小时近似为二项分布,且有
.

几个特殊的连续随机变量的小结

在[a
, b
]上的连续均匀分布：

参数为
的指数分布：

参数为
和
的正态分布：

标准正态分布表

0.00

0.01

0.02

0.03.

0.04

0.05

0.06

0.07

0.08

0.09

0.0

0.5000

0.5040

0.5080

0.5120

0.5160

0.5199

0.5239

0.5279

0.5319

0.5359

0.1

0.5398

0.5438

0.5478

0.5517

0.5557

0.5596

0.5636

0.5675

0.5714

0.5753

0.2

0.5793

0.5832

0.5871

0.5910

0.5948

0.5987

0.6026

0.6064

0.6103

0.6141

0.3

0.6179

0.6217

0.6255

0.6293

0.6331

0.6368

0.6406

0.6443

0.6480

0.6517

0.4

0.6554

0.6591

0.6628

0.6664

0.6700

0.6736

0.6772

0.6805

0.6844

0.6879

0.5

0.6915

0.6950

0.6985

0.7019

0.7054

0.7088

0.7123

0.7157

0.7190

0.7224

0.6

0.7257

0.7291

0.7324

0.7357

0.7389

0.7422

0.7454

0.7486

0.7517

0.7549

0.7

0.7580

0.7611

0.7642

0.7673

0.7704

0.7734

0.7764

0.7794

0.7823

0.7852

0.8

0.7881

0.7910

0.7939

0.7967

0.7995

0.8023

0.8051

0.8078

0.8106

0.8133

0.9

0.8159

0.8186

0.8212

0.8238

0.8264

0.8289

0.8315

0.8340

0.8365

0.8389

1.0

0.8413

0.8438

0.8461

0.8485

0.8508

0.8531

0.8554

0.8577

0.8599

0.8621

1.1

0.8643

0.8665

0.8686

0.8708

0.8729

0.8749

0.8770

0.8790

0.8810

0.8830

1.2

0.8849

0.8869

0.8888

0.8907

0.8925

0.8944

0.8962

0.8980

0.8997

0.9015

1.3

0.9032

0.9049

0.9066

0.9082

0.9099

0.9115

0.9131

0.9147

0.9162

0.9177

1.4

0.9192

0.9207

0.9222

0.9236

0.9251

0.9265

0.9279

0.9292

0.9306

0.9319

1.5

0.9332

0.9345

0.9357

0.9370

0.9382

0.9394

0.9406

0.9418

0.9429

0.9441

1.6

0.9452

0.9463

0.9474

0.9484

0.9495

0.9505

0.9515

0.9525

0.9535

0.9545

1.7

0.9554

0.9564

0.9573

0.9582

0.9591

0.9599

0.9608

0.9616

0.9625

0.9633

1.8

0.9641

0.9649

0.9656

0.9664

0.9671

0.9678

0.9686

0.9693

0.9699

0.9706

1.9

0.9713

0.9719

0.9726

0.9732

0.9738

0.9744

0.9750

0.9756

0.9761

0.9767

2.0

0.9772

0.9778

0.9783

0.9788

0.9793

0.9798

0.9803

0.9808

0.9812

0.9817

2.1

0.9821

0.9826

0.9830

0.9834

0.9838

0.9842

0.9846

0.9850

0.9854

0.9857

2.2

0.9861

0.9864

0.9868

0.9871

0.9875

0.9878

0.9881

0.9884

0.9887

0.9890

2.3

0.9893

0.9896

0.9898

0.9901

0.9904

0.9906

0.9909

0.9911

0.9913

0.9916

2.4

0.9918

0.9920

0.9922

0.9925

0.9927

0.9929

0.9931

0.9932

0.9934

0.9936

2.5

0.9938

0.9940

0.9941

0.9943

0.9945

0.9946

0.9948

0.9949

0.9951

0.9952

2.6

0.9953

0.9955

0.9956

0.9957

0.9959

0.9960

0.9961

0.9962

0.9963

0.9964

2.7

0.9965

0.9966

0.9967

0.9968

0.9969

0.9970

0.9971

0.9972

0.9973

0.9974

2.8

0.9974

0.9975

0.9976

0.9977

0.9977

0.9978

0.9979

0.9979

0.9980

0.9981

2.9

0.9981

0.9982

0.9982

0.9983

0.9984

0.9984

0.9985

0.9985

0.9986

0.9986

3.0

0.9987

0.9987

0.9987

0.9988

0.9988

0.9989

0.9989

0.9989

0.9990

0.9990

3.1

0.9990

0.9991

0.9991

0.9991

0.9992

0.9992

0.9992

0.9992

0.9993

0.9993

3.2

0.9993

0.9993

0.9994

0.9994

0.9994

0.9994

0.9994

0.9995

0.9995

0.9995

3.3

0.9995

0.9995

0.9995

0.9996

0.9996

0.9996

0.9996

0.9996

0.9996

0.9997

3.4

0.9997

0.9997

0.9997

0.9997

0.9997

0.9997

0.9997

0.9997

0.9997

0.9998

注: 表中的项提供了
的值, 其中 Y
是标准正态随机变量,
.例如要查找
的值,我们只需在1.7这一行中找与0.01对应那一列的数值.故
当 y
为负值的时候,可利用公式
计算
的值

看完了

如果您对本书内容有疑问，可发邮件至contact@turingbook.com，会有编辑或作译者协助答疑。也可访问图灵社区，参与本书讨论。

如果是有关电子书的建议或问题，请联系专用客服邮箱：ebook@turingbook.com。

在这里可以找到我们：

- 微博 @图灵教育 : 好书、活动每日播报

- 微博 @图灵社区 : 电子书和好文章的消息

- 微博 @图灵新知 : 图灵教育的科普小组

- 微信 图灵访谈 : ituring_interview，讲述码农精彩人生

- 微信 图灵教育 : turingbooks

图灵社区会员 人民邮电出版社（zhanghaichuan@ptpress.com.cn） 专享 尊重版权