概率论

【MachoMeng:由于服务器在国外,加载可能会有些缓慢,请耐心等待】

欢迎关注

前言:

力学如力耕,勤惰尔自知。但使书种多,会有岁稔时。

于万千的人群中,于无际涯的时光里,没有早一步,也没有晚一步,我们在此处相遇。有几许命运,也有几分注定。在下面六十四个学时里,望我们彼此尊重,互相帮助,共同努力,共同进步!

——李庆芳老师寄语

绪论:

内容太多,挑了一个有意思的:

《红楼梦》第六十二回 憨湘云醉眠芍药裀 呆香菱情解石榴裙【探春笑道:“倒有些意思,一年十二个月,月月有几个生日。人多了,便这等巧,也有三个一日、两个一日的。】

问题:生日,只论某月某日,不论某年,假定一年有365天,问366个人中至少有两个人在同一天过生日的可能性有多大?那64个人中至少有两个人在同一天过生日的可能性又有多大? (大还是小?)

结果:大

生日问题


目录(默认关闭,点击展开):

展开目录找的更快

点击展开目录

第一章:基本概念

一、随机试验:

1、随机现象

  1. 确定性现象:在一定条件下必然发生的现象称为确定性现象.
  2. 随机现象:在一定条件下可能出现也可能不出现的现象称为随机现象.

2、随机试验

  1. 可以在相同的条件下重复地进行;
  2. 每次试验的可能结果不止一个,并且能事先明确试验的所有可能结果
  3. 进行一次试验之前不能确定哪一个结果会出现。

二、样本空间、随机事件

1、样本空间

  1. 随机试验 的所有可能结果组成的集合称为 的样本空间。记为

2、样本点

  1. 样本空间的元素,即试验 的每一个结果,称为样本点.

3、随机事件

  1. 随机试验 的样本空间 的子集称为 的随机事件, 简称事件。
  2. 每次实验中,当且仅当这一子集中的一个 样本点出现 时称这一事件发生.由一个样本点组成的单点集, 称为 基本事件.
  3. 样本空间包含所有的样本点. 它是自身的子集,在每次实验中它总是发生的, 称为 必然事件
  4. 空集不包含任何点。它也作为样本空间的子集,它在每次实验中都不发生,称为 不可能事件

必然事件的对立面是不可能事件,不可能事件的对立面是必然事件, 它们互称为 对立事件.

4、对立事件和互斥事件

互斥事件:事件的交集为空,就是互斥事件,也叫互不相容事件。也可叙述为:不可能同时发生的事件。

对立事件:其中必有一个发生的两个互斥事件叫做对立事件。非此即彼!

对立一定是互斥的,但互斥不一定是对立。即对立是互斥的特殊形式。

5、随机事件间的关系及运算

设试验的样本空间为,而的子集.

符号 解释 含义
事件B包含事件A(或者事件A含于事件B) A发生必然导致B发生
事件A和事件B相等 A=B
当且仅当AB至少一个发生 和事件
当且仅当AB同时发生 积事件
当且仅当A发生B不发生 差事件
事件AB不能同时发生 AB互斥
AB对立,互为逆事件

6、德摩根律

口诀:长线变短线,开口变方向。

三、频率与概率

1、频率的定义

在相同条件下,进行了次试验,在这次试验中,事件发生的次数称为事件A发生的频数,比值称为事件发生的频率,记为

2、频率的性质

是随机试验的任一事件,则

  1. 是两两互不相容,则

频率大小表示事件A发生的频繁程度.频率大事件A发生就越频繁,这就意味着事件A在一次试验中发生的可能性就越大。

3、概率的定义

定义 :设是随机试验,是它的样本空间。对于的每一事件赋予一个实数,记为,称为事件的概率。如果集合函数 P(·)满足条件:

  1. 非负性:对于每一个事件,有;
  2. 规范性:对于必然事件,有;
  3. 可列可加性:设是两两互不相容的事件,即对于

4、概率的性质(重要)

  1. 有限可加性:若是两两互不相容事件,则有(互斥事件和事件的概率=概率和)
  2. 是两个事件,若,则有;
  3. 性质3的推广: 一般性减法公式:
  4. 一般性加法公式:
  5. 一般性加法公式推广:加奇减偶
  6. 特殊性加法公式:当互斥时:

四、等可能概型

注:此处排列组合只做简单介绍,详细相关内容请移步:

1
https://www.cnblogs.com/1024th/p/10623541.html

1、排列

  1. 排列:
  2. 全排列:

2、组合

  1. 组合:

3、加法原理

绿色种方法,浅紫色种方法,完成共种方法。

加法

4、乘法原理

第一步种,第二种种,共种方法。

乘法

5、古典概型

  1. 定义
  • 试验的样本空间只包含有限个元素;
  • 试验中每个基本事件发生的可能性相同;

​ 2.古典概型计算公式

  1. 抛硬币
  2. 摸球
  3. 分球入盒(生日问题)
  4. 抽签模型(第一个人和第n个人概率一样)
  5. 随机取数(最小公倍数)
  6. 平均分配问题
  7. 几何概型

五、条件概率

1、定义

是两个事件,且,称为在事件发生的条件下事件发生的概率.

2、性质

大部分和前面的类似,就是多加了一个条件

  1. 非负性
  2. 规范性
  3. 可列可加性
  4. 一般性:
  5. 或者(注意条件一样即可)
  6. 乘法定理:
  7. 乘法定理推广:

3、全概率公式

样本空间的划分

思想:化整为零,由因求果

4、贝叶斯公式

样本空间的划分

六、独立性

1、定义

两事件,若满足相互独立。

注意:相互独立和互斥不能同时独立

2、定理

  1. 是两个事件且相互独立,则,反之亦然
  2. 若事件和事件相互独立,则也相互独立。

3、三个事件独立

设A,B,C为三个事件,若满足以下:

则ABC相互独立

注意:三个事件相互独立三个事件两两相互独立

4、个事件相互独立(推广 )

个事件,如果对于任意,任意,具有等式,则称 为相互独立的事件,

注意:个事件相互独立个事件两两相互独立

第二章:一维随机变量及其分布

一、随机变量

1、定义

设随机试验的样本空间,是定义在样本空间上的单值实值函数称为随机变量.

样本点与实数对应示意图

二、离散型随机变量及其分布律

1、定义

若随机变量X的所有可能取值是有限多个或可列无限多个, 则称为离散型随机变量.

2、分布律

设离散型随机变量所有可能取的值为取各个可能值的概率,即事件的概率,为 称此为离散型随机变量的分布律

3、分布律的表示方法

  1. 解析式法
  2. 列表法
  3. 矩阵法
  4. 图表法

4、分布(两点分布)

定义:

设随机变量X只可能取两个值,其分布是:则称服从以为参数的分布(两点分布)

分布律:

两点分布分布律

5、伯努利试验

设试验独立可重复进行次,称为重伯努利试验.

独立:前一次的结果,不影响后一次的概率

可重复:概率相同

5、二项分布

二项分布为两点分布的推广形式,记为服从。特别的,当n=1时,为两点分布。

分布律:

img

二项式定理:可以证明二项分布的规范性

6、泊松分布

设随机变量所有可能的取值为而各个值的概率为其中是常数,则称服从参数为的泊松分布,记为

证明其规范性需要用到泰勒公式

泊松定理:

是一个常数,是任意正整数,设,则对于任一固定的非负整数,

二项分布的极限是泊松分布

三、随机变量的分布函数

1、引入

对于随机变量, 我们不仅要知道 取哪些值, 要知道 取这些值的概率 ; 而且更重要的是想知道 在任意有限区间内取值的概率.。

2、定义

是一个随机变量,是任意实数,函数,称为X的分布函数。

几何意义

3、性质

  1. 是一个不减函数
  2. 是右连续的

跳跃值就是间断点的概率值

4、重要公式

四、连续型随机变量及其概率密度

1、概率密度

对于随机变量的分布函数存在非负可积函数使得对任意实数则称为连续型随机变量,为概率密度。

2、概率密度性质

  1. 非负性:
  2. 规范性:
  3. 对于任意的,
  4. 在点处连续,则有

注意:对于连续型随机变量来说,它取任一指定实数值的概率均为0

3、均匀分布

区间长度的倒数

4、指数分布

若连续型随机变量X的概率密度为:其中为常数,则称服从参数为的指数分布。

越大,曲线越平

重要性质:无记忆性。对于任意,有

5、正态分布

若连续型随机变量X的概率密度为:

概率积分:

  1. 对称轴:
  2. 时取得最大值为
  3. 处曲线有拐点
  4. 是位置参数,是形态参数(越小,图像瘦高;越大,图像胖矮)

6、标准正态分布

一般正态分布标准正态分布:

服从,则服从

五、随机变量的函数分布

1、离散型

逐点代入,有重复,便合并

2、连续型

  • 分布函数求导法

表示待求的

关于y求导

  • 套公式法

其中的反函数

第三章:多维随机变量及其分布

一、二维随机变量

是一个随机试验,它的样本空间是,设是定义在上的随机变量,由它们构成的一个向量(X,Y),叫做二维随机向量或二维随机变量.

1、定义

是二维随机变量,对于任意实数二元函数: 称为二维随机变量的分布函数,或称为随机变量的联合分布函数.

几何意义

2、性质

  1. 不减函数
  2. 对于任意固定的,对于任意固定的
  3. ,
  4. 关于右连续,关于右连续

3、联合分布律

  1. 定义:设随机变量的所有可能的取值为取相应值的概率为称上式为二维离散型随机变量的分布律,或称为的联合分布律.

    img

4、二维连续型随机变量

  1. 定义:设二维随机变量若存在非负可积函数,使得对任意实数若有则称为二维连续型随机变量,称的概率密度函数,或称为的联合概率密度。
  2. 性质:非负性、规范性
  3. 对于平面上任一区域G:二重积分的几何意义是曲顶柱体的体积。

5、维随机变量的概念(推广)

  1. 定义:

是一个随机试验,它的样本空间是,设是定义在上的随机变量,由它们构成的一个维随机向量或维随机变量。

对于任意个实数元函数称为n维随机变量的分布函数或随机变量的联合分布函数.

二、边缘分布

1、边缘分布函数

  • 定义

为随机变量的分布函数,如,称为随机变量关于的边缘分布函数。记为 同理令,得: 为随机变量关于边缘分布函数。

2、离散型随机变量的边缘分布律

  • 定义

设二维离散型随机变量的联合分布律为

分别称关于和关于的边缘分布律。

  • 离散型随机变量关于X和Y的边缘分布函数分别为:

边缘分布律

3、连续型随机变量的边缘分布

  • 定义

对于连续型随机变量,设它的概率密度为,由于

称其为随机变量关于的边缘概率密度。

同理可得:随机变量关于的边缘概率密度为

  • 二重积分

口诀:求谁不积谁,不积先定限,限内画条线,先交写下限,后交写上限。

此处涉及到二重积分的相关高数知识,详情请看【点击这里

二维随机变量求解边缘概率密度

  • 特殊的二维正态分布

二维正态分布的两个边缘分布都是一维正态分布,并且都不依赖于参数

  • 注意

关系

三、条件分布

1、离散型随机变量的条件分布

  • 定义

是二维离散型随机变量 ,对于固定的,则称 为在条件下随机变量 X的条件分布律.

​ 同样,对于固定的,则称为在条件下随机变量的条件分布律。

关系

  • 条件分布律的性质
  1. 非负性
  2. 规范性

2、连续型随机变量的条件分布

  • 定义

设二维随机变量的概率密度为,关于的边缘概率密度为.若对于固定的,

则称为在的条件下的条件概率密度,记为

=为在的条件下的条件分布函数,记为

类似地,

可以定义

  • 性质
  1. 非负性
  2. 规范性

四、相互独立的随机变量

1、随机变量的相互独立性

  • 定义

是两个随机变量,若对任意的则称相互独立 。

两事件 独立的定义是:若则称事件 独立 .

  • 相关性质

不论离散型还是连续型:联合边缘X边缘

正态随机变量的独立性:二维正态随机变量相互独立的充要条件是

2、二维随机变量的推广

  • 分布函数

维随机变量的分布函数定义为

其中为任意实数。

  • 概率密度函数

若存在非负函数使对于任意实数

则称的概率密度函数。

  • 边缘分布函数

的分布函数为已知,则维边缘分布函数就随之确定.

  • 边缘概率密度函数

的概率密度,则关于,关于的边缘概率密度分别为

······

  • 相互独立性

若对于所有的则称是相互独立的。

若对于所有的,则称随机变量是相互独立的。

  • 重要结论定理

相互独立,

相互独立,

又若 是连续函数,则相互独立。

第四章:随机变量的数字特征

一、数学期望

1、随机变量数学期望的概念

1、离散型随机变量的数学期望

  • 定义

设离散型随机变量的分布律为若级数绝对收敛,则称级数的和为随机变量的数学期望,记为

数学期望简称期望,又叫均值。是一个实数,加权平均值,体现了随机变量取可能值的真正的平均值。

2、连续型随机变量的数学期望

  • 定义

设连续型随机变量的概率密度为,若积分绝对收敛,则称积分的值为随机变量的数学期望,记为即:

2、随机变量的函数的数学期望

  • 离散型随机变量函数的数学期望

  • 连续型随机变量函数的数学期望

是连续型的,它的分布密度为则:

上面两个公式的重要性在于: 当我们求时, 不必知道的分布,而只需知道的分布就可以了. 这给求随机变量函数的期望带来很大方便.

  • 二维离散型随机变量函数的数学期望

为离散型随机变量,为二元函数,则其中的联合概率分布为

  • 二维连续型随机变量函数的数学期望

为连续型随机变量,为二元函数,则.其中的联合概率密度为.

3、数学期望的性质

  1. 是常数,则有
  2. 是一个随机变量,是常数,则有
  3. 是两个随机变量,则有可以推广到任意有限个随机变量之和的情况。
  4. 是相互独立的随机变量,则有可以推广到任意有限个随机变量之和的情况。但不能说明相互独立

4、总结

一维

一维函数

二维函数

二、方差

1、随机变量方差的概念

  • 定义

是一个随机变量,若存在,则称的方差。记为,即

在应用上还引入量,记为,称为标准差或均方差。

  • 意义

按定义,随机变量的方差表达了的取值与其数学期望的偏离程度·若较小意味着的取值比较集中在的附近,反之,若较大,则表示的取值较分散。因此,是刻画取值分散程度的一个量,它是衡量取值分散程度的一个尺度.

  • 计算

定义式:

计算式:

计算式移项也经常用于算

2、随机变量方差的性质

  1. 是常数,则
  2. 是一个随机变量,是常数,则有
  3. 是两个随机变量,则有
  4. 性质的特殊情况:当相互独立时有:可以推广到个随机变量相互独立时。
  5. 充要条件是取常数时的概率为

3、标准化随机变量

◆ 设任意随机变量 (不一定服从正态),若其期望方差都存在,且,则称 的标准化随机变量。

标准化随机变量之后,期望为0,方差为1,即服从标准正态分布NO.1(南波湾)

4、重要概率分布的方差(P298)

符号 分布 参数 数学期望 方差
两点分布
二项分布
泊松分布
均匀分布
指数分布
正态分布

5、切比雪夫不等式

设随机变量具有数学期望方差则对于任意正数,不等式 成立。

也可以写为下面的形式:

主要用于证明大数定律和粗糙的估计概率。

三、协方差及相关系数

1、协方差的定义

故方差的性质3就变成:

相互独立,则

2、协方差的计算式

3、协方差的基本性质

  1. ,其中为常数
  2. 对于任意常数

4、相关系数的定义

的相关系数。

的相关系数又称为标准协方差,它是一个无量纲的量。

5、相关系数的性质

  1. 的充要条件是:存在常数啊使得

6、相关系数的含义

是一个用来表征,之间线性关系紧密程度的量,它刻画了,之间线性关系的强弱。

1°当 时, 之间几乎就是线性关系:

​ 当时,称正相关,此时

​ 当时,称负相关,此时

2°当时, 没有线性关系,即:不相关

7、相互独立与不相关

相互独立与不相关的关系图

相互独立与不相关的特例: 二维正态分布(P107)

特例

四、矩、协方差矩阵

1、矩的概念

是随机变量:

  1. ,存在,称它为阶原点矩,简称k阶矩,(数学期望是一阶原点矩,即一阶矩)
  2. ,,存在,称它为阶中心矩(方差是二阶中心矩)
  3. ,存在,称它为阶混合矩
  4. 存在,称它为阶混合中心矩(协方差是的二阶混合中心矩)

其中:三阶中心矩主要用来衡量随机变量的分布是否有偏 四阶中心矩主要用来衡量随机变量的分布在均值附近的陡峭程度如何。

2、协方差矩阵

维随机变量的二阶混合中心矩(协方差)

,都存在,则称矩阵:

维随机变量的协方差矩阵。

第五章:大数定律和中心极限定理

一、依概率收敛

依概率收敛就是随机变量序列的极限

1、依概率收敛的定义

定义:设为一随机变量序列,是一个常数,则对任意正数,有则称序列依概率收敛于记为

注:依概率收敛于,意味着对任意正数,当充分大时,事件的概率很大,接近于1,但这并不排除事件的发生,而只是说其发生的概率很小。

2、依概率收敛的性质

,,又设函数在点连续,则

二、基本定理

1、弱大数定律(辛钦大数定律)

是相互独立,服从同一分布的随机变量序列,且具有数学期望:,作前个变量的算术平均,则对于任意,有: 解释

也就是当n很大时,随机变量的算术平均值接近于数学期望,即

另外一种表述:设随机变量相互独立,服从同一分布且具有数学期望则序列依概率收敛于

2、伯努利大数定理

次独立重复试验中事件发生的次数,是事件在每次试验中发生的概率,则对于任意正数,有

伯努利定理表明事件发生的频率依概率收敛于事件的概率,它以严格的数学形式表达了频率的稳定性 因而当很大时,事件发生的频率与概率有较大偏差的可能性很小。在实际应用中,当试验次数很大时,便可以用事件发生的频率来代替事件的概率。

三、中心极限定理

1、独立同分布的中心极限定理

设随机变量相互独立,服从同一分布,且具有数学期望和方差,则这些随机变量之和的标准化随机变量 的分布函数对任意满足: 该定理表明:当,随机变量序列的分布函数收敛于标准正态分布的分布函数。

结论:当充分大时,有:

即:近似服从

也就是:近似服从

从而得出:近似服从

进一步由:

得:近似服从

2、李雅普诺夫定理

没讲太多,本质是表明无论各个随机变量服从什么分布,只要满足定理的条件,它们的和,当很大时,近似的服从正态分布。

3、棣莫弗-拉普拉斯定理

设随机变量服从参数为的二项分布,则对于任意,恒有: 意义:正态分布是二项分布的极限分布, 当n充分大时,可以利用该定理来计算二项分布的概率。

结语:

依照高等学校教材《概率论与数理统计》浙江大学版+自己上课听课的笔记+课件做出的可以方便观看的博客文章

But,我们专业是没有安排学习数理统计部分的!(交通运输)Transportation

概率论与数理统计

欢迎关注