最新第一章-概率统计基础[课件]课件PPT.ppt 66页

'第一章-概率统计基础[课件] 随机变量统计推断是与数据相关的。随机变量就是将样本空间/随机事件与数据之间联系起来的纽带随机变量是一个映射，将一个实数值赋给一个试验的每一个输出例2.2：抛10次硬币，令X(ω)表示序列ω中正面向上的次数，如当ω=HHTHHTHHTT，则X(ω)=6。2 随机变量的概率描述事件的概率随机变量的概率描述给定一随机变量X及实数子集A，定义例2.4：抛2次硬币，令X表示正面向上的次数，则其中X表示随机变量，x表示X可能的取值ωP({ω})X(ω)TT1/40TH1/41HT1/41HH1/42xP(X=x)01/411/221/43 例：离散型随机变量的pmf例2.10：公正地抛硬币2次，令X表示正面向上的次数，则概率函数为：7 连续型随机变量的概率（密度）函数对连续型随机变量X，如果存在一个函数，使得对所有的x，，且对任意有则函数被称为概率密度函数(probabilitydensityfunction,pdf)。CDF与pdf之间的关系：在所有可微的点x，则注意：是可能的8 例：连续型随机变量的CDF和pmf例2.12：设X有PDF:显然有有该密度的随机变量为(0,1)上的均匀分布：Uniform(0,1)，即在0和1之间随机选择一个点。其CDF为：9 分位函数(quantilefunction)令随机变量X的CDF为F，CDF的反函数或分位函数(quantilefunction)定义为其中。若F严格递增并且连续，则为一个唯一确定的实数x，使得。为增函数中值(median)：一个很有用的统计量，对噪声比较鲁棒10 随机变量的变换X：老的随机变量，Y：新的随机变量，离散：11 离散型随机变量的变换例2.45：假设Y的取值比X少，因为该变换不是一一映射。xfX(x)-11/401/211/4yfY(y)01/211/212 连续型随机变量的变换CDF方法变换的三个步骤对每个y，计算集合计算CDFPDF为13 连续型随机变量的变换当r为单调增函数/减函数，定义r的反函数，则当X、Y存在一一映射时，上述结论仍可用—Jacobian方法分区间：在每个区间内为单调函数，可分区间利用上述结论14 15 例：连续型随机变量的变换例2.46：则令则或直接用Jacobian方法16 例：连续型随机变量的变换例：[概率积分变换]X有连续CDF，定义随机变量Y为，则Y为[0,1]上的均匀分布，即对随机数产生特别有用（Chp2第15题）17 0.51.0018 常见分布族离散型随机变量[Ch2,p25]均匀(Uniform)分布贝努利(Bernoulli)分布二项(Binnomial)分布超几何(HyperGeometric)分布几何(Geometric)分布泊松(Possion)分布连续型随机变量[Ch2,p27]均匀(Uniform)分布正态(Normal)分布Gamma分布Beta分布分布指数(Exponential)分布19 常见分布族每个分布族pdf/pmf形式参数典型应用均值、方差20 正态分布亦称高斯分布，:位置（location）参数:尺度（scale）参数如图像处理中的多尺度分析21 正态分布最重要的分布之一在实际遇到的许多随机现象都服从或近似服从正态分布如考试成绩中心极限定理：随机样本的均值近似服从正态分布对任意IID样本，则22 标准正态分布当时，正态分布称为标准正态分布，通常用Z表示服从标准正态分布的变量，记为。pdf和CDF分别记为标准化变换：若，则若，则正态分布的线性组合仍是正态分布：若是独立的，则23 二元随机向量的联合分布离散型随机变量的联合分布：令X、Y为一对离散型随机变量，联合概率函数(pmf)定义为联合概率分布函数(CDF)为：(X,Y)：随机向量24 例2.18：对如下有两个随机变量的二元分布，变量X和Y取值为0、1，则。12/31/32/35/92/9X=11/32/91/9X=0Y=1Y=0联合分布边缘分布25 二元随机向量的联合分布连续型随机变量的联合分布：令X、Y对一对连续型随机变量，联合概率密度函数(pdf)定义为对任意集合联合概率分布函数(CDF)为：26 边缘分布离散型随机变量：27 边缘分布连续型随机变量：联合分布包含了随机向量概率分布的信息联合分布唯一确定了边缘分布，但反之通常不成立28 独立PDF可以因式分解29 独立30 随机变量之间的关系独立当且仅当不独立：随机变量之间的关系用条件分布描述条件分布：31 条件分布离散型随机变量的条件概率函数：对连续型随机变量，条件概率定义相同，但解释不同第一节课中随机事件的条件概率：32 条件分布给定变量Y时，在X上的概率分布对Y的每个可能取值，对X都定义有一个概率分布是一个概率分布，满足概率分布的所有性质，如33 例：条件分布34 联合分布、边缘分布与条件分布边缘分布与联合分布：条件分布与边缘分布、联合分布：联合分布与条件分布、边缘分布：35 条件概率链规则（ChainRule）链规则或36 贝叶斯规则贝叶斯规则似然先验后验37 贝叶斯规则中的边缘化给定和，推导经常使用贝叶斯规则的归一化因子通过边缘化，已知?38 边缘分布通过使用(1)边缘化和(2)链规则，给定，可以计算：39 条件独立（绝对）独立：给定Y，不会对X增加任何信息条件独立：若在给定Z的情况下，X与Y条件独立，则一旦已知Z，Y不会对X提供额外的信息例：40 联合概率联合概率：定义了所有可能状态的概率二值变量的情况下有项用个独立变量表示非二值变量?如果这些变量是独立的，则对二值变量，用n个独立变量表示非二值变量?41 联合概率若有些变量是条件独立的话，联合概率可以用少于个变量表示例：但若Y和W在给定X下独立，且Z和W、X在给定Y下独立，则真实问题通常是这样的，贝叶斯网络就是利用了条件独立的性质42 链规则推广条件概率的定义递归定义：2n1242n-1对二值变量43 多元随机向量的分布令随机向量，其中为随机变量，用表示X的pdf/pmf，先前讨论的关于二元随机向量分布的结论都可以推广到多元随机向量，如可以定义边缘分布、条件分布等当随机向量互相独立时，随机向量相互独立两两独立，但反之不成立44 IID（IndependentIdenticallyDistribution）样本当互相独立且有相同的边缘分布F时，记为，我们称为独立同分布（IndependentIdenticallyDistribution,IID）样本，表示是从相同分布独立抽样/采样，我们也称是分布F的随机样本。若F有密度f，也可记为，样本大小为n思考题：怎样对任意分布F进行采样（得到多个独立同分布的样本）？45 常见多元分布多元二项分布多元正态分布46 多元二项分布二项分布的多元变量版本其中例：从箱子中共k中颜色的球，为抽取到颜色j的概率，共抽取n次，令为颜色j出现的次数，则47 多元二项分布边缘分布：若，其中且，则的边缘分布为48 多元正态分布令，其中且互相独立则Z的协方差矩阵为单位矩阵I，记为。49 多元正态分布更一般地，其中表示矩阵的行列式，为均值向量，协方差矩阵为一个对称的正定矩阵50 多元正态分布多元正态分布有如下性质：1、若且，则2、若，则3、若，a为与X相同长度的向量，则51 随机向量的变换令，求1.对每个z，计算集合2.计算CDF3.PDF为例2.4852 随机向量的变换令集合集合且A、B存在一一映射时，可利用Jacobian方法计算定义反变换，变换的Jacobian为(U,V)的联合分布为思考题：求两个正态分布的和与乘积的分布53 下节课内容作业：Chp2：第4、7、14、15题下节课内容期望、方差样本均值、样本方差层次模型补充教材[CB]p162-16854 北师大版三年级数学上册买矿泉水1 学习目标理解并掌握连乘式题的运算顺序，并能正确计算。能结合具体情境进行估算，并解释估算的过程，逐步培养估算的意识和能力。 买矿泉水口算：20×3=0×6=8×0=24×3=12×8=12×4=22×4=300×4= 买矿泉水口答：1.一年级每班有学生40人，5个班有多少人？2.每听饮料4元，20听饮料花多少钱？3.每箱装30瓶矿泉水，5箱装多少瓶矿泉水？ 买矿泉水矿泉水每瓶3元每箱24瓶运动会上，张老师给同学们买了2箱矿泉水，大约花了多少钱？ 买矿泉水想一想：矿泉水每箱24瓶，每瓶3元，买了2箱，大约花了多少钱？ 买矿泉水想一想：矿泉水每箱24瓶，每瓶3元，买了2箱，大约花了多少钱？把24瓶看成25瓶，25×2×3=150（元）所以150元就够了把24瓶看成20瓶，20×2×3=120（元）所以要比120元多 买矿泉水矿泉水每瓶3元每箱24瓶运动会上，张老师给同学们买了2箱矿泉水，共花了多少钱？ 买矿泉水想一想：矿泉水每箱24瓶，每瓶3元，买了2箱，共花了多少钱？24×3=72（元）72×2=144（元）答：共花了144元. 买矿泉水想一想：矿泉水每箱24瓶，每瓶3元，买了2箱，共花了多少钱？24×3×2=72 买矿泉水想一想：矿泉水每箱24瓶，每瓶3元，买了2箱，共花了多少钱？24×3×2=72×2=144（元）答：共花了144元. 总结掌握连乘式题的运算顺序，并能正确计算。'