统计学基础之大数定律与中心极限定理个人文章

当n为奇数时,$$E(X^n)=\int_{-\infty}^{\infty}x^n\frac1{\sqrt{2\pi}}e^{-\frac12x^2}dx=0$$

当n为偶数时,$$\begin{split}E(X^n)=E(X^{2m})&=\int_{-\infty}^{\infty}x^{2m}\frac1{\sqrt{2\pi}}e^{-\frac12x^2}dx\\&=\frac1{\sqrt{2\pi}}\int_{-\infty}^{\infty}-x^{2m-1}d(e^{-\frac12x^2})\\&=\frac1{\sqrt{2\pi}}(2m-1)\int_{-\infty}^{\infty}x^{2m-2}e^{-\frac12x^2}dx\\&=(2m-1)(2m-3)…1\int_{-\infty}^{\infty}\frac1{\sqrt{2\pi}}e^{-\frac12x^2}dx\\&=(2m-1)!!\\&=\frac{2m!}{2^m(m-1)!}\end{split}$$

故$$\begin{split}\varphi(t)&=\sum_{m=0}^{\infty}\frac{(it)^{2m}}{(2m)!}E(X^{2m})\\&=\sum_{m=0}^{\infty}\frac{(it)^{2m}}{(2m)!}\frac{2m!}{2^m(m-1)!}\\&=\sum_{m=0}^{\infty}\frac{(-\frac{t^2}{2})^m}{m!}\\&=e^{-\frac12t^2}\end{split}$$

证明:$$\begin{split}\varphi(t)&=\int_0^{\infty}e^{itx}\lambdae^{-\lambdax}dx\\&=\lambda[\int_0^{\infty}cos(tx)e^{-\lambdax}dx+i\int_0^{\infty}sin(tx)e^{-\lambdax}dx]\end{split}$$

$$\begin{split}I&=\int_0^{\infty}cos(tx)e^{-\lambdax}dx\\&=\int_0^{\infty}\frac1te^{-\lambdax}dsin(tx)\\&=\frac\lambdat\int_0^{\infty}sin(tx)e^{-\lambdax}dx\\&=-\frac\lambda{t^2}[-1+\lambda\int_0^{\infty}cos(tx)e^{-\lambdax}dx]\\&=-\frac{\lambda^2}{t^2}I+\frac{\lambda}{t^2}\end{split}$$

故$$I=\frac{\lambda}{\lambda^2+t^2}$$

$$\begin{split}\varphi(t)&=\lambda(\frac{\lambda}{\lambda^2+t^2}+i\frac{t}{\lambda^2+t^2})\\&=\frac\lambda{\lambda^2+t^2}(\lambda+it)\\&=\frac\lambda{\lambda-it}\\&=(1-\frac{it}\lambda)^{-1}\end{split}$$

证明:$$|\varphi(t)|=|\inte^{itx}f(x)dx|\leq\int|e^{itx}|f(x)dx=1$$

证明:$$\varphi_Y(t)=\inte^{it(ax+b)}f(x)dx=e^{itb}\inte^{itax}f(x)dx=e^{ibt}\varphi_X(at)$$

证明:$$E(e^{it(X+Y)})=E(e^{itx}e^{ity})=E(e^{itx})E(e^{ity})=\varphi_X(t)\varphi_Y(t)$$

证明:$$\varphi^{(k)}(t)=\inti^kx^ke^{ixt}f(x)dx$$将$t=0$代入得$$\varphi^{(k)}(0)=i^k\intx^kf(x)dx=i^kE(X^k)$$

概率是频率的稳定值,其中稳定是什么意思?大数定律详细的描述了这个问题。

大数定律指的是随机变量序列的平均值,依概率收敛于各个随机变量均值的平均值。

伯努利大数定律说明这样一个事实:对于一个服从伯努利分布的事件$s_n$,随着试验次数$n$的增加,事件发生的频率$f=\frac{s_n}n$与概率$p$的偏差的绝对值$|\frac{s_n}n-p|$大于给定精度$\epsilon$的概率越来越小,这就是概率是频率的稳定值的数学描述。即频率$f$是概率$p$的一个点估计量,且是无偏的。

证明:由于$$s_n\simB(n,p)$$故$$E(\frac{s_n}n)=\frac1nE(s_n)=p$$$$\sigma^2=D(\frac{s_n}n)=\frac1{n^2}D(s_n)=\frac{p(1-p)}{n}$$切比雪夫不等式可知$$P(|\frac{s_n}{n}-p|<\epsilon)\geq1-\frac{\sigma^2}{\epsilon^2}$$故$$\begin{split}\lim_{n\rightarrow\infty}P(|\frac{s_n}{n}-p|<\epsilon)\geq\lim_{n\rightarrow\infty}(1-\frac{\sigma^2}{\epsilon^2})=\lim_{n\rightarrow\infty}[1-\frac{p(1-p)}{n\epsilon^2}]=1\end{split}$$

伯努利大数定律的研究对象其实是一个独立同分布的随机变量序列$\{X_n\}$,其中$X_i$服从两点分布,伯努利大数定律可以看作从两点分布组成的序列中选出$n$项来,可改写为$${\lim_{n\rightarrow\infty}P(|\frac1n\sum_{i=1}^{n}X_i-\frac1n\sum_{i=1}^{n}EX_i|<\epsilon)=1}$$

因此,服从以上表达式的任意随机变量序列均称为服从大数定律。

由切比雪夫不等式可得$$P(|\frac1n\sum_{i=1}^{n}X_i-\frac1n\sum_{i=1}^{n}EX_i|<\epsilon|)\geq1-\frac{\sigma^2}{\epsilon^2}\geq1-\fracc{n\epsilon^2}$$

故有$${\lim_{n\rightarrow\infty}P(|\frac1n\sum_{i=1}^{n}X_i-\frac1n\sum_{i=1}^{n}EX_i|<\epsilon)=1}$$

满足马尔可夫条件的随机变量序列服从大数定律。

证明:我也不会。

大数定律讨论的是在什么情况下,随机变量序列的算术平均依概率收敛于其均值的算术平均,中心极限定理讨论的是在什么条件下,独立随机变量和$$Y_n=\sum_{i=1}^nX_i$$收敛于正态分布。

林德伯格-莱维中心极限定理:设$\{X_n\}$是独立同分布的随机变量序列,$EX_n=\mu$,$DX_n=\sigma^2$,设$$Y_n=\frac{\sumX_i-n\mu}{\sqrtn\sigma}$$则当$n\rightarrow\infty$时,$Y_n$近似服从标准正态分布,即$$lim_{n\rightarrow\infty}P(Y_n\leqy)=F_Y(y)=\frac1{\sqrt{2\pi}}\int_{-\infty}^ye^{\frac{-t^2}2}dt$$

证明:要证原命题只需证$Y_n$的特征函数收敛于标准正态分布即可,设$X-\mu$的特征函数为$\varphi(t)$,则$Y_n$的特征函数为$$\varphi_{Y_n}(t)=[\varphi(\fract{\sqrtn\sigma})]^n$$

由于$E(X-\mu)=0,E(X-\mu)^2=D(X-\mu)=\sigma^2$,故$$\varphi'(0)=0,\varphi''(0)=-\sigma^2$$

由泰勒公式,$$\varphi(t)=\varphi(0)+\varphi'(0)t+\frac12\varphi''(0)t^2+o(t^2)$$

故$$lim_{n\rightarrow\infty}\varphi_{Y_n}(t)=lim_{n\rightarrow\infty}(1-\frac12\sigma^2\frac{t^2}{n\sigma^2})^n=e^{-\frac12t^2}$$

THE END
1.大数定律大数定律(law of large numbers),是一种描述当试验次数很大时所呈现的概率性质的定律。但是注意到,大数定律并不是经验规律,而是在一些附加条件上经严格证明了的定理,它是一种自然规律因而通常不叫定理而是大数“定律”。而我们说的大数定理通常是经数学家证明并以数学家名字命名。 https://www.meipian.cn/3drbzh4z
2.大数定理详解(转载)再不努力就死翘翘了大数定理详解(转载) 注:此文出处来自http://blog.sina.com.cn/s/blog_5ecbb4950101kzhu.html 1、大数法则 一位数学家调查发现,欧洲各地男婴与女婴的出生比例是22:21,只有巴黎是25:24,这极小的差别使他决心去查个究竟。最后发现,当时的巴黎的风尚是重女轻男,有些人会丢弃生下的男婴,经过一番修正后,依然...https://www.cnblogs.com/tcent/p/4983935.html
3.[概率论与数理统计]笔记:3.5大数定律与中心极限定理根据夹逼定理, \[P\{|\frac{\mu_n}{n}-p|<\epsilon\}=1 \] 所以 \[P\{|\frac{\mu_n}{n}-p|\ge\epsilon\}=0 \] 结论 当\(n\to\infty\)时,\(\frac{\mu_n}{n}\stackrel{P}{\longrightarrow}p\). 也就是说当试验次数很多时,事件发生的频率会依概率收敛于事件发生的概率。 http://www.681314.com/A/VEI8kzeSfV
4.大数定律在随机事件的大量重复出现中,往往呈现几乎必然的规律,这个规律就是大数定律。通俗地说,这个定理就是,在试验不变的条件下,重复试验多次,随机事件的频率近似于它的概率。偶然中包含着某种必然。 在抛硬币的场景中,有一种场景下的概率经常让人算错,假设你连续抛了5次硬币,都是朝上,那么第6次抛硬币还朝上的概率是...https://www.jianshu.com/p/b869dfc63d46
5.大数定律公式大数定律公式:g=log*vn。概率论历史上第一个极限定理属于伯努利,后人称之为“大数定律”。概率论中讨论随机变量序列的算术平均值向随机变量各数学期望的算术平均值收敛的定律。 概率论,是研究随机现象数量规律的数学分支。随机现象是相对于决定性现象而言的,在一定条件下必然发生某一结果的现象称为决定性现象。例如...https://edu.iask.sina.com.cn/bdjx/6e5XZNPmheL.html
1.概率基础——大数定律大数定理大数定律是概率论中的一个重要定理,它描述了随机变量序列的均值在概率意义下收敛于其数学期望的现象。简单来说,大数定律说明了当试验次数足够多时,样本平均值将逼近于总体均值。在实际应用中,大数定律为统计学和概率论提供了重要的理论基础,也是估计总体参数的一种重要方法。 https://blog.csdn.net/weixin_39753819/article/details/136318979
2.大数定理(数学术语)大数定理 数学术语 大数定理是由雅各布·伯努利(1654年-1705年)首先提出,这个定律于1713年公诸于世,刊登在伯努利最有创造力的著作《猜度术》上,《猜度术》出版之时伯努利已谢世8年之久[1]。看基本内容 1分钟 “大数定理”是什么意思? 视频解读 3.21万观看 《猜度术》的出版是概率论成为独立数学分支的标志,大数定...https://baike.sogou.com/m/v7697469.htm
3.大数定理大数定理 06-27 12:06 房价全面下跌时代,年轻人如何抓住翻身机会? 恭喜各位,又一次见证历史的机会。现在房价开始全面回调,大部分城市房价普跌30%左右。但也正因为房价下跌,成交萎靡,楼市开始了一轮接一轮的刺激。先和大家同步一下目前的新政策:1、首套首付最低可以做到15%2、首套房贷利率可以突破下限3、设立保障...https://emcreative.eastmoney.com/app_fortune/person/index.html?uid=4005054834994830
4.常见大数定律文艺数学君大数定律讨论的是在什么条件下,随机变量序列的算术平均依概率收敛到其均值的算术平均。本文主要介绍常见的几种大数定律,并用Mathematic来进行相应的模拟,并介绍运用大数定律计算的例子。 这一篇文章是介绍常见的大数定律,一下所有的代码是基于Mathematica来实现的。 https://mathpretty.com/8808.html
5.大数定律大数定律与概率论其他而我们说的大数定理通常是经数学家证明并以数学家名字命名的大数定理,如伯努利大数定理。大数法则是近代保险业赖以建立的数理基础。也称为风险大量原则、大数定律、平均法则,是人们在长期的实践中发现,在随机现象的大量重复中往往出现几乎必然的规律。 大数定律的作用...https://www.shenlanbao.com/zhishi/10-25169
6.概率论基础8大数定理腾讯云开发者社区概率论基础 - 8 - 大数定理 发布于2022-08-05 13:08:20 9370 举报 文章被收录于专栏:又见苍岚 概率论历史上第一个极限定理属于伯努利,后人称之为“大数定律”。概率论中讨论随机变量序列的算术平均值向随机变量各数学期望的算术平均值收敛的定律。 https://cloud.tencent.com/developer/article/2066845
7.概率论——大数定律与中心极限定理51CTO博客三、中心极限定理 一、依概率收敛 定义:设随机变量 与随机变量序列 ,如果对任意的 ,有 ? 则称随机变量序列 依概率收敛于随机变量 ,记为 ? 注:以上定义中将随机变量 写成数 二、大数定律 在满足一定的条件下,所有大数定律的结论均为:随机变量均值依概率收敛到均值的期望,即: ...https://blog.51cto.com/u_15887260/5876702
8.浅谈机器学习中的大数定律·MachineLearningMastery博客文章...大数的定律是概率和统计学的一个定理,它表明多次重复实验的平均结果将更接近真实或预期的潜在结果。 大数法则解释了为什么赌场从长远来看总能赚钱。 第79页,赤裸统计:剥夺数据的恐惧,2014。 我们可以将实验的试验看作一个观察。实验的独立和独立重复将进行多次试验并导致多次观察。实验的所有样本观察都来自理想化的观...https://www.kancloud.cn/apachecn/ml-mastery-zh/1952405
9.果断收藏!数据分析中常犯的18个统计学错误,请务必跳过这些坑...大数定理---正态分布的“左磅”,随着样本数的增加,样本的平均值可以估计总体平均值; 中心极限定理---正态分布的“右臂”具有稳定性,大数定理说明大量重复实验的平均结果具有稳定解决了变量均值的收敛性问题中心极限定理说明随机变量之和逐渐服从某一分布,解决了分布收敛性问题。 http://www.xyhlrj.com/Article/Index/3990