Закон больших чисел (в форме Чебышёва)

Закон больших чисел (форма Чебышёва)

Пусть ${\xi }_1,\dots ,{\xi }_n,\dots$ – последовательность независимых случайных величин, дисперсии которых равномерно ограничены: $Var{\xi }_i\le C$. Тогда:

$$\forall \epsilon >0P\left\{\left|\frac{1}{n}\sum _{i=1}^n{\xi }_i-\frac{1}{n}\sum _{i=1}^{n}E{\xi }_i\right|>\epsilon \right\}\underset{n\to \infty }{\to }0$$

Или, в терминах сходимости по вероятности $\frac{1}{n}{\sum }_{i=1}^n{\xi }_i\stackrel{P}{\to }\frac{1}{n}{\sum }_{i=1}^{n}E{\xi }_i$:

$$\underset{n\to \infty }{\lim }P\left\{\left|\frac{1}{n}\sum _{i=1}^n{\xi }_i-\frac{1}{n}\sum _{i=1}^{n}E{\xi }_i\right|>\epsilon \right\}=0$$

Доказательство

Пусть $\eta =\frac{1}{n}{\sum }_{i=1}^n{\xi }_i$.

Найдем математическое ожидание и оценим дисперсию $\eta$:

$$\begin{array}{rl}& E\eta =E\left(\frac{1}{n}\sum _{i=1}^n{\xi }_i\right)=\frac{1}{n}\sum _{i=1}^{n}E{\xi }_i\\ & Var\eta =Var\left(\frac{1}{n}\sum _{i=1}^n{\xi }_i\right)\stackrel{\text{нез.}}{=}\frac{1}{n^2}\sum _{i=1}^{n}Var{\xi }_i\le \frac{n\cdot C}{n^2}=\frac{C}{n}\end{array}$$

Применим неравенство Чебышёва:

$$P\{|\eta -E\eta |>\epsilon \}\le \frac{Var\eta }{{\epsilon }^2}\le \frac{C}{n\cdot {\epsilon }^2}$$

Подставляя $\eta$, получаем:

$$P\left\{\left|\frac{1}{n}\sum _{i=1}^n{\xi }_i-\frac{1}{n}\sum _{i=1}^{n}E{\xi }_i\right|>\epsilon \right\}\le \frac{C}{n\cdot {\epsilon }^2}$$

Учитывая, что вероятность всегда неотрицательна, перейдем к пределу при $n\to \infty$:

$$0\le \underset{n\to \infty }{\lim }P\left\{\left|\frac{1}{n}\sum _{i=1}^n{\xi }_i-\frac{1}{n}\sum _{i=1}^{n}E{\xi }_i\right|>\epsilon \right\}\le \underset{n\to \infty }{\lim }\frac{C}{n\cdot {\epsilon }^2}=0$$

По теореме о двух милиционерах предел «зажат» между нулями, следовательно он равен нулю.

Следствие для оценки конечного числа величин

Пусть ${\xi }_1,\dots ,{\xi }_n,\dots$ – последовательность независимых случайных величин, дисперсии которых ограничены константой: $Var{\xi }_i\le C$.

Тогда для оценки отклонения при конечном числе $n$ испытаний справедливо:

$$P\left\{\left|\frac{1}{n}\sum _{i=1}^n{\xi }_i-\frac{1}{n}\sum _{i=1}^{n}E{\xi }_i\right|>\epsilon \right\}\le \frac{C}{n\cdot {\epsilon }^2}$$

Следствие для одинаково распределенных величин

Пусть ${\xi }_1,\dots ,{\xi }_n,\dots$ – последовательность одинаково распределенных (общее распределение) независимых случайных величин с конечной дисперсией.

Тогда их среднее арифметическое сходится по вероятности к общему математическому ожиданию $a=E{\xi }_i$:

$$\frac{1}{n}\sum _{i=1}^n{\xi }_i\stackrel{P}{\to }a$$