Предельные теоремы теории вероятностей

Неравенства Маркова и Чебышёва

Неравенство Маркова

Неравенство Маркова

Неравенство Маркова

Для $\forall \epsilon >0$ и $\forall$ случайной величины $\xi$ оценка вероятности через математическое ожидание:

$$P\{|\xi |>\epsilon \}\le \frac{E(|\xi |)}{\epsilon }$$

Доказательство

Оценим вероятность для области исходов $|x|>\epsilon >0$. Из этого условия получаем:

$$\frac{|x|}{\epsilon }>1$$

Для дискретной случайной величины

При $\xi \sim \{x_i,p_i\}$:

$$P\{|\xi |>\epsilon \}=\sum _{|x_i|>\epsilon }{p}_i\le \sum _{|x_i|>\epsilon }{p}_i\cdot \frac{|x_i|}{\epsilon }\boxed{\le }$$

Дополним сумму, добавив слагаемые для недостающей области $|x_i|\le \epsilon$. Так как они неотрицательны, сумма только увеличится:

$$\boxed{\le }\sum _{|x_i|>\epsilon }{p}_i\cdot \frac{|x_i|}{\epsilon }+\sum _{|x_i|\le \epsilon }{p}_i\cdot \frac{|x_i|}{\epsilon }\boxed{=}$$

Сведём к определению математического ожидания:

$$\boxed{=}\sum _i{p}_i\cdot \frac{|x_i|}{\epsilon }=\frac{1}{\epsilon }\underset{E(|\xi |)}{\underbrace{\sum _i|x_i|\cdot p_i}}=\frac{E(|\xi |)}{\epsilon }$$

Для непрерывной случайной величины

При $\xi \sim f(x)$, аналогично:

$$P\{|\xi |>\epsilon \}=\underset{|x|>\epsilon }{\int }f(x)dx\le \underset{|x|>\epsilon }{\int }f(x)\cdot \frac{|x|}{\epsilon }dx\boxed{\le }$$

Дополним интеграл, добавив неотрицательную площадь по оставшейся области $|x|\le \epsilon$, и сведём к определению математического ожидания:

$$\begin{array}{rl}& \boxed{\le }\underset{|x|>\epsilon }{\int }f(x)\cdot \frac{|x|}{\epsilon }dx+\underset{|x|\le \epsilon }{\int }f(x)\cdot \frac{|x|}{\epsilon }dx=\\ & =\underset{-\infty }{\overset{+\infty }{\int }}f(x)\cdot \frac{|x|}{\epsilon }dx=\frac{1}{\epsilon }\underset{E(|\xi |)}{\underbrace{\underset{-\infty }{\overset{+\infty }{\int }}|x|\cdot f(x)dx}}=\frac{E(|\xi |)}{\epsilon }\end{array}$$

Следствие 1

С помощью математического ожидания можно ограничить сверху вероятность того, что случайная величина по модулю превысит $\epsilon >0$.

Следствие 2

$P\{|\xi |>\epsilon \}\le \frac{E|\xi {|}^k}{{\epsilon }^k}$

Доказательство

$$P\{|\xi |>\epsilon \}=P\{|\xi {|}^k>{\epsilon }^k\}\le \frac{E|\xi {|}^k}{{\epsilon }^k}$$

Ссылка на оригинал

Неравенство Чебышёва

Неравенство Чебышёва

Неравенство Чебышёва

Для $\forall \epsilon >0$ и $\forall$ случайной величины $\xi$, имеющей конечную дисперсию $Var\xi <c$ (где $c$ — константа), справедливо соотношение:

$$P\{|\xi -E\xi |>\epsilon \}\le \frac{Var\xi }{{\epsilon }^2}$$

Доказательство

Рассмотрим новую случайную величину $\eta =\xi -E\xi$.

Применим к ней следствие из неравенства Маркова (для $k=2$):

$$P\{|\eta |>\epsilon \}\le \frac{E|\eta {|}^2}{{\epsilon }^2}=\frac{E{\eta }^2}{{\epsilon }^2}=\frac{E(\xi -E\xi {)}^2}{{\epsilon }^2}=\frac{Var\xi }{{\epsilon }^2}$$

Ссылка на оригинал

Пример применения предельных теорем для верхней оценки вероятности

Пример применения неравенств Маркова и Чебышёва для оценки вероятности

Примеры на неравенства Маркова и Чебышёва

Средние ежемесячные расходы на канцелярию для отделения банка составляют $3000$ рублей. СКО не превышает $750$.

Оценить вероятность того, что расходы на канцелярские принадлежности в любой наугад выбранный месяц не превысят $6000$ рублей.

Через неравенство Маркова

Поскольку расходы не могут быть отрицательными, мы можем убрать модуль. Перейдем к противоположному событию и применим неравенство Маркова (знак из-за перехода поменяется):

$$P\{\xi <6000\}=1-P\{\xi \ge 6000\}=1-P\{|\xi |\ge 6000\}\ge 1-\frac{E\xi }{\epsilon }=1-\frac{3000}{6000}=\frac{1}{2}$$ $$P\ge \frac{1}{2}$$

Через неравенство Чебышёва

Расходы неотрицательны, поэтому $\xi \in (0,6000)$. Вычтем из всех частей математическое ожидание $E\xi =3000$ и перейдем к противоположному событию, после чего применим неравенство Чебышёва (знак из-за перехода поменяется):

$$\begin{array}{rl}P\{\xi <6000\}& =P\{0<\xi <6000\}=P\{0-E\xi <\xi -E\xi <6000-E\xi \}=\\ & =P\{-3000<\xi -E\xi <3000\}=P\{|\xi -E\xi |<3000\}=\\ & =1-P\{|\xi -E\xi |\ge 3000\}\ge 1-\frac{Var\xi }{{\epsilon }^2}=\\ & =1-\frac{750^2}{3000^2}=1-{\left(\frac{1}{4}\right)}^2=1-\frac{1}{16}=\frac{15}{16}=0,9375\end{array}$$ $$P\ge 0,9375$$

Ссылка на оригинал

---

Закон больших чисел (в форме Чебышёва)

Сходимость по вероятности

Сходимость по вероятности

Последовательность случайных величин ${\xi }_1,{\xi }_2,\dots ,{\xi }_n$ сходится по вероятности к пределу $\xi$ (который может быть числом или другой случайной величиной), если для $\forall \epsilon >0$ справедливо:

$$\underset{n\to \infty }{\lim }P\{|{\xi }_n-\xi |>\epsilon \}=0$$

Или, через переход к противоположному событию:

$$\underset{n\to \infty }{\lim }P\{|{\xi }_n-\xi |\le \epsilon \}=1$$

Ссылка на оригинал

Закон больших чисел (в форме Чебышёва)

Закон больших чисел (форма Чебышёва)

Пусть ${\xi }_1,\dots ,{\xi }_n,\dots$ – последовательность независимых случайных величин, дисперсии которых равномерно ограничены: $Var{\xi }_i\le C$. Тогда:

$$\forall \epsilon >0P\left\{\left|\frac{1}{n}\sum _{i=1}^n{\xi }_i-\frac{1}{n}\sum _{i=1}^{n}E{\xi }_i\right|>\epsilon \right\}\underset{n\to \infty }{\to }0$$

Или, в терминах сходимости по вероятности $\frac{1}{n}{\sum }_{i=1}^n{\xi }_i\stackrel{P}{\to }\frac{1}{n}{\sum }_{i=1}^{n}E{\xi }_i$:

$$\underset{n\to \infty }{\lim }P\left\{\left|\frac{1}{n}\sum _{i=1}^n{\xi }_i-\frac{1}{n}\sum _{i=1}^{n}E{\xi }_i\right|>\epsilon \right\}=0$$

Доказательство

Пусть $\eta =\frac{1}{n}{\sum }_{i=1}^n{\xi }_i$.

Найдем математическое ожидание и оценим дисперсию $\eta$:

$$\begin{array}{rl}& E\eta =E\left(\frac{1}{n}\sum _{i=1}^n{\xi }_i\right)=\frac{1}{n}\sum _{i=1}^{n}E{\xi }_i\\ & Var\eta =Var\left(\frac{1}{n}\sum _{i=1}^n{\xi }_i\right)\stackrel{\text{нез.}}{=}\frac{1}{n^2}\sum _{i=1}^{n}Var{\xi }_i\le \frac{n\cdot C}{n^2}=\frac{C}{n}\end{array}$$

Применим неравенство Чебышёва:

$$P\{|\eta -E\eta |>\epsilon \}\le \frac{Var\eta }{{\epsilon }^2}\le \frac{C}{n\cdot {\epsilon }^2}$$

Подставляя $\eta$, получаем:

$$P\left\{\left|\frac{1}{n}\sum _{i=1}^n{\xi }_i-\frac{1}{n}\sum _{i=1}^{n}E{\xi }_i\right|>\epsilon \right\}\le \frac{C}{n\cdot {\epsilon }^2}$$

Учитывая, что вероятность всегда неотрицательна, перейдем к пределу при $n\to \infty$:

$$0\le \underset{n\to \infty }{\lim }P\left\{\left|\frac{1}{n}\sum _{i=1}^n{\xi }_i-\frac{1}{n}\sum _{i=1}^{n}E{\xi }_i\right|>\epsilon \right\}\le \underset{n\to \infty }{\lim }\frac{C}{n\cdot {\epsilon }^2}=0$$

По теореме о двух милиционерах предел «зажат» между нулями, следовательно он равен нулю.

Следствие для оценки конечного числа величин

Пусть ${\xi }_1,\dots ,{\xi }_n,\dots$ – последовательность независимых случайных величин, дисперсии которых ограничены константой: $Var{\xi }_i\le C$.

Тогда для оценки отклонения при конечном числе $n$ испытаний справедливо:

$$P\left\{\left|\frac{1}{n}\sum _{i=1}^n{\xi }_i-\frac{1}{n}\sum _{i=1}^{n}E{\xi }_i\right|>\epsilon \right\}\le \frac{C}{n\cdot {\epsilon }^2}$$

Следствие для одинаково распределенных величин

Пусть ${\xi }_1,\dots ,{\xi }_n,\dots$ – последовательность одинаково распределенных (общее распределение) независимых случайных величин с конечной дисперсией.

Тогда их среднее арифметическое сходится по вероятности к общему математическому ожиданию $a=E{\xi }_i$:

$$\frac{1}{n}\sum _{i=1}^n{\xi }_i\stackrel{P}{\to }a$$

Ссылка на оригинал

---

Центральная предельная теорема

Центральная предельная теорема

Видео

Более подробно тема есть в видео на YouTube

Центральная предельная теорема (Форма Ляпунова)

Пусть ${\xi }_1,\dots ,{\xi }_n,\dots$ – последовательность независимых случайных величин, для которых $a_i$ и ${\sigma }_i$ конечны:

$$E{\xi }_i=a_i,Var{\xi }_i={\sigma }_i^2$$

Если выполняется условие Ляпунова:

$$\underset{n\to \infty }{\lim }\frac{{\sum }_{i=1}^{n}E|{\xi }_i-a_i{|}^3}{{\left({\sum }_{i=1}^n{\sigma }_i^2\right)}^{3/2}}=0$$

Тогда центрированная ¹ и нормированная ² сумма сходится по распределению ( $\stackrel{d}{\to }$ ) к стандартному нормальному закону $N(0;1)$:

$${\eta }_n=\frac{{\sum }_{i=1}^n{\xi }_i-{\sum }_{i=1}^n{a}_i}{\sqrt{{\sum }_{i=1}^n{\sigma }_i^2}}\stackrel{d}{\to }N(0;1)$$

Функция распределения ${\eta }_n$ будет стремиться к стандартной функции:

$${\mathcal{F}}_{{\eta }_n}(x)\underset{n\to \infty }{\to }\Phi (x)$$

Без доказательства

Следствие. Аппроксимация суммы

$$\sum _{i=1}^n{\xi }_i\approx N\left(\sum _{i=1}^n{a}_i;\sum _{i=1}^n{\sigma }_i^2\right)$$

В чём практический смысл?

Теорема позволяет вычислять вероятности для суммы большого числа случайных величин, заменяя их сложный закон распределения на удобный нормальный закон

Footnotes

1. C вычтенным Математическим ожиданием ↩

2. Разделённая на СКО ↩

Ссылка на оригинал

---

Список использованных источников

Материал подготовлен на основе

1. Конспект лекций по ТВиМС от 22.04.2026. Лектор Литвинова В. В.
2. Бородин А. Н. Элементарный курс теории вероятностей и математической статистики : учебное пособие для вузов / А. Н. Бородин. — 10 е изд., стер. — Санкт Петербург : Лань, 2024. — 256 с. : ил. — Текст : непосредственный
3. Гмурман, В. Е. Теория вероятностей и математическая статистика: учебник для вузов / В. Е. Гмурман. – 12-е изд. –Москва: Издательство Юрайт, 2024. – 479 с. – (Высшее образование)
4. Нейросеть NotebookLM только для оформления
5. Видео: «Лекция 15. Неравенства Маркова и Чебышева. Закон больших чисел. центральная предельная теорема.»