Неравенство Колмогорова

Неравенство Колмогорова — обобщение теоретико-вероятностного варианта неравенства Чебышёва, ограничивающее вероятность того, что частичная сумма конечной совокупности независимых случайных величин не превышает некоторого фиксированного числа. Установлено Андреем Колмогоровым в середине 1920-х годов и применено им для доказательства усиленного закона больших чисел.

Формулировка: для определённых на общем вероятностном пространстве $(\Omega ,\ F,\ Pr)$ независимых случайных величин $X_{1},\dots ,X_{n}\ :\Omega \to R$ с математическими ожиданиями $MX_{i}=0,i\leqslant n$ и дисперсиями $Var[X_{i}]<+\infty$ и произвольной величины $\lambda >0$ выполнено:

$\Pr \left(\max _{1\leqslant k\leqslant n}|S_{k}|\geqslant \lambda \right)\leqslant {\frac {1}{\lambda ^{2}}}\operatorname {Var} [S_{n}]\equiv {\frac {1}{\lambda ^{2}}}\sum _{k=1}^{n}\operatorname {Var} [X_{i}]$

(1)

гдe $S_{k}=X_{1}+\dots +X_{k}$.

Если к тому же $\Pr(|X_{i}|\leqslant c)=1,i\leqslant n$, то

$\Pr \left(\max _{1\leqslant k\leqslant n}|S_{k}|\geqslant \lambda \right)\geqslant 1-{\frac {(\lambda +c)^{2}}{\operatorname {Var} [S_{n}]}}$

(2)

Доказательство

Обозначим

$A=\{\max _{1\leqslant k\leqslant n}|S_{k}|\geqslant \lambda \}$

$A_{k}=\{|S_{i}|<\lambda ,i=1,...,k-1,|S_{k}|\geqslant \lambda \},1\leqslant k\leqslant n$

Тогда $A=\sum A_{k}$ и

$MS_{n}^{2}\geqslant MS_{n}^{2}I_{A}=\sum _{k=1}^{n}{MS_{n}^{2}I_{A_{k}}}$ (Где $I$ — индикатор)

Но

$MS_{n}^{2}I_{A_{k}}=M\left(S_{k}+\left(X_{k+1}+...+X_{n}\right)\right)^{2}I_{A_{k}}=$

$=MS_{k}^{2}I_{A_{k}}+2MS_{k}\left(X_{k+1}+...+X_{n}\right)I_{A_{k}}+M\left(X_{k+1}+...+X_{n}\right)^{2}I_{A_{k}}\geqslant MS_{k}^{2}I_{A_{k}},$

поскольку $MS_{k}\left(X_{k+1}+...+X_{n}\right)I_{A_{k}}=MS_{k}I_{A_{k}}M\left(X_{k+1}+...+X_{n}\right)=0$ в силу предположенной независимости и условий $MX_{i}=0,i\leqslant n$ Поэтому

$\sum _{k=1}^{n}Var[X_{i}]=MS_{n}^{2}\geqslant \sum _{k=1}^{n}MS_{n}^{2}I_{A_{k}}\geqslant \sum _{k=1}^{n}MS_{k}^{2}I_{A_{k}}\geqslant \lambda ^{2}\sum _{k=1}^{n}MI_{A_{k}}=\lambda ^{2}\sum _{k=1}^{n}\Pr(A_{k})=\lambda ^{2}Pr(A)$

что и доказывает неравенство 1.

Для доказательства неравенства 2 заметим, что

$MS_{n}^{2}I_{A}=MS_{n}^{2}-MS_{n}^{2}I_{\bar {A}}\geqslant MS_{n}^{2}-\lambda ^{2}Pr({\bar {A}})=MS_{n}^{2}-\lambda ^{2}+\lambda ^{2}Pr(A)$

(3)

С другой стороны, на множестве $A_{k}$

$|S_{k-1}|\leqslant \lambda ,|S_{k}|\leqslant |S_{k-1}|+|X_{k}|\leqslant \lambda +c$

и, значит,

$MS_{n}^{2}I_{A}=\sum _{k}MS_{k}^{2}I_{A_{k}}+\sum _{k}M(I_{A_{k}}(S_{n}-S_{k})^{2})\leqslant (\lambda +c)^{2}\sum _{k}Pr(A_{k})+\sum _{k=1}^{n}Pr(A_{k})\sum _{j=k+1}^{n}MX_{j}^{2}\leqslant$

$\leqslant \Pr(A)\left[(\lambda +c)^{2}+\sum _{j=1}^{n}MX_{j}^{2}\right]=Pr(A)\left[(\lambda +c)^{2}+MS_{n}^{2}\right]$

(4)

Из (3) и (4) находим, что:

$Pr(A)\geqslant {\frac {MS_{n}^{2}+\lambda ^{2}}{(\lambda +c)^{2}+MS_{n}^{2}-\lambda ^{2}}}=1-{\frac {(\lambda +c)^{2}}{(\lambda +c)^{2}+MS_{n}^{2}-\lambda ^{2}}}\geqslant 1-{\frac {(\lambda +c)^{2}}{MS_{n}^{2}}}=1-{\frac {(\lambda +c)^{2}}{\operatorname {Var} [S_{n}]}}$

Литература

• Billingsley, Patrick. Probability and Measure (неопр.). — New York: John Wiley & Sons, Inc., 1995. — ISBN 0-471-00710-2. (Theorem 22.4)
• Feller, William. An Introduction to Probability Theory and its Applications, Vol 1 (англ.). — Third Edition. — New York: John Wiley & Sons, Inc., 1968. — P. xviii+509. — ISBN 0-471-25708-7.
• Хеннекен П. Л., Тортра А. Теория вероятностей и некоторые её приложения. — М.: Наука, 1974. — 472 с.
• Ширяев А. Н. Вероятность. — 3-е изд., перераб. и доп.. — М.: МЦНМО, 2004. (Глава 4 § 2 раздел 1)