Неравенство Гаека — Реньи

Неравенство Гаека — Реньи в теории вероятностей названо по имени Ярослава Гаека и Альфреда Реньи.

Формулировка

Если случайные величины $\xi _{1},\xi _{2},...,\xi _{n},...$ являются независимыми, $M\xi _{k}=a_{k},D\xi _{k}=\sigma _{k}^{2},k=1,2,...$, а $C_{1},C_{2},...$ — невозрастающая последовательность неотрицательных чисел, то для любого $\varepsilon >0$ и для всех $m,n\in \mathbb {N} ,m<n,$ выполнено

$P\left(\max _{m\leqslant k\leqslant n}C_{k}\left|\sum _{i=1}^{k}\left(\xi _{i}-a_{i}\right)\right|>\varepsilon \right)\leqslant {\frac {1}{\varepsilon ^{2}}}\left(C_{m}^{2}\sum _{k=1}^{m}\sigma _{k}^{2}+\sum _{k=m+1}^{n}C_{k}^{2}\sigma _{k}^{2}\right)$

Доказательство

Введём следующие обозначения:

$S_{k}=\sum _{i=1}^{k}\left(\xi _{i}-a_{i}\right)$ ,

$\eta =\sum _{k=m}^{n-1}S_{k}^{2}\left(C_{k}^{2}-C_{k+1}^{2}\right)+S_{n}^{2}C_{n}^{2}$

Найдем математическое ожидание $\eta$ и преобразуем его к удобному виду:

${\mathsf {M}}\eta =\sum _{k=m}^{n-1}\left(C_{k}^{2}-C_{k+1}^{2}\right){\mathsf {M}}S_{k}^{2}+C_{n}^{2}{\mathsf {M}}S_{n}^{2}=\sum _{k=m}^{n-1}\sum _{i=1}^{k}\sigma _{i}^{2}\left(C_{k}^{2}-C_{k+1}^{2}\right)+C_{n}^{2}\sum _{i=1}^{n}\sigma _{i}^{2}=$

$=\sum _{i=1}^{m}\sum _{k=m}^{n-1}\sigma _{i}^{2}\left(C_{k}^{2}-C_{k+1}^{2}\right)+C_{n}^{2}\sum _{i=1}^{n}\sigma _{i}^{2}=\sum _{i=1}^{m}\sigma _{i}^{2}\left(C_{m}^{2}-C_{n}^{2}\right)+\sum _{i=m+1}^{n-1}\sigma _{i}^{2}\left(C_{i}^{2}-C_{n}^{2}\right)+C_{n}^{2}\sum _{i=1}^{n}\sigma _{i}^{2}=C_{m}^{2}\sum _{i=1}^{m}\sigma _{i}^{2}+\sum _{i=m+1}^{n}\sigma _{i}^{2}C_{i}^{2}$

Рассмотрим следующие случайные события для некоторого $\varepsilon >0$

$A_{i}=\left\{\omega \in \Omega :C_{k}\left|S_{k}\left(\omega \right)\right|\leq \varepsilon ,m\leq k\leq i-1,C_{i}\left|S_{i}\left(\omega \right)\right|>\varepsilon \right\},i={\overline {m,n}}$

События $A_{i},i={\overline {m,n}},$ являются несовместными. Значит,

$P\left(\max _{m\leq k\leq }C_{k}\left|\sum _{i=1}^{k}\left(\xi _{i}-a_{i}\right)\right|>\varepsilon \right)=P\left(\bigcup _{i=1}^{n}A_{i}\right)=\sum _{i=m}^{n}P\left(A_{i}\right)$

Теорема будет доказана, если будет установлено неравенство:

${\mathsf {M}}\eta \geq \varepsilon ^{2}\sum _{i=m}^{n}P\left(A_{i}\right)$

Докажем его:

${\mathsf {M}}\eta \geq {\mathsf {M}}\eta \sum _{i=m}^{n}I_{A_{i}}=\sum _{i=m}^{n}{\mathsf {M}}\eta I_{A_{i}},$

${\mathsf {M}}\eta I_{A_{i}}=\sum _{k=m}^{n-1}\left(C_{k}^{2}-C_{k+1}^{2}\right){\mathsf {M}}S_{k}^{2}I_{A_{i}}+C_{n}^{2}{\mathsf {M}}S_{n}^{2}I_{A_{i}}$

${\mathsf {M}}\eta I_{A_{i}}={\mathsf {M}}\left(S_{k}-S_{i}+S_{i}\right)^{2}I_{A_{i}}\geq {\mathsf {M}}S_{i}^{2}I_{A_{i}}+2{\mathsf {M}}\left(S_{k}-S_{i}\right)S_{i}I_{A_{i}}={\mathsf {M}}S_{i}^{2}I_{A_{i}}+2{\mathsf {M}}\left(S_{k}-S_{i}\right){\mathsf {M}}S_{i}I_{A_{i}}\geq {\mathsf {M}}{\frac {\varepsilon ^{2}}{C_{i}^{2}}}I_{A_{i}}={\frac {\varepsilon ^{2}}{C_{i}^{2}}}P\left(A_{i}\right)$

Следствие (неравенство Колмогорова)

Если случайные величины $\xi _{1},\xi _{2},...,\xi _{n},...,$ независимы и имеют конечные математические ожидания и дисперсии, то

$P\left(\max _{1\leq k\leq n}{\frac {1}{k}}\left|\sum _{i=1}^{k}\left(\xi _{i}-{\mathsf {M}}\xi _{i}\right)\right|>\varepsilon \right)\leq {\frac {1}{\varepsilon ^{2}}}\sum _{k=1}^{n}{\frac {D\xi _{k}}{k^{2}}}$

Доказательство

Доказательство вытекает из неравенства Гаека — Реньи, если

$C_{k}={\frac {1}{k}},$

$m=1$

Это неравенство можно записать в виде:

$P\left(\max _{1\leq k\leq n}{\frac {1}{k}}\left|\sum _{i=1}^{k}\left(\xi _{i}-{\mathsf {M}}\xi _{i}\right)\right|>\varepsilon \right)\leq {\frac {1}{\varepsilon ^{2}}}\sum _{k=1}^{n}D\xi _{k}$

Литература

• Лазакович Н.В., Сташуленок С.П., Яблонский О.Л. Курс Теории Вероятностей. — 2003. — 322 с. (Глава 6 § 3 раздел 2)

См. также

• Закон больших чисел
• Центральная предельная теорема