Характеристическая функция случайной величины

Характеристи́ческая фу́нкция случа́йной величины́ — один из способов задания распределения. Характеристические функции могут быть удобнее в тех случаях, когда, например, плотность или функция распределения имеют очень сложный вид. Также характеристические функции являются удобным инструментом для изучения вопросов слабой сходимости (сходимости по распределению). В теорию характеристических функций внесли большой вклад Ю.В. Линник, И.В. Островский, К.Р. Рао, Б. Рамачандран.

Определение

Пусть есть случайная величина $X$ с распределением $\mathbb {P} ^{X}$. Тогда характеристическая функция задаётся формулой:

$\phi _{X}(t)=\mathbb {E} \left[e^{itX}\right]$.

Пользуясь формулами для вычисления математического ожидания, определение характеристической функции можно переписать в виде:

$\phi _{X}(t)=\int \limits _{-\infty }^{\infty }e^{itx}\,\mathbb {P} ^{X}(dx)$,

то есть характеристическая функция — это обратное преобразование Фурье распределения случайной величины.

Если случайная величина $X$ принимает значения в произвольном гильбертовом пространстве ${\mathcal {H}}$, то её характеристическая функция имеет вид:

$\phi _{X}(t)=\mathbb {E} \left[e^{i\langle t,X\rangle }\right],\;\forall t\in {\mathcal {H}}$,

где $\langle \cdot ,\cdot \rangle$ обозначает скалярное произведение в ${\mathcal {H}}$.

Дискретные и абсолютно непрерывные случайные величины

Если случайная величина $X$ дискретна, то есть $\mathbb {P} (X=x_{k})=p_{k},\;k=1,2,\ldots$, то

$\phi _{X}(t)=\sum _{k=1}^{\infty }e^{itx_{k}}\,p_{k}$.

Пример. Пусть $X$ имеет распределение Бернулли. Тогда

$\phi _{X}(t)=e^{it\cdot 1}\cdot p+e^{it\cdot 0}\cdot q=pe^{it}+q$.

Если случайная величина $X$ абсолютно непрерывна, то есть она имеет плотность $f_{X}(x)$, то

$\phi _{X}(t)=\int \limits _{-\infty }^{\infty }e^{itx}\,f_{X}(x)\,dx$.

Пример. Пусть $X\sim U[0,1]$ имеет стандартное непрерывное равномерное распределение. Тогда

$\phi _{X}(t)=\int \limits _{0}^{1}e^{itx}\cdot 1\,dx=\left.{\frac {e^{itx}}{it}}\right\vert _{0}^{1}={\frac {e^{it}-1}{it}}$.

Свойства характеристических функций

• Характеристическая функция однозначно определяет распределение. Пусть $X,Y$ есть две случайные величины, и $\phi _{X}(t)=\phi _{Y}(t),\;\forall t$. Тогда $\mathbb {P} ^{X}=\mathbb {P} ^{Y}$. В частности, если обе величины абсолютно непрерывны, то совпадение характеристических функций влечёт совпадение плотностей. Если обе случайные величины дискретны, то совпадение характеристических функций влечёт совпадение функций вероятности.
• Характеристическая функция всегда ограничена:

$|\phi _{X}(t)|\leq 1,\ \forall t\in \mathbb {R}$.

• Характеристическая функция в нуле равна единице:

$\phi _{X}(0)\ =1$.

• Характеристическая функция всегда равномерно непрерывна: $\phi _{X}\in C(\mathbb {R} )$.
• Характеристическая функция как функция случайной величины однородна:

$\phi _{aX}(t)=\phi _{X}(at),\;\forall a\in \mathbb {R}$.

• Характеристическая функция суммы независимых случайных величин равна произведению их характеристических функций. Пусть $X_{1},\ldots ,X_{n}$ суть независимые случайные величины. Обозначим $S_{n}=\sum \limits _{i=1}^{n}X_{i}$. Тогда

$\phi _{S_{n}}(t)=\prod \limits _{i=1}^{n}\phi _{X_{i}}(t)$.

• Характеристическая функция эрмитова: для всех вещественных $t$ верно равенство $\phi _{X}(-t)={\overline {\phi }}_{X}(t)$, где ${\overline {\phi }}_{X}(t)$ означает комплексно сопряжённую с $\phi _{X}(t)$ функцию.
• Теорема обращения (Леви). Пусть $F$ - функция распределения, а $\phi$ - её характеристическая функция. Если $a$ и $b$ - точки непрерывности $F$, то

$F(b)-F(a)={\frac {1}{2\pi }}\lim _{T\to \infty }\int _{-T}^{+T}{\frac {e^{-ita}-e^{-itb}}{it}}\,\phi (t)\,dt.$

• Характеристическая функция положительно определена: при каждом целом $m>0$ для любых вещественных чисел $u_{1},u_{2},...,u_{m}$ и любых комплексных чисел $z_{1},z_{2},...,z_{m}$ выполняется неравенство $\sum _{i,j=1}^{m}\varphi (u_{i}-u_{j})z_{i}{\bar {z_{j}}}\geqslant 0$. Здесь ${\bar {z_{j}}}$ означает комплексно сопряжённое к $z_{j}$ число.

Вычисление моментов

Если случайная величина $X$ имеет начальный $n$-й момент, то характеристическая функция имеет непрерывную $n$-ю производную, то есть $\phi _{X}\in C^{n}(\mathbb {R} )$, и более того:

$i^{n}\left.\mathbb {E} \left[X^{n}\right]={\frac {d^{n}}{dt^{n}}}\phi _{X}(t)\right\vert _{t=0}$.

Обратное преобразование Фурье

Пусть дана случайная величина $X$, чья характеристическая функция равна $\phi _{X}(t)\$. Тогда

• если $X$ дискретна и принимает целые значения, то

$\mathbb {P} (X=k)={\frac {1}{2\pi }}\int \limits _{-\pi }^{\pi }e^{-itk}\,\phi _{X}(t)\,dt,\;k\in \mathbb {Z}$;

• если $X$ абсолютно непрерывна, и $f_{X}(x)$ — её плотность, то

$f_{X}(x)={\frac {1}{2\pi }}\int \limits _{-\infty }^{\infty }e^{-itx}\,\phi _{X}(t)\,dt,\;x\in \mathbb {R}$.

Достаточные условия

Чтобы функция $\varphi (t)$ была характеристической функцией какой-то случайной величины, достаточно, чтобы $\varphi (t)$ была неотрицательной, чётной, непрерывной, выпуклой вниз функцией, $\varphi (0)=1$ и $\varphi (t)\rightarrow 0$ при $t\rightarrow \infty$ (теорема Титчмарша — Пойи).

Необходимые и достаточные условия

Пусть $\varphi (u)$ - непрерывная функция $u\in R^{n}$ и $\varphi (0)=1$. Для того, чтобы функция $\varphi (u)$ была характеристической, необходимо и достаточно, чтобы она была положительно определённой функцией, то есть при каждом целом $m>0$ для любых вещественных чисел $u_{1},u_{2},...,u_{m}$ и любых комплексных чисел $z_{1},z_{2},...,z_{m}$ выполняется неравенство $\sum _{i,j=1}^{m}\varphi (u_{i}-u_{j})z_{i}{\bar {z_{j}}}\geqslant 0$ (Теорема Бохнера — Хинчина). Здесь ${\bar {z_{j}}}$ означает комплексно сопряжённое к $z_{j}$ число.

См. также

• Теорема Леви о непрерывности (метод характеристических функций).
• Прямая и обратная предельная теорема
• Теорема Титчмарша — Пойи
• Теорема Бохнера — Хинчина

Литература

• Линник Ю.В., Островский И.В. Разложения случайных величин и векторов, Наука, М., 1972.
• Лукач Е. Характеристические функции. - М., Наука, 1979. - 424 с.