Условное математическое ожидание

Условное математическое ожидание в теории вероятностей — это среднее значение случайной величины при выполнении некоторого условия (реализации каких-то событий). Часто в качестве условия выступает фиксированное на некотором уровне значение другой случайной величины, которая может быть связана с данной (если эти случайные величины независимы, то условное математическое ожидание совпадает с (безусловным) математическим ожиданием). В этом случае условное математическое ожидание случайной величины при условии, что случайная величина приняла значение обозначается как , соответственно, ее можно рассматривать как функцию от . Эта функция называется функцией регрессии случайной величины на случайную величину и поэтому условное математическое ожидание обозначают как , то есть без указания фиксированного значения .

Условное математическое ожидание - это характеристика условного распределения.

Определения

править

Будем считать, что дано вероятностное пространство  . Пусть   — интегрируемая случайная величина, то есть  . Пусть также   — σ-подалгебра σ-алгебры  .

УМО относительно σ-алгебры

править

Случайная величина   называется условным математическим ожиданием   относительно σ-алгебры  , если

  •   измерима относительно  .
  •  ,

где   — индикатор события   (иными словами, это характеристическая функция множества-события, аргументом которой является случайная величина или элементарный исход). Условное математическое ожидание обозначается  .

Пример. Пусть   Положим  . Тогда   — σ-алгебра, и  . Пусть случайная величина   имеет вид

 .

Тогда

 

УМО относительно семейства событий

править

Пусть   — произвольное семейство событий. Тогда условным математическим ожиданием   относительно   называется

 ,

где   — минимальная сигма-алгебра, содержащая  .

Пример. Пусть   Пусть также  . Тогда  . Пусть случайная величина   имеет вид

 .

Тогда

 

УМО относительно случайной величины

править

Пусть   другая случайная величина. Тогда условным математическим ожиданием   относительно   называется

 ,

где   — σ-алгебра, порождённая случайной величиной  .

Другое определение УМО   относительно   :

 

Такое определение конструктивно описывает алгоритм нахождения УМО:

  • найти математическое ожидание случайной величины  , принимая   за константу  ;
  • Затем в полученном выражении   обратно заменить на случайную величину  .

Пример:  

 

Условная вероятность

править

Пусть   — произвольное событие, и   — его индикатор. Тогда условной вероятностью   относительно   называется

 .

Замечания

править
  • Условное математическое ожидание — это случайная величина, а не число.
  • Условное математическое ожидание определено с точностью до событий вероятности нуль. Таким образом, если   и    -почти всюду, то  . Отождествив случайные величины, различающиеся лишь на событиях вероятности нуль, получаем единственность условного математического ожидания.
  • Взяв  , получаем по определению:
 ,

и в частности справедлива формула полной вероятности:

 .
  • Пусть σ-алгебра   порождена разбиением  . Тогда
 .

В частности формула полной вероятности принимает классический вид:

 ,

а следовательно

 .

Основные свойства

править
  • Если  , то существует борелевская функция  , такая что
 .

Условное математическое ожидание   относительно события   по определению равно

 .
  • Если   п.н., то   п.н.
  • Если   независима от  , то
  п.н.

В частности, если   независимые случайные величины, то

  п.н.
  • Если   — две σ-алгебры, такие что  , то
 .
  • Если   —  -измерима, и   — случайная величина, такая что  , то
 .
  • «Математическое ожидание убирает условие». Это правило верно для УМО относительно случайной величины (УМО в таком случае будет случайной величиной) и для условной вероятности относительно случайной величины
 .

Дополнительные свойства

править

УМО для дискретных величин

править

Пусть   — дискретная случайная величина, чьё распределение задаётся функцией вероятности  . Тогда система событий   является разбиением  , и

 ,

а

 ,

где   означает математическое ожидание, взятое относительно условной вероятности  .

Если случайная величина   также дискретна, то

 ,

где   — условная функция вероятности случайной величины   относительно  .

УМО для абсолютно непрерывных случайных величин

править

Пусть   — случайные величины, такие что вектор   абсолютно непрерывен, и его распределение задаётся плотностью вероятности  . Введём условную плотность  , положив по определению

 ,

где   — плотность вероятности случайной величины  . Тогда

 ,

где функция   имеет вид

 .

В частности,

 .

УМО в L2

править

Рассмотрим пространство случайных величин с конечным вторым моментом  . В нём определены скалярное произведение

 ,

и порождённая им норма

 .

Множество всех случайных величин   с конечным вторым моментом и измеримых относительно  , где  , является подпространством  . Тогда оператор  , задаваемый равенством

 ,

является оператором ортогонального проектирования на  . В частности:

  • Условное математическое ожидание   — это наилучшее средне-квадратичное приближение    -измеримыми случайными величинами:
 .
  • Условное математическое ожидание сохраняет скалярное произведение:
 .
 .

См. также

править