Ковариация

Ковариа́ция (корреляционный момент, ковариационный момент) — в теории вероятностей и математической статистике мера линейной зависимости двух случайных величин.

ОпределениеПравить

Пусть   — две случайные величины, определённые на одном и том же вероятностном пространстве. Тогда их ковариация определяется следующим образом:

 ,

где  математическое ожидание (в англоязычной литературе принято обозначение  ).

Предполагается, что все математические ожидания   в правой части данного выражения определены.

Замечания
  • Если  , то есть имеют конечный второй момент, то ковариация определена и конечна.
  • В гильбертовом пространстве несмещённых случайных величин с конечным вторым моментом   ковариация имеет вид  и играет роль скалярного произведения.

Выборочный коэффициент ковариацииПравить

Пусть   - выборка   объёма  ,   — выборка   объёма   и они порождены случайными величинами, определёнными на одном и том же вероятностном пространстве. Тогда выборочным коэффициентом ковариации является средняя величина произведений отклонений значений от средних значений соответствующих выборок[1]:

 

где средние значения выборок (также называемые выборочными средними) определяют по формулам
 
  

Если раскрыть скобки и воспользоваться формулой для выборочного среднего, то:

 

СвойстваПравить

  • Если   — независимые случайные величины, то
     .
  • Но обратное утверждение, вообще говоря, неверно: из отсутствия ковариации не следует независимость. Пример:
    Пусть случайная величина   принимает значения  , каждое с вероятностью  . Тогда   будет принимать значения −1, 0 и 1, каждое с вероятностью  , а  . Тогда  , но  
  • Ковариация случайной величины с собой равна дисперсии:  .
  • Ковариация симметрична:
     .
  • В силу линейности математического ожидания ковариация может быть записана как
     
     
     .
  • Пусть   случайные величины, а   — их две произвольные линейные комбинации. Тогда
     .
В частности, ковариация (в отличие от коэффициента корреляции) не инвариантна относительно смены масштаба, что не всегда удобно в приложениях.
  • Если   и   — числа, то
     .
  • Неравенство Коши — Буняковского: если принять в качестве скалярного произведения двух случайных величин ковариацию  , то квадрат нормы случайной величины будет равен дисперсии  , и неравенство Коши — Буняковского запишется в виде:
     .

ИнтерпретацияПравить

Если ковариация положительна, то с ростом значений одной случайной величины, значения второй имеют тенденцию возрастать, а если знак отрицательный — то убывать.

Однако только по абсолютному значению ковариации нельзя судить о том, насколько сильно величины взаимосвязаны, так как масштаб ковариации зависит от их дисперсий. Значение ковариации можно нормировать, поделив её на произведение среднеквадратических отклонений (квадратных корней из дисперсий) случайных величин. Полученная величина называется коэффициентом корреляции Пирсона  , который всегда находится в интервале от −1 до 1:

 , где   — среднеквадратическое отклонение.

Соответственно,

 [2].

Случайные величины, имеющие нулевую ковариацию, называются некоррелированными. Независимые случайные величины всегда некоррелированы. Обратное утверждение не всегда выполняется. Оно справедливо для нормально распределенных случайных величин.

См. такжеПравить

ПримечанияПравить

  1. Мельников Р.М. Эконометрика. Учебное пособие
  2. Коэффициент корреляции

СсылкиПравить