Производящая функция вероятностей

В теории вероятностей, производящая функция вероятностей дискретной случайной величины представляет собой степенной ряд функции вероятности случайной величины. Производящие функции вероятностей часто используются для краткого описания их последовательности вероятностей P(X=i) для случайного величины Х, с возможностью применить теорию степенных рядов с неотрицательными коэффициентами.

ОпределениеПравить

Одномерный случайПравить

Если Х является дискретной случайной величиной, принимающей неотрицательные целочисленные значения {0,1, ...}, тогда производящая функция вероятностей от случайной величины Х определяется как

 

где p – это функция вероятности от Х. Заметим, что индексы обозначения GX и pX часто используются, чтобы подчеркнуть, что они относятся к конкретной случайной величине Х и ее распределению. Степенной ряд абсолютно сходится, по крайней мере, для всех комплексных чисел z, |z| ≤ 1; во многих примерах радиус сходимости больше.

Многомерный случайПравить

Если X = (X1,...,Xd) является дискретной случайной величиной, принимающей значения из d-мерной неотрицательной целочисленной решетки {0,1, ...}d, тогда производящая функция вероятностей от Х определена как

 

где p – это функция вероятности от Х. Степенной ряд абсолютно сходится по крайней мере для всех комплексных векторов z = (z1,...,zd ) ∈ ℂd с максимумом {|z1|,...,|zd |} ≤ 1.)

СвойстваПравить

Степенные рядыПравить

Производящие функции вероятностей подчиняются всем правилам степенных рядов с неотрицательными коэффициентами. В частности, G(1) = 1, где G(1) = limz→1G(z) снизу, поскольку сумма вероятностей должна равняться 1. Таким образом, радиус сходимости любой производящей функции вероятностей должен быть как минимум 1, по теореме Абеля для степенных рядов с неотрицательными коэффициентами.

Вероятности и ожиданияПравить

Следующие свойства позволяют сделать вывод о различных базовых величинах, связанных с  :

1. Функция вероятности от   восстанавливается взятием производной  

 

2. Из свойства 1 следует, что если случайные величины   и   имеют равные производящие функции вероятностей (   =  ), тогда  .То есть, если   и   имеют одинаковые производящие функции вероятностей, то они имеют также и одинаковые распределения.

3. Нормализация функции плотности может быть выражена в терминах производящей функции

 
Математическое ожидание X задается как
 
В более общем плане, k-ый факториальный момент,  от X задается как
 
Таким образом, дисперсия Х задается как
 

4.  , где   – это случайная величина.   - это производящая функция вероятностей и   – это производящая функция моментов.

Функции независимых случайных величинПравить

Производящие функции вероятностей полезны в частности для работы с функциями независимых случайных величин. Например:

  • Если X1, X2, ..., Xn представляет собой последовательность независимых (и не обязательно одинаково распределенных) случайных величин, и
 
где ai – константы, тогда производящая функция вероятностей определяется как
 
Например, если
 
тогда производящая функция вероятностей, GSn(z), определяется как
 
Из этого также следует, что производящая функция разности двух независимых случайных переменных S = X1 − X2 определяется как
 
  • Предположим, что N также является независимой, дискретной случайной величиной, принимающая неотрицательные целочисленные значения, с производящей функцией вероятностей GN. Если X1, X2, ..., XN независимы и одинаково распределены с общей производящей функцией вероятностей GX, тогда
 
Это можно увидеть, используя закон полного математического ожидания следующим образом:
 
Этот последний факт полезен при изучении процессов Гальтона-Ватсона.
  • Пусть снова N также является независимой, дискретной случайной величиной, принимающей неотрицательные целочисленные значения, с производящей функцией вероятностей GN и плотностью вероятности fi=P{N=i}. Если X1, X2, ..., Xn независимы, но неодинаково распределенные случайные величины, где GXi обозначает производящую функцию вероятностей от Xi, тогда
 
Для одинаково распределенных Xi это упрощает тождественность указанную ранее. В общем случае иногда полезно получить разложение SN с помощью производящих функций вероятностей.

ПримерыПравить

  • Производящая функция вероятностей для постоянной случайной величины принимающей одно значение c (P(X=c) = 1) есть
 
 
Очевидно, что это n-кратное произведение производящих функции случайной величины с распределением Бернулли с параметром p
Таким образом производящая функция случайной величины бросания честной монеты
 
 
(Сходится при   )
Очевидно, что это r-кратное произведение производящих функции случайных величин с геометрическим распределением с параметром (1-p)
 

СсылкиПравить

  • Johnson, N.L.; Kotz, S.; Kemp, A.W. (1993) Univariate Discrete distributions (2nd edition). Wiley. ISBN 0-471-54897-9 (Section 1.B9)