Вероятностно-производящая функция - Probability-generating function

В теория вероятности, то функция, производящая вероятность из дискретная случайная величина это степенной ряд представительство ( производящая функция ) из функция массы вероятности из случайная переменная. Вероятностные производящие функции часто используются для лаконичного описания последовательности вероятностей Pr (Икс = я) в функция массы вероятности для случайная переменная Икс, и сделать доступной хорошо разработанную теорию степенных рядов с неотрицательными коэффициентами.

Определение

Одномерный случай

Если Икс это дискретная случайная величина принимая значения в неотрицательных целые числа {0,1, ...}, то функция, производящая вероятность из Икс определяется как^[1]

${\displaystyle G(z)=\operatorname {E} (z^{X})=\sum _{x=0}^{\infty }p(x)z^{x},}$

куда п это функция массы вероятности из Икс. Обратите внимание, что нижние обозначения грамм_Икс и п_Икс часто используются, чтобы подчеркнуть, что они относятся к конкретной случайной величине Икс, и его распределение. Силовой ряд сходится абсолютно по крайней мере для всех сложные числа z с |z| ≤ 1; во многих примерах радиус сходимости больше.

Многомерный случай

Если Икс = (Икс₁,...,Икс_d ) дискретная случайная величина, принимающая значения в d-мерный неотрицательный целочисленная решетка {0,1, ...}^d, то функция, производящая вероятность из Икс определяется как

${\displaystyle G(z)=G(z_{1},\ldots ,z_{d})=\operatorname {E} {\bigl (}z_{1}^{X_{1}}\cdots z_{d}^{X_{d}}{\bigr )}=\sum _{x_{1},\ldots ,x_{d}=0}^{\infty }p(x_{1},\ldots ,x_{d})z_{1}^{x_{1}}\cdots z_{d}^{x_{d}},}$

куда п - функция массы вероятности Икс. По крайней мере, для всех комплексных векторов степенной ряд сходится абсолютно. z = (z₁,...,z_d ) ∈ ℂ^d с макс {|z₁|,...,|z_d |} ≤ 1.

Характеристики

Силовая серия

Вероятностные производящие функции подчиняются всем правилам степенных рядов с неотрицательными коэффициентами. Особенно, грамм(1⁻) = 1, где грамм(1⁻) = lim_{z → 1}грамм(z) снизу, поскольку сумма вероятностей должна быть равна единице. Итак радиус схождения любой функции, производящей вероятность, должно быть не меньше 1, по Теорема Абеля для степенных рядов с неотрицательными коэффициентами.

Вероятности и ожидания

Следующие свойства позволяют выводить различные базовые величины, относящиеся к Икс:

1. Функция массы вероятности Икс восстанавливается путем принятия производные из ГРАММ,

   ${\displaystyle p(k)=\operatorname {Pr} (X=k)={\frac {G^{(k)}(0)}{k!}}.}$

2. Из свойства 1 следует, что если случайные величины Икс и Y имеют равные функции, генерирующие вероятность, ${\displaystyle G_{X}=G_{Y}}$, тогда ${\displaystyle p_{X}=p_{Y}}$. То есть, если Икс и Y имеют идентичные функции, генерирующие вероятность, то они имеют идентичные распределения.
3. Нормализация функции плотности вероятности может быть выражена через производящую функцию как

   ${\displaystyle \operatorname {E} [1]=G(1^{-})=\sum _{i=0}^{\infty }p(i)=1.}$

   В ожидание из ${\displaystyle X}$ дан кем-то

   ${\displaystyle \operatorname {E} [X]=G'(1^{-}).}$

   В более общем плане k^th факторный момент, ${\displaystyle \operatorname {E} (X(X-1)\cdots (X-k+1))}$ из Икс дан кем-то

   ${\displaystyle \operatorname {E} \left[{\frac {X!}{(X-k)!}}\right]=G^{(k)}(1^{-}),\quad k\geq 0.}$

   Итак отклонение из Икс дан кем-то

   ${\displaystyle \operatorname {Var} (X)=G''(1^{-})+G'(1^{-})-\left[G'(1^{-})\right]^{2}.}$

   Наконец, k^th грубый момент X задается

   ${\displaystyle \operatorname {E} [X^{k}]=\left(z{\frac {\partial }{\partial z}}\right)^{k}G(z){\Big |}_{z=1^{-}}}$

4. ${\displaystyle G_{X}(e^{t})=M_{X}(t)}$ куда Икс случайная величина, ${\displaystyle G_{X}(t)}$ - производящая функция вероятности ( Икс) и ${\displaystyle M_{X}(t)}$ это момент-производящая функция (из Икс) .

Функции независимых случайных величин

Функции, генерирующие вероятность, особенно полезны для работы с функциями независимый случайные переменные. Например:

• Если Икс₁, Икс₂, ..., Икс_N представляет собой последовательность независимых (и не обязательно одинаково распределенных) случайных величин, и

${\displaystyle S_{N}=\sum _{i=1}^{N}a_{i}X_{i},}$

где а_я являются константами, то производящая функция вероятности имеет вид

${\displaystyle G_{S_{N}}(z)=\operatorname {E} (z^{S_{N}})=\operatorname {E} \left(z^{\sum _{i=1}^{N}a_{i}X_{i},}\right)=G_{X_{1}}(z^{a_{1}})G_{X_{2}}(z^{a_{2}})\cdots G_{X_{N}}(z^{a_{N}}).}$

Например, если

${\displaystyle S_{N}=\sum _{i=1}^{N}X_{i},}$

тогда производящая функция вероятности, грамм_SN(z), дан кем-то

${\displaystyle G_{S_{N}}(z)=G_{X_{1}}(z)G_{X_{2}}(z)\cdots G_{X_{N}}(z).}$

Отсюда также следует, что вероятностная производящая функция разности двух независимых случайных величин S = Икс₁ − Икс₂ является

${\displaystyle G_{S}(z)=G_{X_{1}}(z)G_{X_{2}}(1/z).}$

• Предположим, что N также является независимой дискретной случайной величиной, принимающей значения неотрицательных целых чисел, с функцией генерации вероятности грамм_N. Если Икс₁, Икс₂, ..., Икс_N независимы и одинаково распределены с общей вероятностной производящей функцией грамм_Икс, тогда

${\displaystyle G_{S_{N}}(z)=G_{N}(G_{X}(z)).}$

Это можно увидеть, используя закон полного ожидания, следующее:

${\displaystyle {\begin{aligned}G_{S_{N}}(z)&=\operatorname {E} (z^{S_{N}})=\operatorname {E} (z^{\sum _{i=1}^{N}X_{i}})\\[4pt]&=\operatorname {E} {\big (}\operatorname {E} (z^{\sum _{i=1}^{N}X_{i}}\mid N){\big )}=\operatorname {E} {\big (}(G_{X}(z))^{N}{\big )}=G_{N}(G_{X}(z)).\end{aligned}}}$

Последний факт полезен при изучении Процессы Гальтона – Ватсона и сложные процессы Пуассона.

• Снова предположим, что N также является независимой дискретной случайной величиной, принимающей значения неотрицательных целых чисел, с функцией генерации вероятности грамм_N и плотность вероятности ${\displaystyle f_{i}=\Pr\{N=i\}}$. Если Икс₁, Икс₂, ..., Икс_N независимы, но нет одинаково распределенные случайные величины, где ${\displaystyle G_{X_{i}}}$ обозначает производящую функцию вероятности ${\displaystyle X_{i}}$, тогда

${\displaystyle G_{S_{N}}(z)=\sum _{i\geq 1}f_{i}\prod _{k=1}^{i}G_{X_{i}}(z).}$

Для одинаково распределенных Икс_я это упрощает идентичность, указанную ранее. Общий случай иногда бывает полезен для получения разложения S_N с помощью производящих функций.

Примеры

• Производящая функция вероятности постоянная случайная величина, т. е. с Pr (Икс = c) = 1, является

${\displaystyle G(z)=z^{c}.}$

• Производящая функция вероятности биномиальная случайная величина, количество успехов в п испытания, с вероятностью п успеха в каждом испытании,

${\displaystyle G(z)=\left[(1-p)+pz\right]^{n}.}$

Обратите внимание, что это п-кратное произведение вероятностной производящей функции Случайная величина Бернулли с параметром п.

Таким образом, производящая функция вероятности честная монета, является

${\displaystyle G(z)=1/2+z/2.}$

• Производящая функция вероятности отрицательная биномиальная случайная величина на {0,1,2 ...} количество отказов до рй успех с вероятностью успеха в каждом испытании п, является

${\displaystyle G(z)=\left({\frac {p}{1-(1-p)z}}\right)^{r}.}$

(Сходимость для ${\displaystyle |z|<{\frac {1}{1-p}}}$).

Обратите внимание, что это р-кратное произведение вероятностной производящей функции геометрическая случайная величина с параметром 1 -п на {0,1,2, ...}.

• Производящая функция вероятности Случайная величина Пуассона с параметром скорости λ является

${\displaystyle G(z)=e^{\lambda (z-1)}.}$

Связанные понятия

Функция, производящая вероятность, является примером производящая функция последовательности: см. также формальный степенной ряд. Это эквивалентно, а иногда и называется, z-преобразование функции массы вероятности.

Другие производящие функции случайных величин включают момент-производящая функция, то характеристическая функция и кумулянтная производящая функция. Функция, производящая вероятность, также эквивалентна производящая функция факториального момента, который как ${\displaystyle \operatorname {E} \left[z^{X}\right]}$ также можно рассматривать для непрерывных и других случайных величин.

Примечания

1. http://www.am.qub.ac.uk/users/g.gribakin/sor/Chap3.pdf

Рекомендации

• Johnson, N.L .; Kotz, S .; Кемп, А. (1993) Одномерные дискретные распределения (2-е издание). Вайли. ISBN  0-471-54897-9 (Раздел 1.B9)