Условное распределение вероятностей - Conditional probability distribution

В теория вероятности и статистика, учитывая два совместно распределяемый случайные переменные ${\displaystyle X}$ и ${\displaystyle Y}$, то условное распределение вероятностей из Y данный Икс это распределение вероятностей из ${\displaystyle Y}$ когда ${\displaystyle X}$ известно, что это определенное значение; в некоторых случаях условные вероятности могут быть выражены как функции, содержащие неопределенное значение ${\displaystyle x}$ из ${\displaystyle X}$ в качестве параметра. Когда оба ${\displaystyle X}$ и ${\displaystyle Y}$ находятся категориальные переменные, а таблица условной вероятности обычно используется для представления условной вероятности. Условное распределение контрастирует с предельное распределение случайной величины, которая является ее распределением без ссылки на значение другой переменной.

Если условное распределение ${\displaystyle Y}$ данный ${\displaystyle X}$ это непрерывное распространение, то его функция плотности вероятности известен как условная функция плотности. Свойства условного распределения, такие как моменты, часто упоминаются соответствующими именами, такими как условное среднее и условная дисперсия.

В более общем смысле, можно ссылаться на условное распределение подмножества набора из более чем двух переменных; это условное распределение зависит от значений всех оставшихся переменных, и если в подмножество включено более одной переменной, то это условное распределение является условным совместное распределение включенных переменных.

Условные дискретные распределения

Для дискретные случайные величины, условная функция массы вероятности ${\displaystyle Y}$ данный ${\displaystyle X=x}$ может быть записано в соответствии с его определением как:

${\displaystyle p_{Y|X}(y\mid x)\triangleq P(Y=y\mid X=x)={\frac {P(\{X=x\}\cap \{Y=y\})}{P(X=x)}}}$

В связи с возникновением ${\displaystyle P(X=x)}$ в знаменателе это определено только для ненулевых (следовательно, строго положительных) ${\displaystyle P(X=x).}$

Связь с распределением вероятностей ${\displaystyle X}$ данный ${\displaystyle Y}$ является:

${\displaystyle P(Y=y\mid X=x)P(X=x)=P(\{X=x\}\cap \{Y=y\})=P(X=x\mid Y=y)P(Y=y).}$

пример

Рассмотрим рулон ярмарки умри и разреши ${\displaystyle X=1}$ если число четное (например, 2, 4 или 6) и ${\displaystyle X=0}$ в противном случае. Кроме того, пусть ${\displaystyle Y=1}$ если число простое (например, 2, 3 или 5) и ${\displaystyle Y=0}$ в противном случае.

	1	2	3	4	5	6
Икс	0	1	0	1	0	1
Y	0	1	1	0	1	0

Тогда безусловная вероятность того, что ${\displaystyle X=1}$ равен 3/6 = 1/2 (поскольку существует шесть возможных бросков кубика, из которых три четные), тогда как вероятность того, что ${\displaystyle X=1}$ при условии ${\displaystyle Y=1}$ равно 1/3 (поскольку есть три возможных броска простых чисел - 2, 3 и 5, из которых один четный).

Условные непрерывные распределения

Аналогично для непрерывные случайные величины, условное функция плотности вероятности из ${\displaystyle Y}$ учитывая появление значения ${\displaystyle x}$ из ${\displaystyle X}$ можно записать как^{[1]:п. 99}

${\displaystyle f_{Y\mid X}(y\mid x)={\frac {f_{X,Y}(x,y)}{f_{X}(x)}}}$

где ${\displaystyle f_{X,Y}(x,y)}$ дает плотность стыков из ${\displaystyle X}$ и ${\displaystyle Y}$, в то время как ${\displaystyle f_{X}(x)}$ дает предельная плотность для ${\displaystyle X}$. Также в этом случае необходимо, чтобы ${\displaystyle f_{X}(x)>0}$.

Связь с распределением вероятностей ${\displaystyle X}$ данный ${\displaystyle Y}$ дан кем-то:

${\displaystyle f_{Y\mid X}(y\mid x)f_{X}(x)=f_{X,Y}(x,y)=f_{X|Y}(x\mid y)f_{Y}(y).}$

Концепция условного распределения непрерывной случайной величины не так интуитивно понятна, как может показаться: Парадокс Бореля показывает, что условные функции плотности вероятности не обязательно должны быть инвариантными относительно преобразований координат.

пример

Двумерный нормальный плотность стыков

График показывает двумерная нормальная плотность суставов для случайных величин ${\displaystyle X}$ и ${\displaystyle Y}$. Чтобы увидеть распределение ${\displaystyle Y}$ при условии ${\displaystyle X=70}$, сначала можно визуализировать линию ${\displaystyle X=70}$ в ${\displaystyle X,Y}$ самолет, а затем визуализируйте плоскость, содержащую эту линию и перпендикулярную к ${\displaystyle X,Y}$ самолет. Пересечение этой плоскости с нормальной плотностью сустава, после масштабирования, чтобы дать единицу площади под пересечением, является соответствующей условной плотностью ${\displaystyle Y}$.

${\displaystyle Y\mid X=70\ \sim \ {\mathcal {N}}\left(\mu _{1}+{\frac {\sigma _{1}}{\sigma _{2}}}\rho (70-\mu _{2}),\,(1-\rho ^{2})\sigma _{1}^{2}\right).}$

Отношение к независимости

Случайные переменные ${\displaystyle X}$, ${\displaystyle Y}$ находятся независимый тогда и только тогда, когда условное распределение ${\displaystyle Y}$ данный ${\displaystyle X}$ есть, для всех возможных реализаций ${\displaystyle X}$, равное безусловному распределению ${\displaystyle Y}$. Для дискретных случайных величин это означает ${\displaystyle P(Y=y|X=x)=P(Y=y)}$ для всех возможных ${\displaystyle y}$ и ${\displaystyle x}$ с участием ${\displaystyle P(X=x)>0}$. Для непрерывных случайных величин ${\displaystyle X}$ и ${\displaystyle Y}$, иметь совместная функция плотности, это означает ${\displaystyle f_{Y}(y|X=x)=f_{Y}(y)}$ для всех возможных ${\displaystyle y}$ и ${\displaystyle x}$ с участием ${\displaystyle f_{X}(x)>0}$.

Свойства

Рассматривается как функция ${\displaystyle y}$ для данного ${\displaystyle x}$, ${\displaystyle P(Y=y|X=x)}$ - функция массы вероятности, поэтому сумма по всем ${\displaystyle y}$ (или интеграл, если это условная плотность вероятности) равен 1. Рассматривается как функция от ${\displaystyle x}$ для данного ${\displaystyle y}$, это функция правдоподобия, так что сумма по всем ${\displaystyle x}$ не должно быть 1.

Кроме того, маргинальное значение совместного распределения может быть выражено как ожидание соответствующего условного распределения. Например, ${\displaystyle p_{X}(x)=E_{Y}[p_{X|Y}(X\ |\ Y)]}$.

Теоретико-мерная формулировка

Позволять ${\displaystyle (\Omega ,{\mathcal {F}},P)}$ быть вероятностным пространством, ${\displaystyle {\mathcal {G}}\subseteq {\mathcal {F}}}$ а ${\displaystyle \sigma }$-поле в ${\displaystyle {\mathcal {F}}}$, и ${\displaystyle X:\Omega \to \mathbb {R} }$ случайная величина с действительным знаком (измеримая по Борелевскому ${\displaystyle \sigma }$-поле ${\displaystyle {\mathcal {R}}^{1}}$ на ${\displaystyle \mathbb {R} }$). Данный ${\displaystyle A\in {\mathcal {F}}}$, то Теорема Радона-Никодима подразумевает, что есть^[2] а ${\displaystyle {\mathcal {G}}}$-измеримая интегрируемая случайная величина ${\displaystyle P(A\mid {\mathcal {G}}):\Omega \to \mathbb {R} }$ такой, что ${\displaystyle \int _{G}P(A\mid {\mathcal {G}})(\omega )dP(\omega )=P(A\cap G)}$ для каждого ${\displaystyle G\in {\mathcal {G}}}$, и такая случайная величина определяется однозначно с точностью до множеств с нулевой вероятностью. Далее, тогда можно показать, что существует^[3] функция ${\displaystyle \mu :{\mathcal {R}}^{1}\times \Omega \to \mathbb {R} }$ такой, что

${\displaystyle \mu (\cdot ,\omega )}$ является вероятностной мерой на ${\displaystyle {\mathcal {R}}^{1}}$ для каждого ${\displaystyle \omega \in \Omega }$ (т.е. это регулярный ) и ${\displaystyle \mu (H,\cdot )=P(X^{-1}(H)\mid {\mathcal {G}})}$ (почти наверняка) за каждый ${\displaystyle H\in {\mathcal {R}}^{1}}$.

Для любого ${\displaystyle \omega \in \Omega }$, функция ${\displaystyle \mu (\cdot ,\omega ):{\mathcal {R}}^{1}\to \mathbb {R} }$ называется условная возможность распространение из ${\displaystyle X}$ данный ${\displaystyle {\mathcal {G}}}$. В таком случае,${\displaystyle E[X\mid {\mathcal {G}}]=\int _{-\infty }^{\infty }x\,\mu (dx,\cdot )}$ почти наверняка.

Отношение к условному ожиданию

На любое мероприятие ${\displaystyle A\in {\mathcal {A}}\supseteq {\mathcal {B}}}$определить индикаторная функция:

${\displaystyle \mathbf {1} _{A}(\omega )={\begin{cases}1\;&{\text{if }}\omega \in A,\\0\;&{\text{if }}\omega \notin A,\end{cases}}}$

что является случайной величиной. Обратите внимание, что ожидание этой случайной величины равно вероятности А сам:

${\displaystyle \operatorname {E} (\mathbf {1} _{A})=\operatorname {P} (A).\;}$

Тогда условная возможность данный ${\displaystyle \scriptstyle {\mathcal {B}}}$ это функция ${\displaystyle \scriptstyle \operatorname {P} (\cdot \mid {\mathcal {B}}):{\mathcal {A}}\times \Omega \to [0,1]}$ такой, что ${\displaystyle \scriptstyle \operatorname {P} (A\mid {\mathcal {B}})}$ это условное ожидание индикаторной функции для ${\displaystyle A}$:

${\displaystyle \operatorname {P} (A\mid {\mathcal {B}})=\operatorname {E} (\mathbf {1} _{A}\mid {\mathcal {B}})\;}$

Другими словами, ${\displaystyle \scriptstyle \operatorname {P} (A\mid {\mathcal {B}})}$ это ${\displaystyle \scriptstyle {\mathcal {B}}}$-измеримая функция, удовлетворяющая

${\displaystyle \int _{B}\operatorname {P} (A\mid {\mathcal {B}})(\omega )\,\mathrm {d} \operatorname {P} (\omega )=\operatorname {P} (A\cap B)\qquad {\text{for all}}\quad A\in {\mathcal {A}},B\in {\mathcal {B}}.}$

Условная вероятность равна регулярный если ${\displaystyle \scriptstyle \operatorname {P} (\cdot \mid {\mathcal {B}})(\omega )}$ также вероятностная мера для всех ω ∈ Ω. Ожидание случайной величины относительно обычной условной вероятности равно ее условному ожиданию.

• Для тривиальной сигма-алгебры ${\displaystyle {\mathcal {B}}=\{\emptyset ,\Omega \}}$ условная вероятность - постоянная функция, ${\displaystyle \operatorname {P} \!\left(A\mid \{\emptyset ,\Omega \}\right)\equiv \operatorname {P} (A).}$
• Для ${\displaystyle A\in {\mathcal {B}}}$, как указано выше, ${\displaystyle \operatorname {P} (A\mid {\mathcal {B}})=1_{A}.}$

Смотрите также

• Обусловленность (вероятность)
• Условная возможность
• Обычная условная вероятность
• Теорема Байеса

Заметки

1. Парк, Кун Иль (2018). Основы вероятностных и случайных процессов с приложениями к коммуникациям. Springer. ISBN  978-3-319-68074-3.
2. Биллингсли (1995), п. 430
3. Биллингсли (1995), п. 439

использованная литература

• Биллингсли, Патрик (1995). Вероятность и мера (3-е изд.). Нью-Йорк: Джон Уайли и сыновья.