Нормирующая константа - Normalizing constant

Концепция нормализующая константа возникает в теория вероятности и множество других областей математика. Нормализующая константа используется для сведения любой функции вероятности к функции плотности вероятности с полной вероятностью, равной единице.

Определение

В теория вероятности, а нормализующая константа - константа, на которую необходимо умножить всюду неотрицательную функцию, чтобы площадь под ее графиком была равна 1, например, чтобы сделать ее функция плотности вероятности или функция массы вероятности.^[1][2]

Примеры

Если мы начнем с простого Функция Гаусса

${\displaystyle p(x)=e^{-x^{2}/2},x\in (-\infty ,\infty )}$

у нас есть соответствующие Гауссов интеграл

${\displaystyle \int _{-\infty }^{\infty }p(x)\,dx=\int _{-\infty }^{\infty }e^{-x^{2}/2}\,dx={\sqrt {2\pi \,}},}$

Теперь, если мы воспользуемся последним обратная стоимость в качестве нормализующей константы для первого, определяя функцию ${\displaystyle \varphi (x)}$ так как

${\displaystyle \varphi (x)={\frac {1}{\sqrt {2\pi \,}}}p(x)={\frac {1}{\sqrt {2\pi \,}}}e^{-x^{2}/2}}$

так что это интеграл единица

${\displaystyle \int _{-\infty }^{\infty }\varphi (x)\,dx=\int _{-\infty }^{\infty }{\frac {1}{\sqrt {2\pi \,}}}e^{-x^{2}/2}\,dx=1}$

тогда функция ${\displaystyle \varphi (x)}$ - функция плотности вероятности.^[3] Это плотность эталона нормальное распределение. (Стандарт, в данном случае означает ожидаемое значение равно 0 и отклонение равно 1.)

И постоянный ${\displaystyle {\frac {1}{\sqrt {2\pi \,}}}}$ это нормализующая константа функции ${\displaystyle p(x)}$.

Так же,

${\displaystyle \sum _{n=0}^{\infty }{\frac {\lambda ^{n}}{n!}}=e^{\lambda },}$

и следовательно

${\displaystyle f(n)={\frac {\lambda ^{n}e^{-\lambda }}{n!}}}$

является функцией массы вероятности на множестве всех неотрицательных целых чисел.^[4] Это функция массы вероятности распределение Пуассона с математическим ожиданием λ.

Обратите внимание, что если функция плотности вероятности является функцией различных параметров, то это также будет ее нормирующая константа. Параметризованная нормирующая постоянная для Распределение Больцмана играет центральную роль в статистическая механика. В этом контексте нормализующая константа называется функция распределения.

Теорема Байеса

Теорема Байеса говорит, что мера апостериорной вероятности пропорциональна произведению меры априорной вероятности и функция правдоподобия. Пропорционально подразумевает, что нужно умножить или разделить на нормирующую константу, чтобы присвоить меру 1 всему пространству, то есть получить вероятностную меру. В простом дискретном случае имеем

${\displaystyle P(H_{0}|D)={\frac {P(D|H_{0})P(H_{0})}{P(D)}}}$

где P (H₀) - априорная вероятность того, что гипотеза верна; P (D | H₀) это условная возможность данных при условии, что гипотеза верна, но учитывая, что данные известны, это вероятность гипотезы (или ее параметров) с учетом данных; P (H₀| D) - апостериорная вероятность того, что гипотеза верна с учетом данных. P (D) должно быть вероятностью получения данных, но само по себе его сложно вычислить, поэтому альтернативный способ описать эту взаимосвязь как один из пропорциональных:

${\displaystyle P(H_{0}|D)\propto P(D|H_{0})P(H_{0}).}$

Поскольку P (H | D) является вероятностью, сумма по всем возможным (взаимоисключающим) гипотезам должна быть 1, что приводит к выводу, что

${\displaystyle P(H_{0}|D)={\frac {P(D|H_{0})P(H_{0})}{\displaystyle \sum _{i}P(D|H_{i})P(H_{i})}}.}$

В этом случае взаимный ценности

${\displaystyle P(D)=\sum _{i}P(D|H_{i})P(H_{i})\;}$

это нормализующая константа.^[5] Его можно расширить от счетного числа гипотез до несчетного числа, заменив сумму интегралом.

Невозможно использовать

В Полиномы Лежандра характеризуются ортогональность относительно равномерной меры на интервале [- 1, 1] и того факта, что они нормализованный так что их значение в 1 равно 1. Константа, на которую умножают многочлен, чтобы его значение в 1 было 1, является нормирующей константой.

Ортонормированный функции нормализованы так, что

${\displaystyle \langle f_{i},\,f_{j}\rangle =\,\delta _{i,j}}$

относительно некоторого внутреннего продукта <ж, г>.

Константа 1 /√2 используется для установления гиперболические функции cosh и sinh от длин соседней и противоположной сторон гиперболический треугольник.

Смотрите также

• Нормализация (статистика)

Заметки

1. Непрерывное распространение в Университете Алабамы.
2. Феллер, 1968, стр. 22.
3. Феллер, 1968, стр. 174.
4. Феллер, 1968, стр. 156.
5. Феллер, 1968, стр. 124.

использованная литература

• Непрерывное распространение на факультете математических наук: Университет Алабамы в Хантсвилле
• Феллер, Уильям (1968). Введение в теорию вероятностей и ее приложения (том I). Джон Вили и сыновья. ISBN  0-471-25708-7.