Обобщенное нормальное распределение - Generalized normal distribution

В обобщенное нормальное распределение или обобщенное распределение Гаусса (GGD) является одним из двух семейств параметрический непрерывные распределения вероятностей на настоящий линия. Обе семьи добавляют параметр формы к нормальное распределение. Чтобы различать эти два семейства, они упоминаются ниже как «версия 1» и «версия 2». Однако это не стандартная номенклатура.

Версия 1

Обобщенный нормальный (версия 1)

Функция плотности вероятности
Кумулятивная функция распределения
Параметры	${displaystyle mu ,}$ место расположения (настоящий ) ${displaystyle alpha ,}$ шкала (положительный, настоящий ) ${displaystyle eta ,}$ форма (положительный, настоящий )
Поддерживать	${displaystyle xin (-infty ;+infty )!}$
PDF	${displaystyle {frac {eta }{2alpha Gamma (1/eta )}};e^{-(|x-mu |/alpha )^{eta }}}$ ${displaystyle Gamma }$ обозначает гамма-функция
CDF	${displaystyle {frac {1}{2}}+{frac {{ ext{sign}}(x-mu )}{2}}{frac {1}{Gamma left({frac {1}{eta }}ight)}}gamma left({frac {1}{eta }},xalpha ^{eta }ight)}$[1].
Квантиль	${displaystyle { ext{sign}}(p-0.5)F^{-1}left(2|p-0.5|;{frac {1}{eta }},{frac {1}{alpha ^{eta }}}ight)^{1/eta }+mu }$ куда ${displaystyle F^{-1}left(p;a,bight)}$ квантильная функция Гамма-распределение[1]
Иметь в виду	${displaystyle mu ,}$
Медиана	${displaystyle mu ,}$
Режим	${displaystyle mu ,}$
Дисперсия	${displaystyle {frac {alpha ^{2}Gamma (3/eta )}{Gamma (1/eta )}}}$
Асимметрия	0
Бывший. эксцесс	${displaystyle {frac {Gamma (5/eta )Gamma (1/eta )}{Gamma (3/eta )^{2}}}-3}$
Энтропия	${displaystyle {frac {1}{eta }}-log left[{frac {eta }{2alpha Gamma (1/eta )}}ight]}$[2]

Известный также как экспоненциальное распределение мощности, или обобщенное распределение ошибок, это параметрическое семейство симметричных распределений. Включает в себя все нормальный и Лаплас дистрибутивов, и в качестве предельных случаев включает все непрерывное равномерное распределение на ограниченных интервалах реальной прямой.

В это семейство входят нормальное распределение когда ${displaystyle extstyle eta =2}$ (со средним ${displaystyle extstyle mu }$ и дисперсия ${displaystyle extstyle {frac {alpha ^{2}}{2}}}$) и включает Распределение Лапласа когда ${displaystyle extstyle eta =1}$. В качестве ${displaystyle extstyle eta ightarrow infty }$, плотность сходится поточечно до однородной плотности на ${displaystyle extstyle (mu -alpha ,mu +alpha )}$.

Это семейство позволяет использовать хвосты тяжелее обычного (когда ${displaystyle eta <2}$) или легче обычного (когда ${displaystyle eta >2}$). Это полезный способ параметризации континуума симметричных, Platykurtic плотности, отличные от нормальных (${displaystyle extstyle eta =2}$) до однородной плотности (${displaystyle extstyle eta =infty }$) и континуум симметричных, лептокуртика плотности от Лапласа (${displaystyle extstyle eta =1}$) до нормальной плотности (${displaystyle extstyle eta =2}$).

Оценка параметров

Оценка параметров через максимальная вероятность и метод моментов был изучен.^[3] Оценки не имеют закрытого вида и должны быть получены численно. Также были предложены оценки, не требующие численного расчета.^[4]

Обобщенная нормальная функция логарифмического правдоподобия имеет бесконечно много непрерывных производных (т.е. принадлежит классу C^∞ из гладкие функции ) только если ${displaystyle extstyle eta }$ положительное, даже целое число. В противном случае функция имеет ${displaystyle extstyle lfloor eta floor }$ непрерывные производные. В результате стандартные результаты о непротиворечивости и асимптотической нормальности максимальная вероятность оценки ${displaystyle eta }$ применяется только когда ${displaystyle extstyle eta geq 2}$.

Оценщик максимального правдоподобия

Можно подобрать обобщенное нормальное распределение, приняв приближенное максимальная вероятность метод.^[5][6] С участием ${displaystyle mu }$ изначально установлен на образец первого момента ${displaystyle m_{1}}$, ${displaystyle extstyle eta }$ оценивается с использованием Ньютон – Рафсон итерационная процедура, начиная с первоначального предположения о ${displaystyle extstyle eta = extstyle eta _{0}}$,

${displaystyle eta _{0}={frac {m_{1}}{sqrt {m_{2}}}},}$

куда

${displaystyle m_{1}={1 over N}sum _{i=1}^{N}|x_{i}|,}$

первый статистический момент абсолютных значений и ${displaystyle m_{2}}$ второй статистический момент. Итерация

${displaystyle eta _{i+1}=eta _{i}-{frac {g(eta _{i})}{g'(eta _{i})}},}$

куда

${displaystyle g(eta )=1+{frac {psi (1/eta )}{eta }}-{frac {sum _{i=1}^{N}|x_{i}-mu |^{eta }log |x_{i}-mu |}{sum _{i=1}^{N}|x_{i}-mu |^{eta }}}+{frac {log({frac {eta }{N}}sum _{i=1}^{N}|x_{i}-mu |^{eta })}{eta }},}$

и

${displaystyle {egin{aligned}g'(eta )={}&-{frac {psi (1/eta )}{eta ^{2}}}-{frac {psi '(1/eta )}{eta ^{3}}}+{frac {1}{eta ^{2}}}-{frac {sum _{i=1}^{N}|x_{i}-mu |^{eta }(log |x_{i}-mu |)^{2}}{sum _{i=1}^{N}|x_{i}-mu |^{eta }}}[6pt]&{}+{frac {left(sum _{i=1}^{N}|x_{i}-mu |^{eta }log |x_{i}-mu |ight)^{2}}{left(sum _{i=1}^{N}|x_{i}-mu |^{eta }ight)^{2}}}+{frac {sum _{i=1}^{N}|x_{i}-mu |^{eta }log |x_{i}-mu |}{eta sum _{i=1}^{N}|x_{i}-mu |^{eta }}}[6pt]&{}-{frac {log left({frac {eta }{N}}sum _{i=1}^{N}|x_{i}-mu |^{eta }ight)}{eta ^{2}}},end{aligned}}}$

и где ${displaystyle psi }$ и ${displaystyle psi '}$ являются функция дигаммы и функция тригаммы.

Учитывая значение для ${displaystyle extstyle eta }$, можно оценить ${displaystyle mu }$ найдя минимум:

${displaystyle min _{mu }=sum _{i=1}^{N}|x_{i}-mu |^{eta }}$

Ну наконец то ${displaystyle extstyle alpha }$ оценивается как

${displaystyle alpha =left({frac {eta }{N}}sum _{i=1}^{N}|x_{i}-mu |^{eta }ight)^{1/eta }.}$

За ${displaystyle eta leq 1}$, медиана является более подходящей оценкой ${displaystyle mu }$ . Один раз ${displaystyle mu }$ оценивается, ${displaystyle eta }$ и ${displaystyle alpha }$ можно оценить, как описано выше. ^[7]

Приложения

Эта версия обобщенного нормального распределения использовалась при моделировании, когда концентрация значений вокруг среднего и поведения хвоста представляет особый интерес.^[8][9] Другие семейства распределений можно использовать, если основное внимание уделяется другим отклонениям от нормального. Если симметрия распределения - главный интерес, перекос нормально может использоваться семейство или версия 2 обобщенного нормального семейства, обсуждаемого ниже. Если поведение хвоста является основным интересом, студент т Можно использовать семейство, которое аппроксимирует нормальное распределение при возрастании степеней свободы до бесконечности. Распределение t, в отличие от этого обобщенного нормального распределения, получает более тяжелые, чем нормальные, хвосты без получения куспид в происхождении.

Характеристики

Моменты

Позволять ${displaystyle X_{eta }}$ - обобщенное гауссовское распределение формы с нулевым средним ${displaystyle eta }$ и параметр масштабирования ${displaystyle alpha }$ . Моменты ${displaystyle X_{eta }}$ существуют и конечны для любого k больше −1. Для любого неотрицательного целого k простые центральные моменты равны^[10]

${displaystyle operatorname {E} left[X_{eta }^{k}ight]={egin{cases}0&{ ext{if }}k{ ext{ is odd,}}alpha ^{k}Gamma left({frac {k+1}{eta }}ight){Big /},Gamma left({frac {1}{eta }}ight)&{ ext{if }}k{ ext{ is even.}}end{cases}}}$

Связь с положительно-определенными функциями

Функция плотности вероятности этого варианта обобщенного нормального распределения есть положительно определенная функция за ${displaystyle eta in (0,2]}$.^[11][12]

Бесконечная делимость

Эта версия обобщенного гауссовского распределения является безгранично делимое распределение если и только если ${displaystyle eta in (0,1]cup {2}}$.^[13]

Обобщения

Многомерное обобщенное нормальное распределение, т. Е. Произведение ${displaystyle n}$ экспоненциальное распределение мощности с тем же ${displaystyle eta }$ и ${displaystyle alpha }$ параметры, - единственная плотность вероятности, которую можно записать в виде ${displaystyle p(mathbf {x} )=g(|mathbf {x} |_{eta })}$ и имеет независимые маргиналы.^[14] Результаты для частного случая Многомерное нормальное распределение первоначально приписывается Максвелл.^[15]

Версия 2

Обобщенный нормальный (версия 2)

Функция плотности вероятности
Кумулятивная функция распределения
Параметры	${displaystyle xi ,}$ место расположения (настоящий ) ${displaystyle alpha ,}$ шкала (положительный, настоящий ) ${displaystyle kappa ,}$ форма (настоящий )
Поддерживать	${displaystyle xin (-infty ,xi +alpha /kappa ){ ext{ if }}kappa >0}$ ${displaystyle xin (-infty ,infty ){ ext{ if }}kappa =0}$ ${displaystyle xin (xi +alpha /kappa ;+infty ){ ext{ if }}kappa <0}$
PDF	${displaystyle {frac {phi (y)}{alpha -kappa (x-xi )}}}$, куда ${displaystyle y={egin{cases}-{frac {1}{kappa }}log left[1-{frac {kappa (x-xi )}{alpha }}ight]&{ ext{if }}kappa eq 0{frac {x-xi }{alpha }}&{ ext{if }}kappa =0end{cases}}}$ ${displaystyle phi }$ это стандарт нормальный pdf
CDF	${displaystyle Phi (y)}$, куда ${displaystyle y={egin{cases}-{frac {1}{kappa }}log left[1-{frac {kappa (x-xi )}{alpha }}ight]&{ ext{if }}kappa eq 0{frac {x-xi }{alpha }}&{ ext{if }}kappa =0end{cases}}}$ ${displaystyle Phi }$ это стандарт нормальный CDF
Иметь в виду	${displaystyle xi -{frac {alpha }{kappa }}left(e^{kappa ^{2}/2}-1ight)}$
Медиана	${displaystyle xi ,}$
Дисперсия	${displaystyle {frac {alpha ^{2}}{kappa ^{2}}}e^{kappa ^{2}}left(e^{kappa ^{2}}-1ight)}$
Асимметрия	${displaystyle {frac {3e^{kappa ^{2}}-e^{3kappa ^{2}}-2}{(e^{kappa ^{2}}-1)^{3/2}}}{ ext{ sign}}(kappa )}$
Бывший. эксцесс	${displaystyle e^{4kappa ^{2}}+2e^{3kappa ^{2}}+3e^{2kappa ^{2}}-6}$

Это семейство непрерывных распределений вероятностей, в которых параметр формы может использоваться для внесения перекоса.^[16][17] Когда параметр формы равен нулю, получается нормальное распределение. Положительные значения параметра формы приводят к распределению с уклоном влево, ограниченному вправо, а отрицательные значения параметра формы приводят к распределению с уклоном вправо, ограниченному влево. Только когда параметр формы равен нулю, функция плотности для этого распределения положительна по всей действительной линии: в этом случае распределение является нормальное распределение, иначе распределения смещаются и, возможно, обращаются логнормальные распределения.

Оценка параметров

Параметры можно оценить через оценка максимального правдоподобия или метод моментов. Оценки параметров не имеют закрытой формы, поэтому для вычисления оценок необходимо использовать численные расчеты. Поскольку пространство выборки (набор действительных чисел, где плотность не равна нулю) зависит от истинного значения параметра, некоторые стандартные результаты о производительности оценок параметров не будут автоматически применяться при работе с этим семейством.

Приложения

Это семейство распределений можно использовать для моделирования значений, которые могут быть нормально распределенными или которые могут быть либо скошены вправо, либо влево относительно нормального распределения. В асимметричное нормальное распределение - еще одно распределение, которое полезно для моделирования отклонений от нормальности из-за перекоса. Другие распределения, используемые для моделирования искаженных данных, включают гамма, логнормальный, и Weibull распределения, но они не включают нормальные распределения как особые случаи.

Другие дистрибутивы, относящиеся к нормальному

Два описанных здесь обобщенных нормальных семейства, такие как перекос нормально семейство, являются параметрическими семействами, которые расширяют нормальное распределение, добавляя параметр формы. Из-за центральной роли нормального распределения в вероятности и статистике многие распределения могут быть охарактеризованы с точки зрения их отношения к нормальному распределению. Например, лог-нормальный, сложенный нормальный, и обратная нормаль распределения определяются как преобразования нормально распределенного значения, но в отличие от обобщенных нормальных и косонормальных семейств, они не включают нормальные распределения как особые случаи.
На самом деле все распределения с конечной дисперсией в пределе сильно связаны с нормальным распределением. Распределение Стьюдента, Распределение Ирвина – Холла и Распределение Бейтса также расширяют нормальное распределение, и включают в пределе нормальное распределение. Таким образом, нет веских причин для предпочтения «обобщенного» нормального распределения типа 1, например над комбинацией Student-t и нормализованного расширенного Ирвина-Холла - это может включать, например, треугольное распределение (которое не может быть смоделировано обобщенным гауссовым типом 1).
Симметричное распределение, которое может моделировать как хвост (длинный, так и короткий) и поведение центра (например, плоский, треугольный или гауссовский) можно получить полностью независимо, например используяИкс = IH / chi.

Смотрите также

• Комплексное нормальное распределение
• Скошенное нормальное распределение

Рекомендации

1. Гриффин, Мэриклер. «Работа с экспоненциальным распределением мощности с использованием gnorm». Github, пакет gnorm. Получено 26 июн 2020.
2. Надараджа, Сарали (сентябрь 2005 г.). «Обобщенное нормальное распределение». Журнал прикладной статистики. 32 (7): 685–694. Дои:10.1080/02664760500079464.
3. Варанаси, М.К .; Аачанг, Б. (октябрь 1989 г.). «Параметрическая обобщенная гауссова оценка плотности». Журнал Акустического общества Америки. 86 (4): 1404–1415. Дои:10.1121/1.398700.
4. Домингес-Молина, Х. Армандо; Гонсалес-Фариас, Грасиела; Родригес-Даньино, Рамон М. «Практическая процедура оценки параметра формы в обобщенном распределении Гаусса» (PDF). Получено 2009-03-03.
5. Варанаси, М.К .; Аажанг Б. (1989). «Параметрическая обобщенная гауссова оценка плотности». J. Acoust. Soc. Являюсь. 86 (4): 1404–1415. Дои:10.1121/1.398700.
6. Do, M.N .; Веттерли, М. (февраль 2002 г.). «Поиск текстуры на основе вейвлетов с использованием обобщенной гауссовой плотности и расстояния Кульбака-Лейблера». Транзакция по обработке изображений. 11 (2): 146–158. Дои:10.1109/83.982822. PMID  18244620.
7. Варанаси, Махеш К .; Аажанг, Бехнаам (01.10.1989). «Параметрическая обобщенная гауссова оценка плотности». Журнал акустического общества Америки. 86 (4): 1404–1415. Дои:10.1121/1.398700. ISSN  0001-4966.
8. Лян, Фаминг; Лю, Чуаньхай; Ван, Найсинь (Апрель 2007 г.). «Надежный последовательный байесовский метод для идентификации дифференциально экспрессируемых генов». Statistica Sinica. 17 (2): 571–597. Архивировано из оригинал на 2007-10-09. Получено 2009-03-03.
9. Box, Джордж Э. П.; Тяо, Джордж К. (1992). Байесовский вывод в статистическом анализе. Нью-Йорк: Вили. ISBN  978-0-471-57428-6.
10. Саралис Надараджа (2005) Обобщенное нормальное распределение, Журнал прикладной статистики, 32: 7, 685-694, DOI: 10.1080 / 02664760500079464
11. Дыцо, Алексей; Бастин, Ронит; Бедный, Х. Винсент; Шамай, Шломо (2018). «Аналитические свойства обобщенных гауссовских распределений». Журнал статистических распределений и приложений. 5 (1): 6. Дои:10.1186 / s40488-018-0088-5.
12. Бохнер, Саломон (1937). «Устойчивые законы вероятности и полностью монотонные функции». Математический журнал герцога. 3 (4): 726–728. Дои:10.1215 / s0012-7094-37-00360-0.
13. Дыцо, Алексей; Бастин, Ронит; Бедный, Х. Винсент; Шамай, Шломо (2018). «Аналитические свойства обобщенных гауссовских распределений». Журнал статистических распределений и приложений. 5 (1): 6. Дои:10.1186 / s40488-018-0088-5.
14. Синз, Фабиан; Гервинн, Себастьян; Бетге, Матиас (май 2009 г.). «Характеристика p-обобщенного нормального распределения». Журнал многомерного анализа. 100 (5): 817–820. Дои:10.1016 / j.jmva.2008.07.006.
15. Кац, М. (1939). «Об характеристике нормального распределения». Американский журнал математики. 61 (3): 726–728. Дои:10.2307/2371328. JSTOR  2371328.
16. Хоскинг, Дж. Р. М., Уоллис, Дж. Р. (1997) Региональный частотный анализ: подход, основанный на L-моментах, Издательство Кембриджского университета. ISBN  0-521-43045-3. Раздел A.8
17. Документация для пакета lmomco R