Серия Эджворта - Edgeworth series

В Грам – Шарлье серия А (назван в честь Йорген Педерсен Грам и Карл Шарлье ), а Серия Эджворта (назван в честь Фрэнсис Исидро Эджворт ) находятся серии что приблизительно распределение вероятностей с точки зрения его кумулянты.^[1] Серии такие же; но порядок терминов (и, следовательно, точность усечения ряда) различается.^[2] Ключевая идея этих расширений - написать характеристическая функция распределения, чьи функция плотности вероятности ж должен быть аппроксимирован характеристической функцией распределения с известными и подходящими свойствами, и восстановить ж через обратный преобразование Фурье.

Грам – Шарлье серия А

Мы исследуем непрерывную случайную величину. Позволять ${\displaystyle {\hat {f}}}$ - характеристическая функция его распределения, функция плотности которой ж, и ${\displaystyle \kappa _{r}}$ его кумулянты. Разложим по известному распределению с функцией плотности вероятности ψ, характеристическая функция ${\displaystyle {\hat {\psi }}}$, и кумулянты ${\displaystyle \gamma _{r}}$. Плотность ψ обычно выбирается нормальное распределение, но возможны и другие варианты. По определению кумулянтов мы имеем (см. Wallace, 1958)^[3]

${\displaystyle {\hat {f}}(t)=\exp \left[\sum _{r=1}^{\infty }\kappa _{r}{\frac {(it)^{r}}{r!}}\right]}$ и

${\displaystyle {\hat {\psi }}(t)=\exp \left[\sum _{r=1}^{\infty }\gamma _{r}{\frac {(it)^{r}}{r!}}\right],}$

что дает следующую формальную идентичность:

${\displaystyle {\hat {f}}(t)=\exp \left[\sum _{r=1}^{\infty }(\kappa _{r}-\gamma _{r}){\frac {(it)^{r}}{r!}}\right]{\hat {\psi }}(t)\,.}$

По свойствам преобразования Фурье ${\displaystyle (it)^{r}{\hat {\psi }}(t)}$ - преобразование Фурье ${\displaystyle (-1)^{r}[D^{r}\psi ](-x)}$, где D это дифференциальный оператор относительно Икс. Таким образом, после изменения ${\displaystyle x}$ с участием ${\displaystyle -x}$ по обе стороны уравнения, находим для ж формальное расширение

${\displaystyle f(x)=\exp \left[\sum _{r=1}^{\infty }(\kappa _{r}-\gamma _{r}){\frac {(-D)^{r}}{r!}}\right]\psi (x)\,.}$

Если ψ выбрана нормальная плотность

${\displaystyle \phi (x)={\frac {1}{{\sqrt {2\pi }}\sigma }}\exp \left[-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}\right]}$

со средним значением и дисперсией, как указано ж, то есть среднее ${\displaystyle \mu =\kappa _{1}}$ и дисперсия ${\displaystyle \sigma ^{2}=\kappa _{2}}$, то разложение принимает вид

${\displaystyle f(x)=\exp \left[\sum _{r=3}^{\infty }\kappa _{r}{\frac {(-D)^{r}}{r!}}\right]\phi (x),}$

поскольку ${\displaystyle \gamma _{r}=0}$ для всех р > 2, поскольку старшие кумулянты нормального распределения равны 0. Разложив экспоненту и собрав члены в соответствии с порядком производных, мы приходим к ряду Грама – Шарлье. Такое разложение можно компактно записать в терминах Полиномы Белла так как

${\displaystyle \exp \left[\sum _{r=3}^{\infty }\kappa _{r}{\frac {(-D)^{r}}{r!}}\right]=\sum _{n=0}^{\infty }B_{n}(0,0,\kappa _{3},\ldots ,\kappa _{n}){\frac {(-D)^{n}}{n!}}.}$

Поскольку n-я производная гауссовой функции ${\displaystyle \phi }$ дается с точки зрения Многочлен Эрмита так как

${\displaystyle \phi ^{(n)}(x)={\frac {(-1)^{n}}{\sigma ^{n}}}He_{n}\left({\frac {x-\mu }{\sigma }}\right)\phi (x),}$

это дает нам окончательное выражение ряда Грама – Шарлье А как

${\displaystyle f(x)=\phi (x)\sum _{n=0}^{\infty }{\frac {1}{n!\sigma ^{n}}}B_{n}(0,0,\kappa _{3},\ldots ,\kappa _{n})He_{n}\left({\frac {x-\mu }{\sigma }}\right).}$

Интеграция серии дает нам кумулятивная функция распределения

${\displaystyle F(x)=\int _{-\infty }^{x}f(u)du=\Phi (x)-\phi (x)\sum _{n=3}^{\infty }{\frac {1}{n!\sigma ^{n-1}}}B_{n}(0,0,\kappa _{3},\ldots ,\kappa _{n})He_{n-1}\left({\frac {x-\mu }{\sigma }}\right),}$

где ${\displaystyle \Phi }$ - функция распределения нормального распределения.

Если мы включим только первые два поправочных члена в нормальное распределение, мы получим

${\displaystyle f(x)\approx {\frac {1}{{\sqrt {2\pi }}\sigma }}\exp \left[-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}\right]\left[1+{\frac {\kappa _{3}}{3!\sigma ^{3}}}He_{3}\left({\frac {x-\mu }{\sigma }}\right)+{\frac {\kappa _{4}}{4!\sigma ^{4}}}He_{4}\left({\frac {x-\mu }{\sigma }}\right)\right]\,,}$

с участием ${\displaystyle He_{3}(x)=x^{3}-3x}$ и ${\displaystyle He_{4}(x)=x^{4}-6x^{2}+3}$.

Обратите внимание, что положительное значение этого выражения не гарантируется, и поэтому оно не является допустимым распределением вероятностей. Ряд Грама – Шарлье расходится во многих интересных случаях - он сходится, только если ${\displaystyle f(x)}$ падает быстрее, чем ${\displaystyle \exp(-(x^{2})/4)}$ на бесконечности (Cramér 1957). Когда он не сходится, ряд тоже не соответствует действительности. асимптотическое разложение, потому что оценить погрешность разложения невозможно. По этой причине серия Эджворта (см. Следующий раздел) обычно предпочтительнее серии Грама – Шарлье.

Серия Эджворта

Эджворт разработал подобное расширение как усовершенствование Центральная предельная теорема.^[4] Преимущество серии Эджворта в том, что ошибка контролируется, так что это истинное асимптотическое разложение.

Позволять ${\displaystyle \{Z_{i}\}}$ быть последовательностью независимые и одинаково распределенные случайные величины со средним значением ${\displaystyle \mu }$ и дисперсия ${\displaystyle \sigma ^{2}}$, и разреши ${\displaystyle X_{n}}$ их стандартные суммы:

${\displaystyle X_{n}={\frac {1}{\sqrt {n}}}\sum _{i=1}^{n}{\frac {Z_{i}-\mu }{\sigma }}.}$

Позволять ${\displaystyle F_{n}}$ обозначить кумулятивные функции распределения переменных ${\displaystyle X_{n}}$. Тогда по центральной предельной теореме

${\displaystyle \lim _{n\to \infty }F_{n}(x)=\Phi (x)\equiv \int _{-\infty }^{x}{\tfrac {1}{\sqrt {2\pi }}}e^{-{\frac {1}{2}}q^{2}}dq}$

для каждого ${\displaystyle x}$, пока среднее значение и дисперсия конечны.

Теперь предположим, что помимо среднего ${\displaystyle \mu }$ и дисперсия ${\displaystyle \sigma ^{2}}$, i.i.d. случайные переменные ${\displaystyle Z_{i}}$ иметь более высокие кумулянты ${\displaystyle \kappa _{r}}$. Из свойств аддитивности и однородности кумулянтов кумулянты ${\displaystyle X_{n}}$ с точки зрения кумулянтов ${\displaystyle Z_{i}}$ для ${\displaystyle r\geq 2}$,

${\displaystyle \kappa _{r}^{F_{n}}={\frac {n\kappa _{r}}{\sigma ^{r}n^{r/2}}}={\frac {\lambda _{r}}{n^{r/2-1}}}\quad \mathrm {where} \quad \lambda _{r}={\frac {\kappa _{r}}{\sigma ^{r}}}.}$

Если мы расширим с точки зрения стандартного нормального распределения, то есть если мы установим

${\displaystyle \phi (x)={\frac {1}{\sqrt {2\pi }}}\exp(-{\tfrac {1}{2}}x^{2}),}$

то кумулянтные разности формального выражения характеристической функции ${\displaystyle {\hat {f}}_{n}(t)}$ из ${\displaystyle F_{n}}$ находятся

${\displaystyle \kappa _{1}^{F_{n}}-\gamma _{1}=0,}$

${\displaystyle \kappa _{2}^{F_{n}}-\gamma _{2}=0,}$

${\displaystyle \kappa _{r}^{F_{n}}-\gamma _{r}={\frac {\lambda _{r}}{n^{r/2-1}}};\qquad r\geq 3.}$

Ряд Грама – Шарлье для функции плотности ${\displaystyle X_{n}}$ сейчас

${\displaystyle f_{n}(x)=\phi (x)\sum _{r=0}^{\infty }{\frac {1}{r!}}B_{r}\left(0,0,{\frac {\lambda _{3}}{n^{1/2}}},\ldots ,{\frac {\lambda _{r}}{n^{r/2-1}}}\right)He_{r}(x).}$

Серия Эджворта разработана аналогично серии А Грама – Шарлье, только теперь термины собираются в соответствии со степенями ${\displaystyle n}$. Коэффициенты при п^{-м / 2} член может быть получен путем сбора мономов многочленов Белла, соответствующих целочисленным разбиениям м. Таким образом, мы имеем характеристическую функцию как

${\displaystyle {\hat {f}}_{n}(t)=\left[1+\sum _{j=1}^{\infty }{\frac {P_{j}(it)}{n^{j/2}}}\right]\exp(-t^{2}/2)\,,}$

где ${\displaystyle P_{j}(x)}$ это многочлен степени ${\displaystyle 3j}$. Опять же, после обратного преобразования Фурье функция плотности ${\displaystyle f_{n}}$ следует как

${\displaystyle f_{n}(x)=\phi (x)+\sum _{j=1}^{\infty }{\frac {P_{j}(-D)}{n^{j/2}}}\phi (x)\,.}$

Аналогично, интегрируя ряд, получаем функцию распределения

${\displaystyle F_{n}(x)=\Phi (x)+\sum _{j=1}^{\infty }{\frac {1}{n^{j/2}}}{\frac {P_{j}(-D)}{D}}\phi (x)\,.}$

Мы можем явно написать многочлен ${\displaystyle P_{m}(-D)}$ так как

${\displaystyle P_{m}(-D)=\sum \prod _{i}{\frac {1}{k_{i}!}}\left({\frac {\lambda _{l_{i}}}{l_{i}!}}\right)^{k_{i}}(-D)^{s},}$

где суммирование ведется по всем целым разбиениям м такой, что ${\displaystyle \sum _{i}ik_{i}=m}$ и ${\displaystyle l_{i}=i+2}$ и ${\displaystyle s=\sum _{i}k_{i}l_{i}.}$

Например, если м = 3, то есть три способа разделить это число: 1 + 1 + 1 = 2 + 1 = 3. Таким образом, нам нужно изучить три случая:

• 1 + 1 + 1 = 1 · k₁, так что у нас есть k₁ = 3, л₁ = 3 и s = 9.
• 1 + 2 = 1 · k₁ + 2 · k₂, так что у нас есть k₁ = 1, k₂ = 1, л₁ = 3, л₂ = 4 и s = 7.
• 3 = 3 · k₃, так что у нас есть k₃ = 1, л₃ = 5 и s = 5.

Таким образом, искомый полином равен

${\displaystyle {\begin{aligned}P_{3}(-D)&={\frac {1}{3!}}\left({\frac {\lambda _{3}}{3!}}\right)^{3}(-D)^{9}+{\frac {1}{1!1!}}\left({\frac {\lambda _{3}}{3!}}\right)\left({\frac {\lambda _{4}}{4!}}\right)(-D)^{7}+{\frac {1}{1!}}\left({\frac {\lambda _{5}}{5!}}\right)(-D)^{5}\\&={\frac {\lambda _{3}^{3}}{1296}}(-D)^{9}+{\frac {\lambda _{3}\lambda _{4}}{144}}(-D)^{7}+{\frac {\lambda _{5}}{120}}(-D)^{5}.\end{aligned}}}$

Первые пять условий расширения:^[5]

${\displaystyle {\begin{aligned}f_{n}(x)&=\phi (x)\\&\quad -{\frac {1}{n^{\frac {1}{2}}}}\left({\tfrac {1}{6}}\lambda _{3}\,\phi ^{(3)}(x)\right)\\&\quad +{\frac {1}{n}}\left({\tfrac {1}{24}}\lambda _{4}\,\phi ^{(4)}(x)+{\tfrac {1}{72}}\lambda _{3}^{2}\,\phi ^{(6)}(x)\right)\\&\quad -{\frac {1}{n^{\frac {3}{2}}}}\left({\tfrac {1}{120}}\lambda _{5}\,\phi ^{(5)}(x)+{\tfrac {1}{144}}\lambda _{3}\lambda _{4}\,\phi ^{(7)}(x)+{\tfrac {1}{1296}}\lambda _{3}^{3}\,\phi ^{(9)}(x)\right)\\&\quad +{\frac {1}{n^{2}}}\left({\tfrac {1}{720}}\lambda _{6}\,\phi ^{(6)}(x)+\left({\tfrac {1}{1152}}\lambda _{4}^{2}+{\tfrac {1}{720}}\lambda _{3}\lambda _{5}\right)\phi ^{(8)}(x)+{\tfrac {1}{1728}}\lambda _{3}^{2}\lambda _{4}\,\phi ^{(10)}(x)+{\tfrac {1}{31104}}\lambda _{3}^{4}\,\phi ^{(12)}(x)\right)\\&\quad +O\left(n^{-{\frac {5}{2}}}\right).\end{aligned}}}$

Вот, φ^(j)(Икс) это j-я производная от φ (·) в точке Икс. Помня, что производные плотности нормального распределения связаны с нормальной плотностью соотношением ${\displaystyle \phi ^{(n)}(x)=(-1)^{n}He_{n}(x)\phi (x)}$, (где ${\displaystyle He_{n}}$ это Многочлен Эрмита порядка п), это объясняет альтернативные представления в терминах функции плотности. Блинников и Месснер (1998) предложили простой алгоритм для вычисления членов разложения более высокого порядка.

Обратите внимание, что в случае решетчатых распределений (которые имеют дискретные значения), расширение Эджворта должно быть скорректировано для учета разрывных скачков между точками решетки.^[6]

Иллюстрация: плотность выборочного среднего из трех ${\displaystyle \chi ^{2}}$

Плотность выборочного среднего трех переменных chi2. На диаграмме сравниваются истинная плотность, нормальное приближение и два разложения Эджворта.

Взять ${\displaystyle X_{i}\sim \chi ^{2}(k=2),\,i=1,2,3\,(n=3)}$ и выборочное среднее ${\displaystyle {\bar {X}}={\frac {1}{3}}\sum _{i=1}^{3}X_{i}}$.

Мы можем использовать несколько дистрибутивов для ${\displaystyle {\bar {X}}}$:

• Точное распределение, которое следует гамма-распределение: ${\displaystyle {\bar {X}}\sim \mathrm {Gamma} \left(\alpha =n\cdot k/2,\theta =2/n\right)=\mathrm {Gamma} \left(\alpha =3,\theta =2/3\right)}$.
• Асимптотическое нормальное распределение: ${\displaystyle {\bar {X}}{\xrightarrow {n\to \infty }}N(k,2\cdot k/n)=N(2,4/3)}$.
• Два разложения Эджворта степени 2 и 3.

Обсуждение результатов

• Для конечных выборок не гарантируется, что разложение Эджворта будет правильным. распределение вероятностей поскольку значения CDF в некоторых точках могут выходить за рамки ${\displaystyle [0,1]}$.
• Они гарантируют (асимптотически) абсолютные ошибки, но относительные ошибки можно легко оценить, сравнив ведущий член Эджворта в остатке с общим ведущим членом. ^[7]

Смотрите также

• Расширение Корниш – Фишера
• Биномиальное дерево Эджворта

использованная литература

1. Стюарт А. и Кендалл М. Г. (1968). Продвинутая теория статистики. Издательство Hafner.
2. Коласса, Дж. Э. (2006). Методы приближения рядов в статистике (Том 88). Springer Science & Business Media.
3. Уоллес, Д. Л. (1958). «Асимптотические приближения распределений». Анналы математической статистики. 29 (3): 635–654. Дои:10.1214 / aoms / 1177706528. JSTOR  2237255.
4. Холл, П. (2013). Бутстрап и расширение Эджворта. Springer Science & Business Media.
5. Вайсштейн, Эрик В. "Серия Эджворта". MathWorld.
6. Коласса, Джон Э .; Маккаллах, Питер (1990). «Ряд Эджворта для решетчатых распределений». Анналы статистики. 18 (2): 981–985. Дои:10.1214 / aos / 1176347637. JSTOR  2242145.
7. Коласса, Джон Э. (2006). Методы приближения рядов в статистике (3-е изд.). Springer. ISBN  0387322272.

дальнейшее чтение

• Х. Крамер. (1957). Математические методы статистики. Издательство Принстонского университета, Принстон.
• Уоллес, Д. Л. (1958). «Асимптотические приближения распределений». Анналы математической статистики. 29 (3): 635–654. Дои:10.1214 / aoms / 1177706528.
• М. Кендалл и А. Стюарт. (1977), Продвинутая теория статистики, Том 1: Теория распределения, 4-е издание, Макмиллан, Нью-Йорк.
• П. МакКаллаг (1987). Тензорные методы в статистике. Чепмен и Холл, Лондон.
• Д. Р. Кокс и О. Э. Барндорф-Нильсен (1989). Асимптотические методы для использования в статистике. Чепмен и Холл, Лондон.
• П. Холл (1992). Расширение Bootstrap и Edgeworth. Спрингер, Нью-Йорк.
• "Серия Эджворта", Энциклопедия математики, EMS Press, 2001 [1994]
• Блинников, С .; Месснер, Р. (1998). «Разложения для распределений, близких к Гауссу» (PDF). Серия дополнений по астрономии и астрофизике. 130: 193–205. arXiv:Astro-ph / 9711239. Bibcode:1998A и AS..130..193B. Дои:10.1051 / aas: 1998221.
• Мартин, Дуглас; Арора, Рохит (2017). «Неэффективность и предвзятость модифицированной стоимости под риском и ожидаемого дефицита». Журнал рисков. 19 (6): 59–84. Дои:10.21314 / JOR.2017.365.
• Дж. Э. Коласса (2006). Методы приближения рядов в статистике (3-е изд.). (Конспект в статистике № 88). Спрингер, Нью-Йорк.