Распределение хи-квадрат - Chi-square distribution

Эта статья посвящена математике распределения хи-квадрат. О его использовании в статистике см. критерий хи-квадрат. Для музыкальной группы см. Chi2 (группа).

хи-квадрат

Функция плотности вероятности
Кумулятивная функция распределения
Обозначение	${\displaystyle \chi ^{2}(k)\;}$ или ${\displaystyle \chi _{k}^{2}\!}$
Параметры	${\displaystyle k\in \mathbb {N} ^{*}~~}$ (известные как «степени свободы»)
Поддержка	${\displaystyle x\in (0,+\infty )\;}$ если ${\displaystyle k=1}$, в противном случае ${\displaystyle x\in [0,+\infty )\;}$
PDF	${\displaystyle {\frac {1}{2^{k/2}\Gamma (k/2)}}\;x^{k/2-1}e^{-x/2}\;}$
CDF	${\displaystyle {\frac {1}{\Gamma (k/2)}}\;\gamma \left({\frac {k}{2}},\,{\frac {x}{2}}\right)\;}$
Значить	${\displaystyle k}$
Медиана	${\displaystyle \approx k{\bigg (}1-{\frac {2}{9k}}{\bigg )}^{3}\;}$
Режим	${\displaystyle \max(k-2,0)\;}$
Дисперсия	${\displaystyle 2k\;}$
Асимметрия	${\displaystyle {\sqrt {8/k}}\,}$
Ex. эксцесс	${\displaystyle {\frac {12}{k}}}$
Энтропия	${\displaystyle {\begin{aligned}{\frac {k}{2}}&+\ln(2\Gamma ({\frac {k}{2}}))\\&\!+(1-{\frac {k}{2}})\psi ({\frac {k}{2}})\end{aligned}}}$
MGF	${\displaystyle (1-2t)^{-k/2}{\text{ for }}t<{\frac {1}{2}}\;}$
CF	${\displaystyle (1-2it)^{-k/2}}$      [1]
PGF	${\displaystyle (1-2\ln t)^{-k/2}{\text{ for }}0<t<{\sqrt {e}}\;}$

В теория вероятности и статистика, то распределение хи-квадрат (также хи-квадрат или χ²-распространение) с участием k степени свободы - это распределение суммы квадратов k независимый стандартный нормальный случайные переменные. Распределение хи-квадрат - это частный случай гамма-распределение и является одним из наиболее широко используемых распределения вероятностей в выведенный статистика, особенно в проверка гипотезы и в строительстве доверительные интервалы.^[2][3][4][5] Это распределение иногда называют центральное распределение хи-квадрат, частный случай более общего нецентральное распределение хи-квадрат.

Распределение хи-квадрат используется в общем тесты хи-квадрат для степень соответствия наблюдаемого распределения к теоретическому, независимость двух критериев классификации качественные данные, и в оценке доверительного интервала для совокупности среднеквадратичное отклонение нормального распределения от стандартного отклонения выборки. Многие другие статистические тесты также используют это распределение, например Дисперсионный анализ Фридмана по рангам.

Определения

Если Z₁, ..., Z_k находятся независимый, стандартный нормальный случайные величины, затем сумма их квадратов,

${\displaystyle Q\ =\sum _{i=1}^{k}Z_{i}^{2},}$

распределяется согласно распределению хи-квадрат с k степени свободы. Обычно это обозначается как

${\displaystyle Q\ \sim \ \chi ^{2}(k)\ \ {\text{or}}\ \ Q\ \sim \ \chi _{k}^{2}.}$

Распределение хи-квадрат имеет один параметр: положительное целое число. k который указывает количество степени свободы (номер Z_я с).

Введение

Распределение хи-квадрат используется в основном при проверке гипотез и в меньшей степени для доверительных интервалов дисперсии совокупности, когда основное распределение является нормальным. В отличие от более широко известных дистрибутивов, таких как нормальное распределение и экспоненциальное распределение, распределение хи-квадрат не так часто применяется при прямом моделировании природных явлений. Среди прочего, он возникает при следующих проверках гипотез:

• Тест хи-квадрат независимости в таблицы непредвиденных обстоятельств
• Тест хи-квадрат соответствия наблюдаемых данных гипотетическим распределениям
• Тест отношения правдоподобия для вложенных моделей
• Лог-ранговый тест в анализе выживаемости
• Тест Кокрана – Мантеля – Хензеля для стратифицированных таблиц непредвиденных обстоятельств

Это также компонент определения t-распределение и F-распределение используется в t-тестах, дисперсионном анализе и регрессионном анализе.

Основная причина того, что распределение хи-квадрат широко используется при проверке гипотез, - это его связь с нормальным распределением. Во многих проверках гипотез используется тестовая статистика, например t-статистика в t-тесте. Для этих проверок гипотез по мере увеличения размера выборки n выборочное распределение тестовой статистики приближается к нормальному распределению (Центральная предельная теорема ). Поскольку статистика теста (такая как t) асимптотически нормально распределена, при условии, что размер выборки достаточно велик, распределение, используемое для проверки гипотез, может быть аппроксимировано нормальным распределением. Проверка гипотез с использованием нормального распределения хорошо понятна и относительно проста. Простейшее распределение хи-квадрат - это квадрат стандартного нормального распределения. Таким образом, везде, где для проверки гипотез можно использовать нормальное распределение, можно использовать распределение хи-квадрат.

Предположим, что ${\displaystyle Z}$ случайная величина, выбранная из стандартного нормального распределения, где среднее значение равно ${\displaystyle 0}$ а дисперсия равна ${\displaystyle 1}$: ${\displaystyle Z\sim N(0,1)}$. Теперь рассмотрим случайную величину ${\displaystyle Q=Z^{2}}$. Распределение случайной величины ${\displaystyle Q}$ это пример распределения хи-квадрат: ${\displaystyle \ Q\ \sim \ \chi _{1}^{2}.}$ Нижний индекс 1 указывает, что это конкретное распределение хи-квадрат построено только на основе одного стандартного нормального распределения. Говорят, что распределение хи-квадрат, построенное путем возведения в квадрат единственного стандартного нормального распределения, имеет 1 степень свободы. Таким образом, по мере увеличения размера выборки для проверки гипотез, распределение статистики теста приближается к нормальному распределению. Так же, как крайние значения нормального распределения имеют низкую вероятность (и дают малые значения p), экстремальные значения распределения хи-квадрат имеют низкую вероятность.

Дополнительная причина того, что распределение хи-квадрат широко используется, заключается в том, что оно проявляется как распределение большой выборки обобщенных тесты отношения правдоподобия (LRT).^[6] LRT обладают несколькими желательными свойствами; в частности, простые LRT обычно обеспечивают максимальную мощность для отклонения нулевой гипотезы (Лемма Неймана – Пирсона. ), что также приводит к свойствам оптимальности обобщенных LRT. Однако приближения нормального и хи-квадрат действительны только асимптотически. По этой причине для небольшого размера выборки предпочтительнее использовать t-распределение, чем нормальное приближение или приближение хи-квадрат. Аналогичным образом, при анализе таблиц непредвиденных обстоятельств приближение хи-квадрат будет плохим для небольшого размера выборки, и предпочтительно использовать Точный тест Фишера. Рэмси показывает, что точная биномиальный тест всегда мощнее обычного приближения.^[7]

Ланкастер показывает связи между биномиальным, нормальным и хи-квадратным распределениями следующим образом.^[8] Де Муавр и Лаплас установили, что биномиальное распределение можно аппроксимировать нормальным распределением. В частности, они показали асимптотическую нормальность случайной величины.

${\displaystyle \chi ={m-Np \over {\sqrt {Npq}}}}$

где ${\displaystyle m}$ наблюдаемое количество успехов в ${\displaystyle N}$ испытания, где вероятность успеха ${\displaystyle p}$, и ${\displaystyle q=1-p}$.

Возведение обеих частей уравнения в квадрат дает

${\displaystyle \chi ^{2}={(m-Np)^{2} \over Npq}}$

С помощью ${\displaystyle N=Np+N(1-p)}$, ${\displaystyle N=m+(N-m)}$, и ${\displaystyle q=1-p}$, это уравнение упрощается до

${\displaystyle \chi ^{2}={(m-Np)^{2} \over Np}+{(N-m-Nq)^{2} \over Nq}}$

Выражение справа имеет вид Карл Пирсон обобщил бы к форме:

${\displaystyle \chi ^{2}=\sum _{i=1}^{n}{\frac {(O_{i}-E_{i})^{2}}{E_{i}}}}$

где

${\displaystyle \chi ^{2}}$ = Совокупная статистика теста Пирсона, которая асимптотически приближается к ${\displaystyle \chi ^{2}}$ распространение.

${\displaystyle O_{i}}$ = количество наблюдений типа ${\displaystyle i}$.

${\displaystyle E_{i}=Np_{i}}$ = ожидаемая (теоретическая) частота типа ${\displaystyle i}$, утверждаемый нулевой гипотезой, что доля типа ${\displaystyle i}$ в населении ${\displaystyle p_{i}}$

${\displaystyle n}$ = количество ячеек в таблице.

В случае биномиального исхода (подбрасывание монеты) биномиальное распределение может быть аппроксимировано нормальным распределением (для достаточно больших ${\displaystyle n}$). Поскольку квадрат стандартного нормального распределения представляет собой распределение хи-квадрат с одной степенью свободы, вероятность такого результата, как 1 голова в 10 испытаниях, может быть аппроксимирована либо прямым использованием нормального распределения, либо распределением хи-квадрат для нормализованная квадратная разница между наблюдаемым и ожидаемым значением. Однако многие проблемы включают более двух возможных исходов бинома и вместо этого требуют 3 или более категорий, что приводит к полиномиальному распределению. Подобно тому, как де Муавр и Лаплас искали и находили нормальное приближение к биномиальному, Пирсон искал и находил вырожденное многомерное нормальное приближение к полиномиальному распределению (числа в каждой категории в сумме составляют общий размер выборки, который считается фиксированным) . Пирсон показал, что распределение хи-квадрат возникло из такого многомерного нормального приближения к полиномиальному распределению с тщательным учетом статистической зависимости (отрицательной корреляции) между числами наблюдений в разных категориях. ^[8]

Функция плотности вероятности

В функция плотности вероятности (pdf) распределения хи-квадрат есть

${\displaystyle f(x;\,k)={\begin{cases}{\dfrac {x^{{\frac {k}{2}}-1}e^{-{\frac {x}{2}}}}{2^{\frac {k}{2}}\Gamma \left({\frac {k}{2}}\right)}},&x>0;\\0,&{\text{otherwise}}.\end{cases}}}$

где ${\textstyle \Gamma (k/2)}$ обозначает гамма-функция, который имеет значения в закрытой форме для целых чисел ${\displaystyle k}$.

Для вывода PDF в случаях одного, двух и ${\displaystyle k}$ степени свободы, см. Доказательства, связанные с распределением хи-квадрат.

Кумулятивная функция распределения

Чернова направлялся в CDF и хвост (1-CDF) случайной величины хи-квадрат с десятью степенями свободы (${\displaystyle k}$ = 10)

это кумулятивная функция распределения является:

${\displaystyle F(x;\,k)={\frac {\gamma ({\frac {k}{2}},\,{\frac {x}{2}})}{\Gamma ({\frac {k}{2}})}}=P\left({\frac {k}{2}},\,{\frac {x}{2}}\right),}$

где ${\displaystyle \gamma (s,t)}$ это нижняя неполная гамма-функция и ${\textstyle P(s,t)}$ это регуляризованная гамма-функция.

В частном случае ${\displaystyle k}$ = 2 эта функция имеет простой вид:^{[нужна цитата ]}

${\displaystyle F(x;\,2)=1-e^{-x/2}}$

а целочисленное повторение гамма-функции позволяет легко вычислить другие небольшие даже ${\displaystyle k}$.

Таблицы кумулятивной функции распределения хи-квадрат широко доступны, и эта функция включена во многие электронные таблицы и все статистические пакеты.

Сдача ${\displaystyle z\equiv x/k}$, Границы Чернова на нижнем и верхнем хвостах CDF.^[9] Для случаев, когда ${\displaystyle 0<z<1}$ (которые включают все случаи, когда этот CDF меньше половины):

${\displaystyle F(zk;\,k)\leq (ze^{1-z})^{k/2}.}$

Хвостовая граница для случаев, когда ${\displaystyle z>1}$, аналогично

${\displaystyle 1-F(zk;\,k)\leq (ze^{1-z})^{k/2}.}$

Для другого приближение для CDF, смоделированного после куба Гаусса, см. при нецентральном распределении хи-квадрат.

Свойства

Сумма квадратов нормалей i.i.d минус их среднее значение

Основная статья: Теорема Кохрана

Если Z₁, ..., Z_k находятся независимый, стандартный нормальный случайные величины, тогда

${\displaystyle \sum _{i=1}^{k}(Z_{i}-{\overline {Z}})^{2}\sim \chi _{k-1}^{2}}$

где

${\displaystyle {\overline {Z}}={\frac {1}{k}}\sum _{i=1}^{k}Z_{i}.}$

Аддитивность

Из определения распределения хи-квадрат следует, что сумма независимых переменных хи-квадрат также имеет распределение хи-квадрат. В частности, если ${\displaystyle X_{i},i={\overline {1,n}}}$ независимые переменные хи-квадрат с ${\displaystyle k_{i}}$, ${\displaystyle i={\overline {1,n}}}$ степеней свободы соответственно, то ${\displaystyle Y=X_{1}+...+X_{n}}$ хи-квадрат распределен с ${\displaystyle k_{1}+...+k_{n}}$ степени свободы.

Выборочное среднее

Среднее значение выборки ${\displaystyle n}$ i.i.d. переменные хи-квадрат степени ${\displaystyle k}$ распределяется по гамма-распределению с формой ${\displaystyle \alpha }$ и масштабировать ${\displaystyle \theta }$ параметры:

${\displaystyle {\overline {X}}={\frac {1}{n}}\sum _{i=1}^{n}X_{i}\sim \operatorname {Gamma} \left(\alpha =n\,k/2,\theta =2/n\right)\qquad {\text{where }}X_{i}\sim \chi ^{2}(k)}$

Асимптотически, учитывая, что для масштабного параметра ${\displaystyle \alpha }$ стремясь к бесконечности, гамма-распределение сходится к нормальному распределению с ожиданием ${\displaystyle \mu =\alpha \cdot \theta }$ и дисперсия ${\displaystyle \sigma ^{2}=\alpha \,\theta ^{2}}$, выборочное среднее сходится к:

${\displaystyle {\overline {X}}{\xrightarrow {n\to \infty }}N(\mu =k,\sigma ^{2}=2\,k/n)}$

Обратите внимание, что мы получили бы тот же результат, вызвав вместо Центральная предельная теорема, отмечая, что для каждой переменной хи-квадрат степени ${\displaystyle k}$ ожидание ${\displaystyle k}$ , и его дисперсия ${\displaystyle 2\,k}$ (и, следовательно, дисперсия выборочного среднего ${\displaystyle {\overline {X}}}$ будучи ${\displaystyle \sigma ^{2}={\frac {2k}{n}}}$).

Энтропия

В дифференциальная энтропия дан кем-то

${\displaystyle h=\int _{0}^{\infty }f(x;\,k)\ln f(x;\,k)\,dx={\frac {k}{2}}+\ln \left[2\,\Gamma \left({\frac {k}{2}}\right)\right]+\left(1-{\frac {k}{2}}\right)\,\psi \!\left[{\frac {k}{2}}\right],}$

где ψ(Икс) это Дигамма функция.

Распределение хи-квадрат - это распределение вероятностей максимальной энтропии для случайной вариации ${\displaystyle X}$ для которого ${\displaystyle \operatorname {E} (X)=k}$ и ${\displaystyle \operatorname {E} (\ln(X))=\psi (k/2)+\ln(2)}$ фиксируются. Поскольку хи-квадрат принадлежит семейству гамма-распределений, его можно получить, подставив соответствующие значения в Ожидание логарифмического момента гаммы. Для вывода из более основных принципов см. Вывод в момент производящая функция достаточной статистики.

Нецентральные моменты

Моменты около нуля распределения хи-квадрат с ${\displaystyle k}$ степени свободы даются^[10][11]

${\displaystyle \operatorname {E} (X^{m})=k(k+2)(k+4)\cdots (k+2m-2)=2^{m}{\frac {\Gamma \left(m+{\frac {k}{2}}\right)}{\Gamma \left({\frac {k}{2}}\right)}}.}$

Кумулянты

В кумулянты легко получаются (формальным) разложением в степенной ряд логарифма характеристической функции:

${\displaystyle \kappa _{n}=2^{n-1}(n-1)!\,k}$

Асимптотические свойства

Приближенная формула для медианы (из преобразования Уилсона – Хильферти) в сравнении с числовым квантилем (вверху); а также разница (синий) и относительная разница (красный) между числовым квантилем и приблизительной формулой (внизу). Для распределения хи-квадрат имеют значение только положительные целые числа степеней свободы (кружки).

Посредством Центральная предельная теорема, поскольку распределение хи-квадрат представляет собой сумму ${\displaystyle k}$ независимых случайных величин с конечным средним и дисперсией, он сходится к нормальному распределению для больших ${\displaystyle k}$. Для многих практических целей для ${\displaystyle k>50}$ распределение достаточно близко к нормальное распределение чтобы разницу не принимали во внимание.^[12] В частности, если ${\displaystyle X\sim \chi ^{2}(k)}$, то как ${\displaystyle k}$ стремится к бесконечности, распределение ${\displaystyle (X-k)/{\sqrt {2k}}}$ имеет тенденцию к стандартному нормальному распределению. Однако сходимость идет медленно, так как перекос является ${\displaystyle {\sqrt {8/k}}}$ и избыточный эксцесс является ${\displaystyle 12/k}$.

Выборочное распределение ${\displaystyle \ln(\chi ^{2})}$ сходится к нормальности намного быстрее, чем выборочное распределение ${\displaystyle \chi ^{2}}$,^[13] поскольку логарифм устраняет большую часть асимметрии.^[14] Другие функции распределения хи-квадрат быстрее сходятся к нормальному распределению. Вот несколько примеров:

• Если ${\displaystyle X\sim \chi ^{2}(k)}$ тогда ${\displaystyle {\sqrt {2X}}}$ приблизительно нормально распределен со средним ${\displaystyle {\sqrt {2k-1}}}$ и единичная дисперсия (1922 г., Р. А. Фишер, см. (18.23), с. 426 Джонсона.^[4]
• Если ${\displaystyle X\sim \chi ^{2}(k)}$ тогда ${\displaystyle {\sqrt[{3}]{X/k}}}$ приблизительно нормально распределен со средним ${\displaystyle 1-{\frac {2}{9k}}}$ и дисперсия ${\displaystyle {\frac {2}{9k}}.}$^[15] Это известно как преобразование Вильсона – Хильферти, см. (18.24), с. 426 Джонсона.^[4]
  • Это нормализующее преобразование непосредственно приводит к обычно используемому медианному приближению ${\displaystyle k{\bigg (}1-{\frac {2}{9k}}{\bigg )}^{3}\;}$ путем обратного преобразования от среднего, которое также является медианой нормального распределения.

Связанные дистрибутивы

• Так как ${\displaystyle k\to \infty }$, ${\displaystyle (\chi _{k}^{2}-k)/{\sqrt {2k}}~{\xrightarrow {d}}\ N(0,1)\,}$ (нормальное распределение )
• ${\displaystyle \chi _{k}^{2}\sim {\chi '}_{k}^{2}(0)}$ (нецентральное распределение хи-квадрат с параметром нецентральности ${\displaystyle \lambda =0}$)
• Если ${\displaystyle Y\sim \mathrm {F} (\nu _{1},\nu _{2})}$ тогда ${\displaystyle X=\lim _{\nu _{2}\to \infty }\nu _{1}Y}$ имеет распределение хи-квадрат ${\displaystyle \chi _{\nu _{1}}^{2}}$

• В частном случае, если ${\displaystyle Y\sim \mathrm {F} (1,\nu _{2})\,}$ тогда ${\displaystyle X=\lim _{\nu _{2}\to \infty }Y\,}$ имеет распределение хи-квадрат ${\displaystyle \chi _{1}^{2}}$

• ${\displaystyle \|{\boldsymbol {N}}_{i=1,\ldots ,k}(0,1)\|^{2}\sim \chi _{k}^{2}}$ (Квадрат норма из k стандартные нормально распределенные переменные - это распределение хи-квадрат с k степени свободы )
• Если ${\displaystyle X\sim \chi ^{2}(\nu )\,}$ и ${\displaystyle c>0\,}$, тогда ${\displaystyle cX\sim \Gamma (k=\nu /2,\theta =2c)\,}$. (гамма-распределение )
• Если ${\displaystyle X\sim \chi _{k}^{2}}$ тогда ${\displaystyle {\sqrt {X}}\sim \chi _{k}}$ (распределение ци )
• Если ${\displaystyle X\sim \chi ^{2}(2)}$, тогда ${\displaystyle X\sim \operatorname {Exp} (1/2)}$ является экспоненциальное распределение. (Увидеть гамма-распределение для большего.)
• Если ${\displaystyle X\sim \chi ^{2}(2k)}$, тогда ${\displaystyle X\sim \operatorname {Erlang} (k,1/2)}$ является Распределение Erlang.
• Если ${\displaystyle X\sim \operatorname {Erlang} (k,\lambda )}$, тогда ${\displaystyle 2\lambda X\sim \chi _{2k}^{2}}$
• Если ${\displaystyle X\sim \operatorname {Rayleigh} (1)\,}$ (Распределение Рэлея ) тогда ${\displaystyle X^{2}\sim \chi ^{2}(2)\,}$
• Если ${\displaystyle X\sim \operatorname {Maxwell} (1)\,}$ (Распределение Максвелла ) тогда ${\displaystyle X^{2}\sim \chi ^{2}(3)\,}$
• Если ${\displaystyle X\sim \chi ^{2}(\nu )}$ тогда ${\displaystyle {\tfrac {1}{X}}\sim \operatorname {Inv-} \chi ^{2}(\nu )\,}$ (Обратное распределение хи-квадрат )
• Распределение хи-квадрат - частный случай типа III. Распределение Пирсона
• Если ${\displaystyle X\sim \chi ^{2}(\nu _{1})\,}$ и ${\displaystyle Y\sim \chi ^{2}(\nu _{2})\,}$ независимы тогда ${\displaystyle {\tfrac {X}{X+Y}}\sim \operatorname {Beta} ({\tfrac {\nu _{1}}{2}},{\tfrac {\nu _{2}}{2}})\,}$ (бета-распространение )
• Если ${\displaystyle X\sim \operatorname {U} (0,1)\,}$ (равномерное распределение ) тогда ${\displaystyle -2\log(X)\sim \chi ^{2}(2)\,}$
• ${\displaystyle \chi ^{2}(6)\,}$ это преобразование Распределение Лапласа
• Если ${\displaystyle X_{i}\sim \operatorname {Laplace} (\mu ,\beta )\,}$ тогда ${\displaystyle \sum _{i=1}^{n}{\frac {2|X_{i}-\mu |}{\beta }}\sim \chi ^{2}(2n)\,}$
• Если ${\displaystyle X_{i}}$ следует за обобщенное нормальное распределение (версия 1) с параметрами ${\displaystyle \mu ,\alpha ,\beta }$ тогда ${\displaystyle \sum _{i=1}^{n}{\frac {2|X_{i}-\mu |^{\beta }}{\alpha }}\sim \chi ^{2}\left({\frac {2n}{\beta }}\right)\,}$ ^[16]
• распределение хи-квадрат представляет собой преобразование Распределение Парето
• Распределение Стьюдента является преобразованием распределения хи-квадрат
• Распределение Стьюдента можно получить из распределения хи-квадрат и нормальное распределение
• Нецентральное бета-распределение можно получить как преобразование распределения хи-квадрат и Нецентральное распределение хи-квадрат
• Нецентральное t-распределение можно получить из нормального распределения и распределения хи-квадрат

Переменная хи-квадрат с ${\displaystyle k}$ степеней свободы определяется как сумма квадратов ${\displaystyle k}$ независимый стандартный нормальный случайные переменные.

Если ${\displaystyle Y}$ это ${\displaystyle k}$-мерный гауссовский случайный вектор с вектором среднего ${\displaystyle \mu }$ и ранг ${\displaystyle k}$ ковариационная матрица ${\displaystyle C}$, тогда ${\displaystyle X=(Y-\mu )^{T}C^{-1}(Y-\mu )}$ хи-квадрат распределен с ${\displaystyle k}$ степени свободы.

Сумма квадратов статистически независимый гауссовские переменные с единичной дисперсией, которые не имеют нулевое среднее значение, дает обобщение распределения хи-квадрат, называемое нецентральное распределение хи-квадрат.

Если ${\displaystyle Y}$ вектор ${\displaystyle k}$ i.i.d. стандартные нормальные случайные величины и ${\displaystyle A}$ это ${\displaystyle k\times k}$ симметричный, идемпотентная матрица с участием ранг ${\displaystyle k-n}$, то квадратичная форма ${\displaystyle Y^{T}AY}$ хи-квадрат распределен с ${\displaystyle k-n}$ степени свободы.

Если ${\displaystyle \Sigma }$ это ${\displaystyle p\times p}$ положительно-полуопределенная ковариационная матрица со строго положительными диагональными элементами, то для ${\displaystyle X\sim N(0,\Sigma )}$ и ${\displaystyle w}$ случайный ${\displaystyle p}$-вектор не зависит от ${\displaystyle X}$ такой, что ${\displaystyle w_{1}+\cdots +w_{p}=1}$ и ${\displaystyle w_{i}\geq 0,i=1,\cdots ,p,}$ он считает, что

${\displaystyle {\frac {1}{\left({\frac {w_{1}}{X_{1}}},\cdots ,{\frac {w_{p}}{X_{p}}}\right)\Sigma \left({\frac {w_{1}}{X_{1}}},\cdots ,{\frac {w_{p}}{X_{p}}}\right)^{\top }}}\sim \chi _{1}^{2}.}$^[14]

Распределение хи-квадрат также естественно связано с другими распределениями, возникающими из гауссиана. Особенно,

• ${\displaystyle Y}$ является F-распределенный, ${\displaystyle Y\sim F(k_{1},k_{2})}$ если ${\displaystyle Y={\frac {{X_{1}}/{k_{1}}}{{X_{2}}/{k_{2}}}}}$, где ${\displaystyle X_{1}\sim \chi ^{2}(k_{1})}$ и ${\displaystyle X_{2}\sim \chi ^{2}(k_{2})}$ статистически независимы.
• Если ${\displaystyle X_{1}\sim \chi ^{2}(k_{1})}$ и ${\displaystyle X_{2}\sim \chi ^{2}(k_{2})}$ статистически независимы, то ${\displaystyle X_{1}+X_{2}\sim \chi ^{2}(k_{1}+k_{2})}$. Если ${\displaystyle X_{1}}$ и ${\displaystyle X_{2}}$ не независимы, то ${\displaystyle X_{1}+X_{2}}$ не имеет распределения хи-квадрат.

Обобщения

Распределение хи-квадрат получается как сумма квадратов k независимые гауссовские случайные величины с нулевым средним и единичной дисперсией. Обобщения этого распределения можно получить, суммируя квадраты других типов гауссовских случайных величин. Ниже описано несколько таких дистрибутивов.

Линейная комбинация

Если ${\displaystyle X_{1},\ldots ,X_{n}}$ случайные величины хи-квадрат и ${\displaystyle a_{1},\ldots ,a_{n}\in \mathbb {R} _{>0}}$, то замкнутое выражение для распределения ${\displaystyle X=\sum _{i=1}^{n}a_{i}X_{i}}$ не известно. Однако его можно эффективно аппроксимировать с помощью свойство характеристических функций случайных величин хи-квадрат.^[17]

Распределения хи-квадрат

Нецентральное распределение хи-квадрат

Основная статья: Нецентральное распределение хи-квадрат

Нецентральное распределение хи-квадрат получается из суммы квадратов независимых гауссовских случайных величин, имеющих единичную дисперсию и ненулевой означает.

Обобщенное распределение хи-квадрат

Основная статья: Обобщенное распределение хи-квадрат

Обобщенное распределение хи-квадрат получается из квадратичной формы z′Az где z - гауссовский вектор с нулевым средним, имеющий произвольную ковариационную матрицу, и А - произвольная матрица.

Гамма, экспоненциальное и родственные распределения

Распределение хи-квадрат ${\displaystyle X\sim \chi _{k}^{2}}$ это частный случай гамма-распределение, в этом ${\displaystyle X\sim \Gamma \left({\frac {k}{2}},{\frac {1}{2}}\right)}$ используя скоростную параметризацию гамма-распределения (или${\displaystyle X\sim \Gamma \left({\frac {k}{2}},2\right)}$ с использованием масштабной параметризации гамма-распределения), где k целое число.

Поскольку экспоненциальное распределение также является частным случаем гамма-распределения, мы также имеем, что если ${\displaystyle X\sim \chi _{2}^{2}}$, тогда ${\displaystyle X\sim \operatorname {Exp} \left({\frac {1}{2}}\right)}$ является экспоненциальное распределение.

В Распределение Erlang также является частным случаем гамма-распределения, и поэтому мы также имеем, что если ${\displaystyle X\sim \chi _{k}^{2}}$ с даже ${\displaystyle {\text{k}}}$, тогда ${\displaystyle {\text{X}}}$ распределен Эрланг с параметром формы ${\displaystyle {\text{k}}/2}$ и масштабный параметр ${\displaystyle 1/2}$.

Возникновение и приложения

Распределение хи-квадрат находит множество применений в логическом выводе. статистика, например в тесты хи-квадрат и в оценке отклонения. Он затрагивает проблему оценки среднего значения нормально распределенной совокупности и проблему оценки наклона регресс линия через ее роль в Распределение Стьюдента. Входит во все дисперсионный анализ проблемы через его роль в F-распределение, которое представляет собой распределение отношения двух независимых хи-квадрат случайные переменные, каждая из которых разделена на соответствующие степени свободы.

Ниже приведены некоторые из наиболее распространенных ситуаций, в которых распределение хи-квадрат возникает из выборки с распределением по Гауссу.

• если ${\displaystyle X_{1},...,X_{n}}$ находятся i.i.d. ${\displaystyle N(\mu ,\sigma ^{2})}$ случайные переменные, тогда ${\displaystyle \sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}\sim \sigma ^{2}\chi _{n-1}^{2}}$ где ${\displaystyle {\overline {X}}={\frac {1}{n}}\sum _{i=1}^{n}X_{i}}$.
• В рамке ниже показаны некоторые статистика на основе ${\displaystyle X_{i}\sim N(\mu _{i},\sigma _{i}^{2}),i={\overline {1,k}}}$ независимые случайные величины, которые имеют распределения вероятностей, связанные с распределением хи-квадрат:

имя	Статистика
распределение хи-квадрат	${\displaystyle \sum _{i=1}^{k}\left({\frac {X_{i}-\mu _{i}}{\sigma _{i}}}\right)^{2}}$
нецентральное распределение хи-квадрат	${\displaystyle \sum _{i=1}^{k}\left({\frac {X_{i}}{\sigma _{i}}}\right)^{2}}$
распределение ци	${\displaystyle {\sqrt {\sum _{i=1}^{k}\left({\frac {X_{i}-\mu _{i}}{\sigma _{i}}}\right)^{2}}}}$
нецентральное распределение ци	${\displaystyle {\sqrt {\sum _{i=1}^{k}\left({\frac {X_{i}}{\sigma _{i}}}\right)^{2}}}}$

Распределение хи-квадрат также часто встречается в магнитно-резонансная томография.^[18]

Вычислительные методы

Таблица χ² значения vs п-ценности

В п-ценность вероятность наблюдения за тестовой статистикой по крайней мере как крайний в распределении хи-квадрат. Соответственно, поскольку кумулятивная функция распределения (CDF) для соответствующих степеней свободы (df) дает вероятность получить значение менее экстремальный чем в этой точке, вычитание значения CDF из 1 дает п-ценность. Низкий п-значение ниже выбранного уровня значимости указывает Статистическая значимость, то есть достаточное свидетельство для отклонения нулевой гипотезы. Уровень значимости 0,05 часто используется как граница между значимыми и незначительными результатами.

В таблице ниже приведен ряд п-значения, соответствующие ${\displaystyle \chi ^{2}}$ для первых 10 степеней свободы.

Степени свободы (df)	${\displaystyle \chi ^{2}}$ ценность[19]
1	0.004	0.02	0.06	0.15	0.46	1.07	1.64	2.71	3.84	6.63	10.83
2	0.10	0.21	0.45	0.71	1.39	2.41	3.22	4.61	5.99	9.21	13.82
3	0.35	0.58	1.01	1.42	2.37	3.66	4.64	6.25	7.81	11.34	16.27
4	0.71	1.06	1.65	2.20	3.36	4.88	5.99	7.78	9.49	13.28	18.47
5	1.14	1.61	2.34	3.00	4.35	6.06	7.29	9.24	11.07	15.09	20.52
6	1.63	2.20	3.07	3.83	5.35	7.23	8.56	10.64	12.59	16.81	22.46
7	2.17	2.83	3.82	4.67	6.35	8.38	9.80	12.02	14.07	18.48	24.32
8	2.73	3.49	4.59	5.53	7.34	9.52	11.03	13.36	15.51	20.09	26.12
9	3.32	4.17	5.38	6.39	8.34	10.66	12.24	14.68	16.92	21.67	27.88
10	3.94	4.87	6.18	7.27	9.34	11.78	13.44	15.99	18.31	23.21	29.59
Значение P (вероятность)	0.95	0.90	0.80	0.70	0.50	0.30	0.20	0.10	0.05	0.01	0.001

Эти значения можно рассчитать, оценив квантильная функция (также известный как «обратный CDF» или «ICDF») распределения хи-квадрат;^[20] е. г., χ² ICDF для п = 0.05 и df = 7 дает 14.06714 ≈ 14.07 как в таблице выше.

История

Это распределение впервые было описано немецким статистиком. Фридрих Роберт Хельмерт в статьях 1875–1875 гг.,^[21][22] где он вычислил выборочное распределение выборочной дисперсии нормальной совокупности. Таким образом, на немецком языке это традиционно называлось Helmert'sche («Гельмерт») или «Распределение Гельмерта».

Распределение было независимо переоткрыто английским математиком. Карл Пирсон в контексте степень соответствия, для чего он разработал Тест хи-квадрат Пирсона, опубликованная в 1900 г., с расчетной таблицей значений, опубликованной в (Элдертон 1902 ), собранные в (Пирсон 1914, стр. xxxi – xxxiii, 26–28, таблица XII) ошибка harv: цель отсутствует: CITEREFPearson1914 (Помогите). Название «хи-квадрат» в конечном итоге происходит от сокращения Пирсона для экспоненты в многомерное нормальное распределение с греческой буквы Чи, написание − ½χ² для того, что появилось бы в современных обозначениях как −½Икс^ТΣ⁻¹Икс (Σ - ковариационная матрица ).^[23] Однако идея семейства «распределений хи-квадрат» не принадлежит Пирсону, а возникла как дальнейшее развитие благодаря Фишеру в 1920-х годах.^[21]

Смотрите также

• Математический портал

• Распределение Ци
• Теорема Кохрана
• F-распространение
• Метод Фишера для объединения независимый тесты значимости
• Гамма-распределение
• Обобщенное распределение хи-квадрат
• Хотеллинга Т-квадратное распределение
• Нецентральное распределение хи-квадрат
• Тест хи-квадрат Пирсона
• Уменьшенная статистика хи-квадрат
• Ученики т-распространение
• Лямбда-распределение Уилкса
• Распределение Уишарта

использованная литература

1. М.А.Сандерс. «Характеристическая функция центрального распределения хи-квадрат» (PDF). Архивировано из оригинал (PDF) на 2011-07-15. Получено 2009-03-06.
2. Абрамовиц, Милтон; Стегун, Ирен Энн, ред. (1983) [июнь 1964]. "Глава 26". Справочник по математическим функциям с формулами, графиками и математическими таблицами. Прикладная математика. 55 (Девятое переиздание с дополнительными исправлениями, десятое оригинальное издание с исправлениями (декабрь 1972 г.); первое изд.). Вашингтон.; Нью-Йорк: Министерство торговли США, Национальное бюро стандартов; Dover Publications. п. 940. ISBN  978-0-486-61272-0. LCCN  64-60036. Г-Н  0167642. LCCN  65-12253.
3. NIST (2006). Справочник по инженерной статистике - Распределение хи-квадрат
4. Johnson, N.L .; Kotz, S .; Балакришнан, Н. (1994). «Распределения хи-квадрат, включая Чи и Рэлея». Непрерывные одномерные распределения. 1 (Второе изд.). Джон Уайли и сыновья. С. 415–493. ISBN  978-0-471-58495-7.
5. Настроение, Александр; Graybill, Франклин A .; Бос, Дуэйн К. (1974). Введение в теорию статистики (Третье изд.). Макгроу-Хилл. С. 241–246. ISBN  978-0-07-042864-5.
6. Вестфол, Питер Х. (2013). Понимание передовых статистических методов. Бока-Ратон, Флорида: CRC Press. ISBN  978-1-4665-1210-8.
7. Рэмси, PH (1988). «Оценка нормального приближения к биномиальному тесту». Журнал образовательной статистики. 13 (2): 173–82. Дои:10.2307/1164752. JSTOR  1164752.
8. Ланкастер, Х. (1969), Распределение хи-квадрат, Wiley
9. Dasgupta, Sanjoy D.A .; Гупта, Анупам К. (январь 2003 г.). «Элементарное доказательство теоремы Джонсона и Линденштрауса» (PDF). Случайные структуры и алгоритмы. 22 (1): 60–65. Дои:10.1002 / rsa.10073. Получено 2012-05-01.
10. Распределение хи-квадрат, от MathWorld, получено 11 февраля 2009 г.
11. М. К. Саймон, Распределения вероятностей с участием гауссовских случайных величин, Нью-Йорк: Springer, 2002, ур. (2.35), ISBN  978-0-387-34657-1
12. Коробка, Охотник и Охотник (1978). Статистика для экспериментаторов. Вайли. п.118. ISBN  978-0471093152.
13. Bartlett, M. S .; Кендалл, Д. Г. (1946). «Статистический анализ дисперсионно-неоднородности и логарифмического преобразования». Приложение к Журналу Королевского статистического общества. 8 (1): 128–138. Дои:10.2307/2983618. JSTOR  2983618.
14. Пиллаи, Натеш С. (2016). «Неожиданная встреча с Коши и Леви». Анналы статистики. 44 (5): 2089–2097. arXiv:1505.01957. Дои:10.1214 / 15-aos1407.
15. Wilson, E.B .; Хильферти, М. М. (1931). «Распределение хи-квадрат». Proc. Natl. Акад. Sci. Соединенные Штаты Америки. 17 (12): 684–688. Bibcode:1931ПНАС ... 17..684Вт. Дои:10.1073 / пнас.17.12.684. ЧВК  1076144. PMID  16577411.
16. Bäckström, T .; Фишер, Дж. (Январь 2018 г.). «Быстрая рандомизация для распределенного низкоскоростного кодирования речи и звука». Транзакции IEEE / ACM для обработки звука, речи и языка. 26 (1): 19–30. Дои:10.1109 / TASLP.2017.2757601.
17. Бауш, Дж. (2013). «Об эффективном вычислении линейной комбинации случайных величин хи-квадрат с применением в счетной строке Vacua». J. Phys. A: Математика. Теор. 46 (50): 505202. arXiv:1208.2691. Bibcode:2013JPhA ... 46X5202B. Дои:10.1088/1751-8113/46/50/505202.
18. den Dekker A. J., Sijbers J., (2014) «Распределение данных на магнитно-резонансных изображениях: обзор», Physica Medica, [1]
19. Тест хи-квадрат Таблица B.2. Доктор Жаклин С. Маклафлин из Университета штата Пенсильвания. В свою очередь цитируется: Р. А. Фишер и Ф. Йейтс, Статистические таблицы для биологических сельскохозяйственных и медицинских исследований, 6-е изд., Таблица IV. Были исправлены два значения: 7,82 с 7,81 и 4,60 с 4,61.
20. R Учебное пособие: Распределение хи-квадрат
21. Hald 1998, pp. 633–692, 27. Выборочные распределения при нормальности.
22. Ф. Р. Хельмерт, "Ueber die Wahrscheinlichkeit der Potenzsummen der Beobachtungsfehler und über einige damit im Zusammenhange stehende Fragen ", Zeitschrift für Mathematik und Physik 21, 1876, стр. 102–219
23. Р. Л. Плакетт, Карл Пирсон и критерий хи-квадрат, Международный статистический обзор, 1983 г., 61f. Также Джефф Миллер, Самые ранние известные варианты использования некоторых слов математики.

дальнейшее чтение

• Халд, Андерс (1998). История математической статистики с 1750 по 1930 год. Нью-Йорк: Вили. ISBN  978-0-471-17912-2.
• Элдертон, Уильям Пэйлин (1902). «Таблицы для проверки соответствия теории наблюдению». Биометрика. 1 (2): 155–163. Дои:10.1093 / biomet / 1.2.155.
• «Распределение хи-квадрат», Энциклопедия математики, EMS Press, 2001 [1994]

внешние ссылки

• Раннее использование некоторых математических слов: статья о хи-квадрате имеет краткую историю
• Заметки к курсу по проверке пригодности по критерию хи-квадрат от Йельского университета Статистика 101 класс.
• Mathematica демонстрация распределения выборки хи-квадрат для различных статистических данных, e. г. ΣИкс², для нормального населения
• Простой алгоритм аппроксимации cdf и обратного cdf для распределения хи-квадрат с помощью карманного калькулятора
• Значения распределения хи-квадрат