Алгоритм подсчета очков - Scoring algorithm - Wikipedia

Алгоритм подсчета очков, также известный как Оценка Фишера,^[1] это форма Метод Ньютона используется в статистика решать максимальная вероятность уравнения численно, названный в честь Рональд Фишер.

Эскиз вывода

Позволять ${\displaystyle Y_{1},\ldots ,Y_{n}}$ быть случайные переменные, независимые и одинаково распределенные с дважды дифференцируемыми p.d.f. ${\displaystyle f(y;\theta )}$, и мы хотим вычислить оценщик максимального правдоподобия (M.L.E.) ${\displaystyle \theta ^{*}}$ из ${\displaystyle \theta }$. Во-первых, предположим, что у нас есть отправная точка для нашего алгоритма ${\displaystyle \theta _{0}}$, и рассмотрим Расширение Тейлора из функция оценки, ${\displaystyle V(\theta )}$, о ${\displaystyle \theta _{0}}$:

${\displaystyle V(\theta )\approx V(\theta _{0})-{\mathcal {J}}(\theta _{0})(\theta -\theta _{0}),\,}$

куда

${\displaystyle {\mathcal {J}}(\theta _{0})=-\sum _{i=1}^{n}\left.\nabla \nabla ^{\top }\right|_{\theta =\theta _{0}}\log f(Y_{i};\theta )}$

это наблюдаемая информационная матрица в ${\displaystyle \theta _{0}}$. Теперь, устанавливая ${\displaystyle \theta =\theta ^{*}}$, используя это ${\displaystyle V(\theta ^{*})=0}$ и перестановка дает нам:

${\displaystyle \theta ^{*}\approx \theta _{0}+{\mathcal {J}}^{-1}(\theta _{0})V(\theta _{0}).\,}$

Поэтому мы используем алгоритм

${\displaystyle \theta _{m+1}=\theta _{m}+{\mathcal {J}}^{-1}(\theta _{m})V(\theta _{m}),\,}$

и при определенных условиях регулярности можно показать, что ${\displaystyle \theta _{m}\rightarrow \theta ^{*}}$.

Подсчет очков Фишера

На практике, ${\displaystyle {\mathcal {J}}(\theta )}$ обычно заменяется на ${\displaystyle {\mathcal {I}}(\theta )=\mathrm {E} [{\mathcal {J}}(\theta )]}$, то Информация Fisher, давая нам Алгоритм подсчета очков Фишера:

${\displaystyle \theta _{m+1}=\theta _{m}+{\mathcal {I}}^{-1}(\theta _{m})V(\theta _{m})}$..

Смотрите также

• Оценка (статистика)
• Оценка теста
• Информация Fisher

Рекомендации

1. Лонгфорд, Николас Т. (1987). «Быстрый алгоритм оценки для оценки максимального правдоподобия в несбалансированных смешанных моделях с вложенными случайными эффектами». Биометрика. 74 (4): 817–827. Дои:10.1093 / biomet / 74.4.817.

дальнейшее чтение

• Дженнрих Р. И. и Сэмпсон П. Ф. (1976). «Алгоритмы Ньютона-Рафсона и родственные им для оценки составляющей дисперсии максимального правдоподобия». Технометрика. 18 (1): 11–17. Дои:10.1080/00401706.1976.10489395.