Оценка минимального расстояния - Minimum-distance estimation

Оценка минимального расстояния (MDE) - концептуальный метод подгонки статистической модели к данным, обычно эмпирическое распределение. Часто используемые оценщики, такие как обыкновенный метод наименьших квадратов можно рассматривать как Особые случаи оценки минимального расстояния.

Пока последовательный и асимптотически нормальный, оценки минимального расстояния обычно не статистически эффективный по сравнению с оценщики максимального правдоподобия, потому что они опускают Якобиан обычно присутствует в функция правдоподобия. Однако это существенно снижает вычислительная сложность задачи оптимизации.

Определение

Позволять ${displaystyle displaystyle X_{1},ldots ,X_{n}}$ быть независимые и одинаково распределенные (iid) случайный образец из численность населения с распределение ${displaystyle F(x; heta )colon heta in Theta }$ и ${displaystyle Theta subseteq mathbb {R} ^{k}(kgeq 1)}$.

Позволять ${displaystyle displaystyle F_{n}(x)}$ быть эмпирическая функция распределения по образцу.

Позволять ${displaystyle {hat { heta }}}$ быть оценщик за ${displaystyle displaystyle heta }$. потом ${displaystyle F(x;{hat { heta }})}$ это оценка для ${displaystyle displaystyle F(x; heta )}$.

Позволять ${displaystyle d[cdot ,cdot ]}$ быть функциональный возвращая некоторую меру "расстояние" между двумя аргументы. Функционал ${displaystyle displaystyle d}$ также называется целевой функцией.

Если существует ${displaystyle {hat { heta }}in Theta }$ такой, что ${displaystyle d[F(x;{hat { heta }}),F_{n}(x)]=inf{d[F(x; heta ),F_{n}(x)]; heta in Theta }}$, тогда ${displaystyle {hat { heta }}}$ называется оценка минимального расстояния из ${displaystyle displaystyle heta }$.

(Дроссос и Филиппу 1980, п. 121)

Статистика, используемая в оценке

Большинство теоретических исследований оценки минимального расстояния и большинство приложений используют меры «расстояния», которые лежат в основе уже установленных степень соответствия тесты: статистика теста, используемая в одном из этих тестов, используется в качестве меры расстояния, которую необходимо минимизировать. Ниже приведены некоторые примеры статистических тестов, которые использовались для оценки минимального расстояния.

Критерий хи-квадрат

В критерий хи-квадрат в качестве критерия используется сумма квадратов разницы между увеличением эмпирического распределения и оценочного распределения по заранее заданным группам, взвешенная по увеличению оценки для этой группы.

Критерий Крамера – фон Мизеса

В Критерий Крамера – фон Мизеса использует интеграл квадрата разности между эмпирической и оцененной функциями распределения (Парр и Шукани 1980, п. 616).

Критерий Колмогорова – Смирнова.

В Тест Колмогорова – Смирнова использует супремум из абсолютная разница между эмпирической и оценочной функциями распределения (Парр и Шукани 1980, п. 616).

Критерий Андерсона – Дарлинга

В Тест Андерсона – Дарлинга аналогичен критерию Крамера – фон Мизеса, за исключением того, что интеграл представляет собой взвешенную версию квадрата разности, где взвешивание связывает дисперсию эмпирической функции распределения (Парр и Шукани 1980, п. 616).

Теоретические результаты

Теория оценивания минимального расстояния связана с теорией асимптотического распределения соответствующих статистических степень соответствия тесты. Часто случаи Критерий Крамера – фон Мизеса, то Тест Колмогорова – Смирнова и Тест Андерсона – Дарлинга рассматриваются одновременно, рассматривая их как частные случаи более общей формулировки меры расстояния. Примеры имеющихся теоретических результатов: последовательность оценок параметров; асимптотические ковариационные матрицы оценок параметров.

Смотрите также

• Оценка максимального правдоподобия
• Оценка максимального интервала

Рекомендации

• Боос, Деннис Д. (1982). «Минимальная оценка Андерсона». Коммуникации в статистике - теория и методы. 11 (24): 2747–2774. Дои:10.1080/03610928208828420. S2CID  119812213.
• Блит, Колин Р. (июнь 1970 г.). «О моделях вывода и принятия решений в статистике». Анналы математической статистики. 41 (3): 1034–1058. Дои:10.1214 / aoms / 1177696980.
• Дроссос, Константин А .; Филиппу, Андреас Н. (декабрь 1980 г.). «Примечание об оценках минимального расстояния». Летопись Института статистической математики. 32 (1): 121–123. Дои:10.1007 / BF02480318. S2CID  120207485.
• Парр, Уильям С .; Шукани, Уильям Р. (1980). «Минимальное расстояние и робастная оценка». Журнал Американской статистической ассоциации. 75 (371): 616–624. CiteSeerX  10.1.1.878.5446. Дои:10.1080/01621459.1980.10477522. JSTOR  2287658.
• Вулфовиц, Дж. (Март 1957 г.). «Метод минимального расстояния». Анналы математической статистики. 28 (1): 75–88. Дои:10.1214 / aoms / 1177707038.