Спецификация статистической модели - Statistical model specification

В статистика, спецификация модели является частью процесса построения статистическая модель: спецификация состоит из выбора подходящего функциональная форма для модели и выбирая, какие переменные включать. Например, учитывая личный доход ${displaystyle y}$ вместе с годами обучения ${displaystyle s}$ и опыт работы ${displaystyle x}$ , мы можем указать функциональную связь ${displaystyle y = f (s, x)}$ следующее:^[1]

{displaystyle ln y = ln y_ {0} + ho s + eta _ {1} x + eta _ {2} x ^ {2} + varepsilon}

куда ${displaystyle varepsilon}$ необъяснимое срок ошибки который должен включать независимые и одинаково распределенные Гауссовские переменные.

Статистик Сэр Дэвид Кокс сказал: «Как [] перевод от предметной проблемы к статистической модели часто является наиболее важной частью анализа».^[2]

Ошибка спецификации и предвзятость

Ошибка спецификации возникает, когда функциональная форма или выбор независимые переменные плохо отражают важные аспекты истинного процесса создания данных. Особенно, предвзятость (в ожидаемое значение разницы оценочной параметр и истинное базовое значение) возникает, если независимая переменная коррелирует с ошибками, присущими базовому процессу. Есть несколько различных возможных причин ошибки спецификации; некоторые из них перечислены ниже.

Может использоваться несоответствующая функциональная форма.
Переменная, не указанная в модели, может иметь отношение как к зависимая переменная и одна или несколько независимых переменных (вызывающих систематическая ошибка пропущенной переменной ).^[3]
В модель может быть включена нерелевантная переменная (хотя это не создает смещения, но включает переоснащение и поэтому может привести к плохой прогнозирующей способности).
Зависимая переменная может быть частью системы одновременные уравнения (дает смещение к одновременности).

Кроме того, погрешности измерения может повлиять на независимые переменные: хотя это и не ошибка спецификации, это может вызвать статистическую ошибку.

Обратите внимание, что все модели будут иметь некоторую ошибку спецификации. Действительно, в статистике есть распространенный афоризм, что "все модели неправильные По словам Бернхэма и Андерсона, «моделирование - это не только наука, но и искусство, и оно направлено на поиск хорошей аппроксимирующей модели ... в качестве основы для статистического вывода».^[4]

Обнаружение ошибки в спецификации

В Ramsey RESET тест может помочь проверить наличие ошибки спецификации в регрессивный анализ.

В приведенном выше примере, связывающем личный доход со школьным образованием и опытом работы, если предположения модели верны, то наименьших квадратов оценки параметров ${displaystyle ho}$ и ${displaystyle eta}$ будет эффективный и беспристрастный. Следовательно, диагностика спецификаций обычно включает тестирование с первого по четвертый момент из остатки.^[5]

Построение модели

Построение модели включает поиск набора взаимосвязей для представления процесса, генерирующего данные. Для этого необходимо избегать всех источников неправильной спецификации, упомянутых выше.

Один из подходов - начать с модели в общем виде, основанной на теоретическом понимании процесса генерации данных. Затем модель можно подогнать к данным и проверить на предмет различных источников ошибок в спецификации в задаче, называемой проверка статистической модели. Теоретическое понимание может затем направить модификацию модели таким образом, чтобы сохранить теоретическую достоверность при удалении источников неправильной спецификации. Но если окажется невозможным найти теоретически приемлемую спецификацию, которая соответствует данным, теоретическую модель, возможно, придется отклонить и заменить другой.

Цитата из Карл Поппер Здесь уместно: «Всякий раз, когда теория кажется вам единственно возможной, примите это как знак того, что вы не поняли ни теории, ни проблемы, для решения которой она была предназначена».^[6]

Другой подход к построению моделей - указать несколько разных моделей в качестве кандидатов, а затем сравнить эти модели-кандидаты друг с другом. Цель сравнения - определить, какая модель-кандидат наиболее подходит для статистического вывода. Общие критерии для сравнения моделей включают следующее: р², Фактор Байеса, а критерий отношения правдоподобия вместе с его обобщением относительная вероятность. Для получения дополнительной информации по этой теме см. выбор статистической модели.

Смотрите также

Примечания

^ Этот конкретный пример известен как Функция заработка мясорубки.
^ Кокс, Д. Р. (2006), Принципы статистического вывода, Издательство Кембриджского университета, п. 197.
^ "Количественные методы II: эконометрика ", Колледж Уильяма и Мэри.
^ Burnham, K. P .; Андерсон, Д. Р. (2002), Выбор модели и многомодельный вывод: практический теоретико-информационный подход (2-е изд.), Springer-Verlag, §1.1.
^ Лонг, Дж. Скотт; Триведи, Правин К. (1993). «Некоторые тесты спецификации для модели линейной регрессии». В Боллен, Кеннет А.; Лонг, Дж. Скотт (ред.). Тестирование моделей структурных уравнений. SAGE Publishing. С. 66–110.
^ Поппер, Карл (1972), Объективное знание: эволюционный подход, Oxford University Press.

дальнейшее чтение

Акаике, Хиротугу (1994), «Влияние информационной точки зрения на развитие статистической науки», в Bozdogan, H. (ed.), Труды Первой конференции США / ЯПОНИИ «Границы статистического моделирования: информационный подход» - том 3, Kluwer Academic Publishers, стр. 27–38.
Астериу, Димитриос; Холл, Стивен Г. (2011). «Неправильная спецификация: неправильные регрессоры, ошибки измерения и неправильные функциональные формы». Прикладная эконометрика (Второе изд.). Пэлгрейв Макмиллан. С. 172–197.
Colegrave, N .; Ракстон, Г. Д. (2017). «Спецификация и мощность статистической модели: рекомендации по использованию проверенного пула при анализе экспериментальных данных». Труды Королевского общества B. 284 (1851): 20161850. Дои:10.1098 / rspb.2016.1850. ЧВК 5378071. PMID 28330912.
Гуджарати, Дамодар Н.; Портер, Дон С. (2009). «Эконометрическое моделирование: спецификация модели и диагностическое тестирование». Базовая эконометрика (Пятое изд.). Макгроу-Хилл / Ирвин. С. 467–522. ISBN 978-0-07-337577-9.
Харрелл, Фрэнк (2001), Стратегии регрессионного моделирования, Springer.
Кмента Ян (1986). Элементы эконометрики (Второе изд.). Нью-Йорк: Macmillan Publishers. стр.442–455. ISBN 0-02-365070-2.
Леманн, Э. (1990). «Спецификация модели: взгляды Фишера и Неймана и более поздние разработки». Статистическая наука. 5 (2): 160–168. Дои:10.1214 / сс / 1177012164.
Маккиннон, Джеймс Г. (1992). «Тестирование спецификации модели и искусственные регрессии». Журнал экономической литературы. 30 (1): 102–146. JSTOR 2727880.
Маддала, Г.С.; Лахири, Каджал (2009). «Диагностическая проверка, выбор модели и проверка спецификации». Введение в эконометрику (Четвертое изд.). Wiley. С. 401–449. ISBN 978-0-470-01512-4.
Сапра, Сунил (2005). «Тест спецификации ошибок регрессии (RESET) для обобщенных линейных моделей» (PDF). Бюллетень экономики. 3 (1): 1–6.

[1] Этот конкретный пример известен как Функция заработка мясорубки.

[2] Кокс, Д. Р. (2006), Принципы статистического вывода, Издательство Кембриджского университета, п. 197.

[3] "Количественные методы II: эконометрика ", Колледж Уильяма и Мэри.

[4] Burnham, K. P .; Андерсон, Д. Р. (2002), Выбор модели и многомодельный вывод: практический теоретико-информационный подход (2-е изд.), Springer-Verlag, §1.1.

[5] Лонг, Дж. Скотт; Триведи, Правин К. (1993). «Некоторые тесты спецификации для модели линейной регрессии». В Боллен, Кеннет А.; Лонг, Дж. Скотт (ред.). Тестирование моделей структурных уравнений. SAGE Publishing. С. 66–110.

[6] Поппер, Карл (1972), Объективное знание: эволюционный подход, Oxford University Press.

[1]

[2]

[3]

[4]

[5]

[6]