Г-приор - g-prior - Wikipedia

В статистика, то г-приор является объективный предварительный для коэффициентов регрессии множественная регрессия. Он был представлен Арнольд Зеллнер.[1]Это ключевой инструмент в Байесовский и эмпирический байесовский выбор переменных.[2][3]

Определение

Рассмотрим набор данных , где находятся Евклидовы векторы и находятся скаляры Модель множественной регрессии формулируется как

где случайные ошибки. g-Prior Зеллнера для это многомерное нормальное распределение с ковариационной матрицей, пропорциональной обратной Информация Fisher матрица для .

Предположим, что находятся я нормальный с нулевым средним и дисперсией . Позволять быть матрицей с -я строка равна .Тогда г-приор для - многомерное нормальное распределение с априорным средним гиперпараметром. и ковариационная матрица, пропорциональная , т.е.

где g - положительный скалярный параметр.

Заднее распространение

Апостериорное распределение дается как

куда и

- оценка максимального правдоподобия (наименьших квадратов) . Вектор коэффициентов регрессии можно оценить по его апостериорному среднему значению при g-априорности, то есть как средневзвешенное значение оценки максимального правдоподобия и ,

Ясно, что при g → ∞ апостериорное среднее сходится к оценке максимального правдоподобия.

Выбор г

Оценка g несколько менее прямолинейна, чем оценка Было предложено множество методов, включая байесовские и эмпирические байесовские оценки.[3]

Рекомендации

  1. ^ Зеллнер, А. (1986). «Об оценке априорных распределений и байесовского регрессионного анализа с помощью априорных распределений». In Goel, P .; Зеллнер, А. (ред.). Байесовский вывод и методы принятия решений: очерки в честь Бруно де Финетти. Исследования по байесовской эконометрике и статистике. 6. Нью-Йорк: Эльзевир. С. 233–243. ISBN  978-0-444-87712-3.
  2. ^ George, E .; Фостер, Д. П. (2000). «Калибровка и выбор эмпирических байесовских переменных». Биометрика. 87 (4): 731–747. CiteSeerX  10.1.1.18.3731. Дои:10.1093 / biomet / 87.4.731.
  3. ^ а б Liang, F .; Paulo, R .; Molina, G .; Clyde, M.A .; Бергер, Дж. О. (2008). «Смеси g priors для выбора байесовской переменной». Журнал Американской статистической ассоциации. 103 (481): 410–423. CiteSeerX  10.1.1.206.235. Дои:10.1198/016214507000001337.