Общая линейная модель - General linear model - Wikipedia

В общая линейная модель или же общая многомерная регрессионная модель это просто компактный способ одновременного написания нескольких множественная линейная регрессия модели. В этом смысле это не отдельная статистическая линейная модель. Различные модели множественной линейной регрессии можно компактно записать как[1]

куда Y это матрица с серией многомерных измерений (каждый столбец представляет собой набор измерений на одном из зависимые переменные ), Икс матрица наблюдений за независимые переменные это может быть матрица дизайна (каждый столбец представляет собой набор наблюдений по одной из независимых переменных), B - матрица, содержащая параметры, которые обычно подлежат оценке, и U матрица, содержащая ошибки (шум) .Обычно предполагается, что ошибки не коррелируют между измерениями и соответствуют многомерное нормальное распределение. Если ошибки не соответствуют многомерному нормальному распределению, обобщенные линейные модели может использоваться для ослабления предположений о Y и U.

Общая линейная модель включает в себя ряд различных статистических моделей: ANOVA, ANCOVA, MANOVA, МАНКОВА, обычный линейная регрессия, т-тест и F-тест. Общая линейная модель - это обобщение множественной линейной регрессии на случай более чем одной зависимой переменной. Если Y, B, и U мы вектор-столбец, матричное уравнение выше будет представлять множественную линейную регрессию.

Проверка гипотез с помощью общей линейной модели может быть выполнена двумя способами: многомерный или как несколько независимых одномерный тесты. В многомерных тестах столбцы Y тестируются вместе, тогда как в одномерных тестах столбцы Y тестируются независимо, т. е. как несколько одномерных тестов с одной и той же матрицей дизайна.

Сравнение с множественной линейной регрессией

Множественная линейная регрессия является обобщением простая линейная регрессия в случае более чем одной независимой переменной, а особый случай общих линейных моделей, ограниченных одной зависимой переменной. Базовая модель множественной линейной регрессии:

за каждое наблюдение я = 1, ... , п.

В приведенной выше формуле мы рассматриваем п наблюдения одной зависимой переменной и п независимые переменные. Таким образом, Yя это яth наблюдение за зависимой переменной, Иксij является яth наблюдение за jth независимая переменная, j = 1, 2, ..., п. Ценности βj представляют параметры, которые необходимо оценить, и εя это яth независимая одинаково распределенная нормальная ошибка.

В более общей многомерной линейной регрессии существует одно уравнение указанной выше формы для каждого из м > 1 зависимых переменных, которые имеют один и тот же набор независимых переменных и, следовательно, оцениваются одновременно друг с другом:

для всех наблюдений с индексом я = 1, ... , п и для всех зависимых переменных, индексированных как j = 1, ..., м.

Обратите внимание, что, поскольку каждая зависимая переменная имеет свой собственный набор параметров регрессии, которые необходимо подобрать, с вычислительной точки зрения общая многомерная регрессия представляет собой просто последовательность стандартных множественных линейных регрессий с использованием одних и тех же независимых переменных.

Сравнение с обобщенной линейной моделью

Общая линейная модель (GLM)[2][3] и обобщенная линейная модель (GLiM)[4][5] два обычно используемых семейства Статистические методы связать некоторое количество непрерывных и / или категориальных предсказатели к одному переменная результата.

Основное различие между двумя подходами заключается в том, что GLM строго предполагает, что остатки будет следовать условно нормальное распределение,[3] в то время как GLiM ослабляет это предположение и допускает множество других распределения от экспоненциальная семья для остатков.[4] Следует отметить, что GLM является частным случаем GLiM, в котором распределение остатков следует условно нормальному распределению.

Распределение остатков в значительной степени зависит от типа и распределения переменной результата; различные типы переменных результата приводят к разнообразию моделей в семействе GLiM. Обычно используемые модели семейства GLiM включают бинарная логистическая регрессия[6] для бинарных или дихотомических результатов, Регрессия Пуассона[7] для подсчета результатов, и линейная регрессия для непрерывных, нормально распределенных результатов. Это означает, что о GLiM можно говорить как об общем семействе статистических моделей или как о конкретных моделях для конкретных типов результатов.

Общая линейная модельОбобщенная линейная модель
Типичный метод оценкиНаименьших квадратов, лучший линейный несмещенный прогнозМаксимальная вероятность или же Байесовский
ПримерыANOVA, ANCOVA, линейная регрессиялинейная регрессия, логистическая регрессия, Регрессия Пуассона, гамма-регрессия,[8] общая линейная модель
Расширения и связанные методыMANOVA, МАНКОВА, линейная смешанная модельобобщенная линейная смешанная модель (GLMM), обобщенные оценочные уравнения (GEE)
р упаковка и функцияlm () в пакете статистики (базовый R)glm () в пакете статистики (базовый R)
Matlab функцияmvregress ()glmfit ()
SAS процедурыPROC GLM, PROC REGПРОЦЕДУРА GENMOD, ПРОЦЕДУРА ЛОГИСТИКА (для бинарных и упорядоченных или неупорядоченных категориальных результатов)
Stata командарегрессglm
SPSS командарегресс, glmГенлин, логистика
Язык Wolfram Language & Mathematica функцияLinearModelFit [][9]GeneralizedLinearModelFit [][10]
EViews командаls[11]glm[12]

Приложения

Применение общей линейной модели появляется при анализе множественных сканирование мозга в научных экспериментах, где Y содержит данные со сканеров мозга, Икс содержит переменные экспериментального плана и препятствия. Обычно это проверяется одномерным способом (обычно массово-одномерный в этой настройке) и часто упоминается как статистическое параметрическое отображение.[13]

Смотрите также

Примечания

  1. ^ К. В. Мардиа, Дж. Т. Кент и Дж. М. Бибби (1979). Многомерный анализ. Академическая пресса. ISBN  0-12-471252-5.
  2. ^ Нетер, Дж., Катнер, М. Х., Нахтсхайм, К. Дж., И Вассерман, В. (1996). Прикладные линейные статистические модели (Том 4, с. 318). Чикаго: Ирвин.
  3. ^ а б Коэн, Дж., Коэн, П., Уэст, С. Г., & Айкен, Л.С. (2003). Применял множественный регрессионный / корреляционный анализ для поведенческих наук.
  4. ^ а б McCullagh, P .; Нелдер, Дж. А. (1989), "Схема обобщенных линейных моделей", Обобщенные линейные модели, Springer US, стр. 21–47, Дои:10.1007/978-1-4899-3242-6_2, ISBN  9780412317606
  5. ^ Фокс, Дж. (2015). Прикладной регрессионный анализ и обобщенные линейные модели. Публикации Sage.
  6. ^ Хосмер-младший, Д. В., Лемешоу, С., & Стердивант, Р. X. (2013). Прикладная логистическая регрессия (Том 398). Джон Вили и сыновья.
  7. ^ Gardner, W .; Mulvey, E.P .; Шоу, Э. К. (1995). «Регрессионный анализ подсчетов и скоростей: Пуассон, сверхдисперсный Пуассон и отрицательные биномиальные модели». Психологический бюллетень. 118 (3): 392–404. Дои:10.1037/0033-2909.118.3.392.
  8. ^ Маккаллах, Питер; Нелдер, Джон (1989). Обобщенные линейные модели, второе издание. Бока-Ратон: Чепмен и Холл / CRC. ISBN  978-0-412-31760-6.
  9. ^ LinearModelFit, Центр документации языка Wolfram Language.
  10. ^ ОбобщенныйLinearModelFit, Центр документации языка Wolfram Language.
  11. ^ ls, Справка EViews.
  12. ^ glm, Справка EViews.
  13. ^ К.Дж. Фристон; А.П. Холмс; К.Дж. Уорсли; Ж.-Б. Полина; CD. Фрит; Р.С.Дж. Frackowiak (1995). «Статистические параметрические карты в функциональной визуализации: общий линейный подход». Картирование человеческого мозга. 2 (4): 189–210. Дои:10.1002 / hbm.460020402.

Рекомендации

  • Кристенсен, Рональд (2002). Плоские ответы на сложные вопросы: теория линейных моделей (Третье изд.). Нью-Йорк: Спрингер. ISBN  0-387-95361-2.
  • Вичура, Майкл Дж. (2006). Безкоординатный подход к линейным моделям. Кембриджская серия по статистической и вероятностной математике. Кембридж: Издательство Кембриджского университета. С. xiv + 199. ISBN  978-0-521-86842-6. МИСТЕР  2283455.
  • Роулингс, Джон О.; Pantula, Sastry G .; Дики, Дэвид А., ред. (1998). «Прикладной регрессионный анализ». Тексты Springer в статистике. Дои:10.1007 / b98890. ISBN  0-387-98454-2. Цитировать журнал требует | журнал = (помощь)