Линейная статистика Байеса - Bayes linear statistics

Линейная статистика Байеса представляет собой субъективистскую статистическую методологию и основу. Традиционное субъективное Байесовский анализ основан на полностью указанных распределения вероятностей, которые очень сложно уточнить на необходимом уровне детализации. Линейный анализ Байеса пытается решить эту проблему, развивая теорию и практику использования частично определенных вероятностных моделей. Линейный метод Байеса в его нынешнем виде был разработан Майклом Гольдштейном. Математически и философски расширяет Бруно де Финетти с Оперативная субъективность подход к вероятности и статистике.

Мотивация

Рассмотрим сначала традиционный байесовский анализ, в котором вы ожидаете вскоре узнать D и вы хотели бы узнать больше о некоторых других наблюдаемых B. В традиционном байесовском подходе требуется перечислить все возможные исходы, т.е. каждый возможный результат является перекрестным произведением раздел набора из B и D. Если представлено на компьютере, где B требует п биты и D м бит, то необходимое количество состояний равно ${displaystyle 2 ^ {n + m}}$ . Первым шагом к такому анализу является определение субъективных вероятностей человека, например: спросив об их поведении при ставках на каждый из этих исходов. Когда мы узнаем D условные вероятности для B определяются применением правила Байеса.

Практики субъективной байесовской статистики обычно анализируют наборы данных, размер которых достаточно велик, чтобы субъективные вероятности не могли быть осмысленно определены для каждого элемента D × B. Обычно это достигается при условии, что возможность обмена а затем использование параметризованных моделей с априорными распределениями по параметрам и обращением к теорема де Финетти чтобы обосновать, что это дает действительные операционные субъективные вероятности D × B. Сложность такого подхода заключается в том, что для достоверности статистического анализа необходимо, чтобы субъективные вероятности хорошо отражали убеждения человека, однако этот метод приводит к очень точной спецификации по сравнению с D × B и часто бывает трудно сформулировать, что означало бы принять эти спецификации убеждений.

В отличие от традиционной байесовской парадигмы линейная статистика Байеса, следующая за де Финетти, использует Предвидение или субъективное ожидание как примитив, тогда вероятность определяется как ожидание индикаторной переменной. Вместо указания субъективной вероятности для каждого элемента в разделе D × B аналитик определяет субъективные ожидания лишь в отношении нескольких величин, которые им интересны или в которых они чувствуют себя осведомленными. Затем вместо того, чтобы обусловливать скорректированное ожидание, вычисляется правило, которое является обобщением правила Байеса, основанного на ожидании.

Использование слова «линейный» в названии относится к аргументам де Финетти о том, что теория вероятностей является линейной теорией (де Финетти выступал против более общего подхода теории меры).

Пример

В линейной статистике Байеса вероятностная модель определена только частично, и вычислить условную вероятность по правилу Байеса невозможно. Вместо этого линейный метод Байеса предлагает расчет скорректированного ожидания.

Для проведения байесовского линейного анализа необходимо определить некоторые значения, которые вы ожидаете узнать в ближайшее время, выполнив измерения. D и некоторая будущая стоимость, которую вы хотели бы знать B. Здесь D относится к вектору, содержащему данные и B в вектор, содержащий величины, которые вы хотите предсказать. Для следующего примера B и D считаются двумерными векторами, т.е.

{displaystyle B = (Y_ {1}, Y_ {2}), ~ D = (X_ {1}, X_ {2}).}

Чтобы задать линейную модель Байеса, необходимо предоставить ожидания для векторов B и D, а также указать корреляцию между каждым компонентом B и каждый компонент D.

Например, ожидания указаны как:

{displaystyle E (Y_ {1}) = 5, ~ E (Y_ {2}) = 3, ~ E (X_ {1}) = 5, ~ E (X_ {2}) = 3}

а ковариационная матрица определяется как:

{displaystyle {egin {array} {c | cccc} & X_ {1} & X_ {2} & Y_ {1} & Y_ {2} hline X_ {1} & 1 & u & gamma & gamma X_ {2} & u & 1 & gamma & gamma Y_ {1} & gamma & gamma & 1 & v Y_ {2} & gamma & gamma & v & 1 end {array}}.}

Повторение в этой матрице имеет некоторые интересные последствия, которые мы вскоре обсудим.

Скорректированное математическое ожидание - это линейная оценка вида

{displaystyle c_ {0} + c_ {1} X_ {1} + c_ {2} X_ {2}}

куда ${displaystyle c_ {0}, c_ {1}}$ и ${displaystyle c_ {2}}$ выбираются так, чтобы минимизировать предварительные ожидаемые потери для наблюдений, т.е. ${displaystyle Y_ {1}, Y_ {2}}$ в этом случае. Это для ${displaystyle Y_ {1}}$