Апостериорная вероятность - Posterior probability - Wikipedia

В Байесовская статистика, то апостериорная вероятность из случайное событие или неопределенное предложение - это условная возможность что назначено[требуется разъяснение ] после соответствующего свидетельство или фон учитывается. «Посторонний» в этом контексте означает принятие во внимание соответствующих доказательств, относящихся к конкретному рассматриваемому делу.

В апостериорное распределение вероятностей это распределение вероятностей неизвестной величины, рассматриваемой как случайная переменная, при условии доказательства, полученные в результате эксперимента или опроса.

Определение

Апостериорная вероятность - это вероятность параметров учитывая доказательства : .

Это контрастирует с функция правдоподобия, которая представляет собой вероятность доказательства с учетом параметров: .

Эти два отношения связаны следующим образом:

Учитывая прежний вера в то, что функция распределения вероятностей является и что наблюдения иметь вероятность , то апостериорная вероятность определяется как

[1]

куда - нормирующая постоянная, вычисляемая как

для непрерывного , или суммируя по всем возможным значениям для дискретных .[2]

Апостериорную вероятность можно записать как

,

куда означает пропорционально.

Пример

Предположим, что в школе 60% мальчиков и 40% девочек. Девочки носят брюки или юбки в равном количестве; все мальчики носят брюки. Наблюдатель видит (случайного) ученика на расстоянии; все, что может видеть наблюдатель, - это то, что на этом ученице брюки. Какова вероятность того, что этот студент - девушка? Правильный ответ можно вычислить с помощью теоремы Байеса.

Событие в том, что наблюдаемый студент - это девушка, а событие в том, что наблюдаемый студент носит брюки. Чтобы вычислить апостериорную вероятность , нам сначала нужно знать:

  • , или вероятность того, что студент - девушка, независимо от любой другой информации. Поскольку наблюдатель видит случайного ученика, а это означает, что все ученики имеют одинаковую вероятность быть наблюдаемым, а процент девочек среди учеников составляет 40%, эта вероятность равна 0,4.
  • , или вероятность того, что студент не девочка (т. е. мальчик), независимо от любой другой информации ( является дополнительным событием к ). Это 60% или 0,6.
  • , или вероятность того, что студент будет в брюках, учитывая, что студент - девушка. Поскольку они так же склонны носить юбки, как и брюки, это 0,5.
  • , или вероятность того, что ученик будет в брюках, учитывая, что ученик мальчик. Это дается как 1.
  • или вероятность того, что (случайно выбранный) студент будет в брюках, независимо от любой другой информации. С (через закон полной вероятности ), это .

Учитывая всю эту информацию, апостериорная вероятность Количество наблюдателя, заметившего девушку, при условии, что наблюдаемый ученик носит брюки, можно вычислить, подставив эти значения в формулу:

Интуитивно понятный способ решить эту проблему - предположить, что в школе N учеников. Количество мальчиков = 0,6N и количество девочек = 0,4N. Если N достаточно велико, общее количество пользователей брюк = 0,6N + 50% от 0,4N. А количество девушек, носящих брюки = 50% от 0,4N. Таким образом, в популяции брюк девушки составляют (50% от 0,4N) / (0,6N + 50% от 0,4N) = 25%. Другими словами, если вы выделили группу носящих брюки, четверть этой группы составят девушки. Следовательно, если вы видите брюки, самое большее, что вы можете сделать, это то, что вы смотрите на единственную выборку из подгруппы студентов, 25% которой составляют девушки. И по определению вероятность того, что эта случайная ученица окажется девушкой, составляет 25%. Таким образом можно решить любую проблему теоремы Байеса.

Расчет

Апостериорное распределение вероятностей одного случайная переменная учитывая стоимость другого, можно рассчитать с Теорема Байеса путем умножения априорное распределение вероятностей посредством функция правдоподобия, а затем разделив на нормализующая константа, следующее:

дает задний функция плотности вероятности для случайной величины учитывая данные , куда

  • это априорная плотность ,
  • - функция правдоподобия как функция ,
  • - нормирующая постоянная, а
  • это апостериорная плотность учитывая данные .

Достоверный интервал

Апостериорная вероятность - это условная вероятность, обусловленная случайно наблюдаемыми данными. Следовательно, это случайная величина. Для случайной величины важно суммировать ее неопределенность. Один из способов достижения этой цели - предоставить достоверный интервал апостериорной вероятности.

Классификация

В классификация апостериорные вероятности отражают неопределенность оценки наблюдения для определенного класса, см. также Вероятности членства в классе. Пока статистическая классификация методы по определению генерируют апостериорные вероятности, машинное обучение обычно предоставляет значения принадлежности, которые не вызывают никакой вероятностной уверенности. Желательно преобразовать или перемасштабировать значения членства в вероятности членства в классе, поскольку они сопоставимы и, кроме того, более легко применимы для последующей обработки.

Смотрите также

Рекомендации

  1. ^ Кристофер М. Бишоп (2006). Распознавание образов и машинное обучение. Springer. С. 21–24. ISBN  978-0-387-31073-2.
  2. ^ Эндрю Гельман, Джон Б. Карлин, Хэл С. Стерн, Дэвид Б. Дансон, Аки Вехтари и Дональд Б. Рубин (2014). Байесовский анализ данных. CRC Press. п. 7. ISBN  978-1-4398-4095-5.CS1 maint: несколько имен: список авторов (связь)

дальнейшее чтение

  • Ланкастер, Тони (2004). Введение в современную байесовскую эконометрику. Оксфорд: Блэквелл. ISBN  1-4051-1720-6.
  • Ли, Питер М. (2004). Байесовская статистика: введение (3-е изд.). Wiley. ISBN  0-340-81405-5.