Графическая модель - Graphical model

А графическая модель или же вероятностная графическая модель (PGM) или же структурированная вероятностная модель это вероятностная модель для чего график выражает условная зависимость структура между случайные переменные. Они обычно используются в теория вероятности, статистика -особенно Байесовская статистика -и машинное обучение.

Пример графической модели. Каждая стрелка указывает на зависимость. В этом примере: D зависит от A, B и C; и C зависит от B и D; тогда как A и B независимы.

Типы графических моделей

Как правило, вероятностные графические модели используют представление на основе графа в качестве основы для кодирования распределения в многомерном пространстве и графа, который является компактным или компактным. факторизованный представление набора независимости, сохраняющейся в конкретном распределении. Обычно используются две ветви графического представления распределений, а именно: Байесовские сети и Марковские случайные поля. Оба семейства включают в себя свойства факторизации и независимости, но они различаются набором независимости, которую они могут кодировать, и факторизацией распределения, которую они вызывают.^[1]

Байесовская сеть

Если сетевая структура модели является ориентированный ациклический граф, модель представляет собой факторизацию сустава вероятность всех случайных величин. Точнее, если события ${ Displaystyle X_ {1}, ldots, X_ {n}}$ тогда совместная вероятность удовлетворяет

{ displaystyle P [X_ {1}, ldots, X_ {n}] = prod _ {i = 1} ^ {n} P [X_ {i} | { text {pa}} (X_ {i} )]}

куда ${ displaystyle { text {pa}} (X_ {i})}$ это набор родителей узла ${ displaystyle X_ {i}}$ (узлы с ребрами, направленными в сторону ${ displaystyle X_ {i}}$ ). Другими словами, совместное распределение факторов в продукт условных распределений. Например, графическая модель на рисунке, показанном выше (который на самом деле не ориентированный ациклический граф, а наследственный граф ) состоит из случайных величин ${ displaystyle A, B, C, D}$ с совместной плотностью вероятности, которая множится как

{ Displaystyle P [A, B, C, D] = P [A] cdot P [B] cdot P [C, D | A, B]}

Любые два узла условно независимый учитывая ценности своих родителей. В общем, любые два набора узлов являются условно независимыми с учетом третьего набора, если критерий называется d-разделение в графе. Локальная независимость и глобальная независимость эквивалентны в байесовских сетях.

Этот тип графической модели известен как ориентированная графическая модель, Байесовская сеть, или сеть убеждений. Классические модели машинного обучения, такие как скрытые марковские модели, нейронные сети и более новые модели, такие как марковские модели переменного порядка можно рассматривать как частные случаи байесовских сетей.

Другие типы

Наивный байесовский классификатор где мы используем дерево с одним корнем
Сеть зависимости где разрешены циклы
Древовидный классификатор или Модель TAN
А факторный график неориентированный двудольный граф связывающие переменные и факторы. Каждый фактор представляет собой функцию от переменных, с которыми он связан. Это полезное представление для понимания и реализации распространение веры.
А кликовое дерево или дерево соединений - это дерево из клики, используемый в алгоритм дерева соединений.
А цепной граф - это граф, который может иметь как направленные, так и неориентированные ребра, но без каких-либо ориентированных циклов (т.е. если мы начинаем с любой вершины и движемся по графу, соблюдая направления любых стрелок, мы не можем вернуться в вершину, с которой начали, если мы прошли Стрелка). И ориентированные ациклические графы, и неориентированные графы являются частными случаями цепных графов, которые, таким образом, могут обеспечить способ объединения и обобщения байесовских и марковских сетей.^[2]
An наследственный граф является дополнительным расширением, имеющим направленные, двунаправленные и неориентированные края.^[3]
Случайное поле техники
- А Марковское случайное поле, также известная как сеть Маркова, представляет собой модель над неориентированный граф. Графическая модель с множеством повторяющихся субъединиц может быть представлена с помощью обозначение на табличке.
- А условное случайное поле это дискриминационная модель заданный над неориентированным графом.
А ограниченная машина Больцмана это двудольный генеративная модель заданный над неориентированным графом.

Приложения

Структура моделей, которая обеспечивает алгоритмы обнаружения и анализа структуры в сложных распределениях для их краткого описания и извлечения неструктурированной информации, позволяет создавать и эффективно использовать их.^[1] Приложения графических моделей включают причинный вывод, извлечение информации, распознавание речи, компьютерное зрение, расшифровка коды с низкой плотностью проверки четности, моделирование сети регуляции генов, поиск генов и диагностика заболеваний, и графические модели структуры белка.

Смотрите также

Примечания

^ ^а ^б Коллер, Д.; Фридман, Н. (2009). Вероятностные графические модели. Массачусетс: MIT Press. п. 1208. ISBN 978-0-262-01319-2. Архивировано из оригинал на 2014-04-27.
^ Фриденберг, Мортен (1990). «Марковское свойство цепного графа». Скандинавский статистический журнал. 17 (4): 333–353. JSTOR 4616181. МИСТЕР 1096723.
^ Ричардсон, Томас; Спиртес, Питер (2002). «Марковские модели графа предков». Анналы статистики. 30 (4): 962–1030. CiteSeerX 10.1.1.33.4906. Дои:10.1214 / aos / 1031689015. МИСТЕР 1926166. Zbl 1033.60008.

дальнейшее чтение

Книги и главы книг

Барбер, Дэвид (2012). Байесовское мышление и машинное обучение. Издательство Кембриджского университета. ISBN 978-0-521-51814-7.

Епископ, Кристофер М. (2006). «Глава 8. Графические модели» (PDF). Распознавание образов и машинное обучение. Springer. С. 359–422. ISBN 978-0-387-31073-2. МИСТЕР 2247587.
Коуэлл, Роберт Дж .; Давид, А. Филип; Lauritzen, Steffen L .; Шпигельхальтер, Дэвид Дж. (1999). Вероятностные сети и экспертные системы. Берлин: Springer. ISBN 978-0-387-98767-5. МИСТЕР 1697175. Более продвинутая и статистически ориентированная книга
Дженсен, Финн (1996). Введение в байесовские сети. Берлин: Springer. ISBN 978-0-387-91502-9.
Жемчужина, Иудея (1988). Вероятностные рассуждения в интеллектуальных системах (2-е изд. Перераб.). Сан-Матео, Калифорния: Морган Кауфманн. ISBN 978-1-55860-479-7. МИСТЕР 0965765. Вычислительный подход к рассуждению, при котором формально вводятся отношения между графами и вероятностями.

журнальные статьи

Эдоардо М. Аирольди (2007). «Начало работы с вероятностными графическими моделями». PLOS вычислительная биология. 3 (12): e252. Дои:10.1371 / journal.pcbi.0030252. ЧВК 2134967. PMID 18069887.
Иордания, М.И. (2004). «Графические модели». Статистическая наука. 19: 140–155. Дои:10.1214/088342304000000026.
Гахрамани, Зубин (май 2015 г.). «Вероятностное машинное обучение и искусственный интеллект». Природа. 521 (7553): 452–459. Дои:10.1038 / природа14541. PMID 26017444. S2CID 216356.

Другой

внешняя ссылка

[koller09-1] а ^б Коллер, Д.; Фридман, Н. (2009). Вероятностные графические модели. Массачусетс: MIT Press. п. 1208. ISBN 978-0-262-01319-2. Архивировано из оригинал на 2014-04-27.

[2] Фриденберг, Мортен (1990). «Марковское свойство цепного графа». Скандинавский статистический журнал. 17 (4): 333–353. JSTOR 4616181. МИСТЕР 1096723.

[3] Ричардсон, Томас; Спиртес, Питер (2002). «Марковские модели графа предков». Анналы статистики. 30 (4): 962–1030. CiteSeerX 10.1.1.33.4906. Дои:10.1214 / aos / 1031689015. МИСТЕР 1926166. Zbl 1033.60008.

[1]

[2]

[3]