Минимальная информация Fisher - Minimum Fisher information

В теория информации, принцип минимальная информация Fisher (MFI) это вариационный принцип который при применении с соответствующими ограничениями, необходимыми для воспроизведения эмпирически известных значений математического ожидания, определяет наилучшее распределение вероятностей что характеризует систему. (Смотрите также Информация Fisher.)

Меры информации

Информационные меры (IM) - самые важные инструменты теория информации. Они измеряют либо количество положительной информации, либо «отсутствующей» информации, которой обладает наблюдатель в отношении любой интересующей системы. Самый известный IM - это так называемый Шеннон-энтропия (1948), который определяет, сколько дополнительной информации еще требуется наблюдателю, чтобы иметь все доступные знания о данной системе S, когда все, что у него / нее есть, - это функция плотности вероятности (PD) определены на соответствующих элементах такой системы. Тогда это мера «недостающей» информации. IM - это функция только PD. Если у наблюдателя нет такой ПД, а есть только конечный набор эмпирически определенных средних значений системы, тогда фундаментальный научный принцип, называемый Максимальная энтропия one (MaxEnt) утверждает, что «лучший» PD - это тот, который, воспроизводя известные ожидаемые значения, в противном случае максимизирует IM Шеннона.

Информационная мера Фишера

Информация Фишера (FIM), названный в честь Рональд Фишер, (1925) - это еще один вид меры в двух отношениях, а именно:

1) отражает количество (положительной) информации наблюдателя,
2) он зависит не только от PD, но и от его первых производных, свойства, которое делает его локальной величиной (вместо этого величина Шеннона является глобальной).

Соответствующим аналогом MaxEnt теперь является FIM-минимизация, поскольку мера Фишера растет, когда мера Шеннона уменьшается, и наоборот. Упомянутая здесь минимизация (MFI) является важным теоретическим инструментом во множестве дисциплин, начиная с физика. В некотором смысле он явно превосходит MaxEnt, потому что более поздняя процедура всегда дает в качестве решения экспоненциальную частичную загрузку, в то время как решение MFI является дифференциальное уравнение для PD, что обеспечивает большую гибкость и универсальность.

Заявки МФО

Термодинамика

Много усилий было уделено методу информации Фишера, пролившему много света на множество физических приложений.[1][2][3][4][5][6][7][8][9][10][11][12][13][14][15] В качестве небольшой выборки можно показать, что все поле термодинамика (обе равновесие и неравновесный ) может быть получен из подхода MFI.[16] Здесь FIM специализируется на конкретном, но важном случае семейств переводов, то есть функциях распределения, форма которых не меняется при трансляционных преобразованиях. В этом случае мера Фишера становится инвариантной относительно сдвига. Такая минимизация меры Фишера приводит к Уравнение типа Шредингера для амплитуды вероятности, где основное состояние описывает физику равновесия, а возбужденные состояния учитывают неравновесные ситуации.[17]

Масштабно-инвариантные явления

В последнее время, Закон Ципфа было показано, что возникает как вариационное решение MFI, когда масштабная инвариантность вводится в меру, впервые приводя объяснение этой закономерности из первые принципы.[18] Также было показано, что MFI можно использовать для формулировки термодинамики, основанной на масштабной инвариантности вместо трансляционная инвариантность, позволяя определить Идеальный газ без накипи, масштабно-инвариантный эквивалент Идеальный газ.[19]

Рекомендации

  1. ^ Фриден, Б. Р. (2004). Наука от информации Фишера: объединение. Кембридж, Великобритания: Издательство Кембриджского университета. ISBN  978-0-521-00911-9. OCLC  53325064.
  2. ^ Фриден, Б. Рой (1989). «Информация Фишера как основа для волнового уравнения Шредингера». Американский журнал физики. Американская ассоциация учителей физики (AAPT). 57 (11): 1004–1008. Дои:10.1119/1.15810. ISSN  0002-9505.
  3. ^ Frieden, B.Roy (1992). «Информация Фишера и взаимодополняемость неопределенностей». Письма о физике A. Elsevier BV. 169 (3): 123–130. Дои:10.1016/0375-9601(92)90581-6. ISSN  0375-9601.
  4. ^ Б. Р. Фриден, в «Достижения в области визуализации и электронной физики», под редакцией П. В. Хоукса, Academic, New York, 1994, Vol. 90, с. 123204.
  5. ^ Frieden, B.Roy (1993). «Оценка законов распределения и физических законов по принципу экстремизированной физической информации». Physica A: Статистическая механика и ее приложения. Elsevier BV. 198 (1–2): 262–338. Дои:10.1016/0378-4371(93)90194-9. ISSN  0378-4371.
  6. ^ Frieden, B. Roy; Хьюз, Рой Дж. (1994-04-01). «Спектральный шум 1 / f, полученный из экстремизированной физической информации». Физический обзор E. Американское физическое общество (APS). 49 (4): 2644–2649. Дои:10.1103 / Physreve.49.2644. ISSN  1063-651X.
  7. ^ Николов, Б .; Фриден, Б. Рой (1994-06-01). «Ограничение на увеличение энтропии, наложенное информацией Фишера». Физический обзор E. Американское физическое общество (APS). 49 (6): 4815–4820. Дои:10.1103 / Physreve.49.4815. ISSN  1063-651X.
  8. ^ Фриден, Б. Рой (1990-04-01). «Информация Фишера, беспорядок и равновесные распределения физики». Физический обзор A. Американское физическое общество (APS). 41 (8): 4265–4276. Дои:10.1103 / Physreva.41.4265. ISSN  1050-2947.
  9. ^ Frieden, B. Roy; Соффер, Бернард Х. (1 сентября 1995 г.). «Лагранжианы физики и игра Фишера-передачи информации». Физический обзор E. Американское физическое общество (APS). 52 (3): 2274–2286. Дои:10.1103 / Physreve.52.2274. ISSN  1063-651X.
  10. ^ Фриден, Б. Рой (1991). «Информация Фишера и сложная природа волнового уравнения Шредингера». Основы физики. Springer Nature. 21 (7): 757–771. Дои:10.1007 / bf00733343. ISSN  0015-9018.
  11. ^ Р. Н. Сильвер, в E. T. Jaynes: Physics and Probability, под редакцией W. T. Grandy, Jr. и П. В. Милонни Издательство Кембриджского университета, Кембридж, Англия, 1992.
  12. ^ Пластино, А .; Пластино А.Р .; Miller, H.G .; Khanna, F.C. (1996). «Нижняя граница информационной меры Фишера». Письма о физике A. Elsevier BV. 221 (1–2): 29–33. Дои:10.1016/0375-9601(96)00560-9. ISSN  0375-9601.
  13. ^ Пластино, А.Р .; Пластино, А. (1996-10-01). «Симметрии уравнения Фоккера-Планка и стрела времени Фишера-Фридена». Физический обзор E. Американское физическое общество (APS). 54 (4): 4423–4426. Дои:10.1103 / Physreve.54.4423. ISSN  1063-651X.
  14. ^ Р. Пластино, А .; Miller, H.G .; Пластино, А. (1997-10-01). "Минимальная энтропия Кульбака подход к уравнению Фоккера-Планка". Физический обзор E. Американское физическое общество (APS). 56 (4): 3927–3934. Дои:10.1103 / Physreve.56.3927. ISSN  1063-651X.
  15. ^ Пластино, А .; Пластино А.Р .; Миллер, Х.Г. (1997). «О связи между стрелой времени Фишера-Фридена-Соффера и поведением энтропий Больцмана и Кульбака». Письма о физике A. Elsevier BV. 235 (2): 129–134. Дои:10.1016 / s0375-9601 (97) 00634-8. ISSN  0375-9601.
  16. ^ Frieden, B.R .; Пластино, А .; Пластино, А.Р .; Соффер, Б. Х. (1999-07-01). «Термодинамика на основе Фишера: ее преобразование Лежандра и свойства вогнутости». Физический обзор E. Американское физическое общество (APS). 60 (1): 48–53. Дои:10.1103 / Physreve.60.48. ISSN  1063-651X.
  17. ^ Frieden, B.R .; Пластино, А .; Пластино, А.Р .; Соффер, Б. Х. (2002-10-22). «Связь Шредингера между неравновесной термодинамикой и информацией Фишера». Физический обзор E. Американское физическое общество (APS). 66 (4): 046128. arXiv:cond-mat / 0206107. Дои:10.1103 / Physreve.66.046128. ISSN  1063-651X.
  18. ^ Эрнандо, А .; Puigdomènech, D .; Villuendas, D .; Vesperinas, C .; Пластино, А. (2009). "Закон Ципфа из вариационного принципа Фишера". Письма о физике A. Elsevier BV. 374 (1): 18–21. arXiv:0908.0501. Дои:10.1016 / j.physleta.2009.10.027. ISSN  0375-9601.
  19. ^ Эрнандо, А .; Vesperinas, C .; Пластино, А. (2010). «Информация Фишера и термодинамика масштабно-инвариантных систем». Physica A: Статистическая механика и ее приложения. 389 (3): 490. arXiv:0908.0504. Bibcode:2010PhyA..389..490H. Дои:10.1016 / j.physa.2009.09.054.