Теорема Винера – Хинчина - Wiener–Khinchin theorem

В Прикладная математика, то Теорема Винера – Хинчина, также известный как Теорема Винера – Хинчина а иногда как Теорема Винера – Хинчина – Эйнштейна. или Теорема Хинчина – Колмогорова., заявляет, что автокорреляция функция стационарный случайный процесс в широком смысле имеет спектральное разложение предоставленный спектр мощности этого процесса.^{[1][2][3][4][5][6][7]}

История

Норберт Винер доказал это теорема для случая детерминированной функции в 1930 году;^[8] Александр Хинчин позже сформулировал аналогичный результат для стационарных случайных процессов и опубликовал этот вероятностный аналог в 1934 году.^[9][10] Альберт Эйнштейн объяснил, без доказательств, идею в краткой двухстраничной записке в 1914 году.^[11]

Случай непрерывного процесса

Для непрерывного времени теорема Винера – Хинчина утверждает, что если ${\displaystyle x}$ представляет собой случайный процесс в широком смысле, автокорреляционная функция (иногда называют автоковариация ) определяется в терминах статистических ожидаемое значение, ${\displaystyle r_{xx}(\tau )=\operatorname {E} {\big [}x(t)^{*}x(t-\tau ){\big ]}}$ (звездочка означает комплексно сопряженный, и, конечно, его можно опустить, если случайный процесс является вещественным), существует и конечен при каждом запаздывании ${\displaystyle \tau }$, то существует монотонная функция ${\displaystyle F(f)}$ в частотной области ${\displaystyle -\infty <f<\infty }$ такой, что

${\displaystyle r_{xx}(\tau )=\int _{-\infty }^{\infty }e^{2\pi i\tau f}dF(f),}$

где интеграл есть Интеграл Римана – Стилтьеса..^[1][12] Это своего рода спектральное разложение автокорреляционной функции. F называется функцией спектрального распределения мощности и является функцией статистического распределения. Иногда его называют интегральным спектром.

Преобразование Фурье ${\displaystyle x(t)}$ вообще не существует, потому что стохастические случайные функции квадратично интегрируемый или абсолютно интегрируемый. И нет ${\displaystyle r_{xx}}$ Предполагается, что она абсолютно интегрируема, поэтому она также не требует преобразования Фурье.

Но если ${\displaystyle F(f)}$ является абсолютно непрерывный, например, если процесс чисто недетерминированный, то ${\displaystyle F}$ дифференцируемый почти всюду. В этом случае можно определить ${\displaystyle S(f)}$, сила спектральная плотность из ${\displaystyle x(t)}$, взяв усредненную производную от ${\displaystyle F}$. Поскольку левая и правая производные от ${\displaystyle F}$ существуют везде, мы можем положить ${\displaystyle S(f)={\frac {1}{2}}\left(\lim _{\varepsilon \downarrow 0}{\frac {1}{\varepsilon }}{\big (}F(f+\varepsilon )-F(f){\big )}+\lim _{\varepsilon \uparrow 0}{\frac {1}{\varepsilon }}{\big (}F(f+\varepsilon )-F(f){\big )}\right)}$ повсюду,^[13] (получение этого F - интеграл от его усредненной производной^[14]), и теорема упрощается до

${\displaystyle r_{xx}(\tau )=\int _{-\infty }^{\infty }S(f)e^{2\pi i\tau f}\,df.}$

Если теперь предположить, что р и S удовлетворяют необходимым условиям для выполнения обращения Фурье, теорема Винера – Хинчина принимает простую форму утверждения, что р и S являются парой преобразования Фурье, а

${\displaystyle S(f)=\int _{-\infty }^{\infty }r_{xx}(\tau )e^{-2\pi if\tau }\,d\tau .}$

Случай дискретного времени процесса

Для случая дискретного времени спектральная плотность мощности функции с дискретными значениями ${\displaystyle x[n]}$ является

${\displaystyle S(f)=\sum _{k=-\infty }^{\infty }r_{xx}[k]e^{-i(2\pi f)k},}$

куда

${\displaystyle r_{xx}[k]=\operatorname {E} {\big [}x[n]^{*}x[n-k]{\big ]}}$

дискретная автокорреляционная функция ${\displaystyle x[n]}$при условии, что это абсолютно интегрируемое. Поскольку спектральная плотность является дискретной и дискретной по времени последовательностью, она периодична в частотной области. Это связано с проблемой сглаживание: вклад любой частоты выше, чем Частота Найквиста похоже, совпадает с псевдонимом между 0 и 1. По этой причине домен функции ${\displaystyle S}$ обычно ограничивается диапазоном от 0 до 1 или от -0,5 до 0,5.

Заявление

Теорема полезна для анализа линейные инвариантные во времени системы (Системы LTI), когда входы и выходы не интегрируются с квадратом, поэтому их преобразования Фурье не существуют. Следствием является то, что преобразование Фурье автокорреляционной функции выхода системы LTI равно произведению преобразования Фурье автокорреляционной функции входа системы, умноженному на квадрат величины преобразования Фурье импульсного отклика системы. .^[15] Это работает, даже когда преобразования Фурье входных и выходных сигналов не существуют, потому что эти сигналы не интегрируются с квадратом, поэтому входные и выходные данные системы не могут быть напрямую связаны преобразованием Фурье импульсной характеристики.

Поскольку преобразование Фурье автокорреляционной функции сигнала представляет собой спектр мощности сигнала, это следствие эквивалентно утверждению, что спектр мощности на выходе равен спектру мощности на входе, умноженному на энергию функция передачи.

Это следствие используется в параметрическом методе оценки спектра мощности.

Неточности в терминологии

Во многих учебниках и большей части технической литературы неявно предполагается, что обращение Фурье автокорреляция функция и спектральная плотность мощности действительны, и теорема Винера-Хинчина формулируется очень просто, как если бы она гласила, что преобразование Фурье автокорреляционной функции равно степени спектральная плотность, игнорируя все вопросы конвергенции^[16] (Эйнштейн является примером.) Но теорема (как указано здесь) была применена Норберт Винер и Александр Хинчин к примерным функциям (сигналам) стационарные случайные процессы в широком смысле, сигналы, чьи преобразования Фурье не существуют. Весь смысл вклада Винера состоял в том, чтобы понять спектральное разложение автокорреляционной функции выборочной функции стационарного случайного процесса в широком смысле, даже когда интегралы для преобразования Фурье и Фурье инверсия не имеет смысла.

Еще больше усложняет проблему то, что дискретное преобразование Фурье всегда существует для цифровых последовательностей конечной длины, а это означает, что теорема может применяться вслепую для вычисления автокорреляций числовых последовательностей. Как упоминалось ранее, связь этих дискретных выборочных данных с математической моделью часто вводит в заблуждение, и связанные ошибки могут проявляться как расхождение при изменении длины последовательности.

Некоторые авторы ссылаются на ${\displaystyle R}$ как автоковариационную функцию. Затем они приступают к его нормализации путем деления на ${\displaystyle R(0)}$, чтобы получить то, что они называют автокорреляционной функцией.

Рекомендации

1. К. Чатфилд (1989). Анализ временных рядов - Введение (четвертое изд.). Чепмен и Холл, Лондон. С. 94–95. ISBN  0-412-31820-2.
2. Норберт Винер (1964). Временные ряды. M.I.T. Press, Кембридж, Массачусетс. п. 42.
3. Ханнан, Э.Дж., «Стационарные временные ряды», в: Джон Итвелл, Мюррей Милгейт и Питер Ньюман, редакторы, Новый Palgrave: экономический словарь. Временные ряды и статистика, Macmillan, Лондон, 1990, стр. 271.
4. Деннис Уорд Рикер (2003). Обработка эхо-сигнала. Springer. ISBN  1-4020-7395-X.
5. Леон В. Коуч II (2001). Цифровые и аналоговые системы связи (шестое изд.). Прентис Холл, Нью-Джерси. С. 406–409. ISBN  0-13-522583-3.
6. Кшиштоф Иневский (2007). Беспроводные технологии: схемы, системы и устройства. CRC Press. ISBN  978-0-8493-7996-3.
7. Джозеф В. Гудман (1985). Статистическая оптика. Wiley-Interscience. ISBN  0-471-01502-4.
8. Винер, Норберт (1930). «Обобщенный гармонический анализ». Acta Mathematica. 55: 117–258. Дои:10.1007 / bf02546511.
9. Д.К. Чампени (1987). «Спектры мощности и теоремы Винера». Справочник теорем Фурье. Издательство Кембриджского университета. п.102. Основная теория Винера «обобщенного гармонического анализа» никоим образом не является вероятностной, и теоремы применяются к отдельным хорошо определенным функциям, а не к ансамблям функций [...] Дальнейшее развитие этих идей происходит в работе А. И. Хинчина (1894 г.) –1959) о стационарных случайных процессах (или случайных процессах) [...] в контексте, в котором не важно различать два подхода, теория часто упоминается как теория Винера – Хинчина.
10. Хинчин, Александр (1934). "Korrelationstheorie der stationären stochastischen Prozesse". Mathematische Annalen. 109 (1): 604–615. Дои:10.1007 / BF01449156.
11. Джерисон, Дэвид; Певец Исадор Мануэль; Строок, Дэниел В. (1997). Наследие Норберта Винера: столетний симпозиум (Материалы симпозиумов по чистой математике). Американское математическое общество. п. 95. ISBN  0-8218-0415-4.
12. Ханнан, Э. Дж. (1990). «Стационарные временные ряды». В Итуэлле, Джон; Милгейт, Мюррей; Ньюман, Питер (ред.). Новый Palgrave: экономический словарь. Временные ряды и статистика. Лондон: Макмиллан. п. 271.
13. Чатфилд, К. (1989). Анализ временных рядов - Введение (Четвертое изд.). Лондон: Чепмен и Холл. п. 96. ISBN  0-412-31820-2.
14. Чампени, Д. К. (1987). Справочник теорем Фурье. Cambridge Univ. Нажмите. С. 20–22. ISBN  9780521366885.
15. Шломо Энгельберг (2007). Случайные сигналы и шум: математическое введение. CRC Press. п. 130. ISBN  978-0-8493-7554-5.
16. К. Чатфилд (1989). Анализ временных рядов - Введение (четвертое изд.). Чепмен и Холл, Лондон. п. 98. ISBN  0-412-31820-2.

дальнейшее чтение

• Броквелл, Питер А .; Дэвис, Ричард Дж. (2002). Введение в временные ряды и прогнозирование (Второе изд.). Нью-Йорк: Springer-Verlag. ISBN  038721657X.
• Чатфилд, К. (1989). Анализ временных рядов - Введение (Четвертое изд.). Лондон: Чепмен и Холл. ISBN  0412318202.
• Фуллер, Уэйн (1996). Введение в статистические временные ряды. Серия Уайли по вероятности и статистике (второе изд.). Нью-Йорк: Вили. ISBN  0471552399.
• Винер, Норберт (1949). «Экстраполяция, интерполяция и сглаживание стационарных временных рядов». Кембридж, Массачусетс: Technology Press и Johns Hopkins Univ. Нажмите. (секретный документ, написанный для Военного департамента в 1943 году).
• Яглом, А. М. (1962). Введение в теорию стационарных случайных функций. Энглвуд Клиффс, Нью-Джерси: Прентис-Холл.