Вспомогательный фильтр твердых частиц - Auxiliary particle filter

В дополнительный сажевый фильтр это фильтрация частиц алгоритм, введенный Питтом и Шепардом в 1999 году для исправления некоторых недостатков последовательная повторная выборка важности (SIR) при работе с плотностями наблюдения за хвостом.

Мотивация

Фильтры частиц аппроксимируют непрерывную случайную величину на ${displaystyle M}$ частицы с дискретной вероятностной массой ${displaystyle pi _{t}}$, сказать ${displaystyle 1/M}$ для равномерного распределения. Частицы, выбранные случайным образом, можно использовать для аппроксимации функции плотности вероятности непрерывной случайной величины, если значение ${displaystyle Mightarrow infty }$.

Плотность эмпирического прогноза получается как взвешенное суммирование этих частиц:^[1]

${displaystyle {widehat {f}}(alpha _{t+1}|Y_{t})=sum _{j=1}^{M}f(alpha _{t+1}|alpha _{t}^{j})pi _{t}^{j}}$, и мы можем рассматривать его как «априорную» плотность. Обратите внимание, что предполагается, что частицы имеют одинаковый вес. ${displaystyle pi _{t}^{j}={frac {1}{M}}}$.

Комбинирование предыдущей плотности ${displaystyle {widehat {f}}(alpha _{t+1}|Y_{t})}$ и вероятность ${displaystyle f(y_{t+1}|alpha _{t+1})}$, эмпирическая плотность фильтрации может быть получена как:

${displaystyle {widehat {f}}(alpha _{t+1}|Y_{t+1})={frac {f(y_{t+1}|alpha _{t+1}){widehat {f}}(alpha _{t+1}|Y_{t})}{f(y_{t+1}|Y_{t})}}propto f(y_{t+1}|alpha _{t+1})sum _{j=1}^{M}f(alpha _{t+1}|alpha _{t}^{j})pi _{t}^{j}}$, куда ${displaystyle f(y_{t+1}|Y_{t})=int f(y_{t+1}|alpha _{t+1})dF(alpha _{t+1}|Y_{t})}$.

С другой стороны, истинная плотность фильтрации, которую мы хотим оценить, равна

${displaystyle f(alpha _{t+1}|Y_{t+1})={frac {f(y_{t+1}|alpha _{t+1})f(alpha _{t+1}|Y_{t})}{f(y_{t+1}|Y_{t})}}}$.

Приоритетная плотность ${displaystyle {widehat {f}}(alpha _{t+1}|Y_{t})}$ может использоваться для аппроксимации истинной плотности фильтрации ${displaystyle f(alpha _{t+1}|Y_{t+1})}$:

• Фильтры частиц рисуют ${displaystyle R}$ образцы из априорной плотности ${displaystyle {widehat {f}}(alpha _{t+1}|Y_{t})}$. Каждая выборка отбирается с равной вероятностью.
• Присвойте каждому образцу веса ${displaystyle pi _{j}={frac {omega _{j}}{sum _{i=1}^{R}omega _{i}}},omega _{j}=f(y|alpha ^{j})}$. Веса представляют собой функцию правдоподобия ${displaystyle f(y_{t+1}|alpha _{t+1})}$.
• Если число ${displaystyle Rightarrow infty }$, чем образцы сходятся к желаемой истинной плотности фильтрации.
• В ${displaystyle R}$ частицы пересчитываются в ${displaystyle M}$ частицы с массой ${displaystyle pi _{j}}$.

К недостаткам сажевых фильтров можно отнести:

• Если вес {${displaystyle omega _{j}}$} имеет большую дисперсию, сумма выборки ${displaystyle R}$ должен быть достаточно большим, чтобы образцы приближались к эмпирической плотности фильтрации. Другими словами, несмотря на то, что вес широко распределяется, метод SIR будет неточным, а адаптация затруднена.

Поэтому для решения этой проблемы предлагается дополнительный сажевый фильтр.

Вспомогательный фильтр твердых частиц

Вспомогательная переменная

По сравнению с эмпирической плотностью фильтрации, которая имеет ${displaystyle {widehat {f}}(alpha _{t+1}|Y_{t+1})propto f(y_{t+1}|alpha _{t+1})sum _{j=1}^{M}f(alpha _{t+1}|alpha _{t}^{j})pi _{t}^{j}}$,

мы теперь определяем ${displaystyle {widehat {f}}(alpha _{t+1},k|Y_{t+1})propto f(y_{t+1}|alpha _{t+1})f(alpha _{t+1}|alpha _{t}^{k})pi ^{k}}$, куда ${displaystyle k=1,...,M}$.

Осознавая, что ${displaystyle {widehat {f}}(alpha _{t+1}|Y_{t+1})}$ образуется суммированием ${displaystyle M}$ частицы, вспомогательная переменная ${displaystyle k}$ представляет собой одну конкретную частицу. С помощью ${displaystyle k}$, мы можем сформировать набор образцов, который имеет распределение ${displaystyle g(alpha _{t+1},k|Y_{t+1})}$. Затем мы берем из этого набора образцов ${displaystyle g(alpha _{t+1},k|Y_{t+1})}$ вместо прямо из ${displaystyle {widehat {f}}(alpha _{t+1}|Y_{t+1})}$. Другими словами, образцы взяты из ${displaystyle {widehat {f}}(alpha _{t+1}|Y_{t+1})}$ с разной вероятностью. В конечном итоге образцы используются для приблизительного ${displaystyle f(alpha _{t+1}|Y_{t+1})}$.

Возьмем, к примеру, метод SIR:

• Фильтры частиц рисуют ${displaystyle R}$ образцы из ${displaystyle g(alpha _{t+1},k|Y_{t+1})}$.
• Присвойте каждому образцу вес ${displaystyle pi _{j}={frac {omega _{j}}{sum _{i=1}^{R}omega _{i}}},omega _{j}={frac {f(y_{t+1}|alpha _{t+1}^{j})f(alpha _{t+1}^{j}|alpha _{t}^{k})}{g(alpha _{t+1}^{j},k^{j}|Y_{t+1})}}}$.
• Контролируя ${displaystyle y_{t+1}}$ и ${displaystyle alpha _{t}^{k}}$, веса настроены на равные.
• Точно так же ${displaystyle R}$ частицы пересчитываются в ${displaystyle M}$ частицы с массой ${displaystyle pi _{j}}$.

Исходные фильтры для частиц отбирают образцы из априорной плотности, а вспомогательные фильтры извлекают из совместного распределения априорной плотности и вероятности. Другими словами, вспомогательные фильтры частиц позволяют избежать того обстоятельства, что частицы образуются в областях с низкой вероятностью. В результате образцы могут приблизительно соответствовать ${displaystyle f(alpha _{t+1}|Y_{t+1})}$ точнее.

Выбор вспомогательной переменной

Выбор вспомогательной переменной влияет на ${displaystyle g(alpha _{t+1},k|Y_{t+1})}$ и контролирует распространение образцов. Возможный выбор ${displaystyle g(alpha _{t+1},k|Y_{t+1})}$ возможно:
${displaystyle g(alpha _{t+1},k|Y_{t+1})propto f(y_{t+1}|mu _{t+1}^{k})f(alpha _{t+1}|alpha _{t}^{k})pi ^{k}}$, куда ${displaystyle k=1,...,M}$ и ${displaystyle mu _{t+1}^{k}}$ это среднее.

Мы пробуем из ${displaystyle g(alpha _{t+1},k|Y_{t+1})}$ приблизить ${displaystyle f(alpha _{t+1}|Y_{t+1})}$ по следующей процедуре:

• Сначала присвоим вероятности индексам ${displaystyle f(alpha _{t+1}|alpha _{t}^{k})}$. Мы назвали эти вероятности весами первого этапа ${displaystyle lambda _{k}}$, которые пропорциональны ${displaystyle g(k|Y_{t+1})propto pi ^{k}f(y_{t+1}|mu _{t+1}^{k})}$.
• Затем рисуем ${displaystyle R}$ образцы из ${displaystyle f(alpha _{t+1}|alpha _{t}^{k})}$ со взвешенными индексами. Таким образом мы фактически берем образцы из ${displaystyle g(alpha _{t+1},k|Y_{t+1})}$.
• Кроме того, переназначаем веса второго этапа ${displaystyle pi _{j}={frac {omega _{j}}{sum _{i=1}^{R}omega _{i}}}}$ как вероятности ${displaystyle R}$ образцы, где ${displaystyle omega _{j}={frac {f(y_{t+1}|alpha _{t+1}^{j})}{f(y_{t+1}|mu _{t+1}^{j})}}}$. Гири призваны компенсировать эффект ${displaystyle mu _{t+1}^{k}}$.

• Наконец, ${displaystyle R}$ частицы пересчитываются в ${displaystyle M}$ частицы с весами ${displaystyle pi _{j}}$.

Следуя процедуре, рисуем ${displaystyle R}$ образцы из ${displaystyle g(alpha _{t+1},k|Y_{t+1})}$. С ${displaystyle g(alpha _{t+1},k|Y_{t+1})}$ тесно связан со средним ${displaystyle mu _{t+1}^{k}}$, это имеет высокую условную вероятность. В результате процедура отбора проб становится более эффективной, а значение ${displaystyle R}$ можно уменьшить.

Другая точка зрения

Предположим, что отфильтрованные задний описывается следующим M взвешенные образцы:

${displaystyle p(x_{t}|z_{1:t})approx sum _{i=1}^{M}omega _{t}^{(i)}delta left(x_{t}-x_{t}^{(i)}ight).}$

Затем каждый шаг в алгоритм состоит из первого отрисовки образца индекса частицы ${displaystyle k}$ который будет распространяться из ${displaystyle t-1}$ на новый шаг ${displaystyle t}$. Эти индексы являются вспомогательными переменные используется только как промежуточный шаг, отсюда и название алгоритма. Индексы построены по вероятности какой-то контрольной точки. ${displaystyle mu _{t}^{(i)}}$ что так или иначе связано с переходной моделью ${displaystyle x_{t}|x_{t-1}}$ (например, среднее значение, выборка и т. д.):

${displaystyle k^{(i)}sim P(i=k|z_{t})propto omega _{t}^{(i)}p(z_{t}|mu _{t}^{(i)})}$

Это повторяется для ${displaystyle i=1,2,dots ,M}$, и используя эти индексы, теперь мы можем рисовать условные образцы:

${displaystyle x_{t}^{(i)}sim p(x|x_{t-1}^{k^{(i)}}).}$

Наконец, веса обновляются, чтобы учесть несоответствие между вероятностью фактической выборки и прогнозируемой точкой. ${displaystyle mu _{t}^{k^{(i)}}}$:

${displaystyle omega _{t}^{(i)}propto {frac {p(z_{t}|x_{t}^{(i)})}{p(z_{t}|mu _{t}^{k^{(i)}})}}.}$

Рекомендации

1. Питт, Майкл К .; Шепард, Нил. «Фильтрация с помощью моделирования: дополнительные фильтры частиц» (PDF). Журнал Американской статистической ассоциации.

Источники

• Pitt, M.K .; Шепард, Н. (1999). «Фильтрация с помощью моделирования: дополнительные фильтры частиц». Журнал Американской статистической ассоциации. Американская статистическая ассоциация. 94 (446): 590–591. Дои:10.2307/2670179. JSTOR  2670179. Архивировано из оригинал на 2007-10-16. Получено 2008-05-06.