Чому вірогідність фільтра Кальмана обчислюється з використанням результатів фільтрування замість плавніших результатів?

11

Я використовую фільтр Кальмана дуже стандартним способом. Система представлена рівнянням стану та рівнянням спостереження . $x_{t+1}=Fx_{t}+v_{t+1}$ $y_{t}=Hx_{t}+Az_{t}+w_{t}$

Підручники вчать, що після застосування фільтра Кальмана та отримання "прогнозів на крок вперед" (або "відфільтрована оцінка") ми повинні використовувати їх для обчислення ймовірності функції: $\hat{x}_{t|t-1}$

$f_{y_{t}|\mathcal{I}_{t-1},z_{t}}\left(y_{t}|\mathcal{I}_{t-1},z_{t}\right)=\det\left[2\pi\left(HP_{t|t-1}H^{\prime}+R\right)\right]^{-\frac{1}{2}}\exp\left\{ -\frac{1}{2}\left(y_{t}-H\hat{x}_{t|t-1}-Az_{t}\right)^{\prime}\left(HP_{t|t-1}H^{\prime}+R\right)^{-1}\left(y_{t}-H\hat{x}_{t|t-1}-Az_{t}\right)\right\}$

Моє запитання: Чому функція ймовірності обчислюється за допомогою "відфільтрованої оцінки" $\hat{x}_{t|t-1}$ а не "згладженої оцінки" $\hat{x}_{t|T}$ ? Чи не $\hat{x}_{t|T}$ краща оцінка вектора стану?

likelihood kalman-filter

— Густаво Амаранте
джерело

Я відредагував заголовок, щоб бути більш інформативним.

— Juho Kokkala

5

Щоб відповісти на ваше запитання: ви можете використовувати щільність згладжування. Але не потрібно. Відповідь Жарле Туфто містить розклад, який ви використовуєте. Але є й інші.

Використання кальманових рекурсій

Тут ви оцінюєте ймовірність як

f (y_{1}, \dots, y_{n}) = f (y_{1}) \prod_{i = 2}^{n} f (y_{i} | y_{1}, \dots, y_{i - 1}) .

$f(y_1, \ldots, y_n) = f(y_1)\prod_{i=2}^nf(y_i|y_1, \ldots, y_{i-1}).$

Однак засоби та відхилення не завжди повністю визначають розподіл ймовірностей загалом. Далі йде розкладання, яке ви використовуєте для переходу від фільтрування розподілів до умовних ймовірностей : $f(x_{i-1}|y_1,\ldots,y_{i-1})$ $f(y_i|y_1,\ldots,y_{i-1})$

\begin{matrix} (1) & f (y_{i} | y_{1}, \dots, y_{i - 1}) = \iint f (y_{i} | x_{i}) f (x_{i} | x_{i - 1}) f (x_{i - 1} | y_{1}, \dots, y_{i - 1}) d x_{i} d x_{i - 1} . \end{matrix}

$f(y_i|y_1, \ldots, y_{i-1}) = \iint f(y_i|x_i)f(x_i|x_{i-1})f(x_{i-1}|y_1, \ldots, y_{i-1})dx_{i} dx_{i-1} \tag{1}.$

Тут - щільність переходу стану ... частина моделі, а - щільність спостереження ... знову частина моделі. У своєму запитанні ви їх як і відповідно. Це те саме. $f(x_i|x_{i-1})$ $f(y_i|x_i)$ $x_{t+1}=Fx_{t}+v_{t+1}$ $y_{t}=Hx_{t}+Az_{t}+w_{t}$

Коли ви отримаєте один крок попереду розподілу прогнозу стану, це обчислення . Коли ви знову інтегруєтесь, ви отримуєте (1) повністю. Ви повністю пишете цю щільність у своєму запитанні, і це те саме. $\int f(x_i|x_{i-1})f(x_{i-1}|y_1, \ldots, y_{i-1}) dx_{i-1}$

Тут ви використовуєте лише декомпозиції розподілу ймовірностей та припущення щодо моделі. Цей розрахунок ймовірності є точним розрахунком. Немає нічого дискреційного, що ви можете використовувати, щоб зробити це краще чи гірше.

Використання алгоритму ЕМ

Наскільки мені відомо, немає іншого способу оцінити ймовірність безпосередньо в подібній моделі державного простору. Однак ви все одно можете зробити максимальну оцінку ймовірності, оцінивши іншу функцію: ви можете використовувати алгоритм ЕМ. На кроці очікування (E-Step) ви обчислите Тут

\int f (x_{1}, \dots, x_{n} | y_{1}, \dots y_{n}) \log f (y_{1}, \dots, y_{n}, x_{1}, \dots, x_{n}) d x_{1 : n} = E_{s m o o t h} [\log f (y_{1}, \dots, y_{n}, x_{1}, \dots, x_{n})] .

$\int f(x_1, \ldots, x_n|y_1,\ldots y_n) \log f(y_1,\ldots,y_n,x_1, \ldots,x_n) dx_{1:n} = E_{smooth}[\log f(y_1,\ldots,y_n,x_1, \ldots,x_n)].$

f (y_{1}, \dots, y_{n}, x_{1}, \dots, x_{n})

$f(y_1,\ldots,y_n,x_1, \ldots,x_n)$ - це ймовірність "повних даних", і ви приймаєте очікування журналу цього по відношенню до щільності згладжування стику. Часто трапляється так, що, оскільки ви приймаєте журнал такої імовірності повних даних, терміни розбиваються на суми, а через лінійність оператора очікувань ви приймаєте очікування щодо граничних розподілів вирівнювання (тих, що згладжуються) ви згадуєте у своєму запитанні).

Інші речі

Я читав в таких місцях, що ЕМ - це "стабільніший" спосіб максимізувати ймовірність, але я ніколи не бачив, щоб цей пункт добре сперечався, і я не бачив цього слова "стабільний", визначеного взагалі, але також у мене немає Я справді не вивчив це далі. Жоден з цих алгоритмів не дозволяє обійти локальне / глобальне випробування максимумів. Я особисто схильний використовувати кальман частіше просто за звичкою.

Це правда, що згладжені оцінки стану зазвичай мають меншу дисперсію, ніж фільтрування, тому, мабуть, ви праві мати певну інтуїцію щодо цього, але ви не дуже використовуєте стани. Ймовірність, яку ви намагаєтеся збільшити, не є функцією штатів.

— Тейлор
джерело

Наскільки різні КФ та ЕМ? Вони в кінцевому підсумку роблять те ж саме, за нечітко схожими манерами.

— Мітч

1

@Mitch - це, мабуть, щось, що заслуговує більше, ніж коментар. Це буде залежати від того, який оптимізатор загального призначення ви використовуєте з KF та який тип ЕМ ви використовуєте. Я не буду занадто впевнений, не заглядаючи в це.

— Тейлор

7

Взагалі за правилом продукту точну ймовірність можна записати З припущення про модель простору стану випливає, що вектор очікування та матриця дисперсії кожного обумовлені минулими спостереженнями, можуть бути виражені як і

f (y_{1}, \dots, y_{n}) = f (y_{1}) \prod_{i = 2}^{n} f (y_{i} | y_{1}, \dots, y_{i - 1}) .

$f(y_1,\dots,y_n)=f(y_1)\prod_{i=2}^n f(y_i|y_1,\dots,y_{i-1}).$

y_{i}

$y_i$

\begin{aligned} E (y_{i} | y_{1}, \dots, y_{i - 1}) & = E (H x_{t} + A z_{t} + w_{t} | y_{1}, \dots, y_{i - 1}) \\ = H E (x_{t} | y_{1}, \dots, y_{i - 1}) + A z_{t} + E w_{t} \\ = H {\hat{x}}_{t | t - 1} + A z_{t}, \end{aligned}

$\begin{align} E(y_i|y_1,\dots,y_{i-1}) &= E(Hx_{t}+Az_{t}+w_{t}|y_1,\dots,y_{i-1}) \\&= HE(x_{t}|y_1,\dots,y_{i-1})+Az_{t}+Ew_{t} \\&= H\hat x_{t|t-1}+Az_{t}, \end{align}$

\begin{aligned} V a r (y_{i} | y_{1}, \dots, y_{i - 1}) & = V a r (H x_{t} + A z_{t} + w_{t} | y_{1}, \dots, y_{i - 1}) \\ = H V a r (x_{t} | y_{1}, \dots, y_{i - 1}) H^{'} + V a r w_{t} \\ = H P_{t | t - 1} H^{'} + R . \end{aligned}

$\begin{align} \mathrm{Var}(y_i|y_1,\dots,y_{i-1}) &= \mathrm{Var}(Hx_{t}+Az_{t}+w_{t}|y_1,\dots,y_{i-1}) \\&= H\mathrm{Var}(x_{t}|y_1,\dots,y_{i-1})H'+ \mathrm{Var}w_t \\&= HP_{t|t-1}H'+R. \end{align}$ Таким чином, це дає точну ймовірність без обчислення згладжених оцінок.

Хоча ви, звичайно, можете використовувати згладжені оцінки, які справді є кращими оцінками невідомих станів, це не дасть вам функції ймовірності. Насправді, ви б використовували спостережуване значення для оцінки власного очікуваного значення, тому мабуть, що це призведе до певних упереджень в отриманих оцінках. $y_i$

— Джарле Туфто
джерело

0

Я вважаю, що кращою відповіддю щодо того, "чому" розподілення згладжування не використовується (як правило), є ефективність. В принципі просто розрахувати граничну ймовірність (згладжування) граничної ймовірності у розумінні відпустки таким чином. Видаліть спостереження j, запустіть калман плавніше на решті даних. Тоді оцініть ймовірність невидимого y (j). Повторіть це для всіх j. Підсумуйте ймовірність журналу. Більш швидкі версії цього твору працюють з (рандомізованими) блоками протриманих зразків (наприклад, ревізор у k-кратному стані). Зауважте, що ця схема вимагає більш загальної реалізації фільтра Калмана / плавнішого, який може довільно пропускати оновлення вимірювань, якщо це потрібно. Пропуск назад / згладжування не має доступу до вимірювань (алгоритм RTS так чи інакше) і залишається тим самим.

Якщо часовий ряд є "досить довгим", мабуть, це мало корисної користі для цього, оскільки ймовірність фільтрації "згоряє" початковий минущий час. Але якщо набір даних короткий, ймовірність дорожнього згладжування може бути вартим. Більш плавне може бути рівномірним рішенням.

— трилісник
джерело