Різниця між моделями прихованого Маркова та фільтром частинок (і фільтром Кальмана)


21

Ось моє старе питання

Я хотів би запитати, чи знає хтось різницю (якщо є якась різниця) між прихованими моделями Маркова (HMM) і фільтром частинок (PF), і як наслідок, фільтром Kalman, або за яких обставин ми використовуємо який алгоритм. Я студент, і я повинен робити проект, але спочатку я повинен зрозуміти деякі речі.

Так, згідно з бібліографією, обидві є державними космічними моделями , включаючи приховані (або приховані або непомічені) стани. Згідно з Вікіпедією (Hidden_Markov_model) "в HMM простір станів прихованих змінних є дискретним, тоді як самі спостереження можуть бути або дискретними (як правило, генерованими з категоричного розподілу), або безперервними (як правило, з розподілу Гаусса). Приховані моделі Маркова також можуть бути узагальнені, щоб забезпечити безперервні простори стану. Прикладами таких моделей є такі, де процес Маркова над прихованими змінними є лінійною динамічною системою, з лінійною залежністю між спорідненими змінними і де всі приховані та спостережувані змінні слідують за розподілом Гаусса. У простих випадках, таких як щойно згадана лінійна динамічна система, точний висновок простежується (у цьому випадку за допомогою фільтра Калмана); однак, як правило, точний висновок у НММ з постійними прихованими змінними нездійсненний, і слід застосовувати приблизні методи,"

Але для мене це трохи заплутано ... Простими словами це означає наступне (засноване також на більшій кількості досліджень, які я проводив):

  • У HMM простір станів може бути або дискретним, або безперервним . Також самі спостереження можуть бути як дискретні, так і безперервні . Також HMM - це лінійна та гауссова чи не-гауссова динамічна система.
  • У PF простір станів може бути або дискретним, або безперервним . Також самі спостереження можуть бути як дискретні, так і безперервні . Але PF - це нелінійна (а не гауссова?) Динамічна система (в чому їх різниця?).
  • Фільтр Калмана (також мені схоже на HMM) використовується, коли у нас є лінійна та гауссова динамічна система.

Також як мені знати, який алгоритм вибрати, тому що мені все це здається однаковим ... Також я знайшов папір (не англійською мовою), в якій сказано, що PF хоча може мати лінійні дані (наприклад, необроблені дані з датчика-kinect який розпізнає рух) динамічна система може бути нелінійною. Це може статися? Це правильно? Як?

Для розпізнавання жестів дослідники можуть використовувати або HMM, або PF, але вони не пояснюють, чому вони вибирають кожен алгоритм ... Хтось знає, як мені можна допомогти розрізнити ці алгоритми, зрозуміти їх відмінності та як вибрати найкращий алгоритм?

Вибачте, якщо моє запитання занадто велике, або деякі частини наївні, але я десь не знайшов переконливої ​​та наукової відповіді. Заздалегідь дякую за ваш час!

Ось моє НОВЕ запитання (відповідно до допомоги @ contgateprior)

Тож з подальшим читанням я хотів би оновити деякі частини свого попереднього коментаря та переконатися, що я трохи більше зрозумів, що відбувається.

  • Простіше кажучи, парасолькою є динамічні байєсівські мережі, під якими включені моделі HMM та State space (підкласи) ( http://mlg.eng.cam.ac.uk/zoubin/papers/ijprai.pdf ).
  • Крім того, початкова різниця між двома моделями полягає в тому, що в HMM змінні прихованого стану є дискретними , тоді як спостереження можуть бути або дискретними, або безперервними . У PF змінні прихованого стану є безперервними (реальні значення прихованого вектора стану), а спостереження мають розподіли Гаусса .
  • Також згідно @conjugateprior кожна модель має 3 наступні завдання: фільтрування, згладжування та прогнозування. У фільтруванні модель HMM використовує для дискретних змінних прихованого стану метод вперед-алгоритм, простір стану використовує для безперервних змінних та лінійну динамічну систему фільтр Калмана тощо.
  • Однак HMM можна також узагальнити, щоб дозволити безперервні простори стану .
  • З цими розширеннями HMM, 2 моделі здаються концептуально однаковими (як це також згадується в моделі прихованої Маркова проти моделі переходу Маркова проти моделі держави-простору ...? ).

Я думаю, що я використовую трохи точнішу термінологію, але все одно мені все розмито. Чи може хто-небудь пояснити мені, чим відрізняється HMM від State Space ?

Тому що я дійсно не можу знайти відповідь, яка може відповідати моїм потребам ..

Дякую ще раз!


1
Якщо у вашій бібліотеці школи є ця книга: crcpress.com/Time-Series-Modeling-Computation-and-Inference/…, я б ознайомився з цим. Це добре допомагає пояснити всі три теми, які, я можу зазначити, є трьома дуже різними темами.

Я просто перевірив, що в бібліотеці немає цієї книги, на жаль. Так що якщо ви можете надіслати мені ті частини, які, на вашу думку, відповідають на моє запитання або допоможіть мені також розрізнити ці теми, було б чудово! :)
user5584748

Відповіді:


15

Буде корисно відрізнити модель від висновку, який ви хочете зробити з нею, оскільки зараз стандартна термінологія змішує дві.

Модель - це частина, де ви вказуєте характер : прихованого простору (дискретного або безперервного), динаміки прихованого стану (лінійного або нелінійного), характеру спостережень (як правило, умовно багаточленних або нормальних), і вимірювальної моделі, що з'єднує прихований стан до спостережень. ГММ та космічні моделі стану - це два таких набори специфікацій моделі.

тт

У ситуаціях, коли стан є безперервним, динаміка стану та вимірювання лінійні, а весь шум є нормальним, фільтр Калмана виконує цю роботу ефективно. Його аналогом, коли стан дискретний, є Алгоритм Вперед. У випадку, коли є ненормальність та / або нелінійність, ми повертаємось до приблизних фільтрів. Існують детерміновані наближення, наприклад, розширені або нецензуровані кальманові фільтри, і є стохастичні наближення, найвідомішим з яких є фільтр частинок.

Загальне відчуття виглядає таким чином, що за наявності неминучої нелінійності в стані або частинах вимірювання або ненормальності в спостереженнях (звичайні проблемні ситуації) намагається піти від найдешевшого можливого наближення. Отже, EKF потім UKF, а потім PF.

У літературі про фільтр «Без цензури Кальмана» зазвичай є порівняння ситуацій, коли це може працювати краще, ніж традиційна лінеаризація Розширеного фільтра Кальмана.

Фільтр частинок має майже повну загальність - будь-яку нелінійність, будь-які розподіли - але, на мій досвід, потрібна досить ретельна настройка і, як правило, набагато більш громіздка, ніж інші. Однак у багатьох ситуаціях це єдиний варіант.

Щодо подальшого читання: мені подобаються ч. 4–7 баєсівської фільтрації та згладжування Сарккя, хоча це досить стисло. Автор робить інтернет-копію, доступну для особистого користування. Інакше більшість державних книг про космічний часовий ряд висвітлюють цей матеріал. Для фільтрації частинок є Doucet et al. том по темі, але, мабуть, зараз він досить старий. Можливо, інші вкажуть на більш нове посилання.


Перш за все дуже дякую за вашу відповідь. Перевірте, чи я редагував це питання вище, щоб бути більш узгодженим та точним з термінологією. Я також перефразую все своє запитання.
користувач5584748

У вашому перезаписі не зовсім вірно, що "У PF змінні прихованого стану є безперервними (реальні значення прихованого вектора стану), а спостереження мають розподіли Гаусса". PF - фільтр. Модель, для якої це фільтр, повинна мати неперервний простір стану (з деякою марківською структурою чи іншим), але в іншому випадку не обмежена: будь-які розподіли, будь-яка динаміка та будь-який процес вимірювання.
кон'югатприор

Наприклад, ви можете використовувати ПФ для фільтрації звичайної лінійної моделі гауссового простору стану. Це спрацювало б чудово. Вам просто не доведеться, оскільки фільтр Кальмана є точним.
кон'югатприор

4
"Яка різниця між HMM і State Space модель?" В основному: За умовою, HMM мають дискретний стан. Крім того, за умовою, "просторові моделі станів" позначають речі з безперервним станом.
сполученийперіор

Дуже дякую! Тож ця різниця відбувається за умовами (і згідно бібліографії). Але загалом ми можемо вибрати ту модель, яку бажаємо. Це правильно? Модель, яку я оберу, залежить від того, чи матиму я кращі результати?
користувач5584748
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.