Чим відрізняється (динамічна) мережа Bayes від HMM?

Я читав, що ГММ, Фільтри частинок та Фільтри Кальмана - це особливі випадки динамічних мереж Байєса. Однак я знаю лише HMM і не бачу різниці в динамічних мережах Bayes.

Може хтось, будь ласка, пояснить?

Було б добре, якби ваша відповідь могла бути подібною до наступної, але для Bayes Networks:

Приховані Маркові моделі

Модель прихованого Маркова (HMM) - це 5-кортеж : $\lambda = (S, O, A, B, \Pi)$

$S \neq \emptyset$ : Набір станів (наприклад, "початок фонеми", "середина фонеми", "кінець фонеми")
$O \neq \emptyset$ : Набір можливих спостережень (аудіосигнали)
$A \in \mathbb{R}^{|S| \times |S|}$ : стохастична матриця, яка дає ймовірності для отримання стану до стану . $(a_{ij})$ $i$ $j$
$B \in \mathbb{R}^{|S| \times |O|}$ : стохастична матриця, яка дає ймовірності для отримання стану до спостереження . $(b_{kl})$ $k$ $l$
$\Pi \in \mathbb{R}^{|S|}$ : Початковий розподіл розпочнеться в одному з станів.

Зазвичай він відображається як спрямований графік, де кожному вузлу відповідає один стан а ймовірності переходу позначаються на ребрах. $s \in S$

Приховані Маркові моделі називають «прихованими», оскільки поточний стан приховано. Алгоритми повинні вгадати це з спостережень та самої моделі. Їх називають "Марковим", бо для наступного стану має значення лише поточний стан.

Для HMM ви даєте фіксовану топологію (кількість станів, можливі ребра). Тоді є 3 можливих завдання

Оцінка : з урахуванням HMM , наскільки ймовірно отримати спостереження (алгоритм вперед) $\lambda$ $o_1, \dots, o_t$
Розшифровка : заданий HMM та спостереження , яка найбільш вірогідна послідовність станів (алгоритм Вітербі) $\lambda$ $o_1, \dots, o_t$ $s_1, \dots, s_t$
Навчання : вивчіть : алгоритм Баума-Вельча , що є особливим випадком максимізації очікувань. $A, B, \Pi$

Мережі Байєса

Мережі Байєса - це спрямовані ациклічні графіки (DAG) . Вузли представляють випадкові величини . Для кожного існує розподіл ймовірностей, який обумовлений батьками : $G = (\mathcal{X}, \mathcal{E})$ $X \in \mathcal{X}$ $X$ $X$

P (X | parents (X))

$P(X|\text{parents}(X))$

Здається, що (уточнюйте) два завдання:

Висновок : Враховуючи деякі змінні, отримайте найбільш ймовірні значення інших змінних. Точний висновок є важким для NP. Приблизно ви можете використовувати MCMC.
Навчання : те, як ви засвоюєте ці розподіли, залежить від конкретної проблеми ( джерело ):
- відома структура, повністю дотримується: максимальна оцінка ймовірності (MLE)
- відома структура, частково помітна: Максимізація очікувань (ЕМ) або Марківський ланцюг Монте-Карло (MCMC)
- невідома структура, повністю помітна: пошук через модельний простір
- невідома структура, частково помітна: EM + пошук через простір моделі

Динамічні мережі Байєса

Я думаю, що динамічні мережі Байєса (DBN) також спрямовані на ймовірнісні графічні моделі. Здається, що мінливість походить від зміни мережі з часом. Однак мені здається, що це еквівалентно лише копіюванню однієї і тієї ж мережі та підключенню кожного вузла в момент до кожного відповідного вузла в момент . Це так? $t$ $t+1$

bayesian-networks pgm

— Мартін Тома
джерело

1. Ви також можете вивчити топологію HMM. 2. Виконуючи висновки з BN, окрім запиту про максимальну оцінку ймовірності, ви також можете взяти вибірку з розподілів, оцінити ймовірності або зробити все, що вам дозволяє теорія ймовірностей. 3. DBN - це просто BN, скопійований з часом, з деякими (не обов'язково всіми) вузлами, прикованими з минулого в майбутнє. У цьому сенсі HMM - це проста DBN, що має лише два вузли у кожному часовому відрізку та один із вузлів, зв'язаних у часі.

— КТ.

Я запитав когось про це, і вони сказали: "ГММ - це лише особливі випадки динамічних мереж Байєса, кожен раз, коли фрагмент містить одну приховану змінну, залежно від попередньої, щоб дати ланцюжок Маркова, і одне спостереження, залежне від кожної прихованої змінної. DBNs може мати будь-яку структуру, яка розвивається з часом ".

— ашли

З аналогічного питання перехресної перевірки випливає відповідь @jerad :

HMM не є еквівалентними DBN, скоріше вони є окремим випадком DBN, в якому весь стан світу представлений єдиною змінною прихованого стану. Інші моделі в рамках DBN узагальнюють базовий HMM, дозволяючи отримати більш приховані змінні стану (див. Другий документ вище для багатьох різновидів).

Нарешті, ні, DBN не завжди є дискретними. Наприклад, лінійні моделі Гаусса (Фільтри Кальмана) можна розглядати як НММ безперервного значення, які часто використовуються для відстеження об'єктів у просторі.

Я рекомендую ознайомитись з цими двома чудовими оглядовими документами:

Вступ до прихованих моделей Маркова та байєсівських мереж Зубіна Гарамані

Динамічні байєсівські мережі Кевіна Мерфі

— xboard
джерело