Обчислення ймовірності журналу для даного MLE (Марківські ланцюги)

В даний час я працюю з ланцюгами Маркова і обчислюю максимальну оцінку ймовірності, використовуючи ймовірності переходу, як це запропоновано декількома джерелами (тобто, кількість переходів від a до b, поділене на кількість загальних переходів від a до інших вузлів).

Тепер я хочу обчислити ймовірність MLE для журналу.

maximum-likelihood markov-process likelihood

— суспільство
джерело

Ви вже обчислили максимальну оцінку ймовірності перехідних ймовірностей і тепер ви хочете обчислити ймовірність того, що саме?

— Нік

Дозволяє $\{ X_i \}_{i=1}^{T}$ бути стежкою ланцюга Маркова і нехай $P_{\theta}(X_1, ..., X_T)$ бути ймовірністю дотримання шляху, коли $\theta$ - справжнє значення параметра (він же є ймовірністю функції для $\theta$ ). Використовуючи визначення умовної ймовірності, ми знаємо

П_{θ} (Х_{1}, . . ., Х_{Т}) = П_{θ} (Х_{Т} | Х_{Т - 1}, . . ., Х_{1}) \cdot П_{θ} (Х_{1}, . . ., Х_{Т - 1})

$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}, ..., X_1) \cdot P_{\theta}(X_1, ..., X_{T-1})$

Оскільки це марківський ланцюг, ми це знаємо $P_{\theta}(X_T | X_{T-1}, ..., X_1) = P_{\theta}(X_T | X_{T-1} )$ , тому це спрощує це до

П_{θ} (Х_{1}, . . ., Х_{Т}) = П_{θ} (Х_{Т} | Х_{Т - 1}) \cdot П_{θ} (Х_{1}, . . ., Х_{Т - 1})

$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}) \cdot P_{\theta}(X_1, ..., X_{T-1})$

Тепер, якщо ви повторите цю саму логіку $T$ раз, ви отримуєте

П_{θ} (Х_{1}, . . ., Х_{Т}) = \prod_{i = 1}^{Т} П_{θ} (Х_{i} | Х_{i - 1})

$P_{\theta}(X_1, ..., X_T) = \prod_{i=1}^{T} P_{\theta}(X_i | X_{i-1} )$

де $X_0$ слід інтерпретувати як початковий стан процесу. Терміни праворуч - це лише елементи перехідної матриці. Оскільки це було імовірність журналу, яку ви запитували, остаточна відповідь:

L (θ) = \sum_{i = 1}^{Т} журнал (П_{θ} (Х_{i} | Х_{i - 1}))

${\bf L}(\theta) = \sum_{i=1}^{T} \log \Big( P_{\theta}(X_i | X_{i-1} ) \Big)$

Це ймовірність створення одного ланцюга марків - якщо ваш набір даних включає кілька (незалежних) ланцюгів марків, то повна ймовірність буде сумою термінів цієї форми.

— Макрос
джерело

Нічого, дякую за відповідь. В цьому випадку

P_{θ}

$P_{\theta}$ чи вірогідність "переходу" взята з MLE, правда?

— fsociety

@ph_singer, ви дуже раді.

P_{θ} (X_{i} | X_{i - 1})

$P_{\theta}(X_i|X_{i-1})$ - це ймовірність переходу із стану

X_{i - 1}

$X_{i-1}$ до

X_{i}

$X_i$ , враховуючи значення параметра,

θ

$\theta$ . Якщо ви не наклали жодної структури на матрицю переходу (саме так це звучить)

θ

$\theta$ просто позначає вектор ймовірностей переходу (а MLE - це лише вибіркові пропорції, як ви правильно вказали у своїй заяві запитання), так, так:

P_{{\hat{θ}}_{M L E}} (X_{i} | X_{i - 1})

$P_{\hat{\theta}_{{\rm MLE}}}(X_i|X_{i-1})$ буде просто вибірковою часткою кроків від стану

X_{i - 1}

$X_{i-1}$ що закінчився державою

X_{i}

$X_{i}$ .

— Макрос

Знову дякую! Ще одне питання: Якщо я використовую інше замовлення (наприклад, k = 2), як би цей процес працював тоді?

— fsociety

Чи можете ви уточнити, що ви маєте на увазі під наказом?

— Макрос

(+1) ОП, мабуть, означає

k = 2

$k=2$ позначати МС другого порядку , тобто залежно від попередніх двох станів

X_{i - 1}, X_{i - 2}

$X_{i-1},X_{i-2}$ а не просто найсвіжіший

X_{i - 1}

$X_{i-1}$ .

— кардинал