Оцінка ймовірностей переходу Маркова з даних послідовностей

У мене є повний набір послідовностей (якщо бути точними 432 спостереження) 4 станів : напр $A-D$

Y = (\begin{array}{ccccccc} A & C & D & D & B & A & C \\ B & A & A & C & A & - & - \\ ⋮ & ⋮ & ⋮ & ⋮ & ⋮ & ⋮ & ⋮ \\ B & C & A & D & A & B & A \end{array})

$Y=\left(\begin{array}{c c c c c c c} A& C& D&D & B & A &C\\ B& A& A&C & A&- &-\\ \vdots&\vdots&\vdots&\vdots&\vdots&\vdots&\vdots\\ B& C& A&D & A & B & A\\ \end{array}\right)$

EDIT : Послідовності спостереження мають неоднакову довжину! Це щось змінює?

Чи існує спосіб обчислення матриці переходу в Matlab або R або подібному? Я думаю, що пакет HMM може допомогти. Будь-які думки?

P_{i j} (Y_{t} = j | Y_{t - 1} = i)

$P_{ij}(Y_{t}=j|Y_{t-1}=i)$

наприклад: Оцінка ймовірностей ланцюга Маркова

r matlab markov-process

— HCAI
джерело

У вас є стану: . Нехай - кількість разів, коли ланцюг здійснив перехід від стану до стану , для . Обчисліть з вашої вибірки та оцініть матрицю переходу за максимальною ймовірністю, використовуючи оцінки

4

$4$

S = {1 := A, 2 := B, 3 := C, 4 := D}

$S=\{1:=A,2:=B,3:=C,4:=D\}$

n_{i j}

$n_{ij}$

i

$i$

j

$j$

i j, = 1, 2, 3, 4

$ij,=1,2,3,4$

n_{i j}

$n_{ij}$

(p_{i j})

$(p_{ij})$

{\hat{p}}_{i j} = n_{i j} / \sum_{j = 1}^{4} n_{i j}

$\hat{p}_{ij}=n_{ij}/\sum_{j=1}^4 n_{ij}$

— Дзен

Ці замітки отримують оцінки MLE: stat.cmu.edu/~cshalizi/462/lectures/06/markov-mle.pdf

— Дзен

Подібне запитання: stats.stackexchange.com/questions/26722/…

— B_Miner

@B_Miner ви могли б написати свій код у формі псевдо-коду для мене? Або поясніть це просто, але я бачу, що він працює в моїй консолі R.

— HCAI

У мене виникає питання: я розумію вашу реалізацію, і мені це добре підходить, але мені було цікаво, чому я не можу просто використовувати функцію hmmestimate Matlab для обчислення матриці T? Щось на кшталт: state = [1,2,3,4] [T, E] = hmmestimate (x, state); де Т - матриця переходу, що мене цікавить. Я новачок у ланцюгах Маркова та HMM, тому я хотів би зрозуміти різницю між двома реалізаціями (якщо такі є).

— Будь-який

Відповіді:

Перевірте коментарі вище. Ось швидка реалізація в Р.

x <- c(1,2,1,1,3,4,4,1,2,4,1,4,3,4,4,4,3,1,3,2,3,3,3,4,2,2,3)
p <- matrix(nrow = 4, ncol = 4, 0)
for (t in 1:(length(x) - 1)) p[x[t], x[t + 1]] <- p[x[t], x[t + 1]] + 1
for (i in 1:4) p[i, ] <- p[i, ] / sum(p[i, ])

Результати:

> p
          [,1]      [,2]      [,3]      [,4]
[1,] 0.1666667 0.3333333 0.3333333 0.1666667
[2,] 0.2000000 0.2000000 0.4000000 0.2000000
[3,] 0.1428571 0.1428571 0.2857143 0.4285714
[4,] 0.2500000 0.1250000 0.2500000 0.3750000

(Мабуть, німа) реалізація в MATLAB (яку я ніколи не використовував, тому я не знаю, чи буде це працювати. Я просто гуглю "оголосити векторну матрицю MATLAB", щоб отримати синтаксис):

x = [ 1, 2, 1, 1, 3, 4, 4, 1, 2, 4, 1, 4, 3, 4, 4, 4, 3, 1, 3, 2, 3, 3, 3, 4, 2, 2, 3 ]
n = length(x) - 1
p = zeros(4,4)
for t = 1:n
  p(x(t), x(t + 1)) = p(x(t), x(t + 1)) + 1
end
for i = 1:4
  p(i, :) = p(i, :) / sum(p(i, :))
end

— Дзен
джерело

Виглядає здорово! Я не впевнений, що робить 3-й рядок у вашому коді (головним чином тому, що я знайомий з Matlab). Будь-який шанс ви могли написати це в matlab або псевдо-коді? Я був би дуже зобов'язаний.

— HCAI

Третій рядок робить це: значення ланцюга

. Для

, приріст

x_{1}, \dots, x_{n}

$x_1,\dots,x_n$

t = 1, \dots, n - 1

$t=1,\dots,n-1$

p_{x_{t}, x_{t + 1}}

$p_{x_t,x_{t+1}}$

— Дзен

Четвертий рядок нормалізує кожен рядок матриці

(p_{i j})

$(p_{ij})$

— Дзен

Оголений з моєю повільністю тут. Я ціную переклад коду MATLAB, хоча я все ще не бачу, що він намагається зробити у першому forциклі. 3-й рядок з початкового коду підраховує кількість разів

переходить зі стану

в стан

? Якби ви могли сказати це словами, я дуже цінував би це. Ура

x

$x$

x_{i}

$x_i$

x_{j}

$x_j$

— HCAI

Ні,

- це лише один ряд. Не об'єднуйтесь, оскільки ви введете "помилкові" переходи: останній стан одного рядка

перший стан наступного рядка. Вам потрібно змінити код, щоб провести цикл через рядки вашої матриці та підрахувати переходи. В кінці нормалізуйте кожен рядок перехідної матриці.

x

$x$

\to

$\to$

— Дзен

Ось моя реалізація в R

x <- c(1,2,1,1,3,4,4,1,2,4,1,4,3,4,4,4,3,1,3,2,3,3,3,4,2,2,3)
xChar<-as.character(x)
library(markovchain)
mcX<-markovchainFit(xChar)$estimate
mcX

— Джорджіо Шпедікато
джерело

запит user32041 (розміщується як редагування замість коментаря, оскільки йому / їй не вистачає репутації): Як я можу примусити перехідMatrix результату markovchainFit до data.frame?

— chl

Ви можете конвертувати в

з допомогою

d a t a . f r a m e

$data.frame$

a s (m c X, " d a t a . f r a m e ")

$as(mcX,"data.frame")$

— Giorgio Spedicato

@GiorgioSpedicato Ви можете прокоментувати, як поводитися з послідовностями неоднакової довжини (я не можу об'єднати), будь ласка, у своєму пакеті?

— HCAI

@HCAI, дивіться сторінку поточної віньєтки 35-36

— Джорджіо Шпедікато

@GiorgioSpedicato дякую вам за посилання cran.r-project.org/web/packages/markovchain/vignettes/… . У мене ще є n матриць переходу, по одній для кожної послідовності. Що я хочу, - це одне загальне, яке враховує всі спостереження щодо послідовності. Щось мені не вистачає?

— HCAI

Ось як це зробити в Matlab:

x = [1,2,1,1,3,4,4,1,2,4,1,4,3,4,4,4,3,1,3,2,3,3,3,4,2,2,3];
counts_mat = full(sparse(x(1:end-1),x(2:end),1));
trans_mat = bsxfun(@rdivide,counts_mat,sum(counts_mat,2))

Подяка заборгованості SomptingGuy: http://www.eng-tips.com/viewthread.cfm?qid=236532

— Джон
джерело