MCMC, що сходяться до одного значення?

Я намагаюся підігнати ієрархічну модель за допомогою джегів та пакету rjags. Моя змінна результат - y, яка є послідовністю випробувань Бернуллі. У мене є 38 людських предметів, які виступають у двох категоріях: P і M. На основі мого аналізу кожен оратор має ймовірність успіху в категорії P та ймовірність успіху в категорії M . Я також припускаю, що існує деякий гіперпараметр рівня спільноти для P і M: та .θ p × θ m µ p µ $\theta_p$$\theta_p\times\theta_m$$\mu_p$$\mu_m$

Отже, для кожного оратора: та де та контролюють те, як досягнуто максимального розподілу навколо та .θ m ∼ b e t a ( μ m × κ m , ( 1 - μ m ) × κ m ) κ p κ m μ p μ $\theta_p \sim beta(\mu_p\times\kappa_p, (1-\mu_p)\times\kappa_p)$$\theta_m \sim beta(\mu_m\times\kappa_m, (1-\mu_m)\times\kappa_m)$$\kappa_p$$\kappa_m$$\mu_p$$\mu_m$

Також , .μ m ∼ b e t a ( A m , B m$\mu_p \sim beta(A_p, B_p)$$\mu_m \sim beta(A_m, B_m)$

Ось моя модель джегів:

model{
## y = N bernoulli trials
## Each speaker has a theta value for each category
for(i in 1:length(y)){
    y[i] ~ dbern( theta[ speaker[i],category[i]])
}

## Category P has theta Ptheta
## Category M has theta Ptheta * Mtheta
## No observed data for pure Mtheta
##
## Kp and Km represent how similar speakers are to each other 
## for Ptheta and Mtheta
for(j in 1:max(speaker)){
    theta[j,1] ~ dbeta(Pmu*Kp, (1-Pmu)*Kp)
    catM[j] ~ dbeta(Mmu*Km, (1-Mmu)*Km)
    theta[j,2] <- theta[j,1] * catM[j]
}

## Priors for Pmu and Mmu
Pmu ~ dbeta(Ap,Bp)
Mmu ~ dbeta(Am,Bm)

## Priors for Kp and Km
Kp ~ dgamma(1,1/50)
Km ~ dgamma(1,1/50)

## Hyperpriors for Pmu and Mmu
Ap ~ dgamma(1,1/50)
Bp ~ dgamma(1,1/50)
Am ~ dgamma(1,1/50)
Bm ~ dgamma(1,1/50)
}

Проблема в мені полягає в тому, що коли я запускаю цю модель з 5000 ітерацій для адаптації, то беру 1000 зразків Mmuі Kmконвергую до єдиних значень. Я працював із 4 ланцюжками, і кожен ланцюг не має однакового значення, але всередині кожного ланцюга є лише одне значення.

Я досить нова у підході до ієрархічних моделей з використанням методів MCMC, тому мені цікаво, наскільки це погано. Чи варто сприймати це як ознаку того, що ця модель безнадійно не підходить, що з моїми пріорами щось не так, або це курс на курс?

Редагувати: Якщо це має значення, значення для він сходився (усереднено по ланцюгах), становило 0,91, а - 1,78κ $\mu_m$$\kappa_m$

Це більше коментар, але оскільки у мене недостатньо репутації, я б також міг відповісти.

З мого обмеженого досвіду з пробовідбірниками MCMC, я помітив, що параметри, як правило, залишаються фіксованими, коли гіперпараметри занадто вузькі. Оскільки вони контролюють поширення параметрів, вони перешкоджають ефективному відбору проб простору розчину.

Спробуйте взяти великі значення для гіперпараметрів і подивіться, що відбувається.

Цей технічний документ мені дуже допоміг зрозуміти пробовідбірники MCMC. Він складається з двох пробовідбірників, Гіббса (того, яким ви користуєтесь), і гібридного Монте-Карло, і швидко пояснюється, як вибрати пріори, гіперпріори та значення для параметрів та гіперпараметрів.

Це може бути проблемою структури ланцюга. Де ви опинитесь, залежить від того, з чого ви почнете. Щоб використовувати MCMC, ви хочете, щоб ланцюг був повторюваним, це означає, що незалежно від того, з чого ви запускаєтесь, ви можете потрапити до будь-якого іншого стану в просторі станів. Якщо ланцюг не повторюється, ви можете потрапити в підмножину простору станів. Ідея MCMC полягає в тому, щоб мати існуючий стаціонарний розподіл, в який ланцюг з часом згортається. Цей стаціонарний розподіл зазвичай має позитивну ймовірність перебування в будь-якому з станів ланцюга і не заводитися в пастку в одній точці, як ви описали . Я не можу перевірити ваш алгоритм, але, можливо, ви помилилися в ньому. Можливо також, що ви визначили проблему, коли ланцюг вашого Маркова не повторюється.

Якщо ви хочете ознайомитись з MCMC, я рекомендую ознайомитись з Посібником ланцюга Маркова Монте-Карло, в якому є статті, що описують усі аспекти MCMC. Він був опублікований CRC Press у 2011 році.