Запитання з тегом «mcmc»

Алгоритми MCMC, такі як відбір проб Metropolis-Hastings та Gibbs, є способами відбору проб із спільних заднього розподілу. Я думаю, що я розумію і можу легко реалізувати мегаполіси - ви просто якось вибираєте початкові точки і «прогулюєте простір параметрів» випадковим чином, керуючись задньою щільністю та щільністю пропозицій. Вибірка Гіббса здається дуже …

15 bayesian  mcmc  gibbs 

Перемикання міток (тобто задній розподіл інваріантно для переключення міток компонентів) є проблематичним питанням при використанні MCMC для оцінки моделей сумішей. Чи існує стандартна (як у широко прийнятій) методологія для вирішення цього питання? Якщо немає стандартного підходу, то які плюси та мінуси провідних підходів до вирішення проблеми переключення міток?

15 bayesian  mcmc  mixture 

Я намагаюся зрозуміти ланцюги Маркова за допомогою SAS. Я розумію, що процес Маркова - це той, де майбутній стан залежить лише від поточного стану, а не від минулого стану, і є матриця переходу, яка фіксує ймовірність переходу з одного стану в інший. Але потім я натрапив на цей термін: Марківський …

15 probability  simulation  mcmc  monte-carlo  markov-process 

За останні кілька тижнів я намагався зрозуміти MCMC та алгоритм (и) Metropolis-Hastings. Кожен раз, коли я думаю, що це розумію, я усвідомлюю, що я помиляюся. Більшість прикладів коду, які я вважаю, реалізують он-лайн щось, що не відповідає опису. тобто: Вони кажуть, що вони реалізують Метрополіс-Гастінгс, але насправді реалізують метрополію з …

15 mcmc  metropolis-hastings 

Я тільки почав вчитися користуватися Стен і rstan. Якщо я завжди не плутався з тим, як працюють JAGS / BUGS, я вважав, що вам завжди потрібно визначити попередній розподіл для кожного параметра в моделі, з якої слід виводитись. Схоже, вам не доведеться робити цього в Стен на основі його документації. …

15 mcmc  prior  jags  graphical-model  stan 

Чи може хтось пояснити головну ідею методів Гамільтоніана Монте-Карло і в яких випадках вони дадуть кращі результати, ніж методи Маркова Ланцюга Монте-Карло?

14 bayesian  mcmc  hmc 

Чи проводилися широкомасштабні дослідження методів MCMC, які порівнюють продуктивність декількох різних алгоритмів набір тестової щільності? Я маю на увазі щось еквівалентне документу Ріоса та Сахінідіса (2013), який є ретельним порівнянням великої кількості оптимізаторів чорних коробок без похідних у кількох класах тестових функцій. Для MCMC ефективність може бути оцінена, наприклад, в …

14 machine-learning  bayesian  references  mcmc 

Питання: Який стандартний спосіб кластеризації даних за допомогою процесу Діріхле? При використанні Gibbs зразки кластерів з’являються і зникають під час вибірки. Крім того, у нас є проблема ідентифікації, оскільки задній розподіл є інваріантним відношенням кластерів. Таким чином, ми не можемо сказати, що це кластер користувача, а скоріше, що два користувачі …

14 bayesian  clustering  mcmc  dirichlet-process  identifiability 

Діагностика Гельмана і Рубіна використовується для перевірки конвергенції декількох ланцюгів mcmc, що працюють паралельно. Він порівнює дисперсію всередині ланцюга з дисперсією між ланцюгами, експозиція нижче: Кроки (для кожного параметра): Виконайте m ≥ 2 ланцюгів довжиною 2n від перерізних початкових значень. Відкиньте перші n малюнків у кожному ланцюжку. Обчисліть дисперсію всередині …

14 mcmc  convergence  covariance-matrix 

Я переглядав деякі лекції, пов'язані з MCMC. Однак я не знаходжу хорошого прикладу того, як це використовується. Хтось може дати мені конкретний приклад. Я бачу лише те, що вони керують ланцюгом Маркова і кажуть, що його стаціонарний розподіл - це бажаний розподіл. Я хочу хороший приклад, коли бажаного розподілу важко …

14 probability  bayesian  mcmc  markov-process 

Я запускаю пробовідбірник Metropolis (C ++) і хочу використовувати попередні зразки для оцінки швидкості конвергенції. Одним із найпростіших для впровадження діагностики, який я знайшов, є діагностика Geweke , яка обчислює різницю між двома вибірковими засобами, поділеними на оціночну стандартну помилку. Стандартна похибка оцінюється із спектральної щільності в нулі. Zn=θ¯A−θ¯B1nASAθ^(0)+1nBSBθ^(0)−−−−−−−−−−−−−−−−√,Zn=θ¯A−θ¯B1nASθA^(0)+1nBSθB^(0),Z_n=\frac{\bar{\theta}_A-\bar{\theta}_B}{\sqrt{\frac{1}{n_A}\hat{S_{\theta}^A}(0)+\frac{1}{n_B}\hat{S_{\theta}^B}(0)}}, де …

14 mcmc  diagnostic 

Випадкова прогулянка Метрополіс-Хасітінгс із симетричною пропозицією q( х | у) = g( | у- х | )q(х|у)=г(|у-х|)q(x|y)= g(|y-x|) має властивість, що ймовірність прийняття П( a c c e p t y ) = хв { 1 , f( у) / ф( x ) }П(аccеpт у)=хв{1,f(у)/f(х)}P(accept\ y) = \min\{1, f(y)/f(x)\} не …

14 mcmc  metropolis-hastings 

Хтось знає якийсь добре написаний код (у Matlab або R) для оборотного стрибка MCMC? Переважно простий демонстраційний додаток для компліментарних робіт на цю тему, що було б корисно для розуміння процесу.

14 r  matlab  references  mcmc 

Я намагаюся зрозуміти алгоритм Metropolis-Hastings, щоб написати код для оцінки параметрів моделі (тобто ). Відповідно до бібліографії алгоритм Метрополіс-Гастінгса має такі кроки:f(x)=a∗xf(x)=a∗xf(x)=a*x СтворитиYt∼q(y|xt)Yt∼q(y|xt)Y_t \sim q(y|x^t) Xt+1={Yt,xt,with probabilityρ(xt,Yt),with probability1−ρ(xt,Yt),Xt+1={Yt,with probabilityρ(xt,Yt),xt,with probability1−ρ(xt,Yt),X^{t+1}=\begin{cases} Y^t, & \text{with probability} \quad \rho(x^t,Y_t), \\ x^t, & \text{with probability} \quad 1-\rho(x^t,Y_t), \end{cases} деρ(x,y)=min(f(y)f(x)∗q(x|y)q(y|x),1)ρ(x,y)=min(f(y)f(x)∗q(x|y)q(y|x),1)\rho(x,y)=\min \left( \frac{f(y)}{f(x)}*\frac{q(x|y)}{q(y|x)},1 \right) Як я …

14 mcmc  metropolis-hastings 

Чи є хороші підсумки (огляди, книги) про різні додатки ланцюга Марків Монте-Карло (MCMC)? Я бачив « Марківський ланцюг Монте-Карло» на практиці , але ця книга здається трохи старовинною. Чи є більше оновлених книг щодо різних застосувань MCMC в таких областях, як машинне навчання, комп'ютерний зір та обчислювальна біологія?

14 machine-learning  mcmc  inference  references  application