Гамільтонський Монте Карло

Чи може хтось пояснити головну ідею методів Гамільтоніана Монте-Карло і в яких випадках вони дадуть кращі результати, ніж методи Маркова Ланцюга Монте-Карло?

Я вважаю, що найсвіжішим джерелом про Гамільтоніан Монте-Карло, його практичним застосуванням та порівнянням з іншими методами MCMC є цей оглядовий документ Betancourt, датований 2017 року:

Кінцевою проблемою в оцінці ймовірнісних очікувань є кількісне визначення типового набору розподілу цілі, набору, який концентрується поблизу складної поверхні в просторі параметрів. Гамільтоніан Монте-Карло генерує узгоджене дослідження гладких розподілів цілі, використовуючи геометрію типового набору. Це ефективне дослідження дає не тільки кращу обчислювальну ефективність, ніж інші алгоритми ланцюга Монте-Карло ланцюга Маркова, але і більш високі гарантії на достовірність отриманих оцінок. Крім того, ретельний аналіз цієї геометрії полегшує принципові стратегії автоматичної побудови оптимальних варіантів реалізації методу, що дозволяє користувачам зосередити свій досвід на побудові кращих моделей, а не боротися з розладами статистичних обчислень. Як результат,Stan (Команда розвитку Stan, 2017).

Гамільтонівський Монте-Карло ( HMC ), спочатку названий гібридним Монте-Карло, є формою Марківського ланцюга Монте-Карло зі строком імпульсу та виправленнями.

"Гамільтоніан" відноситься до гамільтонової механіки.

Випадок використання стохастично (випадковим чином) вивчає високі розміри для чисельної інтеграції через вірогідний простір.

Контраст з MCMC

Звичайний / ванільний Марківський ланцюг Монте-Карло (MCMC) використовує лише останнє стан для визначення наступного стану. Це означає, що ви так само ймовірно рухаєтесь вперед, як і повертаєтесь назад через простір, який ви вже дослідили.

MCMC також, ймовірно, буде випливати за межі первинної області, що цікавить, у просторах з високими розмірами.

Це робить MCMC дуже неефективним для чисельної інтеграції в багатовимірному просторі ймовірностей.

Як HMC вирішує ці питання

Додаючи термін імпульсу, HMC робить дослідження простору ймовірностей більш ефективним, тому що ви більше шанси домогтися прогресу на кожному кроці через свій вірогідний простір.

HMC також використовує виправлення " Метрополіс-Гастінгс", щоб переконатися, що він залишається і досліджує область більшої ймовірності.

Складаючи цю відповідь, я вважав, що ця презентація на HMC є досить яскравою.