Алгоритм Метрополіс Гастінгс

Мені потрібно вивчити методи Марковського ланцюга Монте-Карло, щоб бути більш конкретним, мені потрібно вивчити алгоритм Metropolis Hastings і все про нього, як критерії конвергенції.

Хто може прописати мені книгу, або папір, або веб-сайт, які пояснюють цей аргумент за допомогою простих термінів, але без банальності?

Чудовим вступним документом є Chib and Greenberg's

Нерозуміння алгоритму ненависті метрополії

Майстерне і стисле обговорення теорії - це Тірні

Марковські ланцюги для дослідження задніх розподілів

Для книги, яка не є важкою математикою, я рекомендую:

• Робота байєсівського аналізу даних: навчальний посібник з R та BUGS Джона К. Крушке.

Перейдіть до розділу 7.

Код R наданий у книзі, тож ви зможете пограти з прикладами та побачити, вручну, наслідки зміни кількості опіків тощо.

Є дуже хороший документ Крістіана Роберта, який детально описує алгоритм MH

Роберт, CP (2015). Алгоритм Метрополіс-Гастінгса. переддрук arXiv arXiv: 1504.01896.

і чудова книга про методи Монте-Карло взагалі від того ж автора

Robert, C., & Casella, G. (2013). Статистичні методи Монте-Карло. Springer Science & Business Media.

Що стосується критеріїв конвергенції, то найбільше роботи приділяється конвергенції - це сенс відстані Total Variation (TV) Переважно тому, що існує велика кількість теорій ймовірностей, розроблених для телевізійної дистанції. Існує приємний оглядовий документ, а також з теоретичної сторони є робота Робертса та Розенталя, яка дає кілька теорем про критерії конвергенції. З більш практичної сторони є кілька робіт, написаних Джимом Гобертом, які наводять приклади застосування однієї з теорем Робертса і Розенталя до MCMC. Загалом, хитра частина застосування цієї теореми, здається, створює хорошу функцію дрейфу Ляпунова.

Ось грубу аналогію, яку я використав, щоб приблизно надати аромат MHA: Наступного разу, коли ви будете в супермаркеті:

1. Візьміть предмет навмання і покладіть у свій кошик.

2. Правою рукою візьміть інший предмет.

3. Якщо предмет у вашій руці коштує менше, ніж останній товар, який ви взяли в руки, покладіть його у свій кошик.

4. В іншому випадку розмістіть товар у кошику з вірогідністю (ціна останнього) ÷ (ціна в руці), інакше перезавантажте його.

5. Повторіть кроки від 2 до 4, поки у вашому кошику не з’явиться двадцять дев'ять додаткових предметів.

6. Вийміть перші 15 предметів із кошика.

7. Оформити замовлення та побажати касиру приємного дня.

8. Покатайте візок до свого автомобіля.

9. Поїхати додому.