Чи вибірки Гіббса є методом MCMC?


11

Наскільки я це розумію, це (принаймні, саме так визначає Вікіпедія ). Але я знайшов це твердження Ефрона * (наголос додано):

Ланцюжок Маркова Монте-Карло (MCMC) - це велика історія успіху сучасної байєсівської статистики. MCMC та його сестринський метод "вибірки Гіббса" дозволяють числовий розрахунок заднього розподілу в ситуаціях, занадто складних для аналітичного вираження.

і тепер я розгублений. Це лише незначна різниця в термінології, чи Гіббс відбирає проби щось інше, ніж MCMC?

[*]: Ефрон 2011 року, "Бутстрап і Марков-Ланцюг Монте-Карло"

Відповіді:


15

Алгоритм, який зараз називається відбіркою Гіббса, утворює ланцюг Маркова і використовує моделювання Монте-Карло для своїх входів, тому він дійсно підпадає під належні рамки методів MCMC (Марков-Лайн Монте-Карло). Історично цей метод можна простежити, принаймні, до середини ХХ століття, але він був недостатньо відомим, і лише пізніше був популяризований насіннєвим документом Гемана і Джемана (1984), який вивчав статистичну фізику стосовно використання розподіл Гіббса (для деяких історичних посилань, див Casella і Джордж тисячі дев'ятсот дев'яносто дві , стор. 167).

Чомусь, незважаючи на свою працю, Ефрон посилається на пробовідбірника Гіббса так, ніби він не виходить за межі MCMC. Він робить це у цитаті, яку ви подали, а також в деяких інших частинах статті. Оскільки його вступне посилання на техніку посилається на "пробовідбірник Гіббса" (наведене в лапках), можливо, він натякає на історичний факт, що оригінальний метод був розроблений завдяки розподілу Гіббса в статистичній фізиці і не був включений до загальна статистична теорія МКМК набагато пізніше. Це моя найкраща здогадка, чому він ставиться до цього так.

Оновлення: оскільки проф. Ефрон ще живий, я сміливо написав йому запитання, чому він описує пробник Гіббса таким чином. Ось його відповідь (відтворений з його дозволу):

Це було в основному з історичних причин ... З іншого боку, алгоритм Гіббса виглядає зовсім інакше, ніж рецепт MCMC, і потрібна певна робота, щоб показати, що це в певному сенсі те саме. (Efron 2018, особиста кореспонденція, еліпсис в оригіналі)


1
Дякую! Я зачекаю, чи отримаєте ви відповідь від доктора Ефрона, якщо ні, я все одно виберу це як відповідь.
Габріель

4

Перейдіть з Вікіпедії. А ще краще, поговоріть із цими дослідниками MCMC:

Пробовідбірник Гіббса - приклад алгоритму ланцюга Маркова Монте-Карло. Дійсно, це особливий випадок алгоритму «Метрополіс-Гастінгс». Будь-який алгоритм, який генерує випадкові креслення з розподілу , імітуючи ланцюг Маркова, який має як його стаціонарний розподіл, є алгоритмом ланцюга Монте-Карло ланцюга Маркова, і саме це робить пробовідбірник Гіббса.π(θ)π(θ)

Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.