Коли MCMC став звичним?


19

Хтось знає, в який рік MCMC став звичайним явищем (тобто популярним методом для байєсівського висновку)? Особливо корисним буде посилання на кількість опублікованих статей MCMC (журналу) з часом.


2
Сумніваюся, що кожен міг би забезпечити один рік. Більш розумно вважати дифузію MCMC у часі. Вона виникла в 50-х роках за допомогою алгоритму Метрополіс-Гастінгса, але не отримала широкого прийняття та використання до появи відносно недорогих обчислювальних потужностей, починаючи з 80-х років. Наскільки мені відомо, перші застосунки були в баєсівських технологіях розпізнавання обличчя того часу. По-друге, починаючи з 90-х, MCMC використовує поширення в інших сферах, таких як економіка та маркетинг в школі Чикаго. Ознайомтесь з практичною MCMC 1996 року Gilks ​​& Spiegelhalter .
користувач332577

1
Це питання розпливчасте і вимагає думки (немає прийнятого визначення банального чи популярного). Він допускає будь-яку кількість напевно правильних відповідей.
Glen_b -Встановіть Моніку

1
@Glen_b Я думаю, що відповідь, подана нижче, є відмінною. Ви не згодні? Або ви написали свій коментар перед цією відповіддю? (Обидва просто кажуть "вчора").
Пітер Флом - Відновіть Моніку

2
@Peter Mine прийшов до будь-якої відповіді; наведіть курсор миші на слово "вчора" на кожному (або що-небудь, що вказує на минулий час після публікації), щоб побачити точний час UTC. Я думаю, що відповідь, яку ви вказуєте, є гарною частковою відповіддю, але все-таки питання має на увазі декілька абсолютно різних, не маючи хорошої основи для вибору між ними.
Glen_b -Встановіть Моніку

Відповіді:


25

Цей документ Крістіана ( Сіань ) Роберта та Джорджа Казелла дає хороший підсумок історії MCMC. З паперу (наголос мій).


Те, що можна зрозуміти першим алгоритмом MCMC, - це те, що ми зараз називаємо алгоритмом Metropolis, опублікованим Metropolis та ін. (1953). Це походить від тієї ж групи вчених, яка виробляла метод Монте-Карло, а саме вчених-дослідників Лос-Аламосу, в основному фізиків, які працюють над математичною фізикою та атомною бомбою.


Пізніше узагальнений алгоритм Метрополіса Гастінгс (1970) та його учень Пескун (1973,1981)


Хоча дещо відсторонений від статистичного висновку в класичному сенсі і заснований на більш ранніх методах, що використовуються в статистичній фізиці, важливий документ Гемана і Гемана (1984) приніс вибірки Гіббса на арену статистичного застосування. Цей документ також відповідає за вибірку назви Gibbs


Зокрема, Джеман і Геман (1984) вплинули на Гельфанда та Сміта (1990), щоб написати документ, який є справжньою відправною точкою для інтенсивного використання методів MCMC основним потоковим статистичним співтовариством . Це викликало нові інтереси в байєсівських методах, статистичних обчисленнях, алгоритмах та стохастичних процесах за допомогою використання обчислювальних алгоритмів, таких як пробовідбірник Гіббса та алгоритм Метрополіс-Гастінгса.


Цікаво, що попередній документ Таннера і Вонга (1987) мав по суті ті ж інгредієнти, як і Гельфанд та Сміт (1990), а саме той факт, що моделювання з умовних розподілів є достатнім для асимптотичного моделювання з суглоба. Цей папір вважався досить важливим. бути дискусійним документом у «Журналі Американської статистичної асоціації», але його вплив був якось обмежений, порівняно з Гельфандом та Смітом (1990).


Я не міг знайти кількість публікацій журналів, опублікованих за час, але ось графік Google Ngram для кількості згадок за час. Він більш-менш погоджується з думкою про те, що MCMC став звичним явищем після роботи 1990 року Гельфанда і Сміта.

введіть тут опис зображення


1
Дякую! Я вважаю, що 1990 рік є найважливішою датою в історії MCMC, оскільки цього року чотири статті Алана Гельфанда та Адріана Сміта з'явилися в топ-журналах статистики і внесли концепцію використання ланцюгів Маркова для моделювання раптово мейнстрімом. Я пам’ятаю, що відвідував розмову Адріана Сміта в червні 1989 року в Сегербруку (PQ), де він продемонстрував універсальність ідеї, показавши слайд з кількома рядками коду (Fortran?).
Сіань

12

Відмінна відповідь, проведена knrumsey, дає певну історію про прогрес важливої ​​академічної роботи в MCMC. Ще один аспект, який варто вивчити - це розробка програмного забезпечення для полегшення MCMC звичайним користувачем. Статистичні методи часто використовуються в основному фахівцями, поки вони не будуть реалізовані в програмному забезпеченні, що дозволяє звичайному користувачеві реалізовувати їх без програмування. Наприклад, програмне забезпечення BUGS вийшло вперше у 1997 році. Це, мабуть, не змінило траєкторію зростання в графіку N-Grams, але, можливо, це мало вплив на залучення методу до загального використання серед тих користувачів, які знайшли його залякування програмувати власні процедури.


Ага, є невеликий поворот у лінії MCMC прямо біля 1997 року.
муру

Добре помічений - не впевнений, чи буде це досить велика зміна, щоб стати статистично значущою, але все-таки зазначити.
Моніку

Візуально оцінюючи, якби ухил до 1997 року підтримувався, ми побачили б приблизно 0,000015% приблизно в 2004 році (але фактичне значення близько 0,0000225%). Це на 50% більше. Але я вважаю, що цифри все одно занадто малі.
муру

Можливо, ти маєш рацію - добрі очі!
Моніку

1
hmmm, BUGS був представлений на конференції статистики Валенсії
Сіань
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.