Практичний приклад для MCMC

Я переглядав деякі лекції, пов'язані з MCMC. Однак я не знаходжу хорошого прикладу того, як це використовується. Хтось може дати мені конкретний приклад. Я бачу лише те, що вони керують ланцюгом Маркова і кажуть, що його стаціонарний розподіл - це бажаний розподіл.

Я хочу хороший приклад, коли бажаного розподілу важко отримати. Так ми створюємо ланцюжок Маркова. Я хочу знати, як вибрати матрицю переходу, щоб її стаціонарний розподіл ланцюга Маркова був цільовим розподілом Спасибі

Хороший приклад розподілу, з якого складно відібрати, є модель Hard-Core, див. Огляд на цій сторінці:

http://www.mathematik.uni-ulm.de/stochastik/lehre/ss06/markov/skript_engl/node34.html

Ця модель визначає розподіл по сітках для деяких фіксованих n , де в кожній точці сітки ви можете мати значення або один, або нуль. Для того, щоб сітка була прийнятною за жорсткою моделлю, жодна дві сусідні точки на сітці не можуть мати значення 1.$n \times n$$n$

На зображенні нижче показаний приклад допустимої конфігурації для сітки за жорсткою базовою моделлю. На цьому зображенні зображення зображено як чорні точки, а нулі - як білі. Зверніть увагу, що не дві чорні точки суміжні.$8 \times 8$

Я вважаю, що натхнення для цієї моделі походить з фізики, ви можете думати, що кожне положення в сітці є частинкою, а значення в цій позиції, що представляє електричний заряд, або віджимання.

Ми хочемо рівномірно відібрати вибірку із сукупності допустимих сіток, тобто якщо - це сукупність допустимих сіток, ми хочемо відібрати e ∈ E таким, що$E$$e \in E$

$p(e) = \frac{1}{|E|}$

де - кількість усіх можливих допустимих конфігурацій.$|E|$

Вже це є викликом, враховуючи, що ми розглядаємо сіток, як ми можемо визначити | Е | кількість допустимих сіток? $n \times n$$|E|$

Однією з приємних речей про MCMC є те, що вона дозволяє вибирати вибірки з розподілів, де нормалізуюча константа важко або неможливо оцінити.

Я дозволю вам прочитати документ про деталі того, як реалізувати MCMC для цієї проблеми, але це досить просто.

Я думаю, що найкращий приклад, який я можу вам надати, це такий:

Приклад ланцюга Маркова Монте-Карло Муралі Харана

Що включає якийсь корисний код у Р.

Я думаю, що я міг би відтворити статтю тут, але це не має сенсу.

Ще одна грізна проблема в статистиці. Питання давнє, але вступні приклади в режимі он-лайн важко знайти. Тож дозвольте мені спростити два чудові приклади на випадок, якщо хтось слідкує за Марковим випадковим прогулянком по землях PageRank сюди, збентежених MCMC, і сповнений очікування для легкої відповіді. Наскільки ймовірно? Це може бути подальшим питанням.

FIRST EXAMPLE:

$N(0,1)$

Складність полягає в тому, що в реалізації після проходження всіх механічних кроків, є тільки один магічний трюк: бінарне рішення приймати чи відкидати на запропоноване значення .

$x$mean$0$sd$~ 1$rnorm(10000)

eps$\epsilon$$x_i$$x_{i+1}$runif(1, - eps, eps)$x_i$

Кожне запропоноване значення таким чином відрізнятиметься від попереднього значення випадковим чином і в межах [- eps,+ eps].

Введіть ядро Маркова . Нам потрібно якось оцінити ймовірність переходу до нового запропонованого значення, як у матриці Маркова з переходом на заданий час$i$ розповідає про ймовірність появи нового стану на час $i + 1$. Якщо ви сумніваєтесь, заходьте сюди або запитайте бабусю, яка звернула увагу на всі "Як би ви пояснили квантову фізику своїй няні?" тип питань (чи не виглядають матриці приємно? ;-)).

Щоб отримати таку ймовірність прийняття в букет зібраних значень, ми просто порівнюємо висоту $N(0,1)$щільність при запропонованому новому значенні ($x_{i+1}$) до попереднього (вже прийняте значення), ($x_{i}$), саме так:

І ми беремо співвідношення обох значень: min(1, dnorm(candidate_value)/dnorm(x)). Оскільки ми хочемо ймовірності, результат, що обчислюється, не може переходити$1$, що відбувається щоразу, коли $N(0,1)$ $pdf$ у $x_{i+1}$ (значення кандидата) більше, ніж на $x_i$, що становить автоматичне прийняття запропонованого значення та пояснення min(1, ...)частини коду. В іншому випадку, чим ближче dnormзначення запропонованого значення до попереднього значення , тим вище шанси його прийняти.

Тож у нас є ймовірність прийняття, але нам потрібно прийняти бінарне рішення (прийняти нове запропоноване значення або відхилити його). І ось тут виникає магічний трюк: якщо ймовірність, обчислена як min(1, dnorm(candidate_value)/dnorm(x))більша, ніж runif(1)рівномірний розіграш$0$ до $1$(якнайшвидше, як це дістанеться до кидання монети за безперервне значення), ми приймаємо та заповнюємо x[i+1]запис ланцюжка запропонованою вартістю ; в іншому випадку ми заповнюємо це повтором попереднього значення , x[i]... Ідея була б, краще дві однакові, ніж одна занадто далеко в хвости.

Ми робимо це тисячі разів і збираємо всі ці значення (тільки прийняті та повторювані значення), і коли будуємо гістограму, ми отримуємо хорошу нормальну криву з sdблизькою до$1$і зосереджена на $0$.

Лише один заключний момент: з чого ми починаємо? Напевно, не має значення, але в моделюванні ми заповнюємо перше значення як$0$, x = 0; vec[1] = xперш ніж проглядати всі решта ітерацій, і нехай процес піде за своїм ходом.

SECOND EXAMPLE:

Це більш захоплююче і посилається на оцінку параметрів кривої лінійної регресії шляхом обчислення ймовірності журналу для випадкових параметрів, заданих набором даних . Однак екзегезія рядків коду будується в збереженому тут конденсованому моделюванні , дотримуючись дуже схожих кроків з першим прикладом.

Це відео на Youtube - це справді приємна візуалізація простої проблеми, яку вирішують за допомогою MCMC.

Розподіл інтересів - це задній розподіл за можливими схилами та перехопленнями в лінійній регресії (верхній правий панель). Деякі комбінації схилів та перехоплення є дуже ймовірними (тобто вони мають високу ймовірність створення спостережуваних точок даних і відповідають нашим апріорним очікуванням), тому їх слід часто відбирати. Інші комбінації малоймовірні (наприклад, якщо вони відповідають синій лінії, яка не проходить через хмару точок даних), і їх слід брати рідше.

На великій панелі внизу зліва зображено шлях, пройдений ланцюгом Маркова, через двовимірний простір схилів та перехоплення. Гістограми показують одновимірні підсумки прогресу ланцюга до цих пір. Після того, як ланцюг пройшов досить довго, ми маємо дуже хороші оцінки розподілів можливих значень схилу та перехоплення.

У цьому випадку MCMC є надмірним, але є деякі проблеми, коли рішення важко записати, і має сенс вивчити можливості за допомогою ланцюга Маркова, а не намагатися вирішити його безпосередньо.