Розрахунок граничної ймовірності зразків MCMC

Це питання, що повторюється (див. Цю публікацію , цю публікацію та цю публікацію ), але у мене інший виток.

Припустимо, у мене є купа зразків із загального пробовідбору MCMC. Для кожного зразка я знаю значення ймовірності журналу та журналу попереднього . Якщо це допомагає, я також знаю значення ймовірності журналу на точку даних (ця інформація допомагає певним методам, таким як WAIC та PSIS-LOO).log f ( x | θ ) log f ( θ ) log f ( x i | θ $\theta$$\log f(\textbf{x} | \theta)$$\log f(\theta)$$\log f(x_i | \theta)$

Я хочу отримати (грубу) оцінку граничної ймовірності, лише із наявними у мене вибірками та, можливо, декількома іншими оцінками функцій (але не переставляючи спеціальну MCMC).

Перш за все, давайте очистимо таблицю. Усі ми знаємо, що гармонійний оцінювач - це найгірший оцінювач коли-небудь . Перейдемо далі. Якщо ви робите вибірки Гіббса з пріорами та плакаторами у закритому вигляді, ви можете скористатися методом Чіба ; але я не впевнений, як узагальнити поза цими випадками. Є також методи, які вимагають від вас змінити процедуру вибірки (наприклад, через загартовані плакати ), але мене тут це не цікавить.

Підхід, про який я думаю, складається з наближення базового розподілу до параметричної (або непараметричної) форми , а потім з'ясування константи нормалізації як задачі оптимізації 1-D (тобто що мінімізує деяку помилку між і , оціненими на вибірках). У найпростішому випадку, припустимо, що задня частина є приблизно багатоваріантною нормою, я можу помістити як багатоваріантну нормальну і отримати щось подібне до наближення Лапласа (можливо, я хотів би використати кілька додаткових оцінок функції для уточнення позиції режим). Однак я міг би використовувати якZ Z Z g ( θ ) f ( x | θ ) f ( θ ) g ( θ ) g ( θ $g(\theta)$$Z$$Z$$Z g(\theta)$$f(\textbf{x}|\theta) f(\theta)$$g(\theta)$$g(\theta)$більш гнучка сім'я, така як варіаційна суміш багатоваріантних розподілів.$t$

Я розумію, що цей метод працює лише у тому випадку, якщо є розумним наближенням до , але будь-яка причина чи застережлива розповідь про те, чому було б дуже нерозумно Зроби це? Будь-яке читання, яке б ви порекомендували?f ( x | θ ) f ( θ $Z g(\theta)$$f(\textbf{x}|\theta) f(\theta)$

Повністю непараметричний підхід використовує деяке непараметричне сімейство, наприклад Гауссовий процес (GP), для наближення (або якесь інше нелінійне перетворення його, наприклад як квадратний корінь), а байєсівська квадратура неявно інтегрується над базовою ціллю (див. тут і тут ). Це здається цікавим альтернативним підходом, але аналогічним за духом (також зауважте, що лікарі загальної практики були б непростими в моєму випадку).$\log f(\textbf{x}|\theta) + \log f(\theta)$

На жаль, розширення Chib and Jeliazkov (2001), на жаль, стає швидко дорогим або дуже мінливим, що є причиною того, що він не так сильно використовується поза випадками відбору проб Гіббса.

Хоча існує багато способів і підходів до постійної нормировке завдання оцінювання (як показані на досить різноманітних переговорах в Оцінюючи Constant семінару ми провели на минулому тижні в Університеті Уоріка, доступні слайди там ), деякі рішення дійсно використовувати прямий вихід MCMC .$\mathfrak{Z}$

1. Як ви вже згадували, оцінка гармонічного середнього рівня Ньютона та Рафті (1994) майже незмінно бідна, оскільки має нескінченну дисперсію. Однак є способи уникнути прокляття нескінченної дисперсії, використовуючи замість цього кінцеву ціль підтримки в середній гармонійній тотожності , вибравшиαяк показник області HPD для задньої частини. Це забезпечує кінцеву дисперсію, видаляючи хвости в гармонійному середньому. (Докладні відомості можна знайти встатті, яку я писав з Дарреном Врайте,і вглаві про нормалізацію констант,написаної з Жаном-Мішелем Маріном.) Коротше кажучи, метод переробляє вихід MCMCθ1,…,θMшляхом ідентифікаціїβ( 20% кажуть) найбільші значення ціліπ(θ)f(x|θ)і створення

   $$\int \dfrac{\alpha(\theta)}{\pi(\theta)f(x|\theta)}\text{d}\pi(\theta|x)=\frac{1}{\mathfrak{Z}}$$ $\alpha$$\theta_1,\ldots,\theta_M$$\beta$$\pi(\theta)f(x|\theta)$$\alpha$як рівномірний над об'єднанням куль з центром в тій величині щільності (HPD) моделювання і з радіусом р , тобто оцінка константи нормалізує Z задається Z - 1 = $\theta^0_i$$\rho$$\mathfrak{Z}$ якщоd- розмірністьθ(виправлення застосовуються для кульок, що перетинаються), а якщоρдосить малий, щоб кулі ніколи не перетиналися (мається на увазі, що в кращому випадку лише один показник на кулі - це відрізняється від нуля). ПоясненнязнаменникаαM2полягає в тому, що це подвійна сумаβM2доданків: $$\hat{\mathfrak{Z}}^{-1}=\underbrace{\frac{1}{\beta M^2}\sum_{m=1}^M}_{\text{double sum over}\\\beta M\text{ ball centres }\theta_i^0\\\text{and $M$ simulations } \theta_m} \underbrace{\mathbb{I}_{(0,\rho)}(\min_i||\theta_m-\theta^0_i||)\{\pi(\theta_m)f(x|\theta_m)\}^{-1}\big/\overbrace{\pi^{d/2}\rho^d\Gamma(d/2+1)^{-1}}^{\text{volume of ball with radius $\rho$}}}_{\dfrac{\beta M\alpha(\theta_m)}{\pi(\theta_m)f(x|\theta_m)}}$$ $d$$\theta$$\rho$$\alpha M^2$$\beta M^2$ з кожним членом уθm, щоінтегрується вZ-1. $$\frac{1}{\beta M}\sum_{i=1}^{\beta M} \underbrace{\frac{1}{M}\sum_{m=1}^M {\cal U}(\theta_i^0,\rho)(\theta_m)}_{\text{same as with $\min$}} \times \frac{1}{\pi(\theta_m)f(x|\theta_m)}$$ $\theta_m$${\mathfrak{Z}}^{-1}$

2. Інший підхід - перетворити нормалізуючу константу в параметр. Це звучить як статистична єресь, однак доповідь Ґуттмана та Хеварінена (2012) переконала мене у протилежному. Не надто надто детально описуючись у них, чітка ідея полягає в тому, щоб перетворити спостережувану ймовірність n ∑ i = 1 f ( x i | θ ) - n log ∫ exp f ( x | θ ) d x у спільну вірогідність журналу n ∑ i = 1 [ $\mathfrak{Z}$

   $$\sum_{i=1}^n f(x_i|\theta) - n \log \int \exp f(x|\theta) \text{d}x$$ що є ймовірністю журналу процесу точки Пуассона з функцією інтенсивності exp { f ( x | θ ) + ν + журнал n $$\sum_{i=1}^n[f(x_i|\theta)+\nu]-n\int\exp[f(x|\theta)+\nu]\text{d}x$$ $$\exp\{ f(x|\theta) + \nu +\log n\}$$ Це альтернативна модель у тому, що початкова ймовірність не є граничною з вищезазначених. Збігаються лише режими, коли умовний режим у ν забезпечує константа нормалізації. На практиці вищевказана ймовірність процесу Пуассона недоступна, і Guttmann та Hyvärinen (2012) пропонують наближення за допомогою логістичної регресії. Щоб ще краще зв'язатись із вашим питанням, оцінка Гейєра - це MLE, отже, рішення проблеми максимізації.
3. $\pi(\theta|x)$$\pi(\theta|x)$$g(\theta)$$\pi(\theta|x)$$g(\theta)$). З регресорами значення обох густин нормалізуються чи ні. Це, можливо, безпосередньо пов'язане з вибіркою мостів Gelman та Meng (1997), яка також переробляє зразки з різних цілей. І більш пізні версії, як MLE MLE.
4. Інший підхід, який змушує запустити певний пробовідбірник MCMC, - це вкладений вибірки Skilling . Хоча у мене [та інших] є деякі застереження щодо ефективності методу, він досить популярний в астростатистиці та космології з таким програмним забезпеченням, як multinest .
5. $H_0: \theta=\theta_0$$\xi$$\pi_1(\theta)\pi_2(\xi)$$H_0$ against the alternative writes as $$\mathfrak{B}_{01}(x)=\dfrac{\pi^\theta(\theta_0|x)}{\pi_1(\theta_0)}$$ where $\pi^\theta(\theta_0|x)$ denotes the marginal posterior density of $\theta$ at the specific value $\theta_0$. In case the marginal density under the null $H_0: \theta=\theta_0$ $$m_0(x)=\int_\Xi f(x|\theta_0,\xi)\pi_2(\xi)\text{d}\xi$$ is available in closed form, one can derive the marginal density for the unconstrained model $$m_a(x)=\int_{\Theta\times\Xi} f(x|\theta,\xi)\pi_1(\theta)\pi_2(\xi)\text{d}\theta\text{d}\xi$$ from the Bayes factor. (This Savage-Dickey representation relies on specific versions of three different densities and so is fraught with danger, not even mentioning the computational challenge of producing the marginal posterior.)

[Here is a set of slides I wrote about estimating normalising constants for a NIPS workshop last December.]