Інтеграція Метрополіс-Гастінгса - чому моя стратегія не працює?

Припустимо, у мене є функція $g(x)$ яку я хочу інтегрувати

\int_{- \infty}^{\infty} g (x) d x .

$\int_{-\infty}^\infty g(x) dx.$ Звичайно, припустимо, що

g (x)

$g(x)$ переходить до нуля в кінцевих точках, відсутність вибухів, хороша функція. Один з способів , який я смикав є використання алгоритму Метрополіс-Гастингса , щоб сформувати список зразків

x_{1}, x_{2}, \dots, x_{n}

$x_1, x_2, \dots, x_n$ з розподілу пропорційно до

g (x)

$g(x)$ , Який відсутня константа нормалізації

N = \int_{- \infty}^{\infty} g (x) d x

$N = \int_{-\infty}^{\infty} g(x)dx$ , які я буду називати

p (x)

$p(x)$ , а потім обчислення деякі статистичні

f (x)

$f(x)$ на цих

x

$x$ «и:

\frac{1}{n} \sum_{i = 0}^{n} f (x_{i}) \approx \int_{- \infty}^{\infty} f (x) p (x) d x .

$\frac{1}{n} \sum_{i=0}^n f(x_i) \approx \int_{-\infty}^\infty f(x)p(x)dx.$

Оскільки $p(x) = g(x)/N$ , я можу підставити в $f(x) = U(x)/g(x)$ скасувати $g$ від інтеграла, в результаті чого вираз форми

\frac{1}{N} \int_{- \infty}^{\infty} \frac{U (x)}{g (x)} g (x) d x = \frac{1}{N} \int_{- \infty}^{\infty} U (x) d x .

$\frac{1}{N}\int_{-\infty}^{\infty}\frac{U(x)}{g(x)} g(x) dx = \frac{1}{N}\int_{-\infty}^\infty U(x) dx.$ Отже за умови, що

U (x)

$U(x)$ інтегрується до

1

$1$ уздовж цього регіону, я повинен отримати результат

1 / N

$1/N$ , який я міг би просто прийняти зворотним, щоб отримати відповідь, яку я хочу. Тому я міг би взяти діапазон моєї вибірки (щоб найбільш ефективно використовувати точки)

r = x_{max} - x_{min}

$r = x_\max - x_\min$ і дозволити

U (x) = 1 / r

$U(x) = 1/r$ для кожного намальованого зразка. Таким чином

оцінює нуль за межами регіону, де моїх зразків немає, але інтегрується до

у цьому регіоні. Отже, якщо я зараз прийму очікуване значення, я повинен отримати:

U (x)

$U(x)$

1

$1$

E [\frac{U (x)}{g (x)}] = \frac{1}{N} \approx \frac{1}{n} \sum_{i = 0}^{n} \frac{U (x)}{g (x)} .

$E\left [\frac{U(x)}{g(x)}\right ] = \frac{1}{N} \approx \frac{1}{n} \sum_{i=0}^n \frac{U(x)}{g(x)}.$

Я спробував тестувати це в R для вибіркової функції . У цьому випадку я не використовую Metropolis-Hastings для створення зразків, але використовую фактичні ймовірності з для генерування зразків (просто для тестування). Я не дуже отримую результати, які шукаю. В основному, повне вираження того, що я б обчислював: $g(x) = e^{-x^2}$ rnorm Це має в моїй теорії оцінювати до

\frac{1}{n (x_{max} - x_{min})} \sum_{i = 0}^{n} \frac{1}{e^{- x_{i}^{2}}} .

$\frac{1}{n(x_{\max} - x_\min)} \sum_{i=0}^n \frac{1}{ e^{-x_i^2}}.$

. Це наближається, але це, звичайно, не зближується очікуваним чином, чи я щось роблю не так?

1 / \sqrt{π}

$1/\sqrt{\pi}$

ys = rnorm(1000000, 0, 1/sqrt(2))
r = max(ys) - min(ys)
sum(sapply(ys, function(x) 1/( r * exp(-x^2))))/length(ys)
## evaluates to 0.6019741. 1/sqrt(pi) = 0.5641896

Редагувати для CliffAB

Причина, по якій я використовую діапазон, полягає в тому, щоб легко визначити функцію, яка не є нульовою для області, де є мої точки, але яка інтегрується до у діапазоні . Повна специфікація функції: $1$ $[-\infty, \infty]$ Мені не довелося використовуватияк цю рівномірну щільність. Я міг би використовувати іншу щільність, інтегровану до, наприклад, щільність ймовірності

U (x) = {\begin{cases} \frac{1}{x_{max} - x_{min}} & x_{max} > x > x_{min} \\ 0 & otherwise. \end{cases}

$U(x) = \begin{cases} \frac{1}{x_\max - x_\min} & x_\max > x > x_\min \\ 0 & \text{otherwise.} \end{cases}$

U (x)

$U(x)$

1

$1$

Однак це зробило б підсумовування окремих зразків тривіальним, тобто

P (x) = \frac{1}{\sqrt{π}} e^{- x^{2}} .

$P(x) = \frac{1}{\sqrt{\pi}} e^{-x^2}.$

\frac{1}{n} \sum_{i = 0}^{n} \frac{P (x)}{g (x)} = \frac{1}{n} \sum_{i = 0}^{n} \frac{e^{- x_{i}^{2}} / \sqrt{π}}{e^{- x_{i}^{2}}} = \frac{1}{n} \sum_{i = 0}^{n} \frac{1}{\sqrt{π}} = \frac{1}{\sqrt{π}} .

$\frac{1}{n} \sum_{i=0}^n \frac{P(x)}{g(x)} = \frac{1}{n} \sum_{i=0}^n \frac{e^{-x_i^2}/\sqrt{\pi}}{e^{-x_i^2} } = \frac{1}{n} \sum_{i=0}^n \frac{1}{\sqrt{\pi}} = \frac{1}{\sqrt{\pi}}.$

Я міг би спробувати цю техніку для інших розподілів, які інтегруються в . Однак я все ж хотів би знати, чому це не працює для рівномірного розподілу. $1$

— Mike Flynn
джерело

Only quickly looking over this, so I'm not sure exactly why you decided to use range(x). Conditionally on it being valid, it's extremely inefficient! The range of a sample of that size is just about the most unstable statistic you could take.

— Cliff AB

@CliffAB Немає нічого особливого для мене, використовуючи діапазон, окрім визначення рівномірного розподілу на інтервалі, де лежать мої точки. Див. Правки.

— Майк Флінн

Я розгляну це згодом докладніше. Але слід враховувати, що ніби x - це набір рівномірних RV, тоді як

, діапазон

. Але якщо x - це набір недегенеративних нормальних RV, то як

n \to \infty

$n \rightarrow \infty$

(x) \to 1

$(x) \rightarrow 1$

n \to \infty

$n \rightarrow \infty$

range (x) \to \infty

$\text{range}(x) \rightarrow \infty$

— Кліф АВ

@CliffAB you might have been right, I think the reason was that the bounds of the integral were not fixed, and so the variance of the estimator will never converge...

— Mike Flynn

This is a most interesting question, which relates to the issue of approximating a normalising constant of a density $g$ based on an MCMC output from the same density $g$ . (A side remark is that the correct assumption to make is that $g$ is integrable, going to zero at infinity is not sufficient.)

In my opinion, the most relevant entry on this topic in regard to your suggestion is a paper by Gelfand and Dey (1994, JRSS B), where the authors develop a very similar approach to find

\int_{X} g (x) d x

$\int_\mathcal{X} g(x) \,\text{d}x$ when generating from

p (x) \propto g (x)

$p(x)\propto g(x)$ . One result in this paper is that, for any probability density

α (x)

$\alpha(x)$ [this is equivalent to your

U (x)

$U(x)$ ] such that

{x; α (x) > 0} \subset {x; g (x) > 0}

$\{x;\alpha(x)>0\}\subset\{x;g(x)>0\}$ the following identity

\int_{X} \frac{α (x)}{g (x)} p (x) d x = \int_{X} \frac{α (x)}{N} d x = \frac{1}{N}

$\int_\mathcal{X} \dfrac{\alpha(x)}{g(x)}p(x) \,\text{d}x=\int_\mathcal{X} \dfrac{\alpha(x)}{N} \,\text{d}x=\dfrac{1}{N}$ shows that a sample from

p

$p$ can produce an unbiased evaluation of

1 / N

$1/N$ by the importance sampling estimator

\hat{η} = \frac{1}{n} \sum_{i = 1}^{n} \frac{α (x_{i})}{g (x_{i})} x_{i} \overset{iid}{\sim} p (x)

$\hat\eta=\frac{1}{n}\sum_{i=1}^n \dfrac{\alpha(x_i)}{g(x_i)}\qquad x_i\stackrel{\text{iid}}{\sim}p(x)$ Obviously, the performances (convergence speed, existence of a variance, &tc.) of the estimator

\hat{η}

$\hat\eta$ do depend on the choice of

α

$\alpha$ [even though its expectation does not]. In a Bayesian framework, a choice advocated by Gelfand and Dey is to take

α = π

$\alpha=\pi$ , the prior density. This leads to

\frac{α (x)}{g (x)} = \frac{1}{ℓ (x)}

$\dfrac{\alpha(x)}{g(x)} = \dfrac{1}{\ell(x)}$ where

ℓ (x)

$\ell(x)$ is the likelihood function, since

g (x) = π (x) ℓ (x)

$g(x)=\pi(x)\ell(x)$ . Unfortunately, the resulting estimator

\hat{N} = \frac{n}{\sum_{i = 1}^{n} 1 / ℓ (x_{i})}

$\hat{N}=\dfrac{n}{\sum_{i=1}^n1\big/\ell(x_i)}$ is the harmonic mean estimator, also called the worst Monte Carlo estimator ever by Radford Neal, from the University of Toronto. So it does not always work out nicely. Or even hardly ever.

Your idea of using the range of your sample $(\min(x_i),\max(x_i))$ and the uniform over that range is connected with the harmonic mean issue: this estimator does not have a variance if only because because of the $\exp\{x^2\}$ appearing in the numerator (I suspect it could always be the case for an unbounded support!) and it thus converges very slowly to the normalising constant. For instance, if you rerun your code several times, you get very different numerical values after 10⁶ iterations. This means you cannot even trust the magnitude of the answer.

A generic fix to this infinite variance issue is to use for $\alpha$ a more concentrated density, using for instance the quartiles of your sample $(q_{.25}(x_i),q_{.75}(x_i))$ , because $g$ then remains lower-bounded over this interval.

When adapting your code to this new density, the approximation is much closer to $1/\sqrt{\pi}$ :

ys = rnorm(1e6, 0, 1/sqrt(2))
r = quantile(ys,.75) - quantile(ys,.25)
yc=ys[(ys>quantile(ys,.25))&(ys<quantile(ys,.75))]
sum(sapply(yc, function(x) 1/( r * exp(-x^2))))/length(ys)
## evaluates to 0.5649015. 1/sqrt(pi) = 0.5641896

We discuss this method in details in two papers with Darren Wraith and with Jean-Michel Marin.

— Xi'an
джерело