У чому полягає важливість вибірки?

Я намагаюся навчитися вивченню підкріплення, і ця тема мене дуже бентежить. Я взяв вступ до статистики, але я просто не міг зрозуміти цю тему інтуїтивно.

— Тієнань Нгуен
джерело

Відповіді:

Вибірка важливості - це форма вибірки від розподілу, що відрізняється від розподілу відсотків , щоб легше отримати кращі оцінки параметра від розподілу інтересів. Зазвичай це забезпечить оцінки параметру з меншою дисперсією, ніж це було б отримано шляхом вибірки безпосередньо з вихідного розподілу з тим самим розміром вибірки.

Він застосовується в різних контекстах. Загалом вибірка з різного розподілу дозволяє взяти більше зразків у тій частині розподілу інтересів, яка продиктована заявкою (важливий регіон).

Одним із прикладів може бути те, що ви хочете мати вибірку, яка включає більше вибірок з хвостів розподілу, ніж чиста випадкова вибірка з розподілу інтересів.

Стаття у вікіпедії, яку я бачив на цю тему, занадто абстрактна. Краще подивитись на різні конкретні приклади. Однак він включає посилання на цікаві додатки, такі як Bayesian Networks.

Одним із прикладів вибірки важливості у 40-х та 1950-х роках є техніка зменшення дисперсії (форма методу Монте-Карло). Дивіться, наприклад, книгу «Методи Монте-Карло» Хаммерслі та Гандеркомб, опубліковану як монографію Метюена / Чапмана і Холла в 1964 році та перевидану в 1966 році та пізніше іншими видавцями. Розділ 5.4 книги охоплює вибірку важливості.

— Майкл Р. Черник
джерело

Додайте до цього: У RL ви, як правило, застосовуєте вибірку важливості для політики: наприклад, вибіркові дії з політики розвідки замість фактичної політики, яку ви справді хочете взяти на вибірку

— DaVinci

Ця відповідь починається добре, пояснюючи , що значення вибірки робить, але я був розчарований , щоб знайти його ніколи не відповідає на питання про те, що вибірки по значущості є : як це працює?

— whuber

@whuber Моєю метою тут було пояснити концепцію заплутаному ОП і вказати йому на деяку літературу. Це велика тема і використовується у, здавалося б, різних програмах. Інші, можливо, зможуть пояснити деталі простими словами краще, ніж я можу. Я знаю, що коли ви вирішили відповісти на запитання, ви ходите цілу свиню і надаєте хороші графіки, переглядайте технічні деталі, використовуючи звичайну мову. Ці посади майже завжди задовольняють громаду своєю чіткістю та повнотою, і, смію сказати, також задовольняє ОП хоча б частково. Можливо, декількох речень з рівняннями буде достатньо, як ви пропонуєте.

— Майкл Р. Черник

Можливо, для громади краще відповісти на питання, а не просто вказувати на інші джерела чи навіть надавати посилання. Я просто відчув, що те, що я зробив, було адекватним, і ОП, котрий визнає себе початківцем статистики, повинен спершу докласти певних зусиль.

— Майкл Р. Черник

Ти маєш рацію. Мені все ж цікаво, чи можливо це можливо лише в одному чи двох реченнях - ні математика, ні графіки, ні навряд чи додаткова робота - щоб дати відповідь на поставлене запитання. У цьому випадку в описі слід було б підкреслити, що можна оцінити очікування (не просто будь-який "параметр"), то, можливо, вкажіть, що оскільки очікування підсумовує добуток значень та ймовірностей, ви отримуєте той самий результат, змінюючи ймовірності ( до розподілу, який легко вибирати) та коригування значень, щоб компенсувати це.

— whuber

Вибірка важливості - це моделювання або метод Монте-Карло, призначений для наближення інтегралів. Термін "вибірка" дещо заплутаний тим, що він не має наміру надавати вибірки із заданого розподілу.

Інтуїція за вибіркою важливості полягає в тому, що чітко визначений інтеграл, як можна виразити як очікування для широкого діапазону розподілів ймовірностей:

Я = \int_{Х} год (х) г х

$\mathfrak{I}=\int_\mathfrak{X} h(x)\,\text{d}x$

де

позначає щільність розподілу ймовірностей, а

визначається

. (Зауважимо, що зазвичай відрізняється від .Дійсно, вибір

Я = Е_{f} [Н (Х)] = \int_{Х} Н (х) f (х) г х

$\mathfrak{I}=\mathbb{E}_f[H(X)]=\int_\mathfrak{X} H(x)f(x)\,\text{d}x$

f

$f$

H

$H$

h

$h$

f

$f$ $H(\cdot)$ $h(\cdot)$

призводить до рівностей

за деякими обмеженнями на підтримку

, що означає

коли

Н (х) = \frac{год (х)}{f (х)}

$H(x)=\dfrac{h(x)}{f(x)}$

H (x) f (x) = h (x)

$H(x)f(x)=h(x)$

I = E_{f} [H (X)]

$\mathfrak{I}=\mathbb{E}_f[H(X)]$

-

$-$

f

$f$

f (x) > 0

$f(x)>0$

h (x) \neq 0

$h(x)\ne 0$

-

$-$ . Отже, як вказував В. Губер у своєму коментарі, є не єдиність у поданні інтеграла як очікування, а навпаки нескінченний масив таких уявлень, деякі з яких краще, ніж інші, колись критерій порівняння їх прийнято. Наприклад, Майкл Черник згадує про вибір

до зменшення дисперсії оцінювача.

f

$f$

Як тільки ця елементарна властивість буде зрозумілою, реалізація ідеї полягає в тому, щоб спиратися на Закон великих чисел, як в інших методах Монте-Карло, тобто моделювати [через псевдовипадковий генератор] зразок iid поширений від і використовувати наближення $(x_1,\ldots,x_n)$ $f$ який

\hat{Я} = \frac{1}{н} \sum_{i = 1}^{н} Н (х_{i})

$\hat{\mathfrak{I}}=\frac{1}{n} \sum_{i=1}^n H(x_i)$

є неупередженим оцінником $\mathfrak{I}$
майже впевнено сходиться до $\mathfrak{I}$

В залежності від вибору розподілу , вище оцінки може або не може мати кінцеву дисперсію. Однак завжди існують варіанти які дозволяють мати кінцеву дисперсію і навіть довільно невелику дисперсію (хоча ці варіанти можуть бути недоступними на практиці). І існують також вибір , які роблять важливість вибірки оцінювання дуже поганий апроксимації . Сюди входять всі варіанти, коли дисперсія стає нескінченною, навіть якщо нещодавній документ Чаттерджи та Діаконіса вивчає, як порівняти пробовідборники важливості з нескінченною дисперсією. Зображення нижче взято з $f$ $\hat{\mathfrak{I}}$ $f$ $f$ $\hat{\mathfrak{I}}$ ${\mathfrak{I}}$ мій блог обговорення з паперу та показує погану збіжність нескінченних дисперсії оцінок.

Вибірка важливості з розподілом важливості Розподіл Exp (1) розподілу та розподіл Exp (1/10) та цікаві функції . Справжнє значення інтеграла дорівнює . $h(x)=x$ $10$

[Далі подано з нашої книги " Статистичні методи Монте-Карло" .]

$f$

\int_{X} h (x) f (x) d x

$\int_\mathfrak{X} h(x) f(x)\,\text{d}x$

$p$ ${\mathcal{C}}(0,1)$ $2$

p = \int_{2}^{+ \infty} \frac{1}{π (1 + x^{2})} d x .

$p = \int_2^{+\infty} \; {1\over \pi(1 + x^2)} \; \text{d}x \;.$

p

$p$

{\hat{p}}_{1} = \frac{1}{m} \sum_{j = 1}^{m} I_{X_{j} > 2}

${\hat{p}}_1 = {1\over m} \; \sum_{j=1}^m \; \mathbb{I}_{X_{j} > 2}$

X_{1}, \dots, X_{m}

$X_1,\ldots,X_m$

\sim

$\sim$

C (0, 1)

$\; \mathcal{C}(0,1)$

p (1 - p) / m

$p(1-p)/m$

0.127 / m

$0.127/m$

p = 0.15

$p=0.15$

${\mathcal{C}}(0,1)$

{\hat{p}}_{2} = \frac{1}{2 m} \sum_{j = 1}^{m} I_{| X_{j} | > 2}

${\hat{p}}_2 = {1\over 2m} \; \sum_{j=1}^m \; \mathbb{I}_{|X_{j}| > 2}$

p (1 - 2 p) / 2 m

$p(1-2p)/2m$

0.052 / m

$0.052/m$

$[2,+\infty)$ $p$ $p$ інтеграл вище можна вважати очікуванням , де

p = \frac{1}{2} - \int_{0}^{2} \frac{1}{π (1 + х^{2})} г х,

$p = {1\over 2} - \int_0^2 \; {1\over \pi(1 + x^2)} \; \text{d}x \;,$

h (X) = 2 / π (1 + X^{2})

$h(X) = 2/\pi(1 + X^2)$

X \sim U_{[0, 2]}

$X \sim {\mathcal{U}}_{[0, 2]}$

p

$p$

для

. Дисперсія

{\hat{p}}_{3} = \frac{1}{2} - \frac{1}{м} \sum_{j = 1}^{м} год (U_{j})

${\hat{p}}_3 = {1\over 2} - {1\over m} \; \sum_{j=1}^m \; h(U_j)$

U_{j} \sim U_{[0, 2]}

$U_j \sim {\mathcal{U}}_{[0,2]}$

{\hat{p}}_{3}

${\hat{p}}_3$

(E [h^{2}] - E [h]^{2}) / m

$(\mathbb{E}[h^2] - \mathbb{E}[h]^2)/m$

0.0285 / m

$0.0285/m$

p

$p$

p = \int_{0}^{1 / 2} \frac{у^{- 2}}{π (1 + у^{- 2})} г у,

$p = \int_0^{1/2} \; {y^{-2}\over \pi(1 + y^{-2})} \; \text{d}y \;,$

\frac{1}{4} h (Y) = 1 / 2 π (1 + Y^{2})

${1\over 4} \; h(Y) = 1/2\pi(1 + Y^2)$

[0, 1 / 2]

$[0,1/2]$

p

$p$

{\hat{p}}_{4} = \frac{1}{4 м} \sum_{j = 1}^{м} год (Y_{j})

${\hat{p}}_4 = {1\over 4 m} \; \sum_{j=1}^m \; h(Y_j)$

Y_{j} \sim U_{[0, 1 / 2]}

$Y_j \sim {\mathcal{U}}_{[0,1/2]}$

{\hat{p}}_{4}

${\hat{p}}_{4}$

0.95 10^{- 4} / m

$0.95 \; 10^{-4}/m$

${\hat{p}}_1$ ${\hat p}_4$ $10^{-3}$ $\sqrt{1000} \approx 32$ $\hat p_1$ $\blacktriangleright$

— Сіань
джерело

Дякую @Xi 'за те, що ви вирішили проблему проілюструвати вибірку важливості таким чином, що кожен може оцінити, і я думаю, що більш ніж задовольняє прохання Білла Губера. +1

— Майкл Р. Черник

Хочу зазначити, що спочатку цю посаду було призупинено і завдяки внеску кількох людей. Ми придумали інформативну тему.

— Майкл Р. Черник

Крістіан, хочу подякувати і висловити привілей, що ти активно ділишся з нами таким чудовим матеріалом.

— whuber

Я просто хочу подякувати Сіану, який був досить люб’язним, щоб внести кілька праць, щоб покращити мою відповідь, навіть якщо він дав щось своє.

— Майкл Р. Черник

Це має бути одним з найкращих постів на stats.stackexchange. Дякую, що поділились!

— dohmatob