Різниця між неінформативними та неправильними Пріорами

Цікаво, в чому різниця між цими двома видами пріорів:

• Неінформативний
• Неправильний

Неправильні пріори - це -конечні негативні заходи d π на просторі параметрів Θ такі, що ∫ Θ d π ( θ ) = + ∞ Як такі вони узагальнюють поняття попереднього розподілу, що є розподілом ймовірності на просторі параметрів Θ такі, що ∫ Θ d π ( θ ) = 1 Вони корисні кількома способами характеризувати$\sigma$$\text{d}\pi$$\Theta$

$$\int_\Theta \text{d}\pi(\theta) = +\infty$$ $\Theta$ $$\int_\Theta \text{d}\pi(\theta) =1$$

1. набір меж правильних байєсівських процедур, які не є всіма належними баєсовими процедурами;
2. частостістські оптимальні процедури, як у (допустимості) повних теоремах класу, таких як Вальд;
3. кращі часто-інваріантні оцінки часто (як вони можуть бути виражені як оцінки Байєса відповідною правою мірою Хаара, як правило, неправильно);
4. пріори, похідні від форми функції ймовірності, такі як неінформативні пріори (наприклад, Джеффріс).

Оскільки вони не інтегруються в кінцеве число, вони не допускають імовірнісної інтерпретації, але, тим не менш, можуть бути використані при статистичному висновку, якщо гранична ймовірність є кінцевою оскільки задній розподіл ℓ ( θ | x ) d π ( θ

$$\int_\Theta \ell(\theta|x)\text{d}\pi(\theta) < +\infty$$ $$\dfrac{\ell(\theta|x)\text{d}\pi(\theta)}{\int_\Theta \ell(\theta|x)\text{d}\pi(\theta)}$$

Попередження: одна гілка байєсівського висновку не дуже добре справляється з неправильними пріоріями, а саме під час перевірки гострих гіпотез. Дійсно, ці гіпотези потребують побудови двох попередніх розподілів, одного під нульовим та одного під альтернативним, які є ортогональними. Якщо один з цих пріорів є неправильним, він не може бути нормалізований, а отриманий коефіцієнт Байєса не визначений.

$\delta$$L(d,\theta)$$\text{d}\pi$

$$\arg \min_d \int_\Theta L(d,\theta)\ell(\theta|x)\text{d}\pi(\theta)$$ $L(d,\theta)\text{d}\pi(\theta)$$\varpi(\theta)$$\varpi(\theta)$ $$L(d,\theta)\text{d}\pi(\theta)=\dfrac{L(d,\theta)}{\varpi(\theta)}\times\varpi(\theta)\text{d}\pi(\theta)$$

Неінформативні пріори - це класи (правильних чи неправильних) попередніх розподілів, які визначаються з урахуванням певного інформаційного критерію, що стосується функції ймовірності, наприклад

1. Попередня недостатня причина Лапласа;
2. Джефріс (1939) інваріантні пріори;
3. максимальна ентропія (або MaxEnt) пріори (Jaynes, 1957);
4. мінімальні тривалість опису (Rissanen, 1987; Grünwald, 2005);
5. референтні приори (Bernardo, 1979, 1781; Berger & Bernardo, 1992; Bernardo & Sun, 2012)
6. імовірність відповідності пріорів (Welsh & Peers, 1963; Scricciolo, 1999; Datta, 2005)

та подальші заняття, деякі з яких описані у Kass & Wasserman (1995). Назва неінформативна є помилковим у тому, що жодне попереднє не буває абсолютно неінформативним. Дивіться мої дискусію на цьому форумі. Або Ларрі Вассермана діатриби . (Неінформативні пріори найчастіше є неправильними.)

$95\%$$95\%$

Неінформативний пріоритет часто є "неналежним". Розподіл має загальновідому властивість: його інтеграл дорівнює одиниці. Кажуть, що неінформативний пріоритет є неправильним, коли його інтеграл нескінченний (тому в такому випадку зрозуміло, що це не розподіл).