Який сенс неінформативних пріорів?

Чому навіть є неінформативні пріори? Вони не надають інформацію про . То навіщо їх використовувати? Чому б не використовувати лише інформативні пріори? Наприклад, припустимо . Тоді є неінформативним попереднім для ? $\theta$ $\theta \in [0,1]$ $\theta \sim \mathcal{U}(0,1)$ $\theta$

bayesian uninformative-prior jeffreys-prior

— Роббі
джерело

Нещодавня пов’язана дискусія: stats.stackexchange.com/questions/27589/…

— jthetzel

Ну, якщо у вас немає підстав для визначення попереднього, чому ви хочете змістити свої оцінки, довільно призначивши їх?

— Макрос

Більш того, рівномірний розподіл не є інформаційним попередженням. Наприклад, він змушує

бути, ймовірно, близьким до

ніж

θ^{2}

$\theta^2$

0

$0$

1

$1$

— Стефан Лоран

Дебати про неінформативних пріорів тривають впродовж віків, принаймні, з кінця 19 століття з критикою Бертрандом та де Морганом щодо відсутності інваріантності однорідних пріорів Лапласа (та сама критика, про яку повідомляв Стефан Лоран у вище коментарі). Ця відсутність інваріантності звучала як смертельний удар для байєсівського підходу, і, хоча деякі байєси відчайдушно намагалися вчепитися в конкретні розподіли, використовуючи менше, ніж формальні аргументи, інші мали бачення більшої картини, де пріори можна було б використовувати в ситуаціях, коли там майже не було жодної попередньої інформації, крім форми ймовірності.

Це бачення найкраще представлено розподілами Джеффріса, де інформаційна матриця моделі вибірки перетворюється на попередній розподіл $I(\theta)$

π (θ) \propto | I (θ) |^{1 / 2}

$\pi(\theta) \propto |I(\theta)|^{1/2}$

Ці пріорі дійсно дають посилання, за яким можна обчислити або опорний оцінювач / тест / прогнозування, або власний оцінювач / тест / прогнозування, використовуючи різні попередні мотивації суб'єктивних та об'єктивних даних. Відповісти прямо на питання "чому б не використовувати лише інформативні пріори?", Насправді відповіді немає. Попередній розподіл - це вибір, зроблений статистиком, ні стан природи, ні прихована змінна. Іншими словами, немає "найкращого попереднього", який "повинен використовувати". Тому що така природа статистичного висновку, що "найкращої відповіді" немає.

Звідси мій захист від неінформативного / довідкового вибору ! Він надає той самий діапазон інфекційних інструментів, що й інші пріори, але дає відповіді, які надихаються лише формою функції ймовірності, а не викликаються певною думкою про діапазон невідомих параметрів.

— Сіань
джерело