Вибір між неінформативними бета-пріорами

Я шукаю неінформативні пріори для бета-розподілу для роботи з біноміальним процесом (Hit / Miss). Спочатку я думав про використання які створюють єдиний PDF, або Джефрі попереднього . Але я насправді шукаю пріорів, які мають мінімальний вплив на задній результат, і тоді я подумав про те, щоб скористатись неналежним попереднім значенням . Проблема тут полягає в тому, що мій задній розподіл працює лише в тому випадку, якщо я маю принаймні один удар і один промах. Щоб подолати це, тоді я подумав про використання дуже малої константи, наприклад , просто для того, щоб переконатися, що задня та будуть . $\alpha=1, \beta=1$ $\alpha=0.5, \beta=0.5$ $\alpha=0, \beta=0$ $\alpha=0.0001, \beta=0.0001$ $\alpha$ $\beta$ $>0$

Хтось знає, чи прийнятний такий підхід? Я бачу чисельні наслідки зміни цих попередніх, але хтось міг би дати мені своєрідну інтерпретацію розміщення маленьких констант на зразок цього пріорів?

— Матеус
джерело

Для великих зразків з великою кількістю влучень і промахів це мало має значення. Для невеликих зразків, особливо якщо немає хоча б одного хіта та одного промаху, це має велику різницю; навіть розмір вашої "дуже малої постійної" може мати суттєвий вплив. Я хотів би запропонувати ключ уявний експеримент для вас може бути якась вкінці має сенс після того, як зразок розміром : це може переконати вас , що - щось на зразок Jeffrey сек до розумна

1

$1$

— Генрі

І є стаття Кермана, яка передбачає 1/3 та 1/3, б

— Бьорн

Що ви маєте на увазі під «мінімальним впливом на задній результат»? У порівнянні з чим?

— Буде чи

Я покращив форматування та назву вашого питання, не соромтесь повернути або змінити зміни.

— Тім

Перш за все, не існує такого поняття, як неінформативне попереднє . Нижче ви можете побачити задні розподіли, отримані в результаті п'яти різних "неінформативних" пріорів (описаних нижче сюжету) з різними даними. Як ви добре бачите, вибір "неінформативних" пріорів впливав на задній розподіл, особливо у випадках, коли самі дані не давали багато інформації .

"Неінформативні" пріори для розподілу бета-версії поділяють властивість, що , що призводить до симетричного розподілу, і , загальні варіанти вибору: попередні однорідні (Байєс-Лаплас) ( ), Джеффрі до ( ), "Нейтральний" до ( ), запропонований Керманом (2011), Халдайн до ( ), або це наближення ( з ) (див. також чудову статтю у Вікіпедії ). $\alpha = \beta$ $\alpha \le 1, \beta \le 1$ $\alpha = \beta = 1$ $\alpha = \beta = 1/2$ $\alpha = \beta = 1/3$ $\alpha = \beta = 0$ $\alpha = \beta = \varepsilon$ $\varepsilon > 0$

Параметри попереднього розподілу бета-версії зазвичай розглядаються як "псевдорахунки" успіхів ( ) і відмов ( ), оскільки задній розподіл бета-біноміальної моделі після спостереження за успіхами в випробуваннях є $\alpha$ $\beta$ $y$ $n$

θ ∣ y \sim B (α + y, β + n - y)

$\theta \mid y \sim \mathcal{B}(\alpha + y, \beta + n - y)$

тому чим вище , тим сильніше вони впливають на задню частину. Отже, вибираючи ви припускаєте, що ви "заздалегідь" побачили один успіх і один збій (це може бути, а може і не сильно залежати від ). $\alpha,\beta$ $\alpha=\beta=1$ $n$

На перший погляд, попередній Haldane, здається, є найбільш "неінформативним", оскільки це призводить до заднього середнього, тобто точно рівного максимальній оцінці ймовірності

\frac{α + y}{α + y + β + n - y} = y / n

$\frac{\alpha + y}{\alpha + y + \beta + n - y} = y / n$

Однак це призводить до неправильного заднього розподілу, коли або , що змусило Керналь та ін запропонувати власну до того, що дає задню медіану, максимально наближену до максимальної оцінки ймовірності, водночас є правильний розподіл. $y=0$ $y=n$

Існує ряд аргументів «за» і «проти» кожного з «неінформативних» пріорів (див. Kerman, 2011; Tuyl et al, 2008). Наприклад, як обговорювали Tuyl et al,

. . . слід бути обережним зі значеннями параметрів нижче , як для неінформативних, так і для інформативних пріорів, оскільки такі пріори концентрують свою масу близьку до та / або і можуть придушити важливість спостережуваних даних. $1$ $0$ $1$

З іншого боку, використання рівномірних пріорів для невеликих наборів даних може бути дуже впливовим (подумайте про це з точки зору псевдонарахувань). Ви можете знайти набагато більше інформації та дискусій на цю тему у кількох статтях та посібниках.

Так вибачте, але немає жодних пріорів "кращий", "найбільш неінформативний" або "один розмір-пристосований". Кожен з них вносить у модель певну інформацію.

Керман, Дж. (2011). Нейтральні неінформативні та інформативні кон'югати бета- та гамма-попередніх розподілів. Електронний журнал статистики, 5, 1450-1470.

Туїл, Ф., Герлах, Р. і Менгерсен, К. (2008). Порівняння Байєса-Лапласа, Джеффріса та інших пріорів. Американський статистик, 62 (1): 40-44.

— Тім
джерело