Приклади байєсівського та частолістського підходу дають різні відповіді

Примітка: Я перебуваю в курсі філософських відмінностей між байєсівської і частотної статистикою.

Наприклад, "яка ймовірність того, що монета на столі є головами" не має сенсу в частоталістичній статистиці, оскільки вона має або посаджені голови, або хвости - нічого ймовірного в цьому немає. Тож на це питання немає відповіді у частістських термінах.

Але така різниця конкретно не є різницею, про яку я прошу.

Швидше, я хотів би знати, як їхні прогнози на добре сформовані питання насправді відрізняються в реальному світі, виключаючи будь-які теоретичні / філософські відмінності, такі як приклад, про який я згадував вище.

Іншими словами:

Що приклад питання, підзвітний в обох частотної і байєсівської статистикою, відповідь на який відрізняється між цими двома?

(наприклад, можливо, один з них відповідає "1/2" на певне запитання, а інший відповідає "2/3".)

Чи є такі відмінності?

• Якщо так, то які приклади?

• Якщо ні, то коли це насправді коли-небудь має значення, чи використовую я баєсовську чи частолістську статистику при вирішенні певної проблеми?
  Чому я б уникав одного на користь іншого?

Цей приклад взято звідси . (Я навіть думаю, що я отримав це посилання від SO, але більше не можу його знайти)

Монета була кинута разів, піднімаючи голови разів. Якщо його потрібно кинути вдвічі більше, ти зробив би ставку на дві голови? Припустимо, що ви не побачите результат першого жеребкування перед другим жеребкуванням (а також незалежно, що залежить від ), щоб ви не могли оновити свою думку щодо між двома кидками.$n=14$$k=10$$\theta$$\theta$

За незалежністю Тоді, прогнозний розподіл із заданим -prior, стає

$$f(y_{f,1}=\text{heads},y_{f,2}=\text{heads}|\theta)=f(y_{f,1}=\text{heads})f(y_{f,2}=\text{heads}|\theta)=\theta^2.$$ $\text{Beta}(\alpha_0,\beta_0)$ Бета(1,1)(10/14)2≈ $$\begin{eqnarray*} f(y_{f,1}=\text{heads},y_{f,2}=\text{heads}|y)&=&\int f(y_{f,1}=\text{heads},y_{f,2}=\text{heads}|\theta)\pi(\theta|y)d\theta\notag\\ &=&\frac{\Gamma\left(\alpha _{0}+\beta_{0}+n\right)}{\Gamma\left(\alpha_{0}+k\right)\Gamma\left(\beta_{0}+n-k\right)}\int \theta^2\theta ^{\alpha _{0}+k-1}\left( 1-\theta \right) ^{\beta _{0}+n-k-1}d\theta\notag\\ &=&\frac{\Gamma\left(\alpha_{0}+\beta_{0}+n\right)}{\Gamma\left(\alpha_{0}+k\right)\Gamma\left(\beta_{0}+n-k\right)}\frac{\Gamma\left(\alpha_{0}+k+2\right)\Gamma\left(\beta_{0}+n-k\right)}{\Gamma\left(\alpha_{0}+\beta_{0}+n+2\right)}\notag\\ &=&\frac{(\alpha_{0}+k)\cdot(\alpha_{0}+k+1)}{(\alpha_{0}+\beta_{0}+n)\cdot(\alpha_{0}+\beta_{0}+n+1)} \end{eqnarray*}$$ Для рівномірного попереднього ( a$\text{Beta}(1, 1)$-пріор), це дає приблизно .485. Отже, ви, швидше за все, не зробите ставку. Виходячи з MLE 10/14, ви могли б обчислити ймовірність двох голів , так що ставки мали б сенс.$(10/14)^2\approx.51$

Дивіться тут моє запитання , в якому згадується стаття Едвіна Джейнеса, яка наводить приклад правильно побудованого періодичного довірчого інтервалу, де у вибірці є достатня інформація, щоб точно знати, що справжнє значення статистики ніде не знаходиться в інтервалі довіри ( і таким чином інтервал довіри відрізняється від достовірного інтервалу Байєса).

Однак причиною цього є різниця у визначенні довірчого інтервалу та достовірного інтервалу, що, в свою чергу, є прямим наслідком різниці частото-баєсівських визначень ймовірності. Якщо ви попросите байєсів створити байєсівський довірчий (а не достовірний) інтервал, тоді я підозрюю, що завжди буде пріоритет, для якого інтервали будуть однаковими, тому різниці не залежать від вибору попереднього.

Чи підходять частофілістські чи байєсівські методи, залежить від питання, яке ви хочете поставити, і в кінці дня саме відповідь вирішує відповідь (за умови, що необхідні обчислювальні та аналітичні зусилля не враховуються).

Будучи дещо язиком у щоках, можна стверджувати, що частота тривалого бігу є цілком розумним способом визначення відносної правдоподібності пропозиції, і в цьому випадку частофілістська статистика є дещо дивним підмножиною суб'єктивного байєсіанства - тому на будь-яке питання, на який може звернутись учасник, суб'єктивістський баєсій також може відповісти тим самим, або яким-небудь іншим чином вони повинні обирати різних пріорів. ; o)

Я вважаю, що цей документ забезпечує більш цілеспрямоване розуміння компромісів у фактичних програмах між ними. Частина цього може бути пов'язана з моєю перевагою інтервалів, а не тестів.

Густафсон, П. і Ґренландія, С. (2009). Інтервальна оцінка даних безладної спостереження . Статистична наука 24: 328–342.

Що стосується інтервалів, можливо, варто пам’ятати, що частотні довірчі інтервали вимагають / вимагають рівномірного покриття (точно або принаймні велике, ніж x% для кожного значення параметра, що не має нульової ймовірності), і якщо вони не мають це - вони насправді не мають довірчих інтервалів. (Деякі йдуть далі і кажуть, що вони також повинні виключати відповідні підмножини, які змінюють покриття.)

Байєсівське покриття, як правило, визначається розслабленням, що "середнє покриття", враховуючи припущення, що попереднє, виявляється абсолютно правильним. Густафсон та Ґренландія (2009) називають цих всемогутних пріорів та вважають помилковими для кращої оцінки.

Якби хтось ставив запитання, яке має як частість, так і байєсівську відповідь, я підозрюю, що хтось інший зміг би визначити неоднозначність у питанні, таким чином, зробивши його не "добре сформованим".

Іншими словами, якщо вам потрібна частофілістська відповідь, використовуйте методи частості. Якщо вам потрібна байєсівська відповідь, використовуйте байєсівські методи. Якщо ви не знаєте, що вам потрібно, то, можливо, ви не визначилися однозначно.

Однак в реальному світі часто існує кілька різних способів визначити проблему або задати питання. Іноді незрозуміло, який із цих способів є кращим. Це особливо часто, коли клієнт статистично наївний. В іншому випадку на одне питання набагато складніше відповісти, ніж на інше. У таких випадках людина часто йде з найпростішим, намагаючись переконатись, що його клієнти точно погоджуються з тим, яке питання він задає або яку проблему він вирішує.

Рекомендую переглянути вправу 3.15 вільно доступних алгоритмів інформаційних підручників , алгоритмів викладання та навчання від MacKay.

Бельгійська монета за один євро, коли вона крутилася на межі 250 разів, піднімала голови в 140 разів, а хвости - 110. "Мені це здається дуже підозрілим", - сказав Баррі Біла, викладач статистики в Лондонській школі економіки. "Якби монета була неупереджена, шанс отримати результат такий екстремальний, як це було б менше 7%". Але чи свідчать ці дані, що монета є упередженою, а не справедливою?

Приклад детально опрацьовано на с. 63-64 підручника. Висновок полягає в тому, що -значення становить , але байєсівський підхід дає різні рівні підтримки для будь-якої гіпотези, залежно від попереднього. Це варіюється від рекомендованої відповіді без жодних доказів того, що монета є упередженою (коли використовується плоскість) до відповіді не більше проти нульової гіпотези про неупередженість у випадку, якщо використовується штучно екстремальний попередній час.0,07 6 : $p$$0.07$$6:1$