Чи потрібно дотримуватися принципу ймовірності бути баєсом?

Це запитання випливає із запитання: Коли (якщо взагалі колись) є частотистський підхід істотно кращий, ніж байєсівський?

Як я публікував у своєму вирішенні цього питання, на мою думку, якщо ви є частою діяльністю, вам не доведеться вірити / дотримуватися принципу ймовірності, оскільки часто методи лікарів-чатувальників порушують це. Однак, і це, як правило, за припущенням належних пріорів, байєсівські методи ніколи не порушують принцип ймовірності.

Отже, якщо говорити, що ви баєсий, це підтверджує чиюсь віру чи згоду в принципі ймовірності, або це аргумент того, що бути байєсим просто є приємним наслідком того, що принцип ймовірності не порушується?

bayesian likelihood likelihood-principle

— Іржавий статистик
джерело

Ні - перегляньте Джефріса. Байєсівські методи можуть порушити принцип (сильної) ймовірності.

— Scortchi

Так, Jeffreys пріорі, а також рішення, які використовують дані кілька разів, як задні прогнози, порушують принцип ймовірності, але все ще можуть вважатися байєсівськими ...

— Xi'an

Не обов'язково. І я не впевнений, яка різниця це має.

— Scortchi

Порівняйте показники для біноміального та негативного двочленів.

— Scortchi

xianblog.wordpress.com/2014/11/13/…

— Відновити Моніку

При використанні теореми Байеса для обчислення задніх ймовірностей, які є висновком щодо параметрів моделі, принцип слабкої ймовірності автоматично дотримується:

p о с т е r i о r \propto p r i о r \times л i к е л i год о о г

$\mathrm{posterior} \propto \mathrm{prior} \times \mathrm{likelihood}$

Тим не менш, в деяких об'єктивних байєсівських підходах схема вибірки визначає вибір попереднього, мотивація полягає в тому, що неінформативний попередній максимум повинен збільшити розбіжність між попередніми і задніми розподілами - дозволяючи даним мати якомога більший вплив. Таким чином вони порушують сильний принцип ймовірності.

Наприклад, пріори Джеффрі пропорційні квадратному кореню детермінанта інформації Фішера, очікуванню щодо вибіркового простору. Розглянемо висновок про параметр ймовірності випробувань Бернуллі під час біноміального та негативного біноміального відбору проб. Приорами Джеффрі є $\pi$

\begin{aligned} {Пр}_{N Б} (π) & \propto π^{- 1} (1 - π)^{- \frac{1}{2}} \\ {Пр}_{Б i н} (π) & \propto π^{- \frac{1}{2}} (1 - π)^{- \frac{1}{2}} \end{aligned}

$\def\Pr{\mathop{\rm Pr}\nolimits} \begin{align} \Pr_\mathrm{NB}(\pi) &\propto \pi^{-1} (1-\pi)^{-\tfrac{1}{2}}\\ \Pr_\mathrm{Bin}(\pi) &\propto \pi^{-\tfrac{1}{2}} (1-\pi)^{-\tfrac{1}{2}} \end{align}$

$x$ $n$

\begin{aligned} {Пр}_{N Б} (π ∣ х, н) \sim Б е т а (х, н - х + \frac{1}{2}) \\ {Пр}_{Б i н} (π ∣ х, н) \sim Б е т а (х + \frac{1}{2}, н - х + \frac{1}{2}) \end{aligned}

$\begin{align} \Pr_\mathrm{NB}(\pi \mid x,n) \sim \mathrm{Beta}(x, n-x+\tfrac{1}{2})\\ \Pr_\mathrm{Bin}(\pi \mid x,n)\sim \mathrm{Beta}(x+\tfrac{1}{2}, n-x+\tfrac{1}{2}) \end{align}$

Таким чином, спостерігаючи, що успіх 1 з 10 випробувань призведе до зовсім інших розподілів заднього типу за двома схемами вибірки:

Хоча дотримання таких правил для отримання неінформативних пріорів іноді може залишити вас неналежними пріорами, що саме по собі не є коренем порушення принципу ймовірності, пов'язаного з практикою. Наближення до Джефріса, $\pi^{-1+c} (1-\pi)^{-1/2}$ , де $0 < c\ll 1$ , є цілком належним, і робить незначну різницю задньої частини.

Ви також можете розглянути перевірку моделі - або зробити щось у результаті перевірок - як суперечить слабкому принципу ймовірності; грубий випадок використання допоміжної частини даних.

— Скорчі - Відновлення Моніки
джерело