Джеффрі до біноміальної ймовірності

Якщо я використовую Jeffreys раніше для параметра біноміальної ймовірності $\theta$ то це означає використання a $\theta \sim beta(1/2,1/2)$ розповсюдження.

Якщо я перетворяться на нову систему відліку $\phi = \theta^2$ то чітко $\phi$ також не поширюється як $beta(1/2,1/2)$ розповсюдження.

Моє запитання в тому, в чому сенс Джеффрі інваріантний репараметеризації? Я думаю, що я неправильно розумію тему, щоб бути чесним ...

Найкраще,

Бен

bayesian jeffreys-prior

— ben18785
джерело

Пріоритет Джеффрі інваріантний в тому сенсі, що починати з Джефріса до однієї параметризації та запустити відповідну зміну змінної ідентично виведенню Джеффріса безпосередньо перед цією новою параметризацією. Власне, еквівалент був би більш відповідним терміном, ніж інваріантний .

— Сіань

@ Ben18785: подивіться на stats.stackexchange.com/questions/38962 / ...

— Zen

Дивіться також math.stackexchange.com/questions/210607/… (більш-менш те саме питання я думаю, але на іншому веб-сайті).

— Натаніел

Дивіться також stats.stackexchange.com/questions/139001/…

— Крістоф Хенк

Давайте $\phi = g(\theta)$ , де $g$ є монотонною функцією $\theta$ і нехай $h$ бути оберненою $g$ , так що $\theta = h(\phi)$ . Ми можемо отримати попередній розподіл Джефрі $p_{J}(\phi)$ двома способами:

Почніть з біноміальної моделі (1) $p (у | θ) = (\binom{н}{у}) θ^{у} (1 - θ)^{н - у}$ $\begin{equation} \label{original} p(y | \theta) = \binom{n}{y} \theta^{y} (1-\theta)^{n-y} \end{equation}$ перерамометризуйте модель за допомогою $\phi = g(\theta)$ отримати $p (у | ϕ) = (\binom{н}{у}) год (ϕ)^{у} (1 - год (ϕ))^{н - у}$ $p(y | \phi) = \binom{n}{y} h(\phi)^{y} (1-h(\phi))^{n-y}$ і отримати попередній розподіл Джефрі $p_{J}(\phi)$ для цієї моделі.
Отримайте попередній розподіл Джефрі $p_{J}(\theta)$ з оригінальної біноміальної моделі 1 і застосувати формулу зміни змінних для отримання індукованої попередньої щільності на $\phi$ $p_{J} (ϕ) = p_{J} (год (ϕ)) | \frac{г год}{г ϕ} | .$ $p_{J}(\phi) = p_{J}(h(\phi)) |\frac{dh}{d\phi}|.$

Бути інваріантним до репараметеризації означає, що щільність $p_{J}(\phi)$ виведені обома способами повинні бути однаковими. Попередня Джеффрі має таку характеристику [Довідка: Перший курс байєсівських статистичних методів П. Гоффа .]

Щоб відповісти на ваш коментар. Щоб отримати попередній розподіл Джефрі $p_{J}(\theta)$ від вірогідності для біноміальної моделі

p (у | θ) = (\binom{н}{у}) θ^{у} (1 - θ)^{н - у}

$p(y | \theta) = \binom{n}{y} \theta^{y} (1-\theta)^{n-y}$ ми повинні обчислити інформацію Фішера, взявши логарифм вірогідності

l

$l$ і обчислити другу похідну

l

$l$

\begin{aligned} л : = журнал (p (у | θ)) & \propto у журнал (θ) + (н - у) журнал (1 - θ) \\ \frac{\partial л}{\partial θ} & = \frac{у}{θ} - \frac{н - у}{1 - θ} \\ \frac{\partial^{2} л}{\partial θ^{2}} & = - \frac{у}{θ^{2}} - \frac{н - у}{(1 - θ)^{2}} \end{aligned}

$\begin{align*} l := \log(p(y | \theta)) &\propto y \log(\theta) + (n-y) \log(1-\theta) \\ \frac{\partial l }{\partial \theta} &= \frac{y}{\theta} - \frac{n-y}{1-\theta} \\ \frac{\partial^{2} l }{\partial \theta^{2}} &= -\frac{y}{\theta^{2}} - \frac{n-y}{ (1-\theta)^{2} } \end{align*}$ а інформація про Фішера є

\begin{aligned} Я (θ) & = - Е (\frac{\partial^{2} л}{\partial θ^{2}} | θ) \\ = \frac{н θ}{θ^{2}} + \frac{н - н θ}{(1 - θ)^{2}} \\ = \frac{н}{θ (1 - θ)} \\ \propto θ^{- 1} (1 - θ)^{- 1} . \end{aligned}

$\begin{align*} I(\theta) &= -E(\frac{\partial^{2} l }{\partial \theta^{2}} | \theta) \\ &= \frac{n\theta}{\theta^{2}} + \frac{n - n \theta}{(1-\theta)^{2}} \\ &= \frac{n}{\theta ( 1- \theta)} \\ &\propto \theta^{-1} (1-\theta)^{-1}. \end{align*}$ Пріоритетом Джефрі для цієї моделі є

\begin{aligned} p_{J} (θ) & = \sqrt{Я (θ)} \\ \propto θ^{- 1 / 2} (1 - θ)^{- 1 / 2} \end{aligned}

$\begin{align*} p_{J}(\theta) &= \sqrt{I(\theta)} \\ &\propto \theta^{-1/2} (1-\theta)^{-1/2} \end{align*}$ який

beta (1 / 2, 1 / 2)

$\texttt{beta}(1/2, 1/2)$ .

— Марко Лалович
джерело

Дякую за вашу відповідь. Боюся, я трохи повільний, хоча. У якому сенсі ми можемо отримати пріоритет від вірогідності? Це дві окремі речі, а остання не передбачає першої ...

— ben18785

Я відповів вище, отримавши прихильність Джефрі

p_{J} (θ)

$p_{J}(\theta)$ від вірогідності для біноміальної моделі.

— Марко Лалович