Приклади, коли інтервал довіри та достовірний інтервал збігаються

У статті у Вікіпедії про достовірний інтервал сказано:

У випадку з одним параметром і даними, які можна узагальнити в одній достатній статистиці, може бути показано, що достовірний інтервал і довірчий інтервал будуть збігатися, якщо невідомий параметр є параметром розташування (тобто функція ймовірності вперед має вигляд Pr (x | µ) = f (x - µ)), з попереднім, що є рівномірним плоским розподілом; [5], а також якщо невідомий параметр є масштабним параметром (тобто функція ймовірності вперед має вигляд Pr (x | s) = f (x / s)), з пріоритетом Джеффрі [5] - останнє наступне, оскільки прийняття логарифму такого масштабного параметра перетворює його в параметр розташування з рівномірним розподілом. Але це виразно особливі (хоч важливі) випадки; взагалі такої еквівалентності зробити не можна ".

Чи могли б люди навести конкретні приклади цього? Коли 95% ІС насправді відповідає "95% шансу", таким чином "порушуючи" загальне визначення ІС?

confidence-interval credible-interval

— Уейн
джерело

нормальний розподіл:

Візьміть звичайний розподіл із відомою дисперсією. Ми можемо вважати, що ця дисперсія дорівнює 1, не втрачаючи загальності (просто розділивши кожне спостереження на квадратний корінь дисперсії). Це розподіл вибірки:

p (X_{1} . . . X_{N} | μ) = {(2 π)}^{- \frac{N}{2}} \exp (- \frac{1}{2} \sum_{i = 1}^{N} (X_{i} - μ)^{2}) = A \exp (- \frac{N}{2} (\bar{X} - μ)^{2})

$p(X_{1}...X_{N}|\mu)=\left(2\pi\right)^{-\frac{N}{2}}\exp\left(-\frac{1}{2}\sum_{i=1}^{N}(X_{i}-\mu)^{2}\right)=A\exp\left(-\frac{N}{2}(\overline{X}-\mu)^{2}\right)$

Де - константа, яка залежить лише від даних. Це показує, що середня вибірка є достатньою статистикою для середньої сукупності. Якщо ми використовуємо рівномірний попередній, то задній розподіл для буде: $A$ $\mu$

(μ | X_{1} . . . X_{N}) \sim N o r m a l (\bar{X}, \frac{1}{N}) ⟹ (\sqrt{N} (μ - \bar{X}) | X_{1} . . . X_{N}) \sim N o r m a l (0, 1)

$(\mu|X_{1}...X_{N})\sim Normal\left(\overline{X},\frac{1}{N}\right)\implies \left(\sqrt{N}(\mu-\overline{X})|X_{1}...X_{N}\right)\sim Normal(0,1)$

Отже, вірогідний інтервал має форму: $1-\alpha$

(\bar{X} + \frac{1}{\sqrt{N}} L_{α}, \bar{X} + \frac{1}{\sqrt{N}} U_{α})

$\left(\overline{X}+\frac{1}{\sqrt{N}}L_{\alpha},\overline{X}+\frac{1}{\sqrt{N}}U_{\alpha}\right)$

Де і обрані таким чином, що стандартна звичайна випадкова величина задовольняє: $L_{\alpha}$ $U_{\alpha}$ $Z$

P r (L_{α} < Z < U_{α}) = 1 - α

$Pr\left(L_{\alpha}<Z<U_{\alpha}\right)=1-\alpha$

Тепер ми можемо почати з цієї "основної кількості" для побудови довірчого інтервалу. Розподіл вибірки для фіксованого є стандартним нормальним розподілом, тому ми можемо підставити це на вищезгадану ймовірність: $\sqrt{N}(\mu-\overline{X})$ $\mu$

P r (L_{α} < \sqrt{N} (μ - \bar{X}) < U_{α}) = 1 - α

$Pr\left(L_{\alpha}<\sqrt{N}(\mu-\overline{X})<U_{\alpha}\right)=1-\alpha$

Потім перестановіть рішення для , і довірчий інтервал буде таким самим, як і довірчий інтервал. $\mu$

Параметри масштабу:

Для параметрів шкали pdfs мають вигляд . Можна взяти , що відповідає . Спільний розподіл вибірки: $p(X_{i}|s)=\frac{1}{s}f\left(\frac{X_{i}}{s}\right)$ $(X_{i}|s)\sim Uniform(0,s)$ $f(t)=1$

p (X_{1} . . . X_{N} | s) = s^{- N} 0 < X_{1} . . . X_{N} < s

$p(X_{1}...X_{N}|s)=s^{-N}\;\;\;\;\;\;\;0<X_{1}...X_{N}<s$

З якої ми знаходимо достатню статистику, рівну (максимум спостережень). Зараз ми знаходимо його розподіл вибірки: $X_{max}$

P r (X_{m a x} < y | s) = P r (X_{1} < y, X_{2} < y . . . X_{N} < y | s) = {(\frac{y}{s})}^{N}

$Pr(X_{max}<y|s)=Pr(X_{1}<y,X_{2}<y...X_{N}<y|s)=\left(\frac{y}{s}\right)^{N}$

Тепер ми можемо зробити це незалежним від параметра, взявши . Це означає, що наша "основна кількість" задається з що є розподілом. Отже, ми можемо вибрати за допомогою бета-квантилів таким чином: $y=qs$ $Q=s^{-1}X_{max}$ $Pr(Q<q)=q^{N}$ $beta(N,1)$ $L_{\alpha},U_{\alpha}$

P r (L_{α} < Q < U_{α}) = 1 - α = U_{α}^{N} - L_{α}^{N}

$Pr(L_{\alpha}<Q<U_{\alpha})=1-\alpha=U_{\alpha}^{N}-L_{\alpha}^{N}$

І ми підміняємо основну кількість:

P r (L_{α} < s^{- 1} X_{m a x} < U_{α}) = 1 - α = P r (X_{m a x} L_{α}^{- 1} > s > X_{m a x} U_{α}^{- 1})

$Pr(L_{\alpha}<s^{-1}X_{max}<U_{\alpha})=1-\alpha=Pr(X_{max}L_{\alpha}^{-1}>s>X_{max}U_{\alpha}^{-1})$

І є наш інтервал довіри. Для рішення байесів з джеффрі до цього ми маємо:

p (s | X_{1} . . . X_{N}) = \frac{s^{- N - 1}}{\int_{X_{m a x}}^{\infty} r^{- N - 1} d r} = N (X_{m a x})^{N} s^{- N - 1}

$p(s|X_{1}...X_{N})=\frac{s^{-N-1}}{\int_{X_{max}}^{\infty}r^{-N-1}dr}=N (X_{max})^{N}s^{-N-1}$

⟹ P r (s > t | X_{1} . . . X_{N}) = N (X_{m a x})^{N} \int_{t}^{\infty} s^{- N - 1} d s = {(\frac{X_{m a x}}{t})}^{N}

$\implies Pr(s>t|X_{1}...X_{N})=N (X_{max})^{N}\int_{t}^{\infty}s^{-N-1}ds=\left(\frac{X_{max}}{t}\right)^{N}$

Тепер ми підключаємо довірчий інтервал і обчислюємо його достовірність

P r (X_{m a x} L_{α}^{- 1} > s > X_{m a x} U_{α}^{- 1} | X_{1} . . . X_{N}) = {(\frac{X_{m a x}}{X_{m a x} U_{α}^{- 1}})}^{N} - {(\frac{X_{m a x}}{X_{m a x} L_{α}^{- 1}})}^{N}

$Pr(X_{max}L_{\alpha}^{-1}>s>X_{max}U_{\alpha}^{-1}|X_{1}...X_{N})=\left(\frac{X_{max}}{X_{max}U_{\alpha}^{-1}}\right)^{N}-\left(\frac{X_{max}}{X_{max}L_{\alpha}^{-1}}\right)^{N}$

= U_{α}^{N} - L_{α}^{N} = P r (L_{α} < Q < U_{α})

$=U_{\alpha}^{N}-L_{\alpha}^{N}=Pr(L_{\alpha}<Q<U_{\alpha})$

І перед тим, ми маємо достовірність і охоплення . $1-\alpha$

— ймовірністьіслогічна
джерело

Шедевр, спасибі! Я сподівався, що може бути відповідь на кшталт "при обчисленні середнього показника вибірки з нормального розподілу 95% ДІ насправді також є 95% достовірним інтервалом" або щось таке просте. (Тільки складаючи цю передбачувану відповідь, я не маю підказки щодо конкретних прикладів.)

— Wayne

Я вважаю, що частотний інтервал прогнозування / допуску 95% відповідає інтервалу прогнозу Байєса з регресією OLS та нормальними помилками. Це з’являється, коли я порівнюю відповідь predict.lm із імітованою відповіддю. Це правда?

— Уейн

Для , Якщо ви використовуєте рівномірний параметр для і jeffreys до , то ви маєте еквівалентність.

Y = α + β X

$Y=\alpha+\beta X$

α, β

$\alpha,\beta$

σ

$\sigma$

— ймовірністьлогічний

Щиро дякую! Я намагаюся пояснити CI для регресу, який я зробив, з точки зору інтервалу довіри, і він просто не з'єднується з аудиторією мирян, яка очікує на достовірний інтервал. Мені набагато полегшується життя ... хоча, мабуть, це погано для загального статистичного світу, оскільки це посилить мирянське нерозуміння КІ.

— Уейн

@Wayne - ситуація дещо більш загальна, ніж просто сімейство за шкалою локації. Зазвичай ІС буде еквівалентним достовірному інтервалу, якщо він базується на "достатній статистиці" (як це було два) там, де це існує. Якщо немає достатньої статистики, то CI потрібно обумовити, що називається, "додаткова статистика", щоб мати достовірне інтервальне тлумачення.

— ймовірністьлогічний