Яким чином Байесова достатність стосується достатності часто?

9

Найпростіше визначення достатньої статистики з точки зору частістів дано тут у Вікіпедії . Однак я нещодавно натрапив на байєсівську книгу з визначенням $P(\theta|x,t)=P(\theta|t)$ . У посиланні сказано, що обидва рівнозначні, але я не бачу як. Крім того, на цій самій сторінці в розділі «Інші типи достатності» зазначено, що обидва визначення не є еквівалентними у нескінченномірних просторах ...

Також, як ставлення прогностичної достатності стосується класичної достатності?

bayesian mathematical-statistics sufficient-statistics

— Старий у морі.
джерело

4

Якщо статистика $T$ то є достатньо частинним способом $p(\mathbf{x} \mid \theta, t) = p(\mathbf{x} \mid t)$ , тому

\begin{aligned} p (θ ∣ х, т) & = \frac{p (х ∣ т, θ) p (т ∣ θ) p (θ)}{p (х ∣ т) p (т)} \\ (частота. суф.) & = \frac{p (т ∣ θ) p (θ)}{p (т)} \\ = p (θ ∣ т) . \end{aligned}

$\begin{align*} p(\theta \mid \mathbf{x}, t) &= \frac{p(\mathbf{x}\mid t,\theta)p(t \mid \theta) p(\theta)}{p(\mathbf{x}\mid t)p(t)} \\ &= \frac{p(t \mid \theta) p(\theta)}{p(t)} \tag{freq. suff.}\\ &= p(\theta \mid t). \end{align*}$

З іншого боку, якщо $T$ то є достатнім у баєсівському способі

\begin{aligned} p (x ∣ θ, t) & = \frac{p (x, θ, t)}{p (θ, t)} \\ = \frac{p (θ ∣ x, t) p (x, t)}{p (θ ∣ t) p (t)} \\ (Bayesian suff.) & = \frac{p (х, т)}{p (т)} \\ = p (х ∣ т) . \end{aligned}

$\begin{align*} p(\mathbf{x} \mid \theta, t) &= \frac{p(\mathbf{x}, \theta,t)}{p(\theta,t)}\\ &= \frac{p(\theta \mid \mathbf{x},t) p(\mathbf{x},t)}{p(\theta\mid t)p(t)}\\ &= \frac{p(\mathbf{x},t)}{p(t)} \tag{Bayesian suff.}\\ &= p(\mathbf{x} \mid t). \end{align*}$

Щодо "достатності прогнозування", що це?

Редагувати: Якщо у вас є байєсівська достатність, ви маєте прогнозовану достатність:

\begin{aligned} p (х^{'} ∣ х) & = \int p (х^{'} ∣ θ) p (θ ∣ х) г θ \\ (Байєсівський суф.) & = \int p (х^{'} ∣ θ) p (θ ∣ т) г θ \\ = p (х^{'} ∣ т) . \end{aligned}

$\begin{align*} p(\mathbf{x}' \mid \mathbf{x}) &= \int p(\mathbf{x}' \mid \theta)p(\theta \mid \mathbf{x}) d\theta\\ &= \int p(\mathbf{x}' \mid \theta) p(\theta \mid t)d\theta \tag{Bayesian suff.}\\ &= p(\mathbf{x}' \mid t). \end{align*}$

— Тейлор
джерело

1

Тейлор, це визначено за тим же посиланням, прямо внизу в розділі Байєсової достатності.

— Старий чоловік у морі.

3

Ми зустріли цікаві явища кілька років тому , коли досліджували вибір байесівської моделі за допомогою ABC. Що, на мою думку, пов’язане з цим питанням. Дійсно, існує поняття достатності для вибору байесівської моделі, яке не виглядає особливо значущим поза байєсівським підходом.

Дано дві моделі

М_{1} = {f_{θ} (\cdot); θ \in Θ}

$\mathfrak{M}_1=\{f_\theta(\cdot); \theta\in\Theta\}$ і

М_{2} = {г_{ξ} (\cdot); ξ \in Ξ}

$\mathfrak{M}_2=\{g_\xi(\cdot); \xi\in\Xi\}$ і зразок

x = (x_{1}, \dots, x_{n})

$\mathbf{x}=(x_1,\ldots,x_n)$ від однієї з цих двох моделей - статистика

S

$S$ є достатнім для вибору моделі або по всій моделі, якщо вона розподіляється

X

$\mathbf{X}$ умовний на

S (X)

$S(\mathbf{X})$ не залежить ні від індексу моделі (1 або 2), ні від параметра параметра в моделі.

Коли існує така достатня статистика, базується фактор Байєса $\mathbf{X}$ це те саме, що базується на факторі Байєса $S(\mathbf{X})$ . Хоча це визначення, яке саме по собі не є баєсівським, я не бачу прямого застосування поза вибором байесівської моделі.

— Сіань
джерело