У нормальних та біноміальних моделях чи завжди задня дисперсія менша за попередню дисперсію?

Або які умови це гарантують? Взагалі (і не тільки нормальні та біноміальні моделі) я вважаю, що головна причина, яка порушила цю заяву, полягає в тому, що між моделлю вибірки та попередньою є невідповідність, але що ще? Я починаю з цієї теми, тому дуже ціную легкі приклади

Оскільки задні та попередні відхилення на задовольняють (із символом позначає зразок) припускаючи, що існують усі величини, можна очікувати, що задня дисперсія буде в середньому меншою (у ). Це , зокрема , той випадок , коли задня дисперсія постійна в . Але, як показано в іншій відповіді, можлива реалізація задньої дисперсії, яка більша, оскільки результат має місце лише в очікуванні.$\theta$$X$

$$\text{var}(\theta) = \mathbb{E}[\text{var}(\theta|X)]+\text{var}(\mathbb{E}[\theta|X])$$ $X$$X$

Цитувати Ендрю Гельмана,

Ми розглядаємо це у розділі 2 Баєсівського аналізу даних , я думаю, що в декількох проблемах домашнього завдання. Коротка відповідь полягає в тому, що в очікуванні задня дисперсія зменшується в міру отримання більше інформації, але, залежно від моделі, в окремих випадках дисперсія може збільшуватися. Для деяких моделей, таких як нормальна та двочленна, задня дисперсія може лише зменшуватися. Але розглянемо модель t з низькими ступенями свободи (що можна інтерпретувати як суміш нормалей із загальною середньою та різними дисперсіями). якщо ви спостерігаєте екстремальне значення, це свідчить про те, що дисперсія велика, і справді ваша задня дисперсія може зрости.

Це буде скоріше питання до @ Xi'an, ніж відповідь.

Я збирався відповісти, що задня дисперсія при кількість випробувань, кількість успіхів і коефіцієнти бета-версії до, перевищуючи попередню дисперсію можливий також у біноміальній моделі на підставі наведеного нижче прикладу, в якому ймовірність і попередні мають різкий контраст, так що задній проміжок знаходиться "занадто далеко між". Схоже, це суперечить цитаті Гельмана.

$$V(\theta|y)=\frac{\alpha_{1}\beta_1}{(\alpha_{1}+\beta_1)^2(\alpha_{1}+\beta_1+1)}=\frac{(\alpha _{0}+k)(n-k+\beta_{0})}{(\alpha_{0}+n+\beta_0)^2(\alpha_{0}+n+\beta_0+1)},$$ $n$$k$$\alpha_{0},\beta_0$ $$V(\theta)=\frac{\alpha_{0}\beta_0}{(\alpha_{0}+\beta_0)^2(\alpha_{0}+\beta_0+1)}$$

n <- 10         
k <- 1
alpha0 <- 100
beta0 <- 20

theta <- seq(0.01,0.99,by=0.005)
likelihood <- theta^k*(1-theta)^(n-k) 
prior <- function(theta,alpha0,beta0) return(dbeta(theta,alpha0,beta0))
posterior <- dbeta(theta,alpha0+k,beta0+n-k)

plot(theta,likelihood,type="l",ylab="density",col="lightblue",lwd=2)

likelihood_scaled <- dbeta(theta,k+1,n-k+1)
plot(theta,likelihood_scaled,type="l",ylim=c(0,max(c(likelihood_scaled,posterior,prior(theta,alpha0,beta0)))),ylab="density",col="lightblue",lwd=2)
lines(theta,prior(theta,alpha0,beta0),lty=2,col="gold",lwd=2)
lines(theta,posterior,lty=3,col="darkgreen",lwd=2)
legend("top",c("Likelihood","Prior","Posterior"),lty=c(1,2,3),lwd=2,col=c("lightblue","gold","darkgreen"))

 > (postvariance <- (alpha0+k)*(n-k+beta0)/((alpha0+n+beta0)^2*(alpha0+n+beta0+1)))
[1] 0.001323005
> (priorvariance <- (alpha0*beta0)/((alpha0+beta0)^2*(alpha0+beta0+1)))
[1] 0.001147842

Отже, цей приклад пропонує більшу задню дисперсію в біноміальній моделі.

Звичайно, це не очікувана задня зміна. В цьому полягає невідповідність?

Відповідна цифра -