Обчисліть передбачення випадкових ефектів вручну для лінійної змішаної моделі

Я намагаюся вручну обчислити передбачення випадкових ефектів від лінійної змішаної моделі, і використовуючи позначення, надані Вудом в узагальнених моделях добавок: вступ з R (pg 294 / pg 307 pdf), я заплутався в тому, які параметри кожного представляє.

Нижче наведено резюме з Вуду.

Визначте лінійну змішану модель

$$Y = X\beta + Zb + \epsilon$$

де b N (0, ), і N (0, )ψ ϵ ∼ σ $\sim$$\psi$$\epsilon \sim$$\sigma^{2}$

Якщо b і y - випадкові величини з спільним нормальним розподілом

$$\begin{align*} \begin{bmatrix} b\\ y \end{bmatrix} &\sim N \begin{bmatrix} \begin{bmatrix} 0\\ X\beta \end{bmatrix}\!\!,& \begin{bmatrix} \psi & \Sigma_{by} \\ \Sigma_{yb}& \Sigma_{\theta}\sigma^{2} \end{bmatrix} \end{bmatrix}\\ \end{align*}$$

Прогнози РЕ обчислюються за

$$\begin{align*} E[b \mid y] &= \Sigma_{by} \Sigma_{yy}^{-1} (y - x\beta)\\ &= \Sigma_{by}\Sigma_{\theta}^{-1}(y - x \beta) / \sigma^{2}\\ &= \psi z^{T}\Sigma_{\theta}^{-1} (y - x \beta) / \sigma^{2} \end{align*}$$

де$\Sigma_{\theta} = Z\psi Z^{T} /\sigma^{2} + I_{n}$

Використовуючи приклад моделі випадкового перехоплення з lme4пакету R, я отримую вихід

library(lme4)
m = lmer(angle ~ temp + (1 | replicate), data=cake)
summary(m)

% Linear mixed model fit by REML ['lmerMod']
% Formula: angle ~ temp + (1 | replicate)
%    Data: cake
% 
% REML criterion at convergence: 1671.7
% 
% Scaled residuals: 
%      Min       1Q   Median       3Q      Max 
% -2.83605 -0.56741 -0.02306  0.54519  2.95841 
% 
% Random effects:
%  Groups    Name        Variance Std.Dev.
%  replicate (Intercept) 39.19    6.260   
%  Residual              23.51    4.849   
% Number of obs: 270, groups:  replicate, 15
% 
% Fixed effects:
%             Estimate Std. Error t value
% (Intercept)  0.51587    3.82650   0.135
% temp         0.15803    0.01728   9.146
% 
% Correlation of Fixed Effects:
%      (Intr)
% temp -0.903

Так що з цим, я думаю = 23,51, можна оцінити , і від площі залишків рівня населення.( y - X β $\psi$$(y-X\beta)$cake$angle - predict(m, re.form=NA)sigma

th = 23.51
zt = getME(m, "Zt") 
res = cake$angle - predict(m, re.form=NA)
sig = sum(res^2) / (length(res)-1)

Помноження цих даних разом дає

th * zt %*% res / sig
         [,1]
1  103.524878
2   94.532914
3   33.934892
4    8.131864
---

що невірно в порівнянні з

> ranef(m)
$replicate
   (Intercept)
1   14.2365633
2   13.0000038
3    4.6666680
4    1.1182799
---

Чому?

Дві проблеми (я зізнаюся, мені знадобилося 40 хвилин, щоб помітити другу):

1. Ви не повинні обчислювати з квадратом залишків, він оцінюється як REML як , і немає гарантії, що BLUP матиме однакову дисперсію.$\sigma^2$23.51

   sig <- 23.51

   І це не ! Який оцінюється як$\psi$39.19

   psi <- 39.19

2. Залишки не отримуються за допомогою, cake$angle - predict(m, re.form=NA)а за допомогою residuals(m).

Збираючи його разом:

> psi/sig * zt %*% residuals(m)
15 x 1 Matrix of class "dgeMatrix"
         [,1]
1  14.2388572
2  13.0020985
3   4.6674200
4   1.1184601
5   0.2581062
6  -3.2908537
7  -4.6351567
8  -4.5813846
9  -4.6351567
10 -3.1833095
11 -2.1616392
12 -1.1399689
13 -0.2258429
14 -4.0974355
15 -5.3341942

який схожий на ranef(m).

Я дійсно не отримую те, що predictобчислює.

---

$\hat\epsilon$$PY$$P = V^{-1} - V^{-1} X \left(X' V^{-1} X\right)^{-1} X' V^{-1}$

$$\hat\epsilon = \sigma^2 PY$$ $$\hat b = \psi Z^t PY.$$

$\hat b = \psi / \sigma^2 Z^t \hat\epsilon$