Еквівалентність (0 + фактор | група) та (1 | група) + (1 | група: фактор) специфікацій випадкових ефектів у разі симетрії сполуки

Дуглас Бейтс зазначає, що наступні моделі є еквівалентом "якщо матриця коваріації дисперсії для випадкових ефектів, що оцінюються за вектором, має спеціальну форму, що називається складовою симетрією" ( слайд 91 у цій презентації ):

m1 <- lmer(y ~ factor + (0 + factor|group), data)
m2 <- lmer(y ~ factor + (1|group) + (1|group:factor), data)

Конкретно Бейтс використовує цей приклад:

library(lme4)
data("Machines", package = "MEMSS")

m1a <- lmer(score ~ Machine + (0 + Machine|Worker), Machines)
m2a <- lmer(score ~ Machine + (1|Worker) + (1|Worker:Machine), Machines)

з відповідними виходами:

print(m1a, corr = FALSE)

Linear mixed model fit by REML ['lmerMod']
Formula: score ~ Machine + (0 + Machine | Worker)
   Data: Machines
REML criterion at convergence: 208.3112
Random effects:
 Groups   Name     Std.Dev. Corr     
 Worker   MachineA 4.0793            
          MachineB 8.6253   0.80     
          MachineC 4.3895   0.62 0.77
 Residual          0.9616            
Number of obs: 54, groups:  Worker, 6
Fixed Effects:
(Intercept)     MachineB     MachineC  
     52.356        7.967       13.917  

print(m2a, corr = FALSE)

Linear mixed model fit by REML ['lmerMod']
Formula: score ~ Machine + (1 | Worker) + (1 | Worker:Machine)
   Data: Machines
REML criterion at convergence: 215.6876
Random effects:
 Groups         Name        Std.Dev.
 Worker:Machine (Intercept) 3.7295  
 Worker         (Intercept) 4.7811  
 Residual                   0.9616  
Number of obs: 54, groups:  Worker:Machine, 18; Worker, 6
Fixed Effects:
(Intercept)     MachineB     MachineC  
     52.356        7.967       13.917

Чи може хтось пояснити різницю між моделями та як m1зводиться до m2(заданої симетрії складання) інтуїтивно зрозумілим чином?

У цьому прикладі є три спостереження за кожною комбінацією трьох машин (A, B, C) та шести робітників. Я буду використовувати для позначення -вимірної матриці ідентичності та для позначення -вимірного вектора з них. Скажімо, - вектор спостережень, який, я вважаю, замовляється працівником, потім машина потім реплікує. Нехай - відповідні очікувані значення (наприклад, фіксовані ефекти), і нехай - вектор групових відхилень від очікуваних значень (наприклад, випадкові ефекти). Умовно на модель для можна записати:$I_n$$n$$1_n$$n$$y$$\mu$$\gamma$$\gamma$$y$

$$y \sim \mathcal{N}(\mu + \gamma, \sigma^2_y I_{54})$$

де - "залишкова" дисперсія.$\sigma^2_y$

Щоб зрозуміти, як структура коваріації випадкових ефектів індукує структуру коваріації серед спостережень, більш інтуїтивно працювати з еквівалентним «граничним» поданням , яке інтегрується над випадковими ефектами . Граничною формою цієї моделі є,$\gamma$

$$y \sim \mathcal{N}(\mu, \sigma^2_y I_{54} + \Sigma)$$

Тут - коваріаційна матриця, яка залежить від структури (наприклад, "компоненти дисперсії", що лежать в основі випадкових ефектів). Я буду називати як "граничну" коваріацію.$\Sigma$$\gamma$$\Sigma$

У вашому m1випадку випадкові ефекти розкладаються як:

$$\gamma = Z \theta$$

Де - матриця проектування, яка відображає випадкові коефіцієнти на спостереження, і - 18-мірний вектор випадкових коефіцієнтів, упорядкований працівником, а потім машиною, і розподіляється як:$Z = I_{18} \otimes 1_3$$\theta^T = [\theta_{1,A}, \theta_{1,B}, \theta_{1,C} \dots \theta_{6,A}, \theta_{6,B}, \theta_{6,C}]$

$$\theta \sim \mathcal{N}(0, I_6 \otimes \Lambda)$$

Тут - коваріація випадкових коефіцієнтів. Припущення про складну симетрію означає, що має два параметри, які я назву і , і структуру:$\Lambda$$\Lambda$$\sigma_\theta$$\tau$

$$\Lambda = \left[\begin{matrix} \sigma^2_\theta + \tau^2 & \tau^2 & \tau^2 \\ \tau^2 & \sigma^2_\theta + \tau^2 & \tau^2 \\ \tau^2 & \tau^2 & \sigma^2_\theta + \tau^2 \end{matrix}\right]$$

(Іншими словами, кореляційна матриця, що лежить в основі має всі елементи на позадіагоналі, встановлені на одне значення.)$\Lambda$

Гранична структура коваріації, індукована цими випадковими ефектами, є , так що дисперсія даного спостереження є а коваріація між двома (окремими) спостереженнями від працівників та машин є: $\Sigma = Z (I_6 \otimes \Lambda) Z^T$$\sigma^2_\theta + \tau^2 + \sigma^2_y$$i, j$$u, v$

$$\mathrm{cov}(y_{i,u}, y_{j,v}) = \begin{cases} 0 & \text{if } i\neq j \\ \tau^2 & \text{if } i=j, u\neq v \\ \sigma^2_\theta + \tau^2 & \text{if } i=j, u=v \end{cases}$$

Для вашого m2випадку випадкові ефекти розкладаються на:

$$\gamma = Z \omega + X \eta$$

Де Z як і раніше, - це матриця проектування, яка відображає випадкові перехоплення на одного робітника на спостереження, - 18-мірний вектор випадкових перехоплень для кожної комбінації машини і працівника; і - це 6-мірний вектор випадкових перехоплень для працівника. Вони розподіляються як Де - це дисперсії цих випадкових перехоплювачів.$X = I_6 \otimes 1_9$$\omega^T = [\omega_{1,A}, \omega_{1,B}, \omega_{1,C}, \dots, \omega_{6,A}, \omega_{6,B}, \omega_{6,C}]$$\eta^T = [\eta_{1}, \dots, \eta_{6}]$

$$\eta \sim \mathcal{N}(0, \sigma^2_\eta I_6)$$ $$\omega \sim \mathcal{N}(0, \sigma^2_\omega I_{18})$$ $\sigma_\eta^2, \sigma_\omega^2$

Гранична ковариационная структура m2є , так що дисперсія даного спостереження є , а коваріація між двома спостереженнями працівників та машин є: $\Sigma = \sigma^2_\omega Z Z^T + \sigma^2_\eta X X^T$$\sigma^2_\omega + \sigma^2_\eta + \sigma^2_y$$i, j$$u, v$

$$\mathrm{cov}(y_{i,u}, y_{j,v}) = \begin{cases} 0 & \text{if } i\neq j \\ \sigma_\eta^2 & \text{if } i=j,u\neq v \\ \sigma^2_\omega + \sigma^2_\eta & \text{if } i=j,u=v \end{cases}$$

Отже ... і . Якщо передбачається складна симетрія (чого вона не відповідає вашому заклику до lmer, оскільки коваріація випадкових ефектів неструктурована). τ 2 ≡ σ 2 $\sigma^2_\theta \equiv \sigma^2_\omega$$\tau^2 \equiv \sigma^2_\eta$ m1

Стислість не є моїм сильним моментом: це все лише довгий, суперечливий спосіб сказати, що кожна модель має два параметри дисперсії для випадкових ефектів і є лише двома різними способами написання однієї і тієї ж "граничної" моделі.

У коді ...

sigma_theta <- 1.8
tau         <- 0.5
sigma_eta   <- tau
sigma_omega <- sigma_theta
Z <- kronecker(diag(18), rep(1,3))
rownames(Z) <- paste(paste0("worker", rep(1:6, each=9)), 
                     rep(paste0("machine", rep(1:3, each=3)),6))
X <- kronecker(diag(6), rep(1,9))
rownames(X) <- rownames(Z)
Lambda <- diag(3)*sigma_theta^2 + tau^2

# marginal covariance for m1:
Z%*%kronecker(diag(6), Lambda)%*%t(Z)
# for m2:
X%*%t(X)*sigma_eta^2 + Z%*%t(Z)*sigma_omega^2