Модельні матриці для моделей змішаних ефектів

У lmerфункції всередині lme4в Rє виклик для побудови матричної моделі випадкових ефектів $Z$ , як пояснено тут , на сторінках 7 - 9.

Обчислення $Z$ тягне за собою продукти ХатріРао та / або Кронекера з двох матриць, $J_i$ та $X_i$ .

Матриця $J_i$ є виразною: "Показникова матриця групування факторних індексів", але, здається, це розріджена матриця з фіктивним кодуванням, щоб вибрати, яку одиницю (наприклад, суб'єкти в повторних вимірюваннях), що відповідають вищим ієрархічним рівням, "включено" для будь-якого спостереження. $X_i$ матриця , здається, діє як селектор вимірювань в нижньому ієрархічному рівні, так що поєднання обох «селектор» дасть матрицю, $Z_i$ від форми , показаної на папері з допомогою наступного прикладу:

(f<-gl(3,2))

[1] 1 1 2 2 3 3
Levels: 1 2 3

(Ji<-t(as(f,Class="sparseMatrix")))

6 x 3 sparse Matrix of class "dgCMatrix"
     1 2 3
[1,] 1 . .
[2,] 1 . .
[3,] . 1 .
[4,] . 1 .
[5,] . . 1
[6,] . . 1

(Xi<-cbind(1,rep.int(c(-1,1),3L)))
     [,1] [,2]
[1,]    1   -1
[2,]    1    1
[3,]    1   -1
[4,]    1    1
[5,]    1   -1
[6,]    1    1

Транспонування кожної з цих матриць та виконання множення Хатрі-Рао:

$\left[\begin{smallmatrix}1 & 1 &. &. &. &.\\.&.&1&1&.&.\\.&.&.&.&1&1 \end{smallmatrix}\right]\ast \left[\begin{smallmatrix}\,\,\,\,1 & 1 &\,\,\,\,1 &1 &\,\,\,\,1 &1\\-1&1&-1&1&-1&1 \end{smallmatrix}\right]= \left[\begin{smallmatrix}\,\,1 & 1 &.&.&.&.\\\,\,\,\,-1 &1&.&.&.&.\\ .&.&\,\,\,\,\,1 &1&.&.\\.&.&\,\,-1&1&.&.\\.&.&.&.&\,\,\,1&1\\.&.&.&.&-1&1 \end{smallmatrix}\right]$

Але є його транспозитом: $Z_i$

(Zi<-t(KhatriRao(t(Ji),t(Xi))))

6 x 6 sparse Matrix of class "dgCMatrix"

[1,] 1 -1 .  . .  .
[2,] 1  1 .  . .  .
[3,] .  . 1 -1 .  .
[4,] .  . 1  1 .  .
[5,] .  . .  . 1 -1
[6,] .  . .  . 1  1

Виявляється, автори використовують базу даних sleepstudyу lme4, але не дуже детально розробляють матриці дизайну, оскільки вони застосовуються до цього конкретного дослідження. Тому я намагаюся зрозуміти, як складений код у відтвореному вище документі перетворюється на більш змістовний sleepstudyприклад.

Для візуальної простоти я скоротив набір даних лише до трьох предметів - "309", "330" і "371":

require(lme4)
sleepstudy <- sleepstudy[sleepstudy$Subject %in% c(309, 330, 371), ]
rownames(sleepstudy) <- NULL

Кожна людина проявлятиме дуже різний перехват і нахил, якщо просту регресію OLS розглядати індивідуально, що говорить про необхідність моделі змішаного ефекту з вищою ієрархією або рівнем одиниці, що відповідає суб'єктам:

    par(bg = 'peachpuff')
    plot(1,type="n", xlim=c(0, 12), ylim=c(200, 360),
             xlab='Days', ylab='Reaction')
    for (i in sleepstudy$Subject){
            fit<-lm(Reaction ~ Days, sleepstudy[sleepstudy$Subject==i,])
            lines(predict(fit), col=i, lwd=3)
            text(x=11, y=predict(fit, data.frame(Days=9)), cex=0.6,labels=i)
        }

введіть тут опис зображення

Виклик регресії змішаного ефекту:

fm1<-lmer(Reaction~Days+(Days|Subject), sleepstudy)

А матриця, витягнута з функції, дає наступне:

parsedFormula<-lFormula(formula= Reaction~Days+(Days|Subject),data= sleepstudy)
parsedFormula$reTrms

$Ztlist
$Ztlist$`Days | Subject`
6 x 12 sparse Matrix of class "dgCMatrix"

309 1 1 1 1 1 1 1 1 1 1 . . . . . . . . . . . . . . . . . . . .
309 0 1 2 3 4 5 6 7 8 9 . . . . . . . . . . . . . . . . . . . .
330 . . . . . . . . . . 1 1 1 1 1 1 1 1 1 1 . . . . . . . . . .
330 . . . . . . . . . . 0 1 2 3 4 5 6 7 8 9 . . . . . . . . . .
371 . . . . . . . . . . . . . . . . . . . . 1 1 1 1 1 1 1 1 1 1
371 . . . . . . . . . . . . . . . . . . . . 0 1 2 3 4 5 6 7 8 9

Це здається правильним, але якщо воно є, то за якою лінійною алгеброю? Я розумію, що рядки 1's - це вибір людей. Наприклад, тема 309включена для базової лінії + дев'ять спостережень, тому вона отримує чотири 1і так далі. Друга частина явно є фактичним вимірюванням: 0для базового рівня, 1для першого дня позбавлення сну тощо.

$J_i$ $X_i$ $Z_i= (J_i^{T}∗X_i^{T})^⊤$ $Z_i= (J_i^{T}\otimes X_i^{T})^⊤$

Ось така можливість,

$\left[\begin{smallmatrix}1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 &1&1&. &. &. &. &.& . &. &. &. &. &. &.&. & . &. &. &. &. &. &.\\ .&.&.&.&. & . &. &. &. &. &1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 &1&1&.& . &. &. &. &. &. &.&.&.\\&. & . &. &. &. &. &. &.&. & . &. &. &. &. &.&.&.&.&.&1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 &1&1\end{smallmatrix}\right]\ast \left[\begin{smallmatrix}1 & 1 & 1 & 1&1&1&1 & 1 & 1 & 1\\0&1&2&3&4&5&6&7&8&9 \end{smallmatrix}\right]=$

$\left[\begin{smallmatrix}1 & 1 & 1 &1&1&1&1&1&1&1&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.\\0 & 1 & 2 &3&4&5&6&7&8&9&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.\\.&.&.&.&&.&.&.&.&.&1 &1&1&1&1&1&1&1&1&1&.&.&.&.&.&.&.&.&.&.\\ &.&.&.&.&.&.&.&.&.&0 &1&2&3&4&5&6&7&8&9&.&.&.&.&.&.&.&.&.&.\\.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&1&1&1&1&1&1&1&1&1&1\\&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&0&1&2&3&4&5&6&7&8&9 \end{smallmatrix}\right]$

lmer $X_i$

r mixed-model lme4-nlme matrix

— Антоні Пареллада
джерело

Z

$Z$

Дякую за вашу підказку Я продовжуватиму працювати над осмисленням усіх субіндексів у скелеті лінійної алгебри цієї функції. Якщо він клацне на місці, я продовжую відповідати на власне запитання, але хоча я знаю, що в глибині душі просте, відповідність між номенклатурою математичних лісів та додатком до будь-якого прикладу є заплутаною.

— Антоні Пареллада

Ще одним хорошим ресурсом для вас може стати їх реалізація lme4pureR , яка випливає з вищевказаною віньєткою і повністю написана в Р. Можливо mkZt()(шукайте її тут ) вдалий початок?

— alexforrence

$J_i$ 309330371nrow(sleepstudy[sleepstudy$Subject==309,]) [1] 10

f <- gl(3,10) Ji<-t(as(f,Class="sparseMatrix"))

введіть тут опис зображення

$X_i$ getME

library(lme4) sleepstudy <- sleepstudy[sleepstudy$Subject %in% c(309, 330, 371), ] rownames(sleepstudy) <- NULL fm1<-lmer(Reaction~Days+(Days|Subject), sleepstudy)

Xi <- getME(fm1,"mmList")

введіть тут опис зображення

Оскільки нам знадобиться транспонінг, а об'єкт Xiне є матрицею, то t(Xi)можна побудувати так:

t_Xi <- rbind(c(rep(1,30)),c(rep(0:9,3)))

$Z_i$ $Z_i= (J_i^{T}∗X_i^{T})^⊤$

Zi<-t(KhatriRao(t_Ji,t_Xi)):

введіть тут опис зображення

Це відповідає рівнянню (6) у вихідній статті :

Z_{i} = (J_{i}^{Т} * Х_{i}^{Т})^{Т} = [\begin{matrix} J_{i 1}^{Т} \otimes Х_{i 1}^{Т} \\ J_{i 2}^{Т} \otimes Х_{i 2}^{Т} \\ ⋮ \\ J_{i н}^{Т} \otimes Х_{i н}^{Т} \end{matrix}]

$Z_i = (J_i^T*X_i^T)^T=\begin{bmatrix}J_{i1}^T\otimes X_{i1}^T\\J_{i2}^T\otimes X_{i2}^T\\\vdots\\J_{in}^T\otimes X_{in}^T\end{bmatrix}$

$J_i^T$ $X_i^T$

$J_i^T=\left[\begin{smallmatrix}1&1&0&0&0&0\\0&0&1&1&0&0\\0&0&0&0&1&1\end{smallmatrix}\right]$ $X_i^T=\left[\begin{smallmatrix}1&1&1&1&1&1\\0&1&0&1&0&1\end{smallmatrix}\right]$

$J_i^T*X_i^T=\left[ \begin{smallmatrix} \left(\begin{smallmatrix}1\\0\\0\end{smallmatrix}\right)\otimes\left(\begin{smallmatrix}1\\0\end{smallmatrix}\right)&& \left(\begin{smallmatrix}1\\0\\0\end{smallmatrix}\right)\otimes\left(\begin{smallmatrix}1\\1\end{smallmatrix}\right)&& \left(\begin{smallmatrix}0\\1\\0\end{smallmatrix}\right)\otimes\left(\begin{smallmatrix}1\\0\end{smallmatrix}\right)&& \left(\begin{smallmatrix}0\\1\\0\end{smallmatrix}\right)\otimes\left(\begin{smallmatrix}1\\1\end{smallmatrix}\right)&& \left(\begin{smallmatrix}0\\0\\1\end{smallmatrix}\right)\otimes\left(\begin{smallmatrix}1\\0\end{smallmatrix}\right)&& \left(\begin{smallmatrix}0\\0\\1\end{smallmatrix}\right)\otimes\left(\begin{smallmatrix}1\\1\end{smallmatrix}\right) \end{smallmatrix} \right]$

$\small= \begin{bmatrix}J_{i1}^T\otimes X_{i1}^T && J_{i2}^T \otimes X_{i2}^T && J_{i3}^T\otimes X_{i3}^T && J_{i4}^T\otimes X_{i4}^T && J_{i5}^T\otimes X_{i5}^T && J_{i6}^T\otimes X_{i6}^T\end{bmatrix}$

$=\left[\begin{smallmatrix}1&1&0&0&0&0\\0&1&0&0&0&0\\0&0&1&1&0&0\\0&0&0&1&0&0\\0&0&0&0&1&1\\0&0&0&0&0&1\end{smallmatrix}\right]$ . Що перенесене і розширене, це призведе до $Z_i=\left[\begin{smallmatrix}1&0&0&0&0&0\\1&1&0&0&0&0\\1&2&0&0&0&0\\\vdots\\\\0&0&1&0&0&0\\0&0&1&1&0&0\\0&0&1&2&0&0\\\vdots\\\\0&0&0&0&1&0\\0&0&0&0&1&1\\0&0&0&0&1&2\\\\\vdots\end{smallmatrix}\right]$ .

Витяг $b$ вектор коефіцієнтів випадкових ефектів можна виконати за допомогою функції:

b <- getME(fm1,"b")

[1,] -44.1573839
[2,]  -2.4118590
[3,]  32.8633489
[4,]  -0.3998801
[5,]  11.2940350
[6,]   2.8117392

Якщо додати ці значення до фіксованих ефектів виклику, fm1<-lmer(Reaction~Days+(Days|Subject), sleepstudy)ми отримаємо перехоплення:

205.3016 for 309; 282.3223 for 330; and 260.7530 for 371

і схили:

2.407141 for 309; 4.419120 for 330; and 7.630739 for 371

значення, що відповідають:

library(lattice)
xyplot(Reaction ~ Days | Subject, groups = Subject, data = sleepstudy, 
       pch=19, lwd=2, type=c('p','r'))

введіть тут опис зображення

$Zb$ можна обчислити як as.matrix(Zi)%*%b.

— Антоні Пареллада
джерело