Узгодження позначень для змішаних моделей

Мені знайомі такі позначення, як:

\begin{aligned} y_{i j} & = β_{0} + β_{i} x_{i j} + u_{j} + e_{i j} \\ = β_{0 j} + β_{i} x_{i j} + e_{i j} \end{aligned}

$\begin{align} y_{ij} &= \beta_0 + \beta_i x_{ij} + u_j + e_{ij}\\ &= \beta_{0j} + \beta_i x_{ij} + e_{ij} \end{align}$ where , і

β_{0 j} = β_{0} + u_{j}

$\beta_{0j}=\beta_{0}+u_j$

\begin{aligned} y_{i j} & = β_{0} + β_{1} x_{i j} + u_{0 j} + u_{1 j} x_{i j} + e_{i j} \\ = β_{0 j} + β_{1 j} x_{i j} + e_{i j} \end{aligned}

$\begin{align} y_{ij} &= \beta_0 + \beta_1 x_{ij} + u_{0j} + u_{1j} x_{ij} + e_{ij} \\ &= \beta_{0j} + \beta_{1j} x_{ij} + e_{ij} \end{align}$ де і

β_{0 j} = β_{0} + u_{0 j}

$\beta_{0j}=\beta_{0}+u_{0j}$

β_{1 j} = β_{1} + u_{1 j}

$\beta_{1j}=\beta_1+u_{1j}$

для моделі випадкових перехоплень і випадкової нахилу + випадкової моделі перехоплення відповідно.

Я також натрапив на цю матричну / векторну позначення, яку мені сказали "мішана модель позначення для дорослих" (за моїм старшим братом):

y = X β + Z b + e

$\mathbf{y}=\mathbf{X\beta} + \mathbf{Z b} + \mathbf{e}$ де є фіксованими ефектами, а - випадковими ефектами.

β

$\mathbf{\beta}$

b

$\mathbf{b}$

Якщо я правильно зрозумів, остання позначення є більш загальним позначенням для перших, які є конкретними версіями останнього.

Мені хотілося б побачити, як перше може бути похідне від другого.

mixed-model mathematical-statistics

— Джо Кінг
джерело

Ви питаєте про пояснення позначення матриці? Причина, яку я запитую, полягає в тому, що це питання не потребує математичної деривації: всі ваші формули говорять абсолютно однакові речі, а пов’язання їх між собою - це лише питання розуміння того, як працює матрична нотація.

— whuber

@whuber Я певною мірою розумію матричне позначення та матричну алгебру. Але я не знаю, як почати з матричної форми і дійти до інших форм. Напевно, я щось не розумію щодо матриць X і Z, але я просто сподівався, що хтось це викладе.

— Джо Кінг

@whuber чи є щось, що я можу зробити, щоб поліпшити питання, чи ти кажеш, що це так просто, що не заслуговує на відповідь?

— Джо Кінг

@JoeKing: Я думаю, що він говорить, що позначення матриці за визначенням еквівалентно вашій нематричній нотації. Тобто ви вже маєте (ixj матриця разів jx1 матриця, що дає ix1 матрицю ), яка є . (Ви можете згорнути у 1 у )

x_{i j} β_{i}

$x_{ij}\beta_i$

y_{i}

$y_i$

y = X β

$y=X\beta$

β_{0}

$\beta_0$

β

$\beta$

X

$X$

— Уейн,

@Wayne обидві моделі мають випадкові ефекти та фіксовані ефекти. Перший має випадковий перехоплення, тоді як другий має випадковий перехоплення та випадковий нахил. Якби я міг сам "розібратися", я б не ставив тут питання !!!!

— Джо Кінг

Ми розглядаємо змішану модель із випадковими нахилами та випадковими перехопленнями. Враховуючи, що у нас є лише один регресор, цю модель можна записати як де позначає -ве спостереження групи відповіді, а і відповідний прогноз і помилку.

y_{i j} = β_{0} + β_{1} x_{i j} + u_{0 j} + u_{1 j} x_{i j} + ϵ_{i j},

$y_{ij}= \beta_0 + \beta_1 x_{ij} + u_{0j}+u_{1j}x_{ij}+\epsilon_{ij},$

y_{i j}

$y_{ij}$

i

$i$

j

$j$

x_{i j}

$x_{ij}$

ϵ_{i j}

$\epsilon_{ij}$

Ця модель може бути виражена в матричних позначеннях наступним чином:

Y = X β + Zb + ϵ,

$\mathbf{Y}=\mathbf{X}\beta + \textbf{Zb} + \epsilon,$ що еквівалентно

Y = [\begin{matrix} X & Z \end{matrix}] [\begin{matrix} β \\ b \end{matrix}] + ϵ

$\mathbf{Y}= \begin{bmatrix} \mathbf{X} & \textbf{Z} \end{bmatrix} \begin{bmatrix} \beta\\ \mathbf{b} \end{bmatrix}+ \epsilon$

Припустимо, що у нас є групи, тобто а позначає кількість спостережень у -й групі. Розділені для кожної групи, ми можемо записати вище формулу як $J$ $j=1,\dots,J$ $n_j$ $j$

[\begin{matrix} Y_{1} \\ Y_{2} \\ ⋮ \\ Y_{J} \end{matrix}] = [\begin{matrix} X_{1} & Z_{1} & 0 & 0 & 0 \\ X_{2} & 0 & Z_{2} & 0 & 0 \\ ⋮ & \dots \\ X_{J} & 0 & 0 & 0 & Z_{J} \end{matrix}] [\begin{matrix} β \\ b_{1} \\ b_{2} \\ ⋮ \\ b_{J} \end{matrix}] + [\begin{matrix} ϵ_{1} \\ ϵ_{2} \\ ⋮ \\ ϵ_{J} \end{matrix}]

$\begin{bmatrix} \mathbf{Y_1} \\ \mathbf{Y_2} \\ \vdots \\ \mathbf{Y_J} \end{bmatrix}=\begin{bmatrix} \mathbf{X_1} & \mathbf{Z_1} & 0 & 0 & 0 \\ \mathbf{X_2} & 0 & \mathbf{Z_2} & 0 & 0 \\ \vdots & & & \dots & \\ \mathbf{X_J} & 0 & 0 & 0 & \mathbf{Z_J} \end{bmatrix} \begin{bmatrix} \beta \\ b_1 \\ b_2 \\ \vdots \\ b_J \end{bmatrix}+\begin{bmatrix} \epsilon_1 \\ \epsilon_2 \\ \vdots \\ \epsilon_J \end{bmatrix}$

де - що містить усі спостереження відповіді для групи , і є матриці проектування в цьому випадку, і знову є матриця. $\mathbf{Y_j}$ $n_j \times 1$ $j$ $\mathbf{X_j}$ $\mathbf{Z_j}$ $n_j \times 2$ $\epsilon_j$ $n_j \times 1$

Виписуючи їх, ми маємо:

$\mathbf{Y_j} = \begin{bmatrix} y_{1j}\\ y_{2j}\\ \vdots \\ y_{n_jj} \end{bmatrix}, \mathbf{X_j}=\mathbf{Z_j}=\begin{bmatrix} 1 & x_{1j} \\ 1 & x_{2j} \\ \vdots & \vdots \\ 1 & x_{n_jj} \end{bmatrix}$ і $\epsilon_j = \begin{bmatrix} \epsilon_{1j}\\ \epsilon_{2j}\\ \vdots \\ \epsilon_{n_jj} \end{bmatrix}.$

Тоді вектори коефіцієнта регресії є

$\beta = \begin{pmatrix} \beta_0 \\ \beta_1 \end{pmatrix}$ , $b_j=\begin{pmatrix} u_{0j}\\ u_{1j} \end{pmatrix}$

Щоб побачити, що дві модельні рецептури дійсно рівнозначні, давайте розглянемо будь-яку з груп (скажімо, ю). $j$

Y_{j} = X_{j} β + Z_{j} b_{j} + ϵ_{j}

$\mathbf{Y_j} = \mathbf{X_j} \beta + \mathbf{Z_j}b_j + \epsilon_j$

Застосовуючи наведені вище визначення, можна показати, що -й рядок отриманого вектора просто де становить від до . $i$

y_{i j} = β_{0} + β_{1} x_{i j} + u_{0 j} + u_{1 j} x_{i j} + ϵ_{i j},

$y_{ij}= \beta_0 + \beta_1 x_{ij} + u_{0j}+u_{1j}x_{ij}+\epsilon_{ij},$

i

$i$

1

$1$

n_{j}

$n_j$

— Філіп Беркхардт
джерело

+1, я просто зазначу, що існують великі обчислювальні переваги від впровадження використання а не повної матриці в основному рідкісна версія для зберігання матриці

Z_{j}

$Z_j$

Z

$Z$

Z_{j}

$Z_j$

Z

$Z$

— probabilityislogic