Залишкова діагностика та однорідність дисперсій у лінійній змішаній моделі

10

Перш ніж задавати це питання, я здійснив пошук на нашому сайті і знайшов багато подібних питань (наприклад, тут , тут і тут ). Але я вважаю, що на ці пов’язані питання недостатньо відповіли чи обговорили, тому я хотів би знову поставити це питання. Я вважаю, що має бути велика кількість аудиторії, яка бажає, щоб подібні питання були пояснені більш чітко.

Для моїх питань спочатку розглянемо лінійну модель змішаних ефектів,

y = X β + Z γ + ϵ

$\mathbf{y = X\boldsymbol \beta + Z \boldsymbol \gamma + \boldsymbol \epsilon}$ де

X β

$X\boldsymbol \beta$ є лінійною складовою фіксованих ефектів,

Z

$\mathbf{Z}$ є додатковою матрицею , відповідна конструкції в цих параметри випадкових ефектів ,

γ

$\boldsymbol \gamma$ . І

ϵ \sim N (0, σ^{2} I)

$\boldsymbol \epsilon \ \sim \ N(\mathbf{0, \sigma^2 I})$ - звичайний термін помилки.

Припустимо, єдиним фактором з фіксованою дією є категорична змінна Лікування , що має 3 різних рівня. І єдиним фактором випадкових ефектів є змінна Subject . Однак, у нас є змішана модель із фіксованим ефектом лікування та випадковим суб'єктом.

Мої запитання, таким чином:

Чи існує однорідність припущення дисперсії в лінійній змішаній моделі, аналогічна традиційним моделям лінійної регресії? Якщо так, що конкретно означає припущення у контексті задачі лінійної змішаної моделі, зазначеної вище? Які ще важливі припущення, які потрібно оцінити?

Мої думки: ТАК. припущення (я маю на увазі нульову середню помилку та рівну дисперсію) все ще звідси: . У традиційній лінійній регресійній моделі можна сказати, що припущення полягає в тому, що "дисперсія помилок (або просто дисперсія залежної змінної) є постійною на всіх 3 рівнях лікування". Але я втрачений тим, як ми можемо пояснити це припущення в змішаній моделі. Чи слід говорити, що "відхилення постійні в трьох рівнях лікування, що обумовлюють суб'єкти? Чи ні?" $\boldsymbol \epsilon \ \sim \ N(\mathbf{0, \sigma^2 I})$

Інтернет-документ SAS про залишки та діагностику впливу створив дві різні залишки, тобто граничні залишки , та залишки , Моє запитання: для чого використовуються два залишки? Як ми могли використовувати їх для перевірки припущення про однорідність? Для мене для вирішення питання однорідності можна використовувати лише граничні залишки, оскільки це відповідає моделі. Чи моє розуміння тут правильне?
$r_{м} = Y - Х \hat{β}$ $\mathbf{r_m = Y - X \hat{\boldsymbol \beta}}$ $r_{c} = Y - Х \hat{β} - Z \hat{γ} = r_{м} - Z \hat{γ} .$ $\mathbf{r_c = Y - X \hat{\boldsymbol \beta} - Z \hat{\boldsymbol \gamma} = r_m - Z \hat{\boldsymbol \gamma}} .$ $\boldsymbol \epsilon$
Чи пропонуються якісь тести для тестування припущення гомогенності за лінійною змішаною моделлю? @Kam вказував тест levene раніше, це буде правильний шлях? Якщо ні, то які напрямки? Я думаю, що після того, як ми підійдемо до змішаної моделі, ми можемо отримати залишки, і, можливо, зможемо зробити деякі тести (як тест на придатність?), Але не впевнений, як це буде.
Я також зауважив, що є три типи залишків від Proc Mixed у SAS, а саме: сирий залишок , залишок Studentized та залишок Пірсона . Я можу зрозуміти відмінності між ними з точки зору формул. Але мені здається, вони дуже схожі, коли мова йде про реальні графіки даних. То як же їх використовувати на практиці? Чи бувають ситуації, коли одному типу віддають перевагу іншим?
Для реального прикладу даних наступні два залишкових ділянки - від Proc Mixed в SAS. Як би можна було вирішити припущення про однорідність дисперсій?

[Я знаю, що у мене тут є кілька питань. Якщо ви могли б дати мені будь-яку вашу думку з будь-якого питання, це чудово. Якщо не можете, звертайтеся до всіх. Я дуже хочу обговорити їх, щоб отримати повне розуміння. Дякую!]

Ось граничні (сирі) залишкові ділянки.

Ось умовні (сирі) залишкові ділянки.

— Аарон Зенг
джерело

Великі питання - можлива відповідь на ваш номер 2 можна знайти тут comp.soft-sys.sas.narkive.com/7Qmrgufe / ...

— Dandar

3

Я думаю, що питання 1 і 2 взаємопов'язані. Спочатку припущення про однорідність варіації походить звідси . Але це припущення можна послабити до більш загальних дисперсійних структур, в яких припущення про однорідність не є необхідним. Це означає, що це дійсно залежить від того, як передбачається розподіл . $\boldsymbol \epsilon \ \sim \ N(\mathbf{0, \sigma^2 I})$ $\boldsymbol \epsilon$

По-друге, умовні залишки використовуються для перевірки розподілу (таким чином, будь-яких припущень, пов'язаних з) , тоді як граничні залишки можуть бути використані для перевірки загальної структури дисперсії. $\boldsymbol \epsilon$

— Аарон Зенг
джерело

Я стикаюся з деякими тими ж проблемами, що і @AaronZeng. Що означає "перевірити загальну структуру дисперсії", для якої слід використовувати граничні залишки? Як можна було б це зробити, і чому б просто не зосередитись на тому, щоб перевірити структуру дисперсії на ? Дякую. $\gamma$

— кларпаул

1

Це дійсно широка тема, і я дам лише загальну картину про підключення до стандартної лінійної регресії.

У моделі, наведеній у запитанні, якщо , де позначає тему або кластер. Нехай . Використовуючи розклад Чолеського , ми можемо перетворити матрицю результатів і проектування,

y_{i} \sim N (X_{i} β, Z_{i} D Z_{i}^{'} + σ^{2} I),

$\mathbf{y_i \sim N(X_i\boldsymbol \beta, Z_i \boldsymbol D Z'_i + \boldsymbol \sigma^2 I)},$

γ_{i} \sim N (0, D)

$\boldsymbol \gamma_i \sim N(\mathbf{0, D})$

i

$i$

Σ_{i} = Z_{i} D Z_{i}^{'} + σ^{2} I

$\mathbf{\Sigma_i=Z_i \boldsymbol D Z'_i + \boldsymbol \sigma^2 I}$

Σ_{i} = L_{i} L_{i}^{'}

$\mathbf{\Sigma_i=L_i L'_i}$

у_{i}^{*} = L_{i}^{- 1} у_{i}; Х_{i}^{*} = L_{i}^{- 1} Х_{i} .

$\mathbf{y^*_i=L_i^{-1}y_i; X^*_i=L_i^{-1}X_i}.$

Як зазначається у прикладному поздовжньому аналізі (Сторінка 268), узагальнену оцінку найменших квадратів (GLS) (регресування на ) можна переоцінити з регресії OLS на . Отже, тут можна використовувати всю вбудовану залишкову діагностику з отриманого OLS . $\boldsymbol \beta$ $\mathbf y_i$ $\mathbf X_i$ $\mathbf y^*_i$ $\mathbf X^*_i$

Що нам потрібно зробити:

оцінка з оцінки (граничної) залишкової або дисперсійної складової в лінійній змішаній моделі; $\boldsymbol \Sigma_i$
перевстановити регресію OLS за допомогою перетворених даних.

Регрес OLS передбачає незалежні спостереження з однорідною дисперсією, тому до його залишків можна застосовувати стандартні методи діагностики.

Набагато детальніше можна ознайомитись у главі 10 "Залишкові аналізи та діагностика" книги " Прикладний поздовжній аналіз" . Вони також обговорювали трансформацію залишків за допомогою , і є деякі ділянки (трансформованих) залишків (проти прогнозованих значень або прогнокторів). Більше читань перелічено в 10.8 "Подальші читання" та Бібліографічні примітки до них. $\mathbf L_i$

Крім того, на мою думку, враховуючи, що є незалежними з однорідною дисперсією, ми можемо перевірити ці припущення на умовних залишках, використовуючи інструменти стандартної регресії. $\boldsymbol \epsilon$

— Рендел
джерело

Гаряча публікація з преси на цю тему.

— Рендел