Кастинг багатоваріантної лінійної моделі у вигляді множинної регресії

Чи переробка багатовимірної лінійної регресійної моделі як множинної лінійної регресії цілком еквівалентна? Я не маю на увазі просто запуск $t$ окремих регресій.

Я читав це в декількох місцях (Байєсівський аналіз даних - Гельман та ін., І багатоваріантна стара школа - Марден), що багатоваріантну лінійну модель можна легко перемацати як багаторазову регресію. Однак жодне джерело на це зовсім не деталізується. Вони по суті просто згадують про це, а потім продовжують використовувати багатоваріантну модель. Математично я спершу напишу багатоваріантну версію,

$$\underset{n \times t}{\mathbf{Y}} = \underset{n \times k}{\mathbf{X}} \hspace{2mm}\underset{k \times t}{\mathbf{B}} + \underset{n \times t}{\mathbf{R}},$$ де жирними змінними є матриці з їх розмірами під ними. Як зазвичай,$\mathbf{Y}$- це дані,$\mathbf{X}$- матриця проектування,$\mathbf{R}$- нормально розподілені залишки, і$\mathbf{B}$ - це те, з чим ми зацікавлені робити висновки.

Щоб перемежувати це як звичну множинну лінійну регресію, потрібно просто переписувати змінні як:

$$\underset{nt \times 1}{\mathbf{y}} = \underset{nt \times nk}{\mathbf{D}} \hspace{2mm} \underset{nk \times 1}{\boldsymbol{\beta}} + \underset{nt \times 1}{\mathbf{r}},$$

де використовувані репараметризації є $\mathbf{y} = row(\mathbf{Y})$ , $\boldsymbol\beta = row(\mathbf{B})$ , і $\mathbf{D} = \mathbf{X} \otimes \mathbf{I}_{n}$ . означає, що рядки матриці розташовані кінцем і закінчуються довгим вектором, а є кронекером, або зовнішнім твором.$row()$$\otimes$

Отже, якщо це так просто, навіщо набридати писати книги на багатоваріантних моделях, перевіряти статистику для них тощо? Найефективніше спочатку просто перетворити змінні та використовувати загальні одноманітні методи. Я впевнений, що є вагомі причини, мені просто важко придумати одну, принаймні у випадку лінійної моделі. Чи бувають ситуації з багатоваріантною лінійною моделлю та нормально розподіленими випадковими помилками, коли ця репараметризація не застосовується, або обмежує можливості аналізу, який ви можете провести?

Джерела Я бачив це: Марден - Багатовимірна статистика: Стара школа. Див. Розділи 5.3 - 5.5. Книга доступна безкоштовно: http://istics.net/stat/

Гельман та ін. - Байєсівський аналіз даних. У мене є друге видання, і в цій версії є невеликий абзац в гл. 19 "Багатовимірні регресійні моделі" під назвою: "Еквівалентна універсальна модель регресії"

В основному, чи можете ви зробити все з еквівалентною лінійною універсальною регресійною моделлю, яку ви могли б використовувати при багатоваріантній моделі? Якщо так, навіщо взагалі розробляти методи для багатовимірних лінійних моделей?

Що з байєсівськими підходами?

В основному, чи можете ви зробити все з еквівалентною лінійною універсальною регресійною моделлю, яку ви могли б використовувати при багатоваріантній моделі?

Я вважаю, що відповідь - ні.

Якщо ваша мета просто або оцінити ефекти (параметри в $\mathbf{B}$ ), або подальше прогнозування на основі моделі, тоді так, не важливо приймати формулювання моделі між ними.

Однак, щоб зробити статистичні висновки особливо для проведення класичного тестування на значимість, багатоваріантна формулювання здається практично незамінною. Більш конкретно дозвольте мені використати типовий аналіз даних у психології як приклад. Дані від суб'єктів виражаються як$n$

$$\underset{n \times t}{\mathbf{Y}} = \underset{n \times k}{\mathbf{X}} \hspace{2mm}\underset{k \times t}{\mathbf{B}} + \underset{n \times t}{\mathbf{R}},$$

де пояснювальні змінні між суб'єктами (коефіцієнт чи / і кількісні коваріати) кодуються як стовпці в $k-1$$\mathbf{X}$ в той час як повторних вимірів (або в межах-суб'єкта) рівні фактора представлені в вигляді одночасних змінних або стовпців в Y .$t$$\mathbf{Y}$

З вищенаведеним формулюванням будь-яка загальна лінійна гіпотеза може бути легко виражена як

$$\mathbf{L} \mathbf{B} \mathbf{M} = \mathbf{C},$$

де складається з ваг серед пояснювальних змінних між суб'єктами, тоді як L містить ваги серед рівнів факторів, що повторюються, і$\mathbf{L}$$\mathbf{L}$ є постійною матрицею, як правило, 0 .$\mathbf{C}$$\mathbf{0}$

Краса багатоваріантної системи полягає в її розділенні між двома типами змінних, між і між суб'єктами. Саме це розділення дозволяє легко формулювати три типи значущості тестування в рамках багатоваріантної системи: класичне багатоваріантне тестування, багатоваріантне тестування повторних заходів та одновимірне тестування повторних заходів. Крім того, тестування Маучлі на порушення сферичності та відповідні методи корекції (Greenhouse-Geisser та Huynh-Feldt) також стають природними для одновимірного тестування в багатоваріантній системі. Саме так статистичні пакети реалізували такі тести, як car в R, GLM в IBM SPSS Statistics і REPEATED оператор у PROC GLM SAS.

Я не настільки впевнений, чи має формулювання при аналізі даних Байєса, але я сумніваюся, що вищезгадані можливості тестування могли б бути сформульовані та реалізовані в рамках універсаріатної платформи.

Обидві моделі рівноцінні, якщо вам підходить відповідна дисперсійно-коваріаційна структура. У трансформованій лінійній моделі нам потрібно підходити дисперсійно-коваріаційну матрицю компонента помилки з продуктом kronecker, який має обмежену доступність у доступній обчислювальній програмі. Теорія лінійних моделей - універсальна, багатоваріантна та змішана моделі - чудова орієнтир для цієї теми.

Відредаговано

Ось ще одна приємна довідка у вільному доступі.