Яка нульова гіпотеза MANOVA?

Фон

Для того, щоб проаналізувати відмінності в деякій безперервній змінній між різними групами (заданою категоріальною змінною), можна виконати односторонню ANOVA. Якщо є кілька пояснювальних (категоричних) змінних, можна виконати факторну ANOVA. Якщо потрібно проаналізувати відмінності між групами у кількох безперервних змінних (тобто декількох змінних відповідей), потрібно виконати багатоваріантну ANOVA (MANOVA).

Питання

Я навряд чи розумію, як можна виконати тест, схожий на ANOVA, на кількох змінних відповідей, і що ще важливіше, я не розумію, якою може бути нульова гіпотеза. Чи є нульовою гіпотезою:

"Для кожної змінної відповіді засоби всіх груп рівні",

або це

"Щонайменше для однієї змінної відповіді, засоби всіх груп рівні",

чи щось інше? $H_0$

hypothesis-testing anova manova

— Remi.b
джерело

Я не можу сказати, ви також запитуєте, як працює ANOVA? У контексті обговорення, що таке стандартна помилка, я по суті пояснюю основну ідею ANOVA: Як працює стандартна помилка?

— gung - Відновіть Моніку

Жодне з двох ваших тверджень. H0MANOVA полягає в тому, що немає різниці в багатовимірному просторі . Багатоваріантний випадок значно складніший, ніж одноваріантний, оскільки нам доводиться мати справу з коваріаціями, а не лише варіаціями. Існує кілька способів сформулювати H0-H1гіпотези в MANOVA. Читайте Вікіпедію.

— ttnphns

@ttnphns: Чому ні? з ANOVA є те , що кошти всіх груп рівні. з MANOVA є те , що багатовимірні кошти всіх груп рівні. Це точно альтернатива 1 в ОП. Коваріанці тощо вводять припущення та обчислення MANOVA, а не нульову гіпотезу.

H_{0}

$H_0$

H_{0}

$H_0$

— амеба

@amoeba, мені не сподобалось For each response variable. Для мене це звучить як (або я читаю це як) "тестування робиться уніваріатично на кожному" (а потім якимось чином поєднується).

— ttnphns

Відповіді:

Нульова гіпотеза одностороннього ANOVA полягає в тому, що засоби всіх груп рівні:Нульова гіпотеза одностороннього MANOVA полягає в тому, що засоби [багатоваріантності] всіх груп рівні:Це рівнозначно тому, що засоби рівні для кожної змінної відповіді, тобто ваш перший варіант правильний . $H_0$

H_{0} : μ_{1} = μ_{2} = . . . = μ_{k} .

$H_0: \mu_1 = \mu_2 = ... = \mu_k.$

H_{0}

$H_0$

H_{0} : μ_{1} = μ_{2} = . . . = μ_{k} .

$H_0: \boldsymbol \mu_1 = \boldsymbol \mu_2 = ... = \boldsymbol \mu_k.$

В обох випадках альтернативною гіпотезою є заперечення нуля. В обох випадках припущення є (а) гауссовими розподілами всередині групи та (b) рівними дисперсіями (для ANOVA) / коваріаційними матрицями (для MANOVA) по групах. $H_1$

Різниця між MANOVA та ANOVA

Це може здатися дещо заплутаним: нульова гіпотеза MANOVA точно така ж, як і комбінація нульових гіпотез для колекції універсальних ANOVA, але в той же час ми знаємо, що робити MANOVA не є рівнозначним виконанню універсальних ANOVA, а потім якось " поєднання "результатів (можна придумати різні способи поєднання). Чому ні?

Відповідь полягає в тому, що виконання всіх універсальних ANOVA, хоча і перевіряти ту саму нульову гіпотезу, матиме меншу потужність. Дивіться мою відповідь тут для ілюстрації: Як MANOVA може повідомити про істотну різницю, коли жодна з універсальних ANOVA не набуває значущості? Наївний метод "поєднання" (відхилити глобальну нуль, якщо хоча б одна ANOVA відхиляє нуль) також призведе до величезної інфляції рівня помилок типу I; але навіть якщо вибираєте якийсь розумний спосіб "поєднання" для підтримки правильного рівня помилок, людина втрачає владу.

Як працює тестування

Дисперсійний аналіз розкладає загальну суму-квадратів в між групами сум квадратів і в межах-групи сум квадратів , так що . Потім він обчислює відношення . Згідно з нульовою гіпотезою, це співвідношення має бути невеликим (близько ); можна визначити точний розподіл цього співвідношення, що очікується за нульовою гіпотезою (це залежатиме від та від кількості груп). Порівнюючи спостережуване значення з цим розподілом, виходить p-значення. $T$ $B$ $W$ $T=B+W$ $B/W$ $1$ $n$ $B/W$

Дисперсійний розкладає загальний розкид матриці в між групами розсіювання матриця і внутрішньо-групи Розкид матриця , так що . Потім він обчислює матрицю . Згідно з нульовою гіпотезою, ця матриця повинна бути "маленькою" (навколо ); але як кількісно оцінити, наскільки він "малий"? MANOVA розглядає власні значення цієї матриці (всі вони позитивні). Знову ж таки, під нульовою гіпотезою ці власні значення повинні бути "малими" (все навколо $\mathbf T$ $\mathbf B$ $\mathbf W$ $\mathbf T = \mathbf B + \mathbf W$ $\mathbf W^{-1} \mathbf B$ $\mathbf{I}$ $\lambda_i$ $1$ ). Але для обчислення р-значення нам потрібне одне число (зване "статистичне"), щоб можна було порівняти його з очікуваним розподілом під нульовим. Існує кілька способів зробити це: взяти суму всіх власних значень ; прийміть максимальне власне значення і т. д. У кожному випадку це число порівнюється з розподілом цієї кількості, очікуваним під нуль, в результаті чого виходить p-значення. $\sum \lambda_i$ $\max\{\lambda_i\}$

Різні варіанти статистики тесту призводять до дещо різних p-значень, але важливо усвідомити, що в кожному випадку перевіряється однакова нульова гіпотеза.

— амеби
джерело

Крім того, якщо ви не будете виправляти багаторазове тестування, підхід універсального ANOVAs також призведе до інфляції помилок типу I.

— gung - Відновіть Моніку

@gung: Так, і це правда. Однак можна бути розумнішим у "поєднанні", ніж просто відхиляти нуль, як тільки принаймні один з ANOVA відхиляє нуль. Моя думка полягала в тому, що як би розумний не намагався бути «комбінуючи», все одно втрачаєш потужність порівняно з MANOVA (навіть якщо вдасться зберегти розмір тесту, не збільшуючи показник помилок).

— амеба

Але чи не зараз "влада" безпосередньо пов'язана з поняттям коваріації? Мораль полягає в тому, що за допомогою (серіалу) одновимірного тесту ми перевіряємо лише граничний ефект, який є SSdifference/SSerrorскалярним. У MANOVA багатоваріантний ефект є SSCPerror^(-1)SSCPdifferenceматричним (враховується загальний коеваріант і всередині груп). Але оскільки в ньому є кілька власних значень, які можна «об'єднати» не поодиноко в тестовій статистиці, існує кілька можливих альтернативних гіпотез. Більше влади - більше теоретичної складності.

— ttnphns

@ttnphns, так, це все правильно, але я думаю, це не змінює того факту, що нульова гіпотеза - це те, про що я її написав (і саме про це йшлося). Яку б статистику тесту не використовували (Wilks / Roy / Pillai-Bartlett / Lawley-Hotelling), вони намагаються перевірити ту саму нульову гіпотезу. Я можу розгорнути свою відповідь пізніше, щоб обговорити це детальніше.

— амеба

@gung попросив мене подзвонити (не знаю, чому ... я навчав MANOVA десь 7 років тому, і ніколи не застосовував її) - я б сказав, що амеба має рацію, кажучи, що - це повна заперечення нуля , що являє собою -вимірний гіперпростір у розмірному просторі параметрів (якщо - розмірність, яку ніхто не турбував, визначаючи поки що) . І це варіант 1, наданий ОП. Варіант 2 значно важче перевірити.

H_{1}

$H_1$

H_{0} : μ_{group 1} = \dots = μ_{group k}

$H_0: \mu_{\mbox{group }1} = \ldots = \mu_{\mbox{group }k}$

p

$p$

k p

$kp$

p

$p$

— Стаск

Це колишній.

Однак те, як це зробити, не буквально порівнювати засоби кожної з оригінальних змінних по черзі. Натомість змінні відповіді лінійно трансформуються таким чином, що дуже схоже на аналіз основних компонентів . (Тут є чудова нитка на PCA. Здійснення розуміння аналізу основних компонентів, власних векторів та власних значень .) Різниця полягає в тому, що PCA орієнтує свої осі так, щоб вирівнятись з напрямками максимальної зміни, тоді як MANOVA обертає осі в напрямках, які максимально розділити ваші групи.

Щоб було зрозуміло, жоден з тестів, пов'язаних з MANOVA, не випробовує всі засоби одне за одним у прямому розумінні, чи то із засобами в початковому просторі, так і в перетвореному просторі. Існує декілька різних тестових статистичних даних, які працюють дещо по-різному, проте, як правило, вони працюють над власними значеннями розкладання, що перетворює простір. Але що стосується природи нульової гіпотези, то всі засоби всіх груп однакові для кожної змінної відповіді, а не те, що вони можуть відрізнятися на деяких змінних, але однакові принаймні на одній.

— gung - Відновити Моніку
джерело

О-о ... Отже, Манова робить лінійний дискримінантний аналіз (щоб максимізувати відстань між середнім значенням груп), а потім, він запускає стандартну anova, використовуючи першу вісь як змінну відповіді? Отже, - це "засіб PC1 - всі групи однакові". Це так?

H o

$Ho$

— Remi.b

Існує кілька різних можливих тестів. Тестування лише 1-ї осі по суті використовує найбільший корінь Роя як тест. Це часто буде найпотужнішим випробуванням, але воно також більш обмежене. Я збираюсь, що триває дискусія щодо того, який тест є "найкращим".

— gung - Відновіть Моніку

Я думаю, що ми використовуємо MANOVA, а не кілька ANOVA, щоб уникнути декількох проблем з тестуванням. Але якщо, роблячи MANOVA, ми просто робимо ANOVA на PC1 LDR , тоді у нас все ще є кілька питань тестування, які слід враховувати, дивлячись на Pvalue. Чи це правильно? (Сподіваюсь, що це має більше сенсу. Я видалив попередній незрозумілий коментар)

— Remi.b

Це проникливий момент, але є два питання: 1) осі тепер ортогональні, і це може змінити проблеми при багаторазовому тестуванні; 2) розподіл вибірки статистичних даних тестів MANOVA враховує кілька осей.

— gung - Відновіть Моніку

@ Remi.b: Це хороші запитання, але просто для того, щоб зрозуміти: MANOVA не еквівалентний ANOVA на першій дискримінантній осі LDA! Дивіться тут про відношення між MANOVA та LDA: Як MANOVA пов'язаний з LDA?

— амеба