Різниця між тестом ANOVA та Крускалом-Уоллісом

Я вивчаю R і експериментував з дисперсійним аналізом. Я керував обома

kruskal.test(depVar ~ indepVar, data=df)

і

anova(lm(depVar ~ indepVar, data=dF))

Чи є практична різниця між цими двома тестами? Я розумію, що вони обидва оцінюють нульову гіпотезу про те, що популяції мають однакове значення.

Існують відмінності в припущеннях і гіпотезах, які перевіряються.

ANOVA (і t-тест) явно є тестом рівності значень засобів. Крускал-Уолліс (і Манн-Вітні) технічно можна розглядати як порівняння середніх рангів .

Отже, що стосується початкових значень, Крускал-Уолліс є більш загальним, ніж порівняння засобів: він перевіряє, чи є ймовірність того, що випадкове спостереження з кожної групи однаково ймовірне вище або нижче випадкового спостереження з іншої групи. Реальна кількість даних, що лежить в основі цього порівняння, не є ні різницею середніх значень, ні різницею в медіанах (у двох вибіркових випадках) насправді є медіаною всіх парних різниць - різниці Ходжеса-Леманна між вибіркою.

Однак якщо ви вирішите зробити деякі обмежувальні припущення, то Крускал-Уолліс можна розглядати як перевірку рівності засобів населення, а також квантових (наприклад, медіанів), а також широкого спектру інших заходів. Тобто, якщо припустити , що група-розподіл при нульовій гіпотезі є однаковим, і що при альтернативі, єдина зміна є дистрибутивної зрушення (так званим « місце зсуву альтернативи »), то це також випробування рівності засобів населення (і одночасно з медіанами, нижчими квартилами тощо).

[Якщо ви робите це припущення, ви можете отримати оцінки та інтервали для відносних зрушень, як і у випадку з ANOVA. Ну, також можна отримати інтервали без цього припущення, але їх складніше інтерпретувати.]

Якщо ви подивитесь на відповідь тут , особливо наприкінці, в ній обговорюється порівняння між t-тестом і Wilcoxon-Mann-Whitney, які (якщо робити принаймні двоступеневі тести) є еквівалентом ANOVA та Kruskal-Wallis застосовується для порівняння лише двох зразків; це дає трохи більше деталей, і значна частина цієї дискусії переноситься на Крускал-Уолліс проти АНОВА.

Не зовсім зрозуміло, що ви маєте на увазі під практичною різницею. Ви використовуєте їх загалом подібним чином. Якщо застосовуються обидва набори припущень, вони, як правило, дають досить подібні різновиди результатів, але вони, безумовно, можуть давати досить різні p-значення в деяких ситуаціях.

Редагувати: Ось приклад подібності умовиводів навіть у малих зразках - ось спільна область прийняття для зсуву розташування між трьома групами (друга та третя кожна порівняно з першою), відібрана від звичайних розподілів (з невеликими розмірами вибірки) для певного набору даних на рівні 5%:

Можна виділити чимало цікавих особливостей - дещо більша область прийняття для КВ в цьому випадку з її межею, що складається з вертикальних, горизонтальних та діагональних прямих відрізків (не важко зрозуміти, чому). Два регіони розповідають нам дуже схожі речі про параметри, які тут цікавлять.

Так, є. anovaЄ параметричним підходом , а kruskal.testне є параметричним підходом. Тому kruskal.testне потрібно ніякого розподілу припущення.
З практичної точки зору, коли ваші дані перекошені, anovaце не буде хорошим підходом до використання. Погляньте, наприклад, на це питання .

$\Delta$

Назвемо це припущення. Тест KW перевіряє нульову гіпотезу H 0$(*)$$H_0\colon\{\Delta=0\}$$H_1\colon\{\Delta \neq 0\}$$(*)$$H_0$$H_0)$$(*)$$H_0\colon\{\text{the distributions are equal}\}$

$(*)$$\Delta >0$$\Delta$

$x$$y$$n=1000$$H_0$

set.seed(666)
n <- 1000
x <- rnorm(n)
y <- (2*rbinom(n,1,1/2)-1)*rnorm(n,3)
plot(density(x, from=min(y), to=max(y)))
lines(density(y), col="blue")

> kruskal.test(list(x,y))

    Kruskal-Wallis rank sum test

data:  list(x, y)
Kruskal-Wallis chi-squared = 2.482, df = 1, p-value = 0.1152

Як я стверджував на початку, я не впевнений у точній конструкції KW. Можливо, моя відповідь більш правильна для іншого непараметричного тесту (Манна-Вітні? ..), але підхід повинен бути подібним.

Крускал-Уолліс базується на рейтингу, а не на основі вартості. Це може мати велике значення, якщо є перекошені розподіли або якщо є крайні випадки