Чи покладається ANOVA на метод моментів, а не на максимальну ймовірність?

Я бачу в різних місцях, що ANOVA робить свою оцінку методом моментів.

Мене бентежить це твердження, оскільки, хоча я не знайомий з методом моментів, моє розуміння полягає в тому, що це щось інше і не еквівалентне методу максимальної ймовірності; з іншого боку, ANOVA можна розглядати як лінійну регресію з категоричними предикторами, і ОЛС оцінка параметрів регресії є максимальною ймовірністю.

Так:

1. Що кваліфікує процедури ANOVA як метод моментів?

2. Враховуючи, що ANOVA еквівалентний OLS з категоричними прогнозами, чи не це максимальна ймовірність?

3. Якщо ці два методи якимось чином виявляться еквівалентними у спеціальному випадку звичайної ANOVA, чи існують якісь конкретні ситуації з ANOVA, коли різниця стає важливою? Неврівноважений дизайн? Повторні заходи? Змішаний (між суб'єктами + всередині предметів) дизайн?

Я вперше зіткнувся з ANOVA, коли був студентом магістра в Оксфорді в 1978 році. Сучасні підходи, навчаючи безперервних і категоричних змінних разом у моделі множинної регресії, ускладнюють молодим статистикам розуміння того, що відбувається. Тож може бути корисно повернутися до більш простих часів.

У своєму первісному вигляді ANOVA - вправа з арифметики, за допомогою якої ви розбиваєте загальну суму квадратів на шматки, пов'язані з лікуванням, блоками, взаємодіями, будь-яким іншим. У збалансованій обстановці суми квадратів з інтуїтивним значенням (наприклад, SSB і SST) складають до скоригованої загальної суми квадратів. Все це працює завдяки теоремі Кокрана . Використовуючи Cochran, ви можете розробити очікувані значення цих термінів у звичайних нульових гіпотезах, і звідти надходить статистика F.

Як бонус, коли ви починаєте замислюватися про Кохран і суми квадратів, має сенс продовжувати нарізати і диктувати ваші лікувальні суми квадратів, використовуючи ортогональні контрасти. Кожен запис у таблиці ANOVA повинен мати інтерпретацію, що цікавить статистику, і давати перевірену гіпотезу.

Нещодавно я написав відповідь, де виникла різниця між методами MOM та ML. Питання стосувалося оцінки моделей випадкових ефектів. На даний момент традиційний підхід ANOVA повністю розділяє компанію з максимальною оцінкою ймовірності, і оцінки наслідків вже не однакові. Якщо дизайн не врівноважений, ви також не отримуєте однакових статистичних даних F.

Ще в той день, коли статистики хотіли обчислити випадкові ефекти від розщеплення або повторних проектів вимірювань, відхилення випадкових ефектів було обчислено із середніх квадратів таблиці ANOVA. Отже, якщо у вас є ділянка з дисперсією а залишкова дисперсія - , можливо, у вас з'явиться очікуване значення середнього квадрату ("очікуваний середній квадрат", EMS) , з числом розщеплень на . Ви встановите середній квадрат, рівний його очікуванню, і вирішите для σ 2 σ 2 + n σ 2 p n ^ σ 2 $\sigma^2_p$$\sigma^2$$\sigma^2 + n\sigma_p^2$$n$$\hat{\sigma_b^2}$. ANOVA дає метод оцінки моментів для дисперсії випадкових ефектів. Зараз ми схильні вирішувати подібні проблеми за допомогою моделей зі змішаними ефектами, і компоненти дисперсії отримують за допомогою максимальної оцінки ймовірності або REML.

ANOVA як така не є методом моменту процедури. Він перетворюється на розбиття суми квадратів (або, загалом, квадратичної форми відповіді) на компоненти, які дають змістовні гіпотези. Це сильно залежить від нормальності, оскільки ми хочемо, щоб суми квадратів мали розподіли чі-квадратів для роботи тестів на F.

Рамка максимальної ймовірності є більш загальною і стосується ситуацій, таких як узагальнені лінійні моделі, де суми квадратів не застосовуються. Деяке програмне забезпечення (наприклад, R) викликає плутанину, визначаючи методи anova до тестів співвідношення ймовірності з асимптотичними розподілами чи-квадрата. Можна виправдати використання терміна "anova", але строго кажучи, теорія, що стоїть за ним, інша.