Як Карл Пірсон придумав статистику хі-квадрата?

Як Пірсон придумав наступну статистику Pearson-хі-квадрата в 1900 році?

K = \sum \frac{(O_{i j} - E_{i j})^{2}}{E_{i j}}

$K = \sum \frac{(O_{ij} -E_{ij})^2}{E_{ij}}$ що

K \sim χ^{2}

$K \sim \chi^2$

Чи мав він на увазі чи-квадрат і розробив метрику (підхід знизу вгору), або він розробив статистику і пізніше довів, що вона відповідає розподілу chi-квадрата (зверху вниз)? $K$

Я хочу знати, чому він обрав таку конкретну форму, а не інші, такі як або, а також чому він розділив квадрат зі знаменником. $\sum(O_{ij} -E_{ij})^2$ $\sum|O_{ij} -E_{ij}|$

chi-squared descriptive-statistics history

— Елбі
джерело

Вам може здатися це цікавим: навіщо квадратичну різницю замість того, щоб приймати абсолютне значення у стандартному відхиленні?

— gung - Відновіть Моніку

Звичайно, можна мати будь-яку кількість статистичних даних, якими ви можете скористатися. Ваші альтернативи є прекрасними, хоча вам доведеться розробити вибіркові розподіли для них, які залежать від кількості осередків. Одне, що є зручним у цій формі, - це те, що вона має певні відносини до інших розподілів, наприклад, це розподіл суми k квадратних стандартних звичайних випадкових величин.

— gung - Відновіть Моніку

Папір Пірсона 1900 року поза авторським правом, тому ми можемо читати її в Інтернеті .

Спершу слід зауважити, що ця стаття стосується тесту на придатність, а не про перевірку незалежності чи однорідності.

Він протікає, працюючи з багатоваріантним нормальним, і ква-квадрат виникає як сума квадратних стандартизованих нормальних величин.

Ви можете бачити з дискусії на p160-161, що він чітко обговорює застосування тесту до мультиноміальних розподілених даних (я не думаю, що він десь використовує цей термін). Він, мабуть, розуміє приблизну багатоваріантну нормальність мультиноміалу (звичайно, він знає, що граничні показники приблизно нормальні - це дуже старий результат - і знає засоби, відхилення та коваріації, оскільки вони вказані в роботі); я здогадуюсь, що більшість цих речей вже є старовинним капелюхом до 1900 року. (Зауважимо, що сам розподіл у квадраті датується Гельмертром у середині 1870-х рр.)

Потім в нижній частині p163 він отримує статистику хі-квадрата як «міру корисності придатності» (сама статистика фігурує в показнику багатоваріантного нормального наближення).

Потім він продовжує обговорювати, як оцінити р-значення *, а потім правильно надає верхню площу хвоста за межі 43,87 як 0,000016. [Однак слід пам’ятати, що він неправильно розумів, як відрегулювати ступінь свободи для оцінки параметрів на цьому етапі, тому деякі приклади в його роботах використовують занадто високий df] $\chi^2_{12}$

* (зауважте, що ні парадигми тестування Фішера, ні Неймана-Пірсона, ми все-таки чітко бачимо, як він вже застосовує поняття p-значення.)

Ви зауважите, що він не пише явно таких термінів, як . Натомість він пише , тощо для очікуваних підрахунків, а для спостережуваних величин він використовує $(O_i-E_i)^2/E_i$ $m_1$ $m_2$ $m'_1$ тощо. Потім він визначає (нижня половина p160) і обчислює для кожної комірки (див. Екв. (Xv) p163 та останній стовпець таблиці в нижній частині p167) ... еквівалентні величини, але в різних позначеннях. $e = m-m'$ $e^2/m$

Значна частина теперішнього способу розуміння тесту чи-квадрата ще не встановлена, але, з іншого боку, вже зовсім небагато (принаймні, якщо ви знаєте, на що звернути увагу). У 1920-х роках (і далі) багато трапилось, що змінило наш погляд на ці речі.

Що стосується того, чому ми поділяємо на у мультиноміальному випадку, буває, що хоча дисперсія окремих компонентів у мультиноміалі менша, ніж , коли ми враховуємо коваріації, це рівнозначно діленню на , роблячи для приємного спрощення. $E_i$ $E_i$ $E_i$

Додано в редагуванні:

Документ Плакетта про 1983 рік містить багато історичного контексту, а також щось керівництво до цього документу. Я настійно рекомендую поглянути на це. Схоже, це безкоштовно в Інтернеті через JStor (якщо ви входите в систему), тому вам навіть не потрібен доступ через установу, щоб прочитати його.

Plackett, RL (1983),
"Карл Пірсон і тест Chi-Squared",
Міжнародний статистичний огляд ,
Vol. 51, № 1 (квітень), стор 59-72

— Glen_b -Встановити Моніку
джерело

Я просто перечитую цю публікацію, і кожен раз, коли я це роблю, я отримую додаткове розуміння. @Glen_b Я хочу подякувати за чудову відповідь, яку я мав би робити раніше. Якщо я можу задати додаткове запитання, у вашому поясненні того, як поділ на E регулює коваріантність, чи можете ви детальніше розібратися з цим питанням або вказати мені на ресурс, який обговорює цю тему? Я інтуїтивно можу зрозуміти, для чого потрібна «нормалізація», але я хочу підкріпити свою інтуїцію математичним доказом.

— Елбі

E_{i}

$E_i$

X_{i}

$X_i$

C o v (X_{i}, X_{j}) = E (X_{i} X_{j}) - E (X_{i}) E (X_{j}) = - E (X_{i}) E (X_{j})

$Cov(X_i,X_j)=E(X_iX_j)-E(X_i)E(X_j)=-E(X_i)E(X_j)$

X_{i}, X_{j}

$X_i,X_j$

> 0

$>0$

Cov (O_{i}, O_{j})

$\text{Cov}(O_i,O_j)$

Дякуємо за посилання @Glen_b. Прочитавши пост, зараз це набагато зрозуміліше! Я наївно думав, що в знаменнику є коригування початкових відмінностей для кожної комірки, таким чином, термін "нормалізується", але, читаючи вашу публікацію, я зрозумів, що повністю відзначився.

— Альбі

На жаль, слово "нормалізувати" має щонайменше три різні сенси, що мають відношення до статистики. Ненаголошений, я зазвичай використовую його лише для позначення "стандартизувати до значення 0 та стандартного відхилення 1", але інші люди використовують це для "нормалізації" у сенсі нормалізації вектора за якоюсь нормою, або навіть для перетворення на приблизну нормальність. Оскільки це така жучка тут, я маю знати до цього часу, щоб її уникнути.

— Glen_b -Встановити Моніку