Дані для певних видів змінних, як правило, є ненормальними, якщо вимірюватись у певних популяціях (наприклад, рівень депресії у популяції людей з великим депресивним розладом). Враховуючи, що Пірсон припускає нормальність, наскільки надійною є статистика тесту в умовах ненормативності?

У мене є ряд змінних, для яких я хотів би коефіцієнтів кореляції, але зміщення Z для деяких із цих змінних є значущим при p <.001 (і це для порівняно невеликої вибірки). Я спробував деякі перетворення, але поліпшення в дистрибуції в кращому випадку є лише незначними.

Чи мені доведеться дотримуватися непараметричних аналізів? І не тільки для кореляцій, а й для інших видів аналізу?

Коротка відповідь: Дуже ненадійна. Кореляція є мірою лінійної залежності , і коли одна змінна не може бути записана як лінійна функція іншої (і все ще має заданий граничний розподіл), ви не можете мати ідеальну (позитивну чи негативну) кореляцію. Насправді можливі кореляційні значення можуть бути суворо обмежені.

Проблема полягає в тому, що хоча співвідношення чисельності населення завжди між і 1 , точний діапазон, який можна досягти, сильно залежить від граничних розподілів. Швидкий доказ та демонстрація:$-1$$1$

Досяжний діапазон кореляції

Якщо має функцію розподілу H і граничні функції розподілу F і G , існують деякі досить приємні верхня і нижня межі для H , H - ( x , y ) ≤ H ( x , y ) ≤ H + ( x , у ) , що називається межами Фреше. Це H - ( x , y $(X,Y)$$H$$F$$G$$H$

$U$$(X,Y)=(F^-(U), G^-(U))$$(F^-(-U), G^-(1-U))$

Приклади

Ось кілька прикладів (без доказів):

1. Коли і нормально розподілені, ми отримуємо максимум і мінімум , коли має звичайне двовимірне нормальний розподіл , де записується у вигляді лінійної функції . Тобто ми отримуємо максимум для Тут оцінки є (звичайно) і , незалежно від того , які кошти і дисперсій і мають.$X$$Y$$(X,Y)$$Y$$X$

   $$Y=\mu_Y+\sigma_Y \frac{X-\mu_X}{\sigma_X}.$$ $-1$$1$$X$$Y$

2. Коли і мають логічні розподіли, нижня межа ніколи не досягається, тому що це означає, що можна записати для деякого і додатного , а ніколи не може бути від'ємним. Існують (трохи некрасиві) формули для точних меж, але дозвольте лише навести окремий випадок. Коли і мають стандартні лонормальні розподіли (мається на увазі, що при експоненції вони є нормальними нормальними), досяжний діапазон становить . (Загалом, верхня межа також обмежена.)$X$$Y$$Y$$Y=a-bX$$a$$b$$Y$$X$$Y$$[-1/e, 1]\approx [-0.37, 1]$

3. Коли має стандартний нормальний розподіл, а має стандартний лонормальний розподіл, межі кореляції становлять $X$$Y$

   $$\pm \frac{1}{\sqrt{e-1}} \approx 0.76.$$

Зауважте, що всі межі визначаються для співвідношення населення . Кореляція вибірки може легко поширюватися поза межами, особливо для невеликих зразків (швидкий приклад: розмір вибірки 2).

Оцінка меж кореляції

Насправді досить просто оцінити верхню та нижню межі кореляції, якщо ви можете імітувати за граничними розподілами. Для останнього прикладу, наведеного вище, ми можемо використовувати цей код R:

> n = 10^5      # Sample size: 100,000 observations
> x = rnorm(n)  # From the standard normal distribution
> y = rlnorm(n) # From the standard lognormal distribution
>
> # Estimated maximum correlation
> cor( sort(x), sort(y) )
0.772
>
> # Estimated minimum correlation
> cor( sort(x), sort(y, decreasing=TRUE) )
−0.769

Якщо ми маємо лише фактичні дані та не знаємо граничних розподілів, ми все одно можемо скористатися вищевказаним методом. Не проблема в тому, що змінні залежать до тих пір, поки залежать пари спостережень . Але це допомагає мати багато пар спостереження.

Перетворення даних

$Y$$X$

Що ви тут справді робите, це створити нову міру залежності, яка не залежить від граничних розподілів; тобто, ви створюєте копули -А міру залежності. Уже існує кілька таких мір, що Спірман  ρ і Кендалл  τ є найбільш відомими. (Якщо ви дійсно зацікавлені в поняттях залежності, непогано заглянути в копули.)

На закінчення

Кілька заключних думок та порад: Просто перегляд кореляції має одну велику проблему: Це змушує вас перестати думати. Дивлячись на розкид ділянок, з іншого боку, часто змушує вас почати думати. Тому моя головна порада буде вивчити розкидання сюжетів та спробувати чітко моделювати залежність.

Це означає, що якщо вам потрібна проста відповідна кореляційна міра, я просто використовую ρ Spearman  (і пов'язаний з ним довірчий інтервал і тести). Діапазон його не обмежений. Але будьте в курсі немонотонної залежності. У статті Вікіпедії про кореляцію є кілька приємних сюжетів, що ілюструють потенційні проблеми.

Як виглядають розподіли цих змінних (окрім перекосів)? Якщо єдиною ненормальністю є косоокість, то якась трансформація повинна допомогти. Але якщо ці змінні мають багато грудок, то жодна трансформація не приведе їх до нормальності. Якщо змінна не є суцільною, то ж саме.

Наскільки міцною є кореляція з порушеннями? Погляньте на квартет Anscombe. Це досить добре ілюструє декілька проблем.

Що стосується інших видів аналізу, то він залежить від аналізу. Якщо скажені змінні є незалежними змінними в регресії, наприклад, може взагалі не виникнути проблеми - потрібно подивитися на залишки.