Чи визначена кожна кореляційна матриця позитивною?

11

Я говорю тут про матриці кореляцій Пірсона.

Я часто чув, як це говорило, що всі кореляційні матриці повинні бути позитивними напівмісячними. Я розумію, що позитивні певні матриці повинні мати власні значення , тоді як позитивні напівфінітні матриці повинні мати власні значення . Це змушує мене думати, що моє запитання можна перефразувати як "Чи можливо для матриць кореляції мати власне значення ?" $> 0$ $\ge 0$ $= 0$

Чи можливо для матриці кореляції (згенерованої з емпіричних даних без відсутніх даних) мати власне значення або власне значення ? Що робити, якщо натомість це матриця кореляції населення? $= 0$ $< 0$

Я прочитав у верхній відповіді на це питання про матриці коваріації, що

Розглянемо три змінні, , і . Їх матриця коваріації не є позитивно визначеною, оскільки існує вектор ( ), для якого не додатний. $X$ $Y$ $Z = X+Y$ $M$ $z$ $= (1, 1, -1)'$ $z'Mz$

Однак якщо замість коваріаційної матриці я виконую ці розрахунки на кореляційній матриці, то виходить як позитивний. Тому я думаю, що, можливо, ситуація відрізняється для матриць кореляції та коваріації. $z'Mz$

Моя причина запитання полягає в тому, що мене запитали на stackoverflow , стосовно запитання, яке я задав там.

covariance-matrix eigenvalues correlation-matrix

— user1205901 - Відновити Моніку
джерело

Якщо, наприклад, два атрибути - це одне, тільки вони мають різні назви, матриця є сингулярною. Якщо два атрибути додають до константи, це знову однина, тощо .

— ttnphns

Якщо коваріаційна матриця є сингулярною, то матриця кореляції також є сингулярною.

— ttnphns

2

Близькі дублікати: Чи є кожна матриця кореляції позитивною напіввизначеною? який має менший фокус на визначеному проти напіввизначеного кута, і чи є кожна матриця коваріації позитивною? що доречно, оскільки коваріація є по суті шкалою кореляції.

— Срібна рибка

16

Кореляційні матриці не повинні бути позитивними.

Розглянемо скалярну випадкову величину X, що має ненульову дисперсію. Тоді кореляційна матриця X із самим собою є матрицею всіх, яка є позитивною напіввизначеною, але не позитивно визначеною.

Що стосується співвідношення вибірки, врахуйте дані вибірки для вищезазначених, маючи перше спостереження 1 і 1, а друге спостереження 2 і 2. Це призводить до того, що кореляція вибірки є матрицею всіх, тому не є позитивно визначеною.

Зразок матриці кореляції, якщо обчислений у точній арифметиці (тобто без помилки округлення), не може мати негативні власні значення.

— Марк Л. Стоун
джерело

4

Можливо, варто згадати можливі ефекти пропущених значень на матрицю кореляції вибірки . Числовий нечіт не є єдиною причиною отримання негативного власного значення в матриці кореляції / коваріації вибірки.

— Срібна рибка

1

Так, я не робив це явним чином, але я припускав, згідно з заявою питання, "без відсутніх даних". Як тільки ви потрапите в дикий, хитрий світ відсутніх даних та коригувань для них, все вийде.

— Марк Л. Стоун

Так, вибачте, ви абсолютно праві, на питання сказано: "відсутні дані" - я просто подумав, що варто десь згадати, оскільки майбутні пошукачі можуть зацікавитись, навіть якщо апетит ОП насичений!

— Срібна рибка

7

Відповіді @yoki та @MarkLStone (+1 до обох) вказують, що матриця кореляції сукупності може мати нульові власні значення, якщо змінні лінійно пов'язані (наприклад, на прикладі @MarkLStone та на прикладі @yoki). $X_1 = X_2$ $X_1 = 2X_2$

$n<p$ $n-1$ $p-n+1$ $n-1$

— амеби
джерело

Справжній 'дат. Я припускаю, що я міг би і міг би надати цю інформацію, але моя мета полягала в тому, щоб створити контрприклад для спростування гіпотези ОП, тим самим виявивши її недійсність. Тим не менш, слід скорегувати друге речення таким чином, щоб воно було "У цьому випадку матриці коваріації та кореляції буде максимум рангом n − 1, тому буде принаймні (p − n + 1) нульових власних значень. "

— Марк Л. Стоун

4

$X$ $Y=2X$ $(X,Y)$ $2X=Y$ $E[Y^2]=4E[X^2]=\sigma_Y^2$ $E[XY]=2E[X^2]$ $\mbox{Cov}(X,Y)=E[XY]-EXEY=E[XY]$

Λ = (\begin{matrix} 1 & 2 \\ 2 & 4 \end{matrix}),

$\Lambda = \left(\array{1 & 2 \\ 2 & 4 }\right),$

Λ = (\begin{matrix} 1 & 1 \\ 1 & 1 \end{matrix}),

$\Lambda = \left(\array{1 & 1 \\ 1 & 1 }\right),$

X

$X$

Y

$Y$

— йокі
джерело

2

Λ

$\Lambda$

c o v (X, Y) = E (X Y) - E (X) E (Y) = 2 E [X^{2}] = 2 (σ_{X}^{2} + [E (X)]^{2})

$cov(X,Y)= \mathbb{E}(XY)-\mathbb{E}(X)\mathbb{E}(Y)= 2\mathbb{E}[X^2]=2\left(\sigma_X^2+[E(X)]^2\right)$

E (X^{2}) = Var (X) + [E (X)]^{2}

$E(X^2)=\text{Var}(X)+[E(X)]^2$

d i a g Λ^{- 1 / 2} Λ d i a g Λ^{1 / 2}

$diag \Lambda^{-1/2}\,\Lambda\, diag \Lambda^{1/2}$

@AntoniParellada, я не точно впевнений, що ти маєш на увазі - коваріація тут - прямий розрахунок. Але я відредагую і зроблю це зрозуміліше. Дякую.

— йокі