Матриця зворотної коваріації проти матриці коваріації в PCA

Чи має значення PCA, якщо ми вибираємо основні компоненти матриці зворотної коваріації АБО, якщо ми відкидаємо власні вектори матриці коваріації, що відповідають великим власним значенням?

Це пов’язано з обговоренням у цій публікації .

machine-learning pca computational-statistics

— Мустафа Аріф
джерело

Зауважте, що для матриці позитивної визначеної коваріації точність дорівнює . $\mathbf \Sigma = \mathbf{UDU}'$ $\boldsymbol \Sigma^{-1} = \mathbf {U D}^{-1} \mathbf U'$

Таким чином, власні вектори залишаються однаковими, але власне значення точності є зворотними власними значеннями коваріації. Це означає, що найбільші власні значення коваріації будуть найменшими власними значеннями точності. Оскільки ви маєте зворотне, позитивна визначеність гарантує, що всі власні значення перевищують нуль.

$k$ $\bf D^{-1}$

— здогадки
джерело

+1, але я думаю, що ваше речення "Так так, це має значення" може бути заплутаним для ОП; Q не дуже зрозумілий, але я думаю, що вони запитували, чи є різниця між вибором найбільших власних значень матриці inv cov та вибором найменших власних значень (= випадання найбільших) матриці cov. На це питання відповідь полягає в тому, що вона рівнозначна. Тож, можливо, якщо ви просто виріжте це речення, відповідь буде зрозумілішою.

— амеба

Дякую, я бачу, що ви маєте на увазі, і редагували відповідно.

— домисли

Насправді останнє речення було гарним, я б його дотримав!

— амеба

@conjectures Дякую, це ідеальне пояснення.

— Мустафа Аріф

Крім того, матриця зворотної коваріації пропорційна частковій кореляції між векторами:

Corr(Xi, Xj | (Xothers )

Кореляція між Xi та Xj, коли всі інші фіксовані, дуже корисна для часових рядів.

— quantCode
джерело

Це правда, але що це стосується PCA?

— амеба