Що саме називається "головним компонентом" в PCA?

Припустимо є вектор , який максимізує дисперсію проекції даних з конструкцією матриці .$u$$X$

Тепер я бачив матеріали, які називають (першим) основним компонентом даних, який також є власним вектором з найбільшим власним значенням.$u$

Однак я також бачив, що основною складовою даних є .$X u$

Очевидно, і і різні речі. Хто-небудь може мені тут допомогти і сказати, в чому різниця між цими двома визначеннями основних компонентів?X $u$$Xu$

Ви абсолютно правильні, спостерігаючи, що навіть незважаючи на те, що (один із власних векторів коваріаційної матриці, наприклад, перший) та (проекція даних на 1-мірний підпростір, охоплений ) - це дві різні речі, обидва їх часто називають "головним компонентом", іноді навіть в одному тексті.X u $\mathbf{u}$$\mathbf{X}\mathbf{u}$$\mathbf{u}$

У більшості випадків із контексту видно, що саме мається на увазі. Однак у деяких рідкісних випадках це може бути дуже заплутаним, наприклад, коли обговорюються деякі споріднені методи (наприклад, рідкісний PCA або CCA), де різні напрямки не повинні бути ортогональними. У цьому випадку твердження типу "компоненти є ортогональними" має дуже різні значення залежно від того, стосується він осей чи проекцій.$\mathbf{u}_i$

Я б закликав називати "головною віссю" або "головним напрямком", а "головним компонентом".X $\mathbf{u}$$\mathbf{X}\mathbf{u}$

Я також бачив називається "основний вектор компонента".$\mathbf u$

Я мушу зазначити, що альтернативним умовою є називати "головним компонентом", а "результатами головного компонента".X $\mathbf u$$\mathbf{Xu}$

Короткий зміст двох конвенцій:

$$\begin{array}{c|c|c} & \text{Convention 1} & \text{Convention 2} \\ \hline \mathbf u & \begin{cases}\text{principal axis}\\ \text{principal direction}\\ \text{principal component vector}\end{cases} & \text{principal component} \\ \mathbf{Xu} & \text{principal component} & \text{principal component scores} \end{array}$$

---

Примітка: Тільки власні вектори матриці коваріації, що відповідають ненульовим власним значенням, можна назвати основними напрямками / компонентами. Якщо матриця коваріації низького рангу, вона матиме одне або більше нульових власних значень; відповідні власні вектори (і відповідні проекції, постійні нулю) не повинні називатися основними напрямками / компонентами. Дивіться певну дискусію в моїй відповіді тут.