Як центрування впливає на значення PCA (для розпаду SVD та власних властивостей)?

Яку різницю мають центрирування (або де-значення) ваших даних для PCA? Я чув, що це полегшує математику або що перешкоджає домінуванню на першому ПК засобами змінних, але я відчуваю, що ще не зміг зрозуміти цю концепцію.

Наприклад, головна відповідь тут Як центрування даних позбавляється від перехоплення в регресії та PCA? описується, як не центрування потягнуло б перший PCA через початок, а не через головну вісь точкового хмари. Виходячи з мого розуміння того, як ПК отримують із власних векторів матриці коваріації, я не можу зрозуміти, чому це станеться.

Більше того, мої власні розрахунки з і без центрування здаються мало сенсу.

Розглянемо квіти сетози в irisнаборі даних у Р. Я розраховував власні вектори та власні значення матриці коваріації зразка наступним чином.

data(iris)
df <- iris[iris$Species=='setosa',1:4]
e <- eigen(cov(df))
> e
$values
[1] 0.236455690 0.036918732 0.026796399 0.009033261

$vectors
            [,1]       [,2]       [,3]        [,4]
[1,] -0.66907840  0.5978840  0.4399628 -0.03607712
[2,] -0.73414783 -0.6206734 -0.2746075 -0.01955027
[3,] -0.09654390  0.4900556 -0.8324495 -0.23990129
[4,] -0.06356359  0.1309379 -0.1950675  0.96992969

Якщо я спершу центрирую набір даних, я отримую абсолютно однакові результати. Це здається цілком очевидним, оскільки центрування зовсім не змінює матрицю коваріації.

df.centered <- scale(df,scale=F,center=T)
e.centered<- eigen(cov(df.centered))
e.centered

Ці prcompрезультати функції в точно такій комбінації власних значень, власних векторів , а також, як для центрованої і uncentered набору даних.

p<-prcomp(df)
p.centered <- prcomp(df.centered)
Standard deviations:
[1] 0.48626710 0.19214248 0.16369606 0.09504347

Rotation:
                     PC1        PC2        PC3         PC4
Sepal.Length -0.66907840  0.5978840  0.4399628 -0.03607712
Sepal.Width  -0.73414783 -0.6206734 -0.2746075 -0.01955027
Petal.Length -0.09654390  0.4900556 -0.8324495 -0.23990129
Petal.Width  -0.06356359  0.1309379 -0.1950675  0.96992969

Однак prcompфункція має опцію за замовчуванням center = TRUE. Вимкнення цієї опції призводить до того, що наступні ПК для нецензованих даних ( p.centeredзалишаються такими ж, коли centerвстановлено значення false):

p.uncentered <- prcomp(df,center=F)
> p.uncentered
Standard deviations:
[1] 6.32674700 0.22455945 0.16369617 0.09766703

Rotation:
                    PC1         PC2        PC3         PC4
Sepal.Length -0.8010073  0.40303704  0.4410167  0.03811461
Sepal.Width  -0.5498408 -0.78739486 -0.2753323 -0.04331888
Petal.Length -0.2334487  0.46456598 -0.8317440 -0.19463332
Petal.Width  -0.0395488  0.04182015 -0.1946750  0.97917752

Чому це відрізняється від моїх власних розрахунків власного вектора на матриці коваріації безцентризованих даних? Це має відношення до розрахунку? Я бачив, що prcompдля обчислення ПК використовується щось, що називається методом SVD, а не розкладання власного значення. Функція princompвикористовує останню, але її результати ідентичні prcomp. Чи стосується мого питання відповідь, яку я описав у верхній частині цього повідомлення?

$\bf X$${\bf X'X}/(n-1)$

[Вікіпедія:] Щоб знайти осі еліпса, ми повинні спочатку відняти середнє значення кожної змінної від набору даних, щоб відцентрувати дані навколо джерела. Потім ми обчислюємо матрицю коваріації даних ...

І тому ви праві зауважити, що це не дуже точна формулювання.

$\mathbf X^\top \mathbf X/(n-1)$$\mathbf X$

то центрування має велике значення і має ефект, описаний та проілюстрований @ttnphns у розділі Як центрування даних позбавляється від перехоплення в регресії та PCA?

$\mathbf X$ . Я детально описую це тут: Зв'язок між SVD та PCA. Як використовувати SVD для виконання PCA? У цьому випадку процедура така:

$\mathbf X$svd функцією . У мене, звичайно, була своя частка помилок через те, що я забув це зробити.