Чим відрізняється звичайна PCA від імовірнісної PCA?

Я знаю, що звичайний PCA не дотримується імовірнісної моделі спостережуваних даних. Отже, в чому полягає основна відмінність PCA від PPCA ? У латентній змінній моделі PPCA містяться, наприклад, спостережувані змінні , латентні (незабезпечені змінні ) та матриця , яка не повинна бути ортонормальною, як у звичайній PCA. Ще одна відмінність у тому, що я можу вважати, що звичайний PCA надає лише основні компоненти, де PPCA забезпечує імовірнісний розподіл даних. $y$ $x$ $W$

Невже хтось зможе заздалегідь ознайомитись із відмінностями між PCA та PPCA?

pca

— Вендетта
джерело

Дивіться тут .

— Амі Таворі

+1. Дивіться мої відповіді тут stats.stackexchange.com/questions/208731, а також тут stats.stackexchange.com/questions/203087 . Чи читали ви слайди, з якими ви зв’язалися? Вони ніби все детально пояснюють. Чи можете ви дотримуватися цієї експозиції чи вона занадто складна?

— амеба каже, що повернеться до Моніки

@amoeba, я дотримувався слайдів, я отримую деякі відмінності, однак це не дає мені чіткої інтуїції, що те, що PPCA може зробити, що PCA не може зробити? Що технічно відбувається шляхом введення прихованих змінних? Оцінку коваріації, як у РРСА, можна проводити і в звичайних PCA? Якщо ви можете додати відповідь, це було б дуже корисно

— Вендетта,

@amoeba, ці два питання досить добре відповіли. Зокрема, питання про основний підпростір у ймовірнісному PCA. Це дає мені більше інтуїції в розумінні оцінки основних компонентів від W.

— Вендетта,

Гаразд, спробую опублікувати відповідь, але в ці дні я досить зайнятий. Я спробую знайти час на цей тиждень, але, можливо, відкладу його на наступний тиждень. (+1 до речі)

— амеба каже: Відновити Моніку

Мета PPCA - не дати кращих результатів, ніж PCA, а дозволити широке коло майбутнього розширення та аналізу. У статті чітко викладені деякі переваги у вступі, тобто / наприклад:

"визначення міри ймовірності дозволяє порівняти з іншими ймовірнісними методами, полегшивши статистичне тестування та дозволяючи застосовувати байєсівські моделі".

Зокрема, байесівські моделі останнім часом користуються величезним ренесансом, наприклад, VAE, "автоматичне кодування варіаційного Bayes", https://arxiv.org/abs/1312.6114 . Розширення PCA, що може бути використане у варіативних структурах тощо, може призвести до того, що інший дослідник може сказати: «Ой, ага, що робити, якщо я ...»

— Х'ю Перкінс
джерело