Запитання з тегом «svd»

Я досліджую різні методи, що використовуються в кластеризації документів, і я хотів би усунути деякі сумніви щодо PCA (аналіз основних компонентів) та LSA (латентний семантичний аналіз). Перше - які відмінності між ними? Я знаю, що в PCA розкладання SVD застосовується до терміна-коваріаційної матриці, тоді як в LSA - матриця терміна-документа. …

25 clustering  pca  data-mining  svd  lsa 

Це питання стосується ефективного способу обчислення основних компонентів. Багато текстів на лінійній PCA пропонують використовувати сингулярне розкладання значення випадкових даних . Тобто, якщо ми маємо дані і хочемо замінити змінні (її стовпці ) основними компонентами, ми робимо SVD: , сингулярні значення (квадратні корені власних значень), що займають основну діагональ , …

22 pca  algorithms  svd  matrix-decomposition 

У процесі спільної фільтрації у нас є значення, які не заповнені. Припустимо, користувач не переглянув фільм, тоді ми мусимо поставити "na" туди. Якщо я збираюсь взяти SVD цієї матриці, тоді мені потрібно ввести якесь число - скажімо 0. Тепер, якщо я розбиваю на матрицю, у мене є спосіб знайти подібних …

21 machine-learning  svd  recommender-system 

Я натрапив на сценарій, коли у мене є 10 сигналів / людина на 10 осіб (тобто 100 зразків), що містять 14000 точок даних (розмірів), які мені потрібно передати класифікатору. Я хотів би зменшити розмірність цих даних, і PCA, здається, є способом зробити це. Однак мені вдалося знайти лише приклади PCA, …

21 pca  dimensionality-reduction  svd 

Я спостерігаю дуже дивну поведінку за результатами SVD випадкових даних, які я можу відтворити як у Matlab, так і R. Це виглядає як чисельне числове питання в бібліотеці LAPACK; є це? Я витягую зразків з мірних гауссів з нульовою середньою і коваріацією тотожності: . Я зібрати їх в даних матриця …

21 pca  svd  linear-algebra  numerics 

Я зрозумів, як регресія хребта зменшує коефіцієнти до нуля геометрично. Більше того, я знаю, як довести це в спеціальній "Ортонормічній справі", але мене бентежить, як це працює в загальному випадку за допомогою "Спектральної декомпозиції".

20 regression  multiple-regression  regularization  ridge-regression  svd 

Я знаю, як обчислити PCA та SVD математично, і я знаю, що обидва можна застосувати до регресії лінійних найменших квадратів. Основна перевага SVD математично виглядає в тому, що він може бути застосований до не квадратних матриць. Обидва фокусуються на розкладанні матриціОкрім переваги зазначеного SVD, чи є додаткові переваги чи розуміння, …

20 pca  least-squares  svd 

У мене є кілька швидких питань щодо PCA: Чи вважає PCA, що набір даних є гауссовим? Що трапляється, коли я застосовую PCA до властивих нелінійних даних? Враховуючи набір даних, процес спочатку повинен середньо-нормалізувати, встановити дисперсію на 1, взяти SVD, зменшити ранг і, нарешті, зіставити набір даних у новий простір зі …

20 pca  svd 

Я хочу реалізувати біплот для аналізу основних компонентів (PCA) в JavaScript. Моє запитання полягає в тому, як я можу визначити координати стрілок з виводу сингулярного розкладання вектора (SVD) матриці даних?U,V,DU,V,DU,V,D Ось приклад біплота виробництва R: biplot(prcomp(iris[,1:4])) Я спробував розглянути це у статті Вікіпедії про біплот, але це не дуже корисно. …

18 pca  svd  biplot 

Нещодавно я прочитав книгу Skillicorn про матричні розклади та був трохи розчарований, оскільки був орієнтований на студентську аудиторію. Я хотів би скласти (для себе та інших) коротку бібліографію істотних статей (опитування, але також проривні статті) про матричні розклади. Я маю на увазі насамперед щось на SVD / PCA (і надійні …

18 matrix-decomposition  svd  numerics 

Я хочу реалізувати алгоритм у статті, яка використовує ядро ​​SVD для розкладання матриці даних. Тому я читав матеріали про методи ядра та PCA ядра тощо. Але це все ще дуже незрозуміло для мене, особливо якщо мова йде про математичні деталі, і у мене є кілька питань. Чому методи ядра? Або …

18 pca  svd  kernel-trick 

Припустимо, у мене щільна матриця розміром m × n , при розкладі SVD A = U S V ⊤ . У можна обчислити СВД наступним чином : .AA \textbf{A}m×nm×nm \times nA=USV⊤.A=USV⊤.\mathbf{A}=\mathbf{USV}^\top.Rsvd(A) Якщо до A додати новий -й ряд , чи можна обчислити нове розкладання SVD на основі старого (тобто, використовуючи …

17 algorithms  svd  linear-algebra  matrix-decomposition  numerics 

У статті Вікіпедії про аналіз основних компонентів йдеться про це Існують ефективні алгоритми для обчислення SVD без необхідності формування матриці , тому обчислення SVD тепер є стандартним способом обчислення аналізу основних компонентів з матриці даних, якщо не потрібно лише декілька компонентів.XXXXTXXTXX^TX Може хтось скаже мені, про які ефективні алгоритми йдеться …

17 pca  algorithms  svd  numerics 

Припустимо , що ми маємо NNN вимірних величин, (a1,a2,…,aN)(a1,a2,…,aN)(a_1, a_2, \ldots, a_N) , ми робимо ряд M>NM>NM > N вимірювань, а потім хочете виконати сингулярне розкладання за результатами , щоб знайти осі самої високої дисперсії для MMM точок у NNN -вимірному просторі. ( Примітка: припустить , що кошти я вже …

17 pca  data-transformation  normalization  dimensionality-reduction  svd 

Чи є компоненти PCA (в основному аналізі компонентів) статистично незалежними, якщо наші дані багатоваріантні, як правило, розподіляються? Якщо так, то як це можна продемонструвати / довести? Я запитую, тому що я побачив цей пост , де у верхній відповіді зазначено: PCA не робить явного припущення про гауссів. Він знаходить власні …

16 pca  independence  svd