Запитання з тегом «numerics»

Я зазвичай чую про "звичайні найменші квадрати". Це найпоширеніший алгоритм, що використовується для лінійної регресії? Чи є причини використовувати інший?

42 regression  least-squares  algorithms  computational-statistics  numerics 

Я вивчаю PCA з курсу Coursera Ендрю Нґ та інших матеріалів. У першому завданні курсу Stanford NLP cs224n , а в лекційному відео від Ендрю Нг вони роблять сингулярне розкладання значення замість власного вектора розкладання коваріаційної матриці, і Ng навіть говорить, що SVD чисельно стабільніше, ніж ейгендекомпозиція. З мого розуміння, …

29 pca  linear-algebra  svd  eigenvalues  numerics 

Який найкращий спосіб обчислити сингулярне розкладання величини (SVD) дуже великої позитивної матриці (65M x 3.4M), де дані надзвичайно рідкі? Менше 0,1% матриці не дорівнює нулю. Мені потрібен спосіб, який: впишеться в пам'ять (я знаю, що існують онлайн-методи) буде обчислено у розумний час: 3,4 дня буде досить точним, проте точність не …

26 svd  numerics 

Я спостерігаю дуже дивну поведінку за результатами SVD випадкових даних, які я можу відтворити як у Matlab, так і R. Це виглядає як чисельне числове питання в бібліотеці LAPACK; є це? Я витягую зразків з мірних гауссів з нульовою середньою і коваріацією тотожності: . Я зібрати їх в даних матриця …

21 pca  svd  linear-algebra  numerics 

Нещодавно я прочитав книгу Skillicorn про матричні розклади та був трохи розчарований, оскільки був орієнтований на студентську аудиторію. Я хотів би скласти (для себе та інших) коротку бібліографію істотних статей (опитування, але також проривні статті) про матричні розклади. Я маю на увазі насамперед щось на SVD / PCA (і надійні …

18 matrix-decomposition  svd  numerics 

Припустимо, у мене щільна матриця розміром m × n , при розкладі SVD A = U S V ⊤ . У можна обчислити СВД наступним чином : .AA \textbf{A}m×nm×nm \times nA=USV⊤.A=USV⊤.\mathbf{A}=\mathbf{USV}^\top.Rsvd(A) Якщо до A додати новий -й ряд , чи можна обчислити нове розкладання SVD на основі старого (тобто, використовуючи …

17 algorithms  svd  linear-algebra  matrix-decomposition  numerics 

У статті Вікіпедії про аналіз основних компонентів йдеться про це Існують ефективні алгоритми для обчислення SVD без необхідності формування матриці , тому обчислення SVD тепер є стандартним способом обчислення аналізу основних компонентів з матриці даних, якщо не потрібно лише декілька компонентів.XXXXTXXTXX^TX Може хтось скаже мені, про які ефективні алгоритми йдеться …

17 pca  algorithms  svd  numerics 

Можливо, тут немає теми, але вже є декілька ( один , два ) пов'язаних із цим питань. Оглянувшись літературою (або пошуком Google за усіченими алгоритмами SVD), виходить багато паперів, які різними способами використовують усічені SVD, і стверджують ( страшно , часто, без цитування), що існують швидкі алгоритми її обчислення, але …

14 algorithms  svd  numerics 

TL; DR: lme4оптимізація виявляється лінійним по числу параметрів моделі за замовчуванням, і шлях повільніше , ніж аналогічна glmмодель з фіктивними змінними для груп. Чи можна щось зробити, щоб прискорити це? Я намагаюся вписати досить велику ієрархічну модель logit (~ 50k рядків, 100 стовпців, 50 груп). Встановлення нормальної моделі logit до …

12 r  mixed-model  optimization  lme4-nlme  numerics 

Я намагався реалізувати числову оцінку дивергенції Куллбека-Лейблера для двох зразків. Для налагодження реалізації намалюйте вибірки з двох нормальних розподілів та .N(0,1)N(0,1)\mathcal N (0,1)N(1,2)N(1,2)\mathcal N (1,2) Для простої оцінки я створив дві гістограми і спробував числово наблизити інтеграл. Я застряг в обробці тих частин гістограми, де бункери однієї гістограми дорівнюють нулю, …

10 estimation  intuition  kullback-leibler  numerics 

Я шукаю згрупувати / об’єднати вузли в графі, використовуючи кластеризацію граф у 'r'. Ось надзвичайно іграшка варіація моєї проблеми. Є два "кластери" Існує "міст", що з'єднує кластери Ось кандидатська мережа: Коли я дивлюсь на відстань з'єднання, "рахунок", якщо ви хочете, то я можу отримати таку матрицю: mymatrix <- rbind( c(1,1,2,3,3,3,2,1,1,1), …

10 r  clustering  data-visualization  numerics