Як обчислити SVD величезної розрідженої матриці?

Який найкращий спосіб обчислити сингулярне розкладання величини (SVD) дуже великої позитивної матриці (65M x 3.4M), де дані надзвичайно рідкі?

Менше 0,1% матриці не дорівнює нулю. Мені потрібен спосіб, який:

• впишеться в пам'ять (я знаю, що існують онлайн-методи)
• буде обчислено у розумний час: 3,4 дня
• буде досить точним, проте точність не є моєю основною проблемою, і я хотів би мати можливість контролювати, скільки ресурсів я вклав у це.

Було б чудово мати бібліотеку Haskell, Python, C # тощо, яка реалізує її. Я не використовую математику або R, але при необхідності я можу піти з Р.

Якщо вона вписується в пам'ять, побудуйте розріджену матрицю в R за допомогою пакету Matrix і спробуйте irlba для SVD. Ви можете вказати, скільки сингулярних векторів ви хочете отримати в результаті, що є ще одним способом обмеження обчислення.

Це досить велика матриця, але я мав дуже хороші результати з цим методом у минулому. irlbaє досить сучасним. Він використовує неявно перезапущений алгоритм дводіагоналізації Ланцоса .

Він може пережовувати набір даних призів netflix (480,189 рядків на 17,770 стовпців, 100,480,507 ненульових записів) за мілісекунди. Ваш набір даних приблизно в 200 000 разів більший, ніж набір даних Netflix, тому він займає значно більше часу. Можна було б розраховувати, що він зможе зробити обчислення за пару днів.

1. Apache Spark: https://spark.apache.org/docs/1.1.0/mllib-data-types.html
2. Махуут Самсара (не в основному працює над Іскрами та іншими): https://mahout.apache.org/users/environment/out-of-core-reference.html
3. SciDB (для дійсно великих даних): http://www.paradigm4.com/scidb-how-linear-algebra-operations-scale/