Яка реальна часова складність ліквідації Гаусса?

Відповідаючи на попереднє запитання , я згадав поширене, але помилкове переконання, що ліквідація «Гаусса» відбувається в $O(n^3)$ час. Хоча очевидно, що алгоритм використовує арифметичні операції $O(n^3)$ , недбала реалізація може створювати числа з експоненціально багатьма бітами. Як простий приклад, припустимо, ми хочемо діагоналізувати таку матрицю:

[\begin{matrix} 2 & 0 & 0 & \dots & 0 \\ 1 & 2 & 0 & \dots & 0 \\ 1 & 1 & 2 & \dots & 0 \\ ⋮ & ⋮ & ⋮ & ⋱ & ⋮ \\ 1 & 1 & 1 & \dots & 2 \end{matrix}]

$\begin{bmatrix} 2 & 0 & 0 & \cdots & 0 \\ 1 & 2 & 0 & \cdots & 0 \\ 1 & 1 & 2 & \cdots & 0 \\ \vdots & \vdots & \vdots & \ddots & \vdots\\ 1 & 1 & 1 & \cdots & 2 \\ \end{bmatrix}$

Якщо ми використовуємо версію алгоритму усунення без поділу, яка додає лише цілі кратні множини одного рядка до іншого, і ми завжди переводимо на діагональний запис матриці, вихідна матриця має вектор по діагоналі. $(2, 4, 16, 256, \dots, 2^{2^{n-1}})$

Але що це фактичний час складність виключення Гаусса? Більшість авторів комбінаторної оптимізації, здається, задоволені "сильно поліномом", але мені цікаво, що таке поліном насправді.

$n\times n$ $m$ $O(n(m+\log n))$ $m=O(\log n)$ $O(n^5)$ $\tilde{O}(n^4)$ $O(\log n)$

Це все-таки відомий найкращий аналіз? Чи є стандартна посилання, яка дає кращу чітку межу в часі або, принаймні, кращу межу з необхідною точністю?

Більш загально: Який час роботи (на цілу оперативну пам'ять) найшвидшого алгоритму, відомого для вирішення довільних систем лінійних рівнянь?

ds.algorithms reference-request linear-algebra

— Джефф
джерело

(вставляючи насильницьку ручну хвилю) Чи не вдалося обійти велику цілу проблему в цьому конкретному випадку, використовуючи хеширующие модулі малі прості трюки? алгоритм буде рандомізований, але все-таки .. Дійсно, це не відповідає на поставлене вами питання ...

— Суреш Венкат

O (n^{3} M_{B} [n (\log n + L)])

$O(n^3 M_B[n (\log n + L)])$

Стандартний алгоритм усунення Гаусса ділить зведений рядок на елемент повороту перед зменшенням пізніших рядків. Відкрите запитання стосується цієї стандартної версії. У прикладі, який я наводив на початку свого запитання, використовується інший варіант, який НЕ розділяється на елемент повороту.

— Джефф

Цікавий. Час Япа для алгоритму Береїса ідентичний часовому інтервалу, який передбачає аналіз Едмондса про ліквідацію Гаусса.

— Джефф

Нещодавно rjlipton досліджував цю область та цитує кандидатську дисертацію Каннана на цю тему. Ключовою частиною аналізу є нормальна форма

— Wrt

Відповіді:

$\widetilde O(n^3 \log( \|A\| + \|b\|))$

— Ілля
джерело

Дякую за довідку! Це відповідає на моє друге питання, але не на моє перше.

— Джефф

Якщо ви використовуєте поворотні, то бітний розмір проміжних результатів у ліквідації Гаусса (GE) є многочленом, експоненційного вибуху немає. Я думаю, що це результат Барейса. Щодо складності GE, то в книзі Гатена та Герхарда "Сучасна комп'ютерна алгебра" є алгоритм для обчислення детермінантної матриці , заснованої на GE, модульній арифметиці та теоремі залишків Китаю (Розд. 5.5, с. 101-105). Складність становить . Я думаю, що коефіцієнт можна зберегти, використовуючи швидку арифметику. Якщо я не помиляюся, це обмеження, про яке згадував user834.

A

$A$

O (n^{4} \log^{2} ‖ A ‖)

$O(n^4 \log^2\|A\|)$

n

$n$

— Ілля

@Elias, яке визначення норми в цьому виразі? Це найбільший коефіцієнт в абсолютних розмірах? Це розмір біта? Також це результат для довільних раціональних матриць?

— Хуан Бермеджо Вега

Я думаю, що відповідь на ваше перше запитання також є через такі аргументи: "Документ Едмонда" не описує варіант гауссової ліквідації але це доводить, що будь-яке число, обчислене на кроці алгоритму, є визначальним деякою підматрицею А. З книги Шріверта «Теорія лінійного та цілого програмування» ми знаємо, що якщо кодування A потребує b бітів (b повинно бути в $\widetilde O(n^3 \log( \|A\| + \|b\|))$ $\widetilde O(\log( \|A\|)$ ), то будь-якому з його субдетермінантів потрібно максимум 2b біт (теорема 3.2). Для того, щоб зробити гауссова елімінація алгоритмом багаточленного часу, ми повинні дбати про обчислені коефіцієнти: ми повинні скасувати загальні коефіцієнти з кожного дробу, який ми обчислимо, на будь-якому проміжному етапі, і тоді всі числа мають довжину кодування лінійною довжиною кодування A.

— Маттіас Вальтер
джерело