Безпечне застосування ітеративних методів на діагонально домінуючих матрицях

Припустимо, наведена наступна лінійна система

$$Lx=c,\tag1$$ де $L$ - зважений лаплаціан, відомий як позитивний $semi-$визначено з одновимірним нульовим простором, що охоплюється $1_n=(1,\dots,1)\in\mathbb{R}^n$, і варіація перекладу $x\in\mathbb{R}^{n}$, тобто $x+a1_n$ не змінює значення функції (похідна від якої є $(1)$). Єдині позитивні записи$L$ знаходяться на його діагоналі, що є підсумком абсолютних значень від'ємних позадіагональних записів.

Я виявив в одній високо цитованій академічній роботі в цій галузі, що, хоча $L$ є $not~strictly$ по діагоналі домінуючі, такі методи, як кон'югатний градієнт, Гаусс-Сейдл, Якобі, все ще можуть бути безпечно використані для вирішення $(1)$. Обґрунтування полягає в тому, що через інваріантність перекладу можна безпечно зафіксувати одну точку (наприклад, видалити перший рядок і стовпець$L$ і перший запис від $c$ ), перетворюючи таким чином $L$ до а $strictly$діагонально домінуюча матриця. У будь-якому випадку оригінальна система вирішена в повному вигляді$(1)$, с $L\in\mathbb{R}^{n\times n}$.

Чи правильне це припущення, і якщо так, то яке альтернативне обгрунтування? Я намагаюся зрозуміти, як конвергенція методів все ще зберігається.

Якщо метод Якобі збігається з $(1)$, що можна сказати про спектральний радіус $\rho$ матриці ітерації $D^{-1}(D-L)$, де $D$ - діагональна матриця із записами $L$по його діагоналі? Є$\rho(D^{-1}(D-L)\leq1$, таким чином відрізняється від загальних гарантій конвергенції для $\rho(D^{-1}(D-L))<1$? Я запитую це з моменту власних значень матриці Лаплаціа$D^{-1}L$при цьому діагоналі повинні бути в діапазоні$[0, 2]$.

З оригінального твору:

…….

При кожній ітерації ми обчислюємо новий макет (x (t +1), y (t + 1)), вирішуючи наступну лінійну систему:

$$L · x(t + 1) = L(x(t),y(t)) · x(t) \\ L · y(t + 1) = L(x(t),y(t)) · y(t) \tag 8$$ Не втрачаючи загальності, ми можемо виправити розташування одного з датчиків (використовуючи ступінь свободи локалізованого напруження перекладу) та отримати строго діагонально домінуючу матрицю. Тому ми можемо сміливо використовувати ітерацію Якобі для вирішення (8)

………………………….

У вищесказаному поняття "ітерація" пов'язане з базовою процедурою мінімізації, і її не слід плутати з ітерацією Якобі. Отже, система вирішується Якобі (ітеративно), а потім рішення купується в правій частині (8), але тепер для іншої ітерації основної мінімізації. Я сподіваюся, що це прояснить питання.

Зауважимо, що я знайшов, які ітераційні лінійні розв’язувачі сходяться для позитивних напівфінітних матриць? , але я шукаю більш детальну відповідь.

Ітерацію Якобі можна довести конвергентною.

Перше, що ви повинні переконатися, це $c^T \mathbf{1}_n = 0$, що є умовою існування рішення (я припускаю $L=L^T$, інакше вам потрібно $c\in (\mathrm{Ker} L^T)^\perp$) тому що ви сказали $V_0:=\mathrm{Ker} L = \mathrm{span}\{\mathbf{1}_n\}$. Ми будемо використовувати конвенцію, що$V_0$також є матрицею з колонами, що є ортонормальною основою її. У вашому випадку,$V_0:=\mathbf{1}_n/\sqrt{n}$.

Потім, для помилок ітерації Якобі в оригінальній системі, у вас є

$$e_1 = (I-D^{-1}L)e_0 = (I-D^{-1}L) (P e_0 + V_0a)=(I-D^{-1}L) P e_0 + V_0a,$$ де $P:=I-V_0V_0'$ - ортогональна проекція на $V_1:=V_0^\perp$. З вищенаведеної ітерації ми це знаємо $$P e_1 = P (I-D^{-1}L) P e_0,$$
з якої ми маємо ітераційну матрицю $S$ в $V_1$, $$S: = P (I-D^{-1}L) P.$$ Не те щоб $S$ має однакові спектри (крім нулів) з наступною матрицею $$\tilde{S}:= (I-D^{-1}L) P P=(I-D^{-1}L) P=(I-D^{-1}L)(I-V_0V_0')\\ =I-D^{-1}L-V_0V_0'.$$ Ми хочемо спектральний радіус $S$ менше одного, щоб довести конвергенцію.

Наступна цитата стара і зберігається лише для довідки. Слідкуйте за новим доказом.

У вашому випадку, $V_0V_0'=\frac{1}{n}\mathbf{1}_{n\times n}.$ І ви можете це переконати $D^{-1}L+V_0V_0'$ є строго діагонально-домінуючим, використовуючи припущення, що записи $L$позитивні по діагоналі і негативні в іншому випадку. Показати власні значення $D^{-1}L+V_0V_0'$ справжні, відзначимо, що матриця є самозалежною під внутрішнім твором $<x,y>:=y^TDx.$

Якщо $V_0$не у вашій конкретній формі, я не знайшов відповіді на питання конвергенції. Може хтось це уточнить?

Зауважте, що $V_0$ - власний вектор, відповідний власній величині $1$ з $I-D^{-1}L$. На основі спостереження ми називаємо теорему 2.1 з власних значень оновлених матриць першого рангу з деякими додатками Цзю Дін та Ай-Хуй Чжоу.

Теорема 2.1 Нехай$u$ і $v$ бути двома $n$-вимірні стовпчикові вектори, такі, що $u$ є власним вектором $A$ пов'язані з власним значенням $\lambda_1$. Тоді власне значення$A+uv^T$ є $\{\lambda_1+u^Tv,\lambda_2,\ldots,\lambda_n\}$ підрахунок алгебраїчної кратності.

Тоді ми знаємо, що спектри $\tilde{S}$ те саме, що $I-D^{-1}L$ за винятком власного значення $1$ в останньому зміщується на $-1$в власне значення нуля в першому. З тих пір$\rho(I-D^{-1}L)\subset (-1,1]$, ми маємо $\rho(\tilde{S})\subset (-1,1)$.

Методи Крилова ніколи прямо не використовують розмірність простору, в якому вони повторюються, тому ви можете запускати їх у сингулярних системах до тих пір, поки ви не будете зберігати ітерати в ненульовому підпросторі. Зазвичай це робиться шляхом проектування нульового простору на кожній ітерації. Є дві речі, які можуть піти не так: перша набагато частіше, ніж друга.

1. Попередній кондиціонер нестабільний при застосуванні до оператора сингулярності. Прямі розв'язувачі та неповна факторизація можуть мати цю властивість. В якості практичного питання ми просто вибираємо різні попередні кондиціонери, але існують більш принципові способи проектування попередніх кондиціонерів для сингулярних систем, наприклад, Zhang (2010) .
2. На деякій ітерації $x$ знаходиться в ненульовому підпросторі, але $A x$живе цілком у нульовому просторі. Це можливо лише при несиметричних матрицях. Модифікований GMRES руйнується в цьому сценарії, але дивіться Reichel and Ye (2005) для варіантів без зриву.

Розв’язання сингулярних систем за допомогою PETSc див KSPSetNullSpace(). Більшість методів та попередніх кондиціонерів можуть вирішити єдині системи. На практиці малий нульовий простір для PDE з граничними умовами Неймана майже ніколи не є проблемою, якщо ви повідомляєте про рішення нуля простір Крилова і вибираєте розумний передумовник.

З коментарів звучить так, що вас особливо цікавить Якобі. (Чому? Якобі корисний як більш гладкий, але є набагато кращі методи, які можна використовувати як розв'язувачі.) Якобі, застосований до$A x = b$ не сходиться, коли вектор $b$ має компонент в нульовому просторі $A$однак частина рішення, ортогональна нульовому простору, конвергується, тому, якщо ви проектуєте нульовий простір з кожного ітерату, він конвергується. Як варіант, якщо ви виберете послідовне$b$ і початковий здогад, ітерати (в точній арифметиці) не накопичують компоненти в нульовому просторі.