Як встановити, що ітераційний метод для великих лінійних систем на практиці є конвергентним?

У обчислювальній науці ми часто стикаємося з великими лінійними системами, які нам потрібно вирішити деякими (ефективними) засобами, наприклад, прямими чи ітераційними методами. Якщо ми зосередимося на останньому, то як ми можемо встановити, що ітераційний метод розв’язання великих лінійних систем на практиці є конвергентним?

Зрозуміло, що ми можемо робити аналіз проб і помилок (пор. Чому мій ітеративний лінійний вирішувач не збігається? ) Та покладатися на ітеративні методи, які гарантують конвергенцію доказом або мають грунтовний досвід (наприклад, методи підпростору Крилова, такі як CG та GMRES для симетричних і несиметричних систем відповідно).

Але що можна зробити для встановлення конвергенції на практиці? і що робиться?

— Аллан П. Енгсіг-Каруп
джерело

Чудове запитання! Коли ви говорите «встановити конвергенцію», ви маєте на увазі «встановити, що рішення конвергується» або «встановити, що конвергенція відбудеться»? Я знаю, наприклад, що об’єкт PETSc KSP має кілька методів за замовчуванням для тестування конвергенції (норма помилки зменшується, максимальна кількість ітерацій). Це така відповідь, яку ви шукаєте?

— Арон Ахмадія

@aron: Я думаю, що буде цікаво переглянути відповіді на обидва питання.

— Аллан П. Енгсіг-Каруп

Для багатьох часткових диференціальних рівнянь, що виникають у природі, особливо із сильними нелінійностями чи анізотропіями, вибір відповідного попереднього кондиціонера може мати великий вплив на те, чи ітераційний метод конвергується швидко, повільно чи взагалі немає. Приклади проблем, які, як відомо, мають швидкі та ефективні попередні кондиціонери, включають сильно еліптичні часткові диференціальні рівняння, де багаторідкий метод часто досягає швидкої конвергенції. Існує ряд тестів, які можна використовувати для оцінки конвергенції; тут я буду використовувати приклад функціональності PETSc, оскільки це, мабуть, найстаріша і найзріліша бібліотека для ітеративного вирішення розріджених систем лінійних (і нелінійних рівнянь).

PETSc використовує об'єкт, який називається KSPMonitor, для моніторингу ходу ітераційного розв'язувача та вирішення, чи розв'язується вирішувач чи розходиться. Монітор використовує чотири різні критерії, щоб вирішити, чи потрібно зупинятись. Більш детальну інформацію про обговорення тут можна знайти на головній сторінці для KSPGetConvergedReason () .

$x$

A x = b

$Ax=b$

\hat{x}

$\hat{x}$

\hat{r}

$\hat{r}$

$\left(P^{-1}(Ax − b) \right)$
$\hat{r} = P^{- 1} (A \hat{x} - b)$ $\hat{r}=P^{-1}(A\hat{x}-b)$
$\left(AP^{-1}Px = b \right)$
$\hat{r} = A \hat{x} - b$ $\hat{r}=A\hat{x}-b$

Критерії конвергенції

$a_{tol}$ $‖ \hat{r} ‖ \leq a_{t o l}$ $\|\hat{r}\| \le a_{tol}$
Відносна толерантність - Критерій відносної толерантності задовольняється, коли норма залишку менша від норми правої частини на коефіцієнт заздалегідь заданої постійної : $r_{tol}$ $‖ \hat{r} ‖ \leq r_{t o l} \cdot ‖ b ‖$ $\|\hat{r}\| \le r_{tol}\cdot \|b\|$
Інші критерії - ітераційне рішення також може сходитися через виявлення невеликої довжини кроку або негативної кривизни.

Критерії розбіжності

Максимальні ітерації - Максимальна кількість ітерацій, які може здійснити розв'язувач, обмежується максимальною кількістю ітерацій. Якщо жоден з інших критеріїв не досягнуто, коли досягнуто максимальної кількості повторень, монітор повертається як розбіжний.
Залишковий NaN - якщо в будь-якій точці залишок оцінюється з NaN, розв'язувач повертається як розбіжний.
Розбіжність залишкової норми Монітор повертається як розбіжний, якщо в будь-який момент норма залишкової величини перевищує норму правої частини на коефіцієнт заздалегідь заданої постійної : $d_{tol}$
$‖ \hat{r} ‖ \geq d_{t o l} \cdot ‖ b ‖$ $\|\hat{r}\| \ge d_{tol}\cdot \|b\|$
Розбивка на розв’язування Метод Крилова сам по собі може подати сигнал про розбіжність, якщо виявить сингулярну матрицю або попередній умова.

— Арон Ахмадія
джерело