Чи є евристика для оптимізації послідовного методу надмірного релаксації (SOR)?

Як я розумію, послідовне над релаксацією працює, вибираючи параметр $0\leq\omega\leq2$ та використовуючи лінійну комбінацію (квазі) ітерації Гаусса-Сейделя та значення за попереднім часовим кроком ... тобто

${u}^{k+1} = (\omega){u_{gs}}^{k+1} + (1-\omega)u^{k}$

Я заявляю "квазі", тому що ${u_{gs}}^{k+1}$ включає останню інформацію, оновлену відповідно до цього правила, у будь-який час. (зауважте, що при $\omega=1$ , це саме гаусс-сейдель).

У будь-якому випадку я прочитав, що за оптимального вибору для $\omega$ (такий, що ітерація переходить швидше, ніж будь-який інший) підходить 2 для проблеми Пуассона, оскільки просторове роздільне дозвіл наближається до нуля. Чи існує подібна тенденція для інших симетричних, діагонально домінуючих проблем? Тобто, чи є спосіб вибрати омегу оптимально, не вкладаючи її в адаптивну оптимізаційну схему? Чи існують інші евристики для інших типів проблем? Які проблеми можуть бути недостатньо релаксаційними ( $\omega<1$ )?

Притуплений Якобі

Нехай матриця має діагональ D . Якщо спектр D - 1 A лежить в інтервалі [ a , b ] позитивної реальної осі, то ітераційна матриця Якобі з коефіцієнтом демпфування ω B Jacobi = I - ω D - 1 A має спектр у діапазоні [ 1 - ω b , 1 - ω a ] , таким чином мінімізуючи спектральний радіус при ω opt = 2$A$$D$$D^{-1}A$$[a,b]$$\omega$

$$B_\text{Jacobi} = I - \omega D^{-1} A$$ $[1 - \omega b,1 - \omega a]$ дає коефіцієнт збіжності ρopt=1-2 $$\omega_{\text{opt}} = \frac 2 {a + b}$$ Якщов«Ь, то цей фактор конвергенції дуже бідна, якочікувалося. Зауважимо, що оцінитиbза допомогою методу Криловапорівняно легко, але оцінитиaдосить дорого. $$\rho_\text{opt} = 1 - \frac{2a}{a+b} = \frac{b-a}{a+b}.$$ $a \ll b$$b$$a$

Послідовне надмірне розслаблення (SOR)

$D^{-1}A$ I - D - 1 A μ max < 1 ω opt = 1 + ( μ $\mu_\max$$I - D^{-1} A$$\mu_\max < 1$ρopt=ωopt-1.ωoptμmax→

$$\omega_\text{opt} = 1 + \left( \frac{\mu_\max}{1 + \sqrt{1 - \mu_\max^2}} \right)^2$$ $$\rho_\text{opt} = \omega_\text{opt} - 1.$$ $\omega_\text{opt}$наближається до 2, коли .$\mu_\max \to 1$

Коментарі

Це вже не 1950 рік, і справді не має сенсу використовувати стаціонарні ітераційні методи в якості вирішувачів. Натомість ми використовуємо їх як плавніші для мультирешітки. У цьому контексті ми дбаємо лише про те, щоб націлити верхній кінець спектра. Оптимізація коефіцієнта релаксації в SOR призводить до того, що SOR виробляє дуже мало демпфування високих частот (в обмін на кращу конвергенцію на нижчих частотах), тому зазвичай краще використовувати стандартний Гаусс-Сейдель, що відповідає у SOR. Для несиметричних задач та проблем із сильно змінними коефіцієнтами, недостатньо розслаблений SOR ( ) може мати кращі демпфуючі властивості.ω < $\omega = 1$$\omega <1$

Оцінка обох власних значень є дорогою, але найбільше власне значення можна швидко оцінити, використовуючи кілька ітерацій Крилова. Поліноміальні згладжувачі (попередньо обумовлені Якобі) ефективніші, ніж багаторазові повторення затуханого Якобі, і їх легше налаштувати, тому їх слід віддати перевагу. Дивіться цю відповідь для отримання докладніших відомостей про згладжування поліномів.$D^{-1}A$

Іноді стверджується, що SOR не слід застосовувати як передумову для таких методів Крилова, як GMRES. Це випливає із зауваження, що оптимальний параметр релаксації повинен розміщувати всі власні значення матриці ітерації на колі зосереджена на походження. Спектр попередньо обумовленого оператора(

$$B_\text{SOR} = 1 - \left(\frac 1 \omega D + L\right)^{-1} A$$ $(\frac 1 \omega D + L)^{-1} A$має власне значення на колі того ж радіуса, але з центром на 1. Для погано кондиціонованих операторів радіус кола досить близький до 1, тому GMRES бачить власні значення, близькі до початку, в діапазоні кутів, що зазвичай не є добрим для конвергенції. На практиці GMRES може конвергуватися розумно при попередньому обумовленні СОР, особливо для проблем, які вже досить добре обумовлені, але інші попередні кондиціонери часто є більш ефективними.