Вирішення розрідженої та сильно кондиціонованої системи

Я маю намір вирішити Ax = b там, де A є складною, розрідженою, несиметричною та сильно обумовленою (номер умови ~ 1E + 20) квадратної чи прямокутної матриці. Мені вдалося точно вирішити систему із ZGELSS в LAPACK. Але в міру зростання ступеня свободи в моїй системі потрібно багато часу, щоб вирішити систему на ПК з ZGELSS, оскільки зрідженість не використовується. Нещодавно я спробував SuperLU (використовуючи сховище Harwell-Boeing) для тієї самої системи, але результати були неточними для номера умови> 1E + 12 (я не впевнений, чи є це чисельною проблемою з поворотом).

Я більше схильний до використання вже розроблених розв’язувачів. Чи є надійний вирішувач, який може вирішити систему, про яку я згадував, швидко (надійно використовуючи розрідження) та надійно (з огляду на кількість умов)?

— user1234
джерело

Чи можете ви це зумовити? Якщо так, методи підпростору Крилова можуть бути ефективними. Навіть якщо ви наполягаєте на прямих методах, попередня підготовка допоможе контролювати числові помилки.

— Джефф Оксберрі

Я також зробив хороший досвід з попередньою підготовкою, як це описано тут: en.wikipedia.org/wiki/… Ви можете виконати попередню підготовку в точній арифметиці. Однак мої матриці є щільними, тому тут не можна вказувати на більш конкретні методи / процедури.

— AlexE

Чому номер умови такий великий? Можливо, рецептуру можна вдосконалити, щоб зробити систему краще кондиціонованою? Загалом, ви не можете очікувати, що зможете оцінити залишок точніше, ніж

(machine precision) \cdot (condition number)

$(\text{machine precision})\cdot(\text{condition number})$ , що робить Крилова малою цінністю, коли у вас закінчилися біти. Якщо номер умови справді

10^{20}

$10^{20}$ , ви повинні використовувати квадратичну точність ( __float128з GCC, підтримуваним кількома пакетами, включаючи PETSc).

— Джед Браун

Звідки ви берете оцінку кількості цієї умови? Якщо ви попросите Matlab оцінити номер умови матриці з нульовим простором, це може дати вам нескінченність, а іноді може просто дати вам дійсно величезне число (наприклад, те, що у вас є). Якщо система, яку ви дивитесь, має нульовий простір, і ви знаєте, що це таке, ви можете спроектувати це, і те, що вам залишилося, може мати кращий номер умови. Тоді ви можете використовувати PETSc або Trilinos або що у вас є.

— Даніель Шаперо

Даніель - урізаний метод SVD, використовуваний ZGELSS, визначає нульовий простір (особливі вектори, пов'язані з крихітними сингулярними значеннями в SVD, є основою для N (A)) і знаходить рішення з найменшими квадратами для

min ‖ A x - b ‖

$\min \| Ax-b \|$ понад .

p e r p (N (A))

$perp(N(A))$

— Брайан Борчерс

Відповіді:

Коли ви використовуєте ZGELSS для вирішення цієї проблеми, ви використовуєте усічене розкладення сингулярного значення для регуляризації цієї надзвичайно умовної проблеми. важливо розуміти, що ця рутина бібліотеки не намагається знайти рішення з найменшим квадратом , а скоріше намагається врівноважити пошук рішення, яке мінімізуєпроти мінімізації. $Ax=b$ $\| x \|$ $\| Ax-b \|$

Зауважимо, що параметр RCOND, переданий ZGELSS, може бути використаний для визначення того, які особливі значення слід включити та виключити з обчислення рішення. Будь-яке значення однини менше, ніж RCOND * S (1) (S (1) є найбільшим значенням однини), буде ігноруватися. Ви не сказали нам, як ви встановили параметр RCOND у ZGELSS, і ми нічого про рівень шуму коефіцієнтів у вашій матриці або в правій частині , тому важко сказати, чи використовували ви відповідна кількість регуляризації. $A$ $b$

Ви, здається, задоволені регуляризованими рішеннями, які ви отримуєте із ZGELSS, тому, здається, що регуляризація, здійснена методом усіченого SVD (що знаходить мінімальну рішення серед найменших квадратних рішень, що мінімізують над простором розчинів, що охоплюються сингулярними векторами, пов'язаними з величинами сингулярності, більшими, ніж RCOND * S (1), є для вас задовільним. $\| x \|$ $\| Ax-b \|$

Ваше запитання може бути переформульоване так: "Як я можу ефективно отримати розв’язання найменших квадратів для цієї великої, розрідженої та дуже погано обумовленої лінійної проблеми з найменшими квадратами?"

Моя рекомендація полягає у використанні ітеративного методу (наприклад, CGLS або LSQR) для мінімізації явно регульованих проблем з найменшими квадратами.

$\min \| Ax-b \|^{2} + \alpha^{2} \| x \|^{2}$

де параметр регуляризації налаштований так, щоб проблема найменших квадратиків була добре обумовлена, і щоб ви були задоволені отриманими рішеннями, що регулюються. $\alpha$

— Брайан Борчерс
джерело

Мої вибачення за те, що не згадували про це спочатку. Проблема, що вирішується, - рівняння акустики Гельмгольца за допомогою FEM. Система погано обумовлена через площину хвильової основи, яка використовується для наближення рішення.

— користувач1234

Звідки коефіцієнти в

A

$A$ і

b

$b$ прибув з? Чи вимірюють вони дані? "точні" значення від проектування якогось об'єкта (що на практиці не піддається механічній обробці до допусків, що становлять 15 цифр ...)?

— Брайан Борчерс

Матриці A і b формуються за допомогою слабкої формулювання PDE Helmholtz, див .: asadl.org/jasa/resource/1/jasman/v119/i3/…

— user1234

Джед Браун вже вказував на це в коментарях до питання, але насправді не дуже багато ви можете зробити в звичайній подвійній точності, якщо ваш номер стану великий: у більшості випадків ви, швидше за все, не отримаєте жодної цифри точності в ваше рішення, і, що ще гірше, ви навіть не можете сказати, тому що ви не можете точно оцінити залишки, відповідні вектору вашого рішення. Іншими словами: справа не в тому, який лінійний вирішувач вам слід вибрати - жоден лінійний розв'язувач не може зробити щось корисне для таких матриць.

Такі ситуації зазвичай трапляються тому, що ви обираєте непридатну основу. Наприклад, ви отримуєте такі неправильні умовні матриці, якщо ви вибрали функції $1,x,x^2,x^3,...$ як основа методу Галеркіна. (Це призводить до матриці Гільберта, яка, як відомо, погано обумовлена.) Рішення в таких випадках полягає не в тому, щоб запитати, який вирішувач може вирішити лінійну систему, а запитати, чи є кращі основи, які можна використовувати. Я б закликав вас зробити те саме: подумайте про переформулювання своєї проблеми, щоб ви не закінчилися з такими матрицями.

— Вольфганг Бангерт
джерело

Коли ми будемо дискретизувати неправомірну задачу для PDE, наприклад, рівняння зворотного тепла, ми, безумовно, закінчимо неправильне умовне матричне рівняння. Це не той випадок, який ми можемо вирішити, переформулювавши рівняння або вибравши ефективне рішення матриці або підвищивши точність числа з плаваючою комою. У цьому випадку [тобто акустичні зворотні проблеми] потрібен метод регуляризації.

— tqviet

Найпростіший / найшвидший спосіб вирішити невмовні проблеми - підвищити точність обчислень (грубою силою). Ще один (але не завжди можливий) спосіб - переформулювати свою проблему.

Можливо, вам знадобиться використовувати подвійну точність (34 десяткових цифри). Незважаючи на те, що 20 курсів будуть втрачені за курс (через номер умови), ви все одно отримаєте 14 правильних цифр.

Якщо який - небудь інтерес, тепер чотирьохядерна точність розріджених вирішувачі доступні в MATLAB теж.

(Я є автором згаданого набору інструментів).

— Павло Холобородько
джерело