Розв’язування лінійної системи з матричними аргументами

10

Всі ми знайомі з багатьма обчислювальними методами для вирішення стандартної лінійної системи

А х = б .

$Ax=b.$ Однак мені цікаво, чи існують якісь "стандартні" обчислювальні методи для вирішення більш загальної (кінцевомірної) лінійної системи форми

L А = Б,

$LA=B,$ де, скажімо,

A

$A$ -матриця

m_{1} \times n_{1}

$m_1\times n_1$ ,

B

$B$ -матриця

m_{2} \times n_{2}

$m_2\times n_2$ , а

L

$L$ - лінійний оператор, що приймає

m_{1} \times n_{1}

$m_1\times n_1$ матриць до

m_{2} \times n_{2}

$m_2\times n_2$ матриць, щоне передбачає векторизації матриць, тобто перетворення всього в стандартнуформу

A x = b

$Ax=b$ .

Причина, яку я запитую, мені потрібно розв’язати наступне рівняння для $u$ :

(R^{*} R + λ Я) у = f

$(R^*R+\lambda I)u=f$ де

R

$R$ - 2d перетворення Радона,його суміжне, іі- 2d масиви (зображення). Це рівняння можна векторизувати, але це біль, особливо якщо ми переходимо до 3D.

R^{*}

$R^*$

u

$u$

f

$f$

Загалом, що з масивами? Наприклад, розв’язування де і це 3D-масиви (мені потрібно це зробити і з перетворенням Радона в якийсь момент). $nD$ $LA=B$ $A$ $B$

Дякую заздалегідь, і сміливо відправляйте мене на інший StackExchange, якщо відчуєте потребу.

linear-algebra

— icurays1
джерело

1

Можливо, ви зможете створити ефективний багаторівневий попередній кондиціонер, тоді використовуйте спряжений градієнт. У мене є аналогічна проблема, коли це досить ефективно і дуже паралельно. Якщо ви хочете прямих методів, розгляньте скорочення форми шуру, як у цій статті про рівняння Ляпунова: cs.cornell.edu/cv/ResearchPDF/Hessenberg.Schur.Method.pdf

— Нік

Відмінно, дякую за реф. Мені просто доводилося ефективно працювати з CG, тому я задоволений.

— icurays1

9

$\mathbb{R}^n$ $\langle y, x\rangle\triangleq \mathop{\textrm{Re}}(y^Hx)$

Одне, що ви повинні бути обережними, коли ви реалізуєте CG (або подібні ітераційні підходи) із загальними лінійними операторами, - це правильно реалізувати суміжність вашого лінійного оператора. Тобто, люди часто отримують правильно, але роблять помилку, реалізуючи . $y=F(x)$ $z=F^*(y)$

Я рекомендую здійснити простий тест, який використовує наступну ідентичність: для будь-яких відповідних і , Отже, те, що ви робите, - генерувати випадкові значення і , запускати їх відповідно відповідно до ваших операцій вперед та суміжних даних і обчислювати два внутрішніх добутку вище. Переконайтесь, що вони відповідають розумній точності, і повторіть кілька разів. $x$ $y$

⟨ у, Ж (х) ⟩ = ⟨ Ж^{*} (у), х ⟩ .

$\langle y, F(x) \rangle = \langle F^*(y), x \rangle.$

x

$x$

y

$y$

EDIT: що робити, якщо ваш лінійний оператор повинен бути симетричним? Що ж, вам потрібно перевірити і цю симетрію. Тому використовуйте той самий тест, лише зазначивши, що --- застосуйте ту саму операцію до та . Звичайно, ОП має як асиметричний оператор, так і симетричний для вирішення ... $F=F^*$ $x$ $y$

— Майкл Грант
джерело

Дякуємо @ChristianClason! Я з досвіду знаю, як можуть бути розчарувальні помилки в суміжних розрахунках. :) З нашого пакету TFOCS ми реалізували linop_test.mрозпорядок роботи. Цей пакет також підтримує матриці, масиви та декартові продукти у векторних просторах.

— Майкл Грант

3

Як виявляється, оскільки моя система є симетричною і позитивно визначеною (оскільки мій лінійний оператор записаний як ), спряжений градієнт може бути адаптований для ітеративного вирішення цього типу рівнянь. Єдина модифікація відбувається при обчисленні внутрішніх продуктів - тобто типовий внутрішній обчислення продукту в CG виглядає як або . У модифікованій версії ми використовуємо внутрішній продукт Frobenius, який можна обчислити шляхом підсумовування записів продукту Адамара (по точці). Тобто $R^*R+\lambda I$ $r_k^Tr_k$ $p_k^TAp_k$

⟨ А, Б ⟩ = \sum_{i, j} А_{i j} Б_{i j}

$\langle A,B\rangle=\sum_{i,j}A_{ij}B_{ij}$

Я підозрюю, що це відбудеться прекрасно, коли я перейду до 3D-масивів, хоча ще не бачу внутрішнього продукту Frobenius, визначеного на 3D-масивах (я буду працювати при припущенні, що я можу знову просто підбити точковий продукт).

Мені б все-таки цікаві більш загальні методи, якщо хтось знає про якісь!

— icurays1
джерело