Матричне множення ланцюга та експоненціація

Якщо у мене є дві матриці і розмірами та відповідно, і хочеться обчислити , то більш ефективно спочатку переписати вираз як і лише тоді оцінюйте числово, тому що має розмірність а має розмірність .B 1000 × 2 2 × 1000 ( A B ) 5000 A ( B A ) 4999 B A B 1000 × 1000 B A 2 × $A$$B$$1000\times2$$2\times1000$$(AB)^{5000}$$A(BA)^{4999}B$$AB$$1000\times1000$$BA$$2\times2$

Я хочу вирішити узагальнену версію цієї проблеми. Чи існує достатньо ефективний алгоритм (не груба сила) для оптимізації виразу, що містить:

• Вільні матричні змінні відомих розмірів
• Продукти довільних підвиражень
• Довільні підекспресії, підняті до природної сили

... так що для чисельної оцінки потрібно найменший обсяг роботи після заміни змінних вільних матриць конкретними значеннями матриці?

Проблема множення матричного ланцюга є особливим випадком моєї проблеми.

Редагувати:

Це попередня відповідь. Мені це здається інтуїтивно зрозумілим, але я не маю доказів того, що це правильно. Якщо воно виявиться правильним, мене все-таки цікавить доказ. (Якщо це неправильно, звичайно, будь ласка, виправте мене.)

Для кожного продукту, піднятого до потужності, скажімо, , врахуйте кожну циклічну перестановку факторів:$(A_1 A_2 \ldots A_k)^n$

• $(A_1 A_2 \ldots A_k)^n$
• $A_1 (A_2 \ldots A_k A_1)^{n-1} A_2 \ldots A_k$
• $A_1 A_2 (A_3 \ldots A_k A_1 A_2)^{n-1} A_3 \ldots A_k$
• ...
• $A_1 A_2 \ldots A_{k-1} (A_k A_1 A_2 \ldots A_{k-1})^{n-1} A_k$

... рекурсивно. Кожна потужність повинна бути обчислена за допомогою експоненції шляхом квадратування (очевидно), а всі інші продукти повинні бути обчислені за допомогою оптимального порядку, повернутого алгоритмом множення матричного ланцюга.

Редагувати:

Ідея, викладена в моїй попередній редакції, все ще дещо неоптимальна. Експонентація алгоритмом квадратування насправді оцінює вирази форми або , де не обов'язково є матрицею ідентичності. Але мій алгоритм не розглядає можливості використання експонентації шляхом порівняння алгоритму з не рівним матриці тотожності.А н К К $K A^n$$A^n K$$K$$K$

Відмова від відповідальності: Наступний метод не був жорстко підтверджений як оптимальний. Надається неофіційний доказ.

Проблема зводиться до пошуку найбільш ефективного замовлення при розгляді площі товару.

Наприклад, дивлячись наприклад , нам потрібно лише оптимально вирішити оскільки це поширюється на . Користувальна інформація про замовлення не додається шляхом повторного об'єднання . Інтуїція тут полягає в тому, що оскільки проблема оптимального впорядкування може бути вирішена знизу вгору, більш високі впорядкування, що складаються з більшої кількості елементів, що використовують однакові матриці, не мають значення.$(ABC)^{50}$$(ABC)^2$$ABCABC$$ABC$

Пошук найкращого впорядкування зводиться до проблеми множення матричного ланцюга. Знайшовши оптимальне впорядкування, застосуйте експоненцію до триплета (загалом n-кортеж) у впорядкуванні.$ABCABC$

Наприклад, якщо оптимальне впорядкування для квадрата дорівнює , рішення початкової задачі .$A(B(CA))BC$$A(B(CA))^{49}BC$

Підсумовуючи це:
1) Першим кроком у вирішенні є вирішення . 2) Розв’язування найкраще підходить як екземпляр задачі множення матричного ланцюга. 3) Використання впорядкування n-кортежу з розчину в (2) дасть нам рішення для (1) як деякий аромат (зауважте, що будь-який інший також слід застосовувати групування з розв’язування (2).$(A_1 A_2 \cdots A_n)^m$$(A_1 A_2 \cdots A_n)^2$
$(A_1 A_2 \cdots A_n)^2$
$G$$A_1 \cdot A_2 \cdot G^{m-1} \cdot A_n$

Неформальне доведення
Розглядаючи найпростіший випадок з використанням двох матриць , зазначимо, що і мають розмірність і відповідно. Будь-який продукт, що використовує і має один із таких розмірів:$(AB)^n$$A$$B$$X \times Y$$Y \times X$$A$$B$

$X \times Y$
$Y \times X$
$Y \times Y$
$X \times X$

Ми маємо або або .$X < Y$$Y ≤ X$

Припущення 1a): має розмір , і це впорядкування гарантується оптимальним при підході знизу вгору. Будь-яка інша конфігурація і є однаково хорошою, або гіршою. Таким чином, задача оптимально вирішується як .$X < Y$
$AB$$X \times X$$A$$B$$(AB)^n$

Припущення 1b): має розмірність . Це оптимальне розташування для всіх продуктів , пов'язаних і . Таким чином, рішення оптимально знайдено як .$Y ≤ X$
$BA$$Y \times Y$$A$$B$$A(BA)^{n-1}B$

Це завершує доказ, і ми лише розглянули два впорядкування, знайдені в , проблему квадрата.$ABAB$

Використовуючи більше матриць, аргумент подібний. Можливо, можливий індуктивний доказ? Загальна ідея полягає в тому, що розв’язуючи МСМ для квадрата, знайдемо оптимальний розмір для операцій з усіма розглянутими матрицями.

Приклад:

julia> a=rand(1000,2);
julia> b=rand(2,1000);
julia> c=rand(1000,100);
julia> d=rand(100,1000);
julia> e=rand(1000,1000);

julia> @time (a*b*c*d*e)^30;
  0.395549 seconds (26 allocations: 77.058 MB, 1.58% gc time)

# Here I use an MCM solver to find out the optimal ordering for the square problem
julia> Using MatrixChainMultiply
julia> matrixchainmultiply("SOLVE_SQUARED", a,b,c,d,e,a,b,c,d,e)
Operation: SOLVE_SQUARED(A...) = begin  # none, line 1:
    A[1] * (((((A[2] * A[3]) * (A[4] * (A[5] * A[6]))) * (A[7] * A[8])) * A[9]) * A[10])
  end
Cost: 6800800

# Use the ordering found, note that exponentiation is applied to the group of 5 elements
julia> @time a*(((((b*c)*(d*(e*a)))^29*(b*c))*d)*e);
  0.009990 seconds (21 allocations: 7.684 MB)

# I also tried using the MCM for solving the problem directly
julia> @time matrixchainmultiply([30 instances of a,b,c,d,e]);
  0.094490 seconds (4.02 k allocations: 9.073 MB)

Якщо ви хочете обчислити добуток з n матриць від до в найкращий можливий час, ви можете легко обчислити, скільки операцій потрібно, щоб обчислити добуток від до для всіх 1 ≤ i ≤ j ≤ n в кроки.A n A i A j O ( n 3$A_1$$A_n$$A_i$$A_j$$O (n^3)$