Рядок головний проти основного розміщення матриць стовпця

Чи є причина програмування обчислень щільної матриці вибирати макет рядка-основний макет над основним стовпцем?

Я знаю, що залежно від компонування обраної матриці нам потрібно написати відповідний код, щоб ефективно використовувати кеш-пам'ять для швидкісних цілей.

Верхньо-основний макет здається більш природним і простішим (принаймні, для мене). Але основні бібліотеки, такі як LAPACK, написані у Fortran, використовують основний макет стовпця, тому для цього вибір повинен бути певний.

Основна компоновка стовпців - це схема, що використовується Fortran, і саме тому вона використовується в LAPACK та інших бібліотеках.

Взагалі набагато ефективніше з точки зору використання пропускної здатності пам’яті та продуктивності кешу доступ до елементів масиву в тому порядку, в якому вони викладені в пам'яті. Залежно від того, як зберігаються ваші матриці, вам потрібно вибрати алгоритми, які цим скористаються.

Внутрішнє зберігання основного формату стовпця

У вакуумі, не враховуючи жодного існуючого програмного забезпечення, немає причин віддавати перевагу колонці над основним рядком з кодової точки зору. Однак більшість математичної літератури написана таким чином, що групує вектори в матрицю, зберігаючи їх як стовпці замість рядків. Наприклад, коли ви пишете повне власне значення рівняння , $AX=X\Lambda$$X$матриця містить усі власні вектори, записані в стовпці. Ти ніколи не бачиш, що це написано інакше (хоча я чую, що статистика схожа на вектори рядків). Тому було природно, що найдавніше програмне забезпечення передбачало основний формат стовпців, так що якщо у вас є матриця, яка є набором векторів, зберігання будь-якого одного вектора є суміжним. Таким чином, я уявляю, що традиція перенесена до наших днів, і якщо ви хочете взаємодіяти зі старшим Fortran, ви хочете скористатися майором колон. Так що майже вся високоефективна чисельна лінійна алгебра робиться в основній колонці.

Причина C - головний рядок, є дещо наслідком синтаксису його масиву; Ви оголошуєте масив 3 рядка на 2 стовпцем як double a[3][2], а пізніші індекси змінюються швидше, ніж попередні індекси, що для 2D масивів робить його рядком основним. Поєднайте це з природним західним порядком читання зліва направо, це робить основний рядок здаватися більш природним.

Порядок наголошення колони здається більш природним. Наприклад, припустимо, якщо ви хочете зберегти фільм для подання зображення за малюнком, тоді ви використовуєте порядок стовпців, і це дуже інтуїтивно, і ніхто не збереже його в порядку основного рядка.

Якщо ви програміст на C / C ++, вам слід використовувати декілька бібліотек вищого рівня для матриць (Eigen, Armadillo, ...) із стовпчиком основного стовпця. Лише маніяк використовував би необроблені вказівники C із порядковим порядком, хоча C / C ++ пропонує щось, що нагадує матричну індексацію.

Для простоти все з порядковим основним порядком слід вважати як мінімум дивним. Фрагмент за шматочком - це просто природний порядок, це означає порядок основного стовпця (як Фортран). Наші батьки / матері мали дуже вагомі причини, чому вони обрали його.

На жаль, до того, як стало зрозуміло, кілька цікавих бібліотек було створено в строковому порядку, ймовірно, через брак досвіду.

Для уточнення нагадування визначення рядкового основного порядку, коли правий індекс змінюється швидше за один крок через пам'ять, наприклад A (x, y, z), це z-індекс, це означає, що в пам'яті пікселі з різних фрагментів суміжні, що ми б не хотіли Не хочу. Для фільму A (x, y, t) останній показник - час t. Не важко уявити, що зберегти фільм у режимі-мажорі просто неможливо.

$m\times n$

• $m_{i,j}$$i \times m + j$
• $m_{i,j}$$j \times n + i$

Тепер уявіть собі такий алгоритм:

for i from 1 to m
   for j from 1 to n
      do something with m(i,j)

$i \times m + j$

Висновки:

1. так, це має важливе значення, але вибір залежить від способу доступу до даних. У попередньому прикладі, якщо використовується порядок стовпців, то ви можете просто поміняти дві петлі.

2. правило: швидко змінюється індекс повинен бути відображений в послідовних місцях пам'яті.

3. що ще важливіше, вимірювання / порівняльний аналіз впливу вибору є основоположним, оскільки це залежить від багатьох параметрів (розмір даних, розмір кеша, те, як використовувана мова відображає декілька індексів на лінійний індекс, спосіб роботи система управляє віртуальною пам'яттю, способи вкладення циклів в бібліотеку лінійних алгебр, яку ви використовуєте ...)