Діаграми паралельного масштабування / ефективності журналу журналу журналу

Багато моєї власної роботи обертається над тим, щоб покращити масштаб алгоритмів, і один із кращих способів показу паралельного масштабування та / або паралельної ефективності - це побудувати графік продуктивності алгоритму / коду за кількістю ядер, наприклад

де -ось представляє кількість ядер, а y -ось деяка метрика, наприклад робота, виконана за одиницю часу. Різні криві показують паралельну ефективність 20%, 40%, 60%, 80% і 100% при 64 ядрах відповідно.$x$$y$

На жаль, у багатьох публікаціях ці результати побудовані за допомогою масштабування журналу журналу , наприклад, результатів у цій чи цій роботі. Проблема цих графіків ведення журналів полягає в тому, що оцінити фактичне паралельне масштабування / ефективність надзвичайно важко, наприклад,

Це той самий сюжет, що і вище, але з масштабуванням журналу журналів. Зауважте, що зараз немає великої різниці між результатами для 60%, 80% або 100% паралельної ефективності. Я написав трохи більш докладно про це тут .

Отже, ось моє запитання: Яке обґрунтування існує для показу результатів в масштабуванні журналів журналів? Я регулярно використовую лінійне масштабування, щоб показувати власні результати, і регулярно забиваються арбітрами, кажучи, що мої власні результати паралельного масштабування / ефективності виглядають не так добре, як результати (журнал-журнал) інших, але на все життя я не можу зрозуміти, чому я повинен перемикати стилі сюжету.

Наразі ми пишемо документ, що містить низку порівнянних сюжетів, і ми з більшою чи меншою мірою мали ту саму проблему. У статті йдеться про порівняння масштабування різних алгоритмів за кількістю ядер, яке на BlueGene коливається від 1 до 100 к. Причиною використання лог-графіків у цій ситуації є кількість залучених порядків. Не можна побудувати 6 порядків у лінійному масштабі.

І справді, будуючи графік часу над кількістю ядер у лог-логу, алгоритми не дуже відрізняються, як ви бачите на наступному сюжеті.

$E_p=T_1/(p T_p)$$T_1$$T_p$$p$$p$$E_p$$p$

$E_p=T_{ref}/(p T_p)$$T_{ref}$

Позначення відносної паралельної ефективності на півлогічній шкалі досить чітко показує масштабування алгоритму, а також показує, як алгоритми працюють відносно один одного.

Георг Хагер писав про це у " Дуренні мас" - трюк 3: Шкала журналу - ваш друг .

Хоча це правда, що схеми сильного масштабування журналу журналів не дуже вибагливі з високого рівня, вони дозволяють показувати масштабування на багато інших порядків. Щоб зрозуміти, чому це корисно, розгляньте 3D-проблему з регулярним доопрацюванням. У лінійному масштабі ви можете обґрунтовано показувати продуктивність приблизно на два порядки, наприклад, 1024 ядра, 8192 ядра та 65536 ядер. Читач неможливо сказати із сюжету, чи ви пробігли щось менше, і реально, сюжет здебільшого просто порівнює найбільші два прогони.

Тепер, якщо припустити, що ми можемо помістити в пам'яті 1 мільйон ячеїстих сіток на ядро, це означає, що після сильного масштабування вдвічі на коефіцієнт 8 ми можемо мати 16 кл. Ядра на ядро. Це все ще великий розмір субдомену, і ми можемо очікувати, що багато алгоритмів там будуть ефективно працювати. Ми охопили візуальний спектр діаграми (від 1024 до 65536 ядер), але навіть не вступили в режим, коли сильне масштабування стає важким.

Припустимо, замість того, що ми починали з 16 ядер, також з 1 мільйоном сітки на ядро. Тепер, якщо ми масштабуємо 65536 ядер, у нас буде лише 244 комірки на ядро, що буде набагато вибагливішим. Вісь журналу - єдиний спосіб чітко представити спектр від 16 ядер до 65536 ядер. Звичайно, ви все ще можете використовувати лінійну вісь і мати підпис, що говорить: "точки даних для 16, 128 та 1024 ядер перекриваються на фігурі", але тепер ви використовуєте слова замість самої фігури для показу.

Шкала журналу журналу також дозволяє вашому масштабуванню "відновити" з атрибутів машини, таких як переміщення за межі одного вузла або стійки. Ви вирішуєте, бажано це чи ні.

Я погоджуюся з усім, що Джед мав сказати у своїй відповіді, але хотів додати наступне. Я став фанатом того, як Мартін Берзінс та його колеги демонструють масштабування для своїх програм Uintah. Вони планують слабке та сильне масштабування коду на осях журналу журналу (використовуючи час виконання за крок методу). Я думаю, що це показує, як код досить добре масштабує (хоча відхилення від ідеального масштабування визначити трохи важко). Дивіться, наприклад, сторінки 7 і 8 рисунків 7 і 8 цього * паперу. Вони також дають таблицю з цифрами, що відповідають кожній масштабній фігурі.

Перевагою цього є те, що після надання номерів рецензент може не сказати (або, принаймні, не так багато, що ви не можете спростувати).

* J. Луїтсенс, М. Берзінс. "Підвищення ефективності роботи Uintah: обчислювальна рамка адаптивного сполучення великої шкали", в матеріалах 24-го Міжнародного симпозіуму з паралельної та розподіленої обробки IEEE (IPDPS10), Атланта, штат Джорджія, стор. 1-10. 2010. DOI: 10.1109 / IPDPS.2010.5470437