Яка вартість атомної операції (будь-яке порівняння та обмін або атомне додавання / зменшення)? Скільки циклів він споживає? Це призупинить інші процесори на SMP або NUMA, або заблокує доступ до пам'яті? Чи буде він змивати буфер переупорядкування в непрацюючому ЦП?
Які наслідки матимуть на кеш-пам’яті?
Мене цікавлять сучасні, популярні процесори: x86, x86_64, PowerPC, SPARC, Itanium.
Відповіді:
Я шукав фактичні дані за минулі дні і нічого не знайшов. Однак я провів деякі дослідження, які порівнюють вартість атомних операцій з витратами на пропуск кешу.
Вартість префікса x86 LOCK (включаючи lock cmpxchgатомний CAS) перед PentiumPro (як описано в документі) - це доступ до пам'яті (наприклад, пропуск кешу), + зупинка операцій з пам'яттю іншими процесорами, + будь-яка суперечка з іншими процесорами. намагається заблокувати автобус. Однак, оскільки PentiumPro для звичайної кеш-пам’яті Writeback (вся пам’ять, з якою працює програма, якщо ви не спілкуєтеся безпосередньо з обладнанням), замість блокування всіх операцій з пам’яттю блокується лише відповідний рядок кешу (на основі посилання у відповіді @ osgx ) .
тобто ядро затримує відповідь на запити MESI-спільного доступу та RFO на лінію до закінчення частини фактичної lockоперації редагування. Це називається "блокуванням кешу" і впливає лише на один рядок кешу. Інші ядра можуть одночасно завантажувати / зберігати або навіть обробляти інші лінії.
Насправді, справа CAS може бути більш складною, як пояснюється на цій сторінці , без термінів, зате проникливий опис надійного інженера. (Принаймні для звичайного випадку використання, коли ви виконуєте чисте навантаження до фактичного CAS.)
Перш ніж вдаватися до занадто детальних деталей, я скажу, що заблокована операція коштує одного пропуску кеш-пам’яті + можливої суперечки з іншим процесором на тій самій кеш-лінії, тоді як CAS + попереднє завантаження (що майже завжди потрібно, за винятком мьютексів, де ви завжди CAS 0 та 1) можуть коштувати двох помилок кешу.
Він пояснює, що навантаження + CAS в одному місці може насправді коштувати двох помилок кешу, як Load-Linked / Store-Conditional (див. Там останнє). Його пояснення спирається на знання протоколу когерентності кешу MESI . Він використовує 4 стани для кешеліну: M (одифікований), E (ексклюзивний), S (зайнятий), I (недійсний) (і тому він називається MESI), що пояснюється нижче, де це потрібно. Пояснюваний сценарій такий:
У всіх випадках запит кеш-лінії може бути зупинений іншими процесорами, які вже змінюють дані.
Я зробив деяке профілювання з наступним налаштуванням: Тестову машину (AMD Athlon64 x2 3800+) було завантажено, переведено в довгий режим (переривання відключено), а інструкція, що цікавила, виконувалась у циклі, 100 ітерацій розгорнуто та 1000 циклів циклу. Тіло циклу було вирівняно до 16 байт. Час вимірювали за допомогою інструкції rdtsc до і після циклу. Крім того, був виконаний фіктивний цикл без будь-якої інструкції (який вимірював 2 цикли за ітерацію циклу та 14 циклів для решти), а результат був вилучений з результату часу профілювання інструкцій.
Виміряно наступні інструкції:
lock cmpxchg [rsp - 8], rdx" (як із порівнянням, так і з невідповідністю),lock xadd [rsp - 8], rdx",lock bts qword ptr [rsp - 8], 1"У всіх випадках виміряний час становив близько 310 циклів, похибка становила приблизно +/- 8 циклів
Це значення для повторного виконання в одній і тій же (кешованій) пам'яті. З додатковим пропуском кешу час стає значно вищим. Також це було зроблено лише з одним із 2 активних ядер, тому кеш належав виключно у власності, і не потрібно було синхронізації кешу.
Щоб оцінити вартість заблокованої інструкції щодо пропуску кешу, я додав wbinvldінструкцію перед заблокованою інструкцією і помістив wbinvldплюс і add [rsp - 8], raxв цикл порівняння. В обох випадках вартість склала близько 80 000 циклів за пару інструкцій! У випадку блокування bts різниця в часі становила близько 180 циклів за інструкцію.
Зауважте, що це взаємна пропускна здатність, але оскільки заблоковані операції є серіалізаційними, то, мабуть, немає різниці в затримці.
Висновок: заблокована операція важка, але пропуск кешу може бути набагато важчим. Також: заблокована операція не спричиняє помилок кешу. Це може спричинити трафік синхронізації кешу лише тоді, коли кеш-лінія не належить виключно.
Для завантаження машини я використав x64 версію FreeLdr із проекту ReactOS. Ось вихідний код asm:
#define LOOP_COUNT 1000
#define UNROLLED_COUNT 100
PUBLIC ProfileDummy
ProfileDummy:
cli
// Get current TSC value into r8
rdtsc
mov r8, rdx
shl r8, 32
or r8, rax
mov rcx, LOOP_COUNT
jmp looper1
.align 16
looper1:
REPEAT UNROLLED_COUNT
// nothing, or add something to compare against
ENDR
dec rcx
jnz looper1
// Put new TSC minus old TSC into rax
rdtsc
shl rdx, 32
or rax, rdx
sub rax, r8
ret
PUBLIC ProfileFunction
ProfileFunction:
cli
rdtsc
mov r8, rdx
shl r8, 32
or r8, rax
mov rcx, LOOP_COUNT
jmp looper2
.align 16
looper2:
REPEAT UNROLLED_COUNT
// Put here the code you want to profile
// make sure it doesn't mess up non-volatiles or r8
lock bts qword ptr [rsp - 8], 1
ENDR
dec rcx
jnz looper2
rdtsc
shl rdx, 32
or rax, rdx
sub rax, r8
ret
На SMP на основі шини атомний префікс LOCKстверджує (вмикає) сигнал дротової шини LOCK#. Він забороняє використовувати інші шини / пристрої на шині.
PPRO & P2 книга http://books.google.com/books?id=3gDmyIYvFH4C&pg=PA245&dq=lock+instruction+pentium&lr=&ei=_E61S5ehLI78zQSzrqwI&cd=1#v=onepage&q=lock%20instruction%20pentium&f=false сторінки 244-246
Заблоковані інструкції - це серіалізація, синхронізація операцій .... / про Невпорядкований / заблокований RMW / read-modify-write = atomic сам / інструкція гарантує, що процесор виконуватиме всі інструкції до заблокованої інструкції до її виконання. / про ще не змиті записи / він змушує всі розміщені записи в процесорі переноситись у зовнішню пам’ять перед виконанням наступної інструкції.
/ про SMP / семафор знаходиться в кеші в штаті S ... видає транзакцію зчитування та анулювання на 0 байт дати (це вбивство / спільних копій рядка кешу в сусідніх центральних процесорах /)