Налаштування поведінки кешування диска Linux для максимальної пропускної здатності

Я зіткнувся з проблемою максимальної пропускної здатності тут, і мені потрібна порада щодо способу налаштування ручок. У нас працює 10Gbit файловий сервер для розподілу резервних копій. Це налаштування двох дискових S-ATA2 на контролері LSI MegaRAID. Сервер також отримав 24 гг пам'яті.

У нас є потреба відобразити нашу останню завантажену резервну копію з максимальною пропускною здатністю.

RAID0 для наших "гарячих" резервних копій дає нам близько 260 Мб / сек запису та 275 Мб / сек читання. Тестований tmpfs розміром 20 ГБ дає нам близько 1 Гб / сек. Цей вид пропускної спроможності - це те, що нам потрібно.

Тепер, як я можу налаштувати підсистему віртуальної пам'яті Linux, щоб кешувати останні завантажені файли якомога довше в пам'яті, не записуючи їх на диск (а ще краще: запис на диск І збереження їх у пам'яті)?

Я встановлюю наступні sysctls, але вони не дають нам пропускної здатності, яку ми очікуємо:

# VM pressure fixes
vm.swappiness = 20
vm.dirty_ratio = 70
vm.dirty_background_ratio = 30
vm.dirty_writeback_centisecs = 60000

Теоретично це повинно дати нам 16 ГБ для кешування вводу-виводу та зачекайте кілька хвилин, поки його записувати на диск. Тим не менше, коли я орієнтирую сервер, я не бачу впливу на запис, пропускна здатність не збільшується.

Потрібна допомога чи порада.

З огляду на встановлені вами змінні, здається, що ви в основному переймаєтеся роботою запису і не переймаєтесь можливими втратами даних через відключення електроенергії.

Ви тільки коли-небудь отримаєте можливість для ледачих записів та використання кешу зворотного запису з асинхронними операціями запису. Операції синхронного запису вимагають приєднання до диска і не будуть ледачими. Ваша файлова система може спричиняти часті розгортання сторінок і синхронні записи (як правило, через журнали, особливо з ext3 в режимі data = journal). Крім того, навіть "фонова" сторінка змивання буде заважати не збереженим читанням та синхронним записам , тим самим уповільнюючи їх.

Загалом, вам слід скористатись деякими показниками, щоб побачити, що відбувається - чи бачите ви процес копіювання, поставлений у стан "D", очікуючи, що робота вводу / виводу буде виконана програмою pdflush? Чи бачите сильну синхронну активність запису на своїх дисках?

Якщо все інше не вдається, ви можете встановити явну файлову систему tmpfs, куди ви копіюєте резервні копії та просто синхронізуєте дані з дисками після факту - навіть автоматично використовуючи ініціювати

Для кешування читання речі значно простіші - є fadviseутиліта fcoretools , яка має --willneedпараметр, щоб порадити ядру завантажувати вміст файлу в кеш-пам'ять.

Редагувати:

vm.dirty_ratio = 70

Теоретично це повинно дати нам 16 ГБ для кешування вводу-виводу та зачекайте кілька хвилин, поки його записувати на диск.

Це не вплинуло б на ваш сценарій тестування, але існує неправильне уявлення про ваше розуміння. Параметр dirty_ratio - це не відсоток від загальної пам'яті вашої системи, а швидше вільної пам'яті вашої системи .

Існує стаття про Налаштування навантажувальних навантажень з більш детальною інформацією.

Або просто отримайте більше дисків ... Наявна у вас конфігурація масиву дисків не підтримує потрібну вам інформацію. Це випадок, коли рішення слід переосмислити для задоволення ваших реальних потреб. Я розумію, що це лише резервне копіювання, але є сенс уникати хитких виправлень.

Використання кеш-пам’яті може означати втрату даних, ніби щось піде не так, дані, що знаходяться в пам’яті та не збережені на дисках, будуть втрачені.

Однак, налаштування потрібно виконати на рівні файлової системи.

Наприклад, якщо ви використовували ext4, ви можете спробувати варіант монтажу:

бар'єр = 0

Це: "вимикає використання бар'єрів для запису в jbd-коді. Бар'єри для запису забезпечують належне впорядкування на диску на журналі, роблячи кеши для запису на непостійний диск безпечними для використання, з певною мірою покарання продуктивності. Якщо ваші диски захищені акумулятором одним способом або інше, відключення бар'єрів може безпечно підвищити продуктивність. Параметри кріплення "бар'єр" і "нобар'єр" можуть також використовуватися для включення або відключення бар'єрів для узгодження з іншими параметрами кріплення ext4 ".

Більше за адресою: http://www.mjmwired.net/kernel/Documentation/filesystems/ext4.txt