Куди поділася моя оперативна пам’ять?

Примітка: перед тим, як стрибати занадто швидко, так, я читаю linuxatemyram.com !

У мене є сервер з 64 ГБ оперативної пам’яті.

free -m говорить, що моя оперативна пам'ять заповнена, і це не через кешування диска:

             total       used       free     shared    buffers     cached
Mem:         64458      64117        340        201         67        331
-/+ buffers/cache:      63719        739
Swap:         1532        383       1149

Однак, topупорядкований по використанню пам’яті об'єм не складає 64 Гб:

KiB Mem:  66005116 total, 65652464 used,   352652 free,    67512 buffers
KiB Swap:  1569780 total,   392656 used,  1177124 free.   337464 cached Mem

  PID USER      PR  NI    VIRT    RES    SHR S  %CPU %MEM     TIME+ COMMAND
 6258 mysql     20   0 38.665g 0.033t   4924 S   1.3 54.3 482:26.21 mysqld
 2293 root      20   0  165896 102116 101964 S   0.0  0.2   0:43.53 systemd-journal
 4909 root      20   0  377548  57840  57548 S   0.0  0.1   0:18.47 rsyslogd
26639 www       20   0  650076  53348  32968 S   0.0  0.1  11:32.27 php-fpm
26640 www       20   0  648344  51912  32984 S   0.0  0.1  11:37.43 php-fpm
26642 www       20   0  648600  51472  32580 S   0.0  0.1  11:37.16 php-fpm
26669 www       20   0  648148  50696  31988 S   0.0  0.1  11:35.24 php-fpm
26643 www       20   0  648452  50616  31628 S   0.0  0.1  11:36.19 php-fpm
26641 www       20   0  648620  50496  31340 S   0.0  0.1  11:36.51 php-fpm
28121 www       20   0  648620  48820  29660 S   0.0  0.1  11:35.75 php-fpm
27231 www       20   0  647508  48804  30760 S   0.0  0.1  11:35.61 php-fpm
28029 www       20   0  648044  48752  30172 S   0.0  0.1  11:37.20 php-fpm
28117 www       20   0  647868  48700  30296 S   0.0  0.1  11:36.45 php-fpm
28122 www       20   0  648340  48568  29676 S   0.0  0.1  11:35.73 php-fpm
 8569 www       20   0  649028  40268  20704 S   0.0  0.1  11:31.50 php-fpm
10126 www       20   0  648432  39420  20700 S   0.0  0.1   9:58.52 php-fpm
22386 www       20   0  647996  39400  20868 S   0.0  0.1  11:25.00 php-fpm
 9643 www       20   0  647976  39220  20704 S   0.0  0.1  11:29.23 php-fpm
23077 www       20   0  647852  39084  20692 S   0.0  0.1  11:11.80 php-fpm
10139 www       20   0  647580  38808  20692 S   0.0  0.1   9:59.94 php-fpm
 6326 www       20   0  647368  38396  20696 S   0.7  0.1   8:32.34 php-fpm
 4727 www       20   0  646128  37304  20692 S   0.0  0.1   8:30.20 php-fpm
 5459 www       20   0  645988  37156  20688 S   0.0  0.1   7:15.13 php-fpm
 2173 www       20   0  645240  36408  20684 S   0.0  0.1   4:39.13 php-fpm
20752 www       20   0  644536  35428  20680 S   0.0  0.1   4:29.78 php-fpm
 5396 www       20   0  644468  35324  20692 S   0.0  0.1   4:14.65 php-fpm
17558 www       20   0  642668  33816  20740 S   0.0  0.1   1:28.34 php-fpm
28133 www       20   0  642780  33636  20704 S   0.0  0.1   0:49.88 php-fpm
10925 www       20   0  479584  29264  11212 S   3.0  0.0   0:00.09 php
26632 root      20   0  552136  26072  19468 S   0.0  0.0   0:37.74 php-fpm
 4946 named     20   0  697996  18748   2104 S   0.0  0.0   3:46.96 named
15609 apache    20   0 2137056   8120   1592 S   0.0  0.0   0:56.18 httpd
 8584 root      20   0  133432   4864   3700 S   0.0  0.0   0:00.08 sshd

MySQL використовує 54,3% в поодинці, це абсолютно нормально , так як вона має innodb_buffer_pool_sizeв 32G. Використання пам'яті інших процесів становить приблизно 2,8%, що становить 57,1%.

Де залишаються 32%?

Редагувати: вміст /proc/meminfo:

MemTotal:       66005116 kB
MemFree:          353272 kB
Buffers:           66328 kB
Cached:           736620 kB
SwapCached:        11348 kB
Active:         34396680 kB
Inactive:        2651132 kB
Active(anon):   34223240 kB
Inactive(anon):  2228020 kB
Active(file):     173440 kB
Inactive(file):   423112 kB
Unevictable:           0 kB
Mlocked:               0 kB
SwapTotal:       1569780 kB
SwapFree:        1177448 kB
Dirty:               328 kB
Writeback:             0 kB
AnonPages:      36234364 kB
Mapped:           125208 kB
Shmem:            206396 kB
Slab:           28058904 kB
SReclaimable:   28010224 kB
SUnreclaim:        48680 kB
KernelStack:        2760 kB
PageTables:        94780 kB
NFS_Unstable:          0 kB
Bounce:                0 kB
WritebackTmp:          0 kB
CommitLimit:    34572336 kB
Committed_AS:   38572348 kB
VmallocTotal:   34359738367 kB
VmallocUsed:      382304 kB
VmallocChunk:   34359353572 kB
HardwareCorrupted:     0 kB
DirectMap4k:        9000 kB
DirectMap2M:     2054144 kB
DirectMap1G:    67108864 kB

Вихід slabtop:

 Active / Total Objects (% used)    : 147380425 / 147413026 (100.0%)
 Active / Total Slabs (% used)      : 7005839 / 7005839 (100.0%)
 Active / Total Caches (% used)     : 71 / 144 (49.3%)
 Active / Total Size (% used)       : 27615020.12K / 27627490.91K (100.0%)
 Minimum / Average / Maximum Object : 0.01K / 0.19K / 16.12K

  OBJS ACTIVE  USE OBJ SIZE  SLABS OBJ/SLAB CACHE SIZE NAME
146851887 146851887  12%    0.19K 6992947       21  27971788K dentry
124936 124936 100%    0.07K   2231       56      8924K Acpi-ParseExt
105144 105144 100%    0.10K   2696       39     10784K buffer_head
 49920  49172  98%    0.06K    780       64      3120K kmalloc-64
 29916  29916 100%    0.11K    831       36      3324K sysfs_dir_cache
 29856  29661  99%    0.12K    933       32      3732K kmalloc-128
 21450  21128  98%    0.18K    975       22      3900K vm_area_struct
 19328  19328 100%    0.03K    151      128       604K kmalloc-32
 18258  13383  73%    0.93K    537       34     17184K ext4_inode_cache
 17952  11651  64%    0.04K    176      102       704K ext4_extent_status
 16828   6513  38%    0.55K    601       28      9616K radix_tree_node
 14400  13996  97%    0.06K    225       64       900K anon_vma
 11645   7903  67%    0.05K    137       85       548K shared_policy_node
 10710   7006  65%    0.19K    510       21      2040K kmalloc-192
 10608  10608 100%    0.04K    104      102       416K Acpi-Namespace
  9728   9728 100%    0.01K     19      512        76K kmalloc-8
...

linux memory memory-usage

— Бенджамін
джерело

знову прочитайте linuxatemyram.com. Потім прочитайте kernel.org/doc/gorman/html/understand

— symcbean

Я читаю його ще раз, і закінчується пропозицією, що free -mце шлях для дійсного використання пам'яті. Крім того, той факт, що використання swap не дорівнює 0, зробило мене трохи сумнівною. Я перевірив ваше посилання, але так багато даних для читання, що я просто не можу впоратися з усім цим на даний момент, я боюся.

— Бенджамін

Це фізичний сервер?

— Оптичіп

@Optichip Це фізичний сервер.

— Бенджамін

@AndrewSchulman Я не думаю, що це питання є дублікатом цього конкретного питання. Це питання стосується пам'яті, яка використовується для плит. Інше питання взагалі не згадує плити.

— kasperd

Відповіді:

  OBJS ACTIVE  USE OBJ SIZE  SLABS OBJ/SLAB CACHE SIZE NAME
146851887 146851887  12%    0.19K 6992947       21  27971788K dentry

Ви кажете, що це не через кешування диска, але явно так.

Моя справа в тому, що у вас є код, який дозволяє отримати безліч файлів, яких не існує, і ви отримаєте тону негативного кешування. Linux видалить ці записи, якщо вони знаходяться під тиском пам’яті, тому може не турбуватися про щось. Наприклад, як у цьому номері про НСС .

— Девід Шварц
джерело

А, це могло б пояснити це. Вибачте, будь ласка, про моє невігластво, я думав, що free -mпоодинці вкажуть, чи буде з'їдена пам'ять через кешування диска. Я також не знав про "негативне кешування", було б дуже цікаво зрозуміти, що намагається знайти файли, які не існують. Будь-яка ідея, як я міг би розслідувати це з цікавості? Це нещодавнє встановлення лише із базою даних + веб-додатком, тому я дуже здивований, бачачи таку поведінку.

— Бенджамін

@Benjamin Перейдіть за моїм посиланням для прикладу того, як це може статися. Також подивіться, що насправді робить веб-додаток.

— Девід Шварц

Насправді я дуже багато використовую libcurl, точніше його зв'язки з PHP. Мій веб-сервер завантажує та обробляє багато зображень: вони завантажуються в пам'ять, обробляються, потім завантажуються в S3, ніколи не потрапляючи у файлову систему. Отже, я мушу визнати, що я переглянув ваше посилання, вважаючи, що він на перший погляд занадто локалізований, щоб вплинути на мене, але це може бути саме такою проблемою: я побіг так само, strace curlяк і хлопець, і виявив, що він генерував 7421 ENOENT (No such file or directory) для одного запит! Це повинно бути. Тож велике спасибі!

— Бенджамін

Ви можете побачити linux-mm.org/Drop_Caches і зробити це, echo 2 > /proc/sys/vm/drop_cachesщоб не руйнівно скидати кеші зубних рядів і inode, і побачити, чи повертається ваша ОЗУ. Очевидно найкраще робити в спокійний час.

— abligh

Додаткове підтвердження того, що Linux скасує ці записи, якщо під тиском виникне той факт, що основна частина активних плит ( Slabв /proc/meminfo) знаходиться під SReclaimable(що, як пояснюється в назві, може бути відшкодовано за потреби).

— Марко Леогранде

Це все ще можуть бути деякі внутрішні структури ядра та пов'язані з файловою системою / каталогом речі. Це також цілком нормально, хоча і заплутано; спробуйте побачити, що є результатом з slabtopі cat /proc/meminfo.

— Жанна Піккарайнен
джерело

Я додав висновок цих команд до свого запитання, чи не могли б ви подивитись?

— Бенджамін

Очевидно, ядро споживає близько 27 гігабайт вашої оперативної пам’яті, і більша частина цього йде на dentryзаписи каталогу. Я думаю, у вас є багато і багато файлів у вашій файловій системі. Це практично просто кешовані речі, якщо у деяких процесах дійсно потрібна пам'ять, вона буде випущена так само, як і при звичайному буфері / кеші, який ви, як правило, бачите у верхньому висновку.

— Janne Pikkarainen

Це добре знати, дякую. Я просто здивований, хоча у мене не так багато файлів у файловій системі: find / | wc -lповертається 134578, а не мільйони, як dentryможна було б запропонувати. Чи маєте ви якесь уявлення, що могло це зробити?

— Бенджамін

Ймовірно, з’ясували, що генерує ці записи небажаного каталогу, завдяки відповіді Девіда Шварца вище. Дякуємо за вашу допомогу!

— Бенджамін