Автоматичні багатоярусні рішення для зберігання даних з Linux? (Пам'ять -> SSD -> HDD -> віддалене зберігання)


13

Пов’язане з цим питанням щодо використання SSD для системи та жорсткого диска для даних , за винятком того, я б хотів, щоб моя система це робила автоматично ...

Чи можливо мати декілька шарів для зберігання та автоматично переміщувати елементи між ними, використовуючи бажано безкоштовне програмне забезпечення з відкритим кодом?

Мені відомі надзвичайно дорогі рішення корпоративного класу, такі як автоматичне архівування EMC SAN-> EMC Centera , але мені було цікаво, чи таке поетапне зберігання можливо зробити автоматично.

Було б непогано мати в цьому кілька шарів: Пам'ять-> SSD-> HDD-> повільніший жорсткий диск або стрічка або якесь інше рішення архіву.

Чи є файлові системи, які можуть це зробити автоматично? (ZFS, Btrfs, HAMMER?)

Будь-які Unix -варианти - це добре, тому що мене цікавить, як це працює і чи може він бути переносним для Linux чи інших ароматів (BSD тощо).

Відповіді:


14

Що ж, ZFS використовує шари зберігання під назвою Hybrid Pool Storage Pool (HSP) :

  1. Шар: пам'ять
  2. Шар: кеш-пам'ять для читання на основі SSD (L2ARC) та кеш-запис (окремий журнал журналу намірів, який також називається слоган).
  3. Шар: (дешеві) жорсткі диски

Завдяки HSP легко використовувати автоматично переваги SSD-дисків порівняно з рішенням, що містить лише жорсткий диск. Система, що використовує HSP, може бути як швидшою, так і дешевшою, ніж остання. Дивіться на цьому посиланні кілька прикладних прикладів та більше деталей.

Я думаю, є плани щодо ієрархічного управління зберіганням даних (HSM) для ZFS (див., Наприклад, проект OpenSolaris автоматичної міграції даних ), але я не знаю її поточного стану.


Це саме те, про що я думав, дякую! (Тепер на допомогу на порту Linux ...;)
Девід Гарднер

Я б не називав цей рівень, а кешування. У тому сенсі, що кешування означає збереження копії часто використовуваних блоків, багаторівневе переміщення даних у повільніше / швидше зберігання. Я б не назвав журнал намірів у ZFS справжнім кешем запису, якщо я правильно його розумію.
mrossi


5

Здається, TIER відповідає вашим потребам. Це модуль ядра Linux, який може створити багатоярусне сховище. Начебто самостійно вивчити схему та оптимізувати розміщення у сховищі

http://www.lessfs.com/wordpress/?p=776


Щойно побачив питання старе ... Вибачте ^^ '
Доланор

2
Пожвавити старі питання краще, ніж потім гнити зі старою та застарілою інформацією про них!
Девід Гарднер

Я переживаю, що цей хлопець хоче скоротити надмірність заради додаткової потужності (особливо, коли SSD є порівняно невеликими та ненадійними).
Тобу

Також переживає, що він пропонує рейд як рішення, коли експериментальне програмне забезпечення потребує резервного копіювання.
Тобу

Ось трохи позитивніших відгуків, хоча: permalink.gmane.org/gmane.comp.file-systems.ceph.devel/8316
Tobu

1

Відповідаючи на власне запитання, я щось знайшов:

Я тільки оновлював ядро ​​і переглядав нові додані речі, і тепер є параметр "CACHEFILES", який дозволяє кешувати (як правило, віддалені) файлові системи в локальну файлову систему. Я думаю, я міг би використовувати це для кешування більш повільного механізму зберігання (HDD) до більш швидкого (SSD), принаймні для одного рівня ієрархії.


Ви спробували це рішення? Як це виконується?
skolima

1
Nevermind - я зрозумів, що CacheFS наразі підтримує лише NFS та AFS.
skolima

Використання мережевих файлових систем для цього не є поганою ідеєю, вони, як правило, дозрівають набагато швидше, ніж патчети ядра. Цікаво, чи мають Ceph або DRBD корисні режими для багаторівневого зберігання.
Тобу

1

Деякі відповідні посилання. YMMV.

http://code.google.com/p/fscops/ - "Менеджер ієрархічного зберігання даних (OHSM) - це перша спроба спрямувати менеджер зберігання даних з відкритим кодом на рівні підприємства, який автоматично переміщує дані між дорогим і недорогим сховищем. ЗМІ. ".

http://www.tack.ch/unix/dmapi/ - XFS + DMAPI під Linux

http://jfs.sourceforge.net/ - JFS + DMAPI під Linux


Проект OHSM виглядає цікавим для наслідування. Наразі підтримується лише ext2 та 2.6.30 ядро, але я очікую, що якщо воно буде добре, то це набере більше файлових систем.
Девід Гарднер

Цей проект виглядає занедбаним, остання діяльність була в 2009 році.
sendmoreinfo


0

Знімки LVM2 приходять на думку ... але ви не можете зробити більше, ніж один знімок.


0

SAM-QFS є існуючим продуктом Sun і був відкритий у минулому році. Це CDDL, тому ви можете лише безпосередньо перенести його на * BSD.

Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.