Яким чином бічна смуга IPMI розділяє порт Ethernet з хостом?


23

У нас є ряд апаратів Supermicro з функціями IPMI / BMC. Деякі з цих машин використовують вбудований BMC, а інші використовують додаткову карту .

Ми розглядаємо можливість використання бічної смуги через зменшення витрат та вимог до кабелів. Однак деякі деталі бічної смуги не зовсім мають сенс.

Бічній смузі потрібен один кабель Ethernet, який підключається до порту Ethernet на материнській платі. Потім цей мережевий порт ділиться між системою IPMI та операційною системою. З того, що я прочитав у цьому посібнику з Supermicro , "Використовуйте ту саму MAC-адресу, яку ви використовуєте для LAN1 для карти SIMSO IPMI". Однак IPMI повинна мати іншу IP-адресу, ніж операційна система.

Як можливо мати два пристрої (операційну систему та IPMI), які можуть слухати та передавати цей самий фізичний мережевий порт? Коли пакет надходить на інтерфейс, як система визначає, чи призначений цей пакет для Операційної системи або для системи IPMI?

Чи ці пакети взагалі обробляються процесором, використовуючи переривання процесора? Чи можуть пакети до інтерфейсу IPMI переглядати операційну систему?

Відповіді:


39

Я керую багатьма серверами SuperMicro за допомогою бортового IPMI. Я маю стосунки любові / ненависті до спільного (він же бічної смуги) ethernet. Взагалі, як це працює, це те, що LAN1, як видається, має 2 (різні) MAC адреси - один призначений для інтерфейсу IPMI, інший - для вашого стандартного Broadcom NIC. Трафік до інтерфейсу IPMI (рівень 2, заснований на MAC-адресі) магічно перехоплюється нижче рівня операційної системи і ніколи не спостерігається будь-якою ОС працює.

Ви вже досягли однієї гарної точки для них: менше кабелів. Тепер дозвольте мені розкрити деякі недоліки:

  • Особливо важко безпечним чином розділити інтерфейс IPMI на окрему підмережу. Оскільки весь трафік йде по одному кабелю, вам (майже) завжди потрібно мати інтерфейс IPMI та інтерфейс LAN1 в одній і тій самій підмережі IP. На останніх материнських платах IPMI-картки тепер підтримують присвоєння VLAN до IPMI NIC, тому ви можете отримати деякий вигляд поділу - але основна ОС завжди може нюхати трафік для цієї VLAN. Старі контролери BMC взагалі не дозволяють змінювати VLAN, хоча такі інструменти, як ipmitool або ipmicfg, нібито дозволять вам змінити його, він просто не працює.
  • Ви централізуєте свої пункти відмов у системі. Виконуєте конфігурацію на комутаторі і вдається якось відрізати себе? Вітаємо, Ви тепер відключили основне мережеве підключення до Вашого сервера І резервну копію через IPMI. Збій апаратного забезпечення NIC? Вітаю, та сама проблема.
  • Ранні SuperMicro IPMI BMC були відомими для того, щоб робити непрості речі з мережевим інтерфейсом. Використовувати бортовий та виділений порт IPMI часто визначався при включенні (не перезапуску) і не перемикався звідти. Якщо у вас відключився живлення, і ваш комутатор не забезпечив живлення досить швидко, ви можете закінчити, що IPMI не працює, тому що він автоматично виявив неправильні налаштування.
  • В мене особисто було багато дивних, незрозумілих проблем з підключенням, щоб IPMI бічної смуги надійно працював. Іноді я просто не міг пінг інтерфейсу IP протягом декількох хвилин. Іноді я отримував шторм пакетів на призначеній VLAN, але трафік, здавалося, упадав.

Незважаючи на те, що це не має нічого спільного з присвяченими сторонній смузі, я також зазначу, що інструменти доступу до хост-систем написані дуже погано. Старі IPMI-карти не підтримують нічого іншого, крім локальної аутентифікації, що робить поворот пароля загальним болем. Якщо ви використовуєте функцію KVM over-IP, ви застрягли, використовуючи неправильно підписаний, закінчений термін дії аплету Java або дивний настільний додаток Java, який працює лише в Windows і вимагає підвищення рівня UAC. Я вважаю, що запис на клавіатурі в кращому випадку є плямистим, іноді отримуючи «застряглі клавіші» таким чином, що неможливо ввести пароль для входу, не намагаючись 10 разів.

Врешті-решт мені вдалося налагодити 40+ систем, що працюють з цією схемою. У мене в основному новіші системи, я міг VLAN інтерфейси IPMI на окрему підмережу, і я в основному використовую послідовну консоль через ipmitool, яка працює дуже добре. Для наступного покоління серверів я розглядаю технологію AMT Intel з підтримкою KVM ; оскільки це переходить в серверний простір, я можу побачити заміну IPMI цим.


Дякую за дуже детальне пояснення. Чи є у вас більше інформації про те, як трафік "магічно перехоплюється нижче рівня операційної системи і ніколи не бачив жодна операційна система"? Ми намагаємось зрозуміти, як це працює.
Стефан Ласєвський

Простий апаратний міст зробить свою справу.
Антуан Бенкемун

чудова відповідь, і так, рух переміщено
Jim B

2
Стефан - Антуан та Джим пояснили це у коментарях - це, мабуть, апаратний міст. Подумайте про це як про крихітний комутатор, реалізований у кремнію, який підключає фізичний інтерфейс NIC до двох віртуальних сетевих мереж - один для IPMI, другий для основного комп'ютера.
natacado

Дякую за пояснення. Саме так я думав, що це буде працювати, але коли я обговорюю це з іншими людьми (адміністратори мережі, сисадміни), я отримую багато розбіжностей.
Стефан Ласєвський

4

Я раніше не використовував ці конкретні картки, ті, які я використовував, мають інший MAC для передачі даних про IPMI або порт призначений лише для трафіку IPMI. Можливо, IPMI розділяє NIC, включаючи MAC, хоча.

IPMI матиме інший IP від ​​ОС, тому пакети будуть спрямовані правильно на основі цього. IPMI-трафік ніколи не потрапляє на процесор, все це обробляється в ІС управління бічної смуги.


Розумію. Деякі IPMI-карти в деяких системах будуть "надавати MAC-адресу" (Схоже, це роблять Supermicro & Dell), а інші використовують різні MAC-адреси (IBM робить це).
Стефан Ласєвський

3
На моїх серверах Dell інтерфейс IPMI має інший MAC, хоча це той же фізичний мережевий порт.
sciurus

2

Хотіли додати до загальної поради, що використання бічної смуги означає, що ви не можете спілкуватися з сервера на BMC. Здається, трафік відфільтровано. Я спробував це на комплекті IBM / Dell / HP.


детальніше зупинитися на цьому, тому що це просто вразило і мене. ESXI та жоден VM не можуть отримати доступ до BMC (але зовнішні хости можуть), ЧОМУ? Тому що вихідний трафік на порт NSCI (спільний IPMI) повинен був би натиснути на перемикач і відскочити назад до того ж порту. Типові вимикачі LA AFAIK не працюють.
kevinf

1

Я підключу остаточну точку кулі natacados у його початковій відповіді, ваші IPMI-сеанси будуть випадковим часом (я використовую IPMIView від supermicro для перегляду консолі моїх ящиків). Такі речі, як оновлення мікропрограмного забезпечення та мотоцикли, здаються незрозумілими та випадковими помилками.

Чудова відповідь natacado, неймовірно ретельна.


1
Переконайтесь, що ваша прошивка IPMI оновлена! Якщо між версією вбудованого програмного забезпечення IPMI та версією програмного забезпечення IPMIView достатньо великий розрив, ви отримаєте загальну, криптовану "помилку підключення" при спробі ініціювати сеанс KVM! Оновлення до останнього вбудованого програмного забезпечення IPMI (це можна зробити з головного меню утиліти IPMIView у розділі Файл) виправлено. : p
Джефф Етвуд
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.