Які особливості вузького місця?

У публікації блогу Побудова потужних моделей класифікації зображень, використовуючи дуже мало даних , згадуються функції вузького місця. Які особливості вузького місця? Чи змінюються вони з використаною архітектурою? Чи є вони кінцевим виходом згорткових шарів перед повністю пов'язаним шаром? Чому їх так називають?

У публікації блогу Побудова потужних моделей класифікації зображень, використовуючи дуже мало даних , згадуються функції вузького місця. Які особливості вузького місця?

Це чітко написано у посиланні, яке ви дали "функції вузького місця" від моделі VGG16: останні карти активації перед повністю пов'язаними шарами .

Чи змінюються вони з використаною архітектурою?

Звичайно. Автор, швидше за все, використовував заздалегідь підготовлену модель (тренувався за великими даними і тепер використовується лише як екстрактор функцій)

Чи є вони кінцевим виходом згорткових шарів перед повністю пов'язаним шаром?

Так.

Чому їх так називають?

Враховуючи розмір вхідного сигналу до VGG, карти характеристик розмірів HxW стають удвічі меншими після кожної операції з максимальним пулом. HxW - найменший на останньому згортковому шарі.

По-перше, нам потрібно поговорити про трансферне навчання. Уявіть, що ви тренували нейронну мережу над набором зображень для виявлення кішок, ви можете використовувати частину тренувань, які ви провели, щоб працювати над іншим виявленням чогось іншого. Це відомо як трансферне навчання.

Щоб перенести навчання, ви видалите останній повністю з’єднаний шар із моделі та підключите там свої шари. "Урізаний" вихід моделі буде тими функціями, які заповнять вашу "модель". Це особливості вузького місця.

VGG16 - модель пошуку в каталозі ImageNet, яка має дуже гарну точність. У публікації, яку ви поділилися, використовується ця модель як основа для виявлення котів та собак з більшою точністю.

Особливості пляшки залежать від моделі. У цьому випадку ми використовуємо VGG16. Є й інші заздалегідь підготовлені моделі, такі як VGG19, ResNet-50

Це ніби ви вирізаєте модель і додаєте власні шари. Головним чином, вихідний шар визначає, що ви хочете виявити, кінцевий вихід.