Чи має сенс тренувати CNN як автокодер?

Я працюю з аналізом даних ЕЕГ, які згодом потрібно буде класифікувати. Однак отримання міток для записів є дещо дорогим, що змусило мене розглянути непідвладний підхід, щоб краще використовувати наші досить великі обсяги незазначених даних.

Це природно призводить до розгляду штабельних автокодерів, що може бути хорошою ідеєю. Однак було б також сенсом використовувати звивисті нейронні мережі, оскільки якесь фільтрування, як правило, є дуже корисним підходом до ЕЕГ, і цілком ймовірно, що розглянуті епохи повинні аналізуватися локально, а не в цілому.

Чи є хороший спосіб поєднати два підходи? Здається, що коли люди використовують CNN, вони, як правило, користуються навчанням під керівництвом, чи що? Двома основними перевагами дослідження нейронних мереж для моєї проблеми, здається, є непідконтрольний аспект та точна настройка (було б цікаво створити мережу на даних про населення, а потім налагодити, наприклад, людину).

Отож, хтось знає, чи можу я просто перевірити CNN так, як якщо б це був «калічений» автокодер, чи це було б безглуздо?

Чи варто мені, наприклад, розглянути якусь іншу архітектуру, наприклад, мережу з глибокими переконаннями?

Так, має сенс використовувати CNN з автокодерами або іншими непідконтрольними методами. Дійсно, для ЕЕГ-даних були випробувані різні способи поєднання CNN з непідконтрольним навчанням, в тому числі з використанням (згорткових та / або складених) автокодер.

Приклади:

Навчання глибоким можливостям для записів на ЕЕГ використовує згорткові автокодери із спеціальними обмеженнями для покращення узагальнення між предметами та випробуваннями.

На основі ЕЕГ прогнозування когнітивних характеристик водія глибокою згортковою нейронною мережею використовують конволюційні мережі глибокої віри на одиночних електродах та поєднують їх із повністю пов'язаними шарами.

Новий глибокий підхід для класифікації сигналів моторних зображень ЕЕГ використовує повністю з’єднані штабельні автокодери на виході контрольованого (досить дрібного) CNN.

Але також суто контрольовані CNN мали успіх у даних ЕЕГ, див. Наприклад:

EEGNet: Компактна технологічна мережа для мозку-комп'ютерних інтерфейсів на основі ЕЕГ

Глибоке вивчення за допомогою конволюційних нейронних мереж для картографування мозку та розшифровки інформації, пов'язаної з рухом, від ЕЕГ людини (розкриття: Я перший автор цієї роботи, докладнішу роботу див. На с. 44)

Зауважимо, що документ EEGNet показує, що також при меншій кількості випробувань, суто під контролем навчання їх CNN може перевершити свої базові лінії (див. Малюнок 3). Також у нашому досвіді на наборі даних із лише 288 навчальними випробуваннями суто підконтрольні CNN працюють добре, трохи перевершуючи традиційну базову лінію просторових моделей традиційного банку.

Так, ви можете використовувати згорнуту мережу в налаштуваннях автокодера. З цим немає нічого дивного. Однак у людей є проблеми з розкриттям деконволюційних шарів .

Тут ви можете знайти приклад згорткового автокодера за допомогою системи Keras: https://blog.keras.io/building-autoencoders-in-keras.html