Як мало прикладів тренувань занадто мало при навчанні нейронної мережі?

Я початківець, який намагається скласти свій перший проект. Я мав на увазі проект класифікації пісень, але оскільки мене благали вручну, я міг лише розумно зібрати близько 1000 пісень або 60 годин музики.

Я б класифікував декілька класів, тому можливо, що один клас мав би менше 50-100 пісень у навчальному наборі - це здається занадто мало! Чи існує загальне правило про те, скільки даних потрібно для тренування нейронної мережі, щоб дати їй можливість працювати?

Редагувати: Я думав використати ванільний LSTM. Особливості введення матимуть розмір 39, вихідний розмір 6, моя перша спроба прихованого розміру шару буде 100.

neural-networks

— Аррі
джерело

Це насправді не відповідає, тому що не всі завдання легкі, а різні мережеві архітектури та вибір параметрів гіперпараметрів покращать / шкодять різним моделям по-різному.

— Sycorax повідомляє про відновлення Моніки

Як мінімум, вам потрібно вказати структуру вашої мережі та скільки посилань буде для навчання.

— gung - Відновити Моніку

Це дійсно залежить від вашого набору даних та мережевої архітектури. Я прочитав (2) одним із головних правил - це кілька тисяч зразків на клас, щоб нейронна мережа почала працювати дуже добре.

На практиці люди намагаються бачити. Не рідко можна знайти дослідження, які показують гідні результати з навчальним набором менше 1000 зразків.

Хороший спосіб орієнтовно оцінити, наскільки може бути корисним більше зразків тренувань - побудувати графік продуктивності нейронної мережі залежно від розміру навчального набору, наприклад з (1):

(1) Дернонкурт, Франк, Джі Янг Лі, Озлем Узунер та Пітер Соловіц. " Де-ідентифікація пацієнтських записок з періодичними нейронними мережами " arXiv переддрук arXiv: 1606.03475 (2016).
(2) Кірешан, Дан К., Уелі Мейер та Юрген Шмідхубер. "Передайте навчання латинським та китайським символам з глибокими нейронними мережами." У Міжнародній спільній конференції з нейронних мереж 2012 року (IJCNN), стор. 1-6. IEEE, 2012. https://scholar.google.com/scholar?cluster=7452424507909578812&hl=uk&as_sdt=0,22 ; http://people.idsia.ch/~ciresan/data/ijcnn2012_v9.pdf :

Для завдань класифікації, що мають кілька тисяч зразків на клас , користь (без нагляду чи нагляду) перевірити не просто.

— Франк Дернонкур
джерело