Глибоке навчання проти дерев рішень та прискорення методів

18

Я шукаю статті чи тексти, які порівнюють та обговорюють (емпірично чи теоретично):

Подвоєння і дерев рішень алгоритми , такі як випадкових лісів або AdaBoost і GentleBoost стосовно до дерев рішень.

з

Методи глибокого навчання, такі як машини з обмеженим Больцманом , ієрархічна часова пам’ять , конволюційні нейронні мережі тощо.

Більш конкретно, чи знає хтось текст, який обговорює або порівнює ці два блоки методів ML з точки зору швидкості, точності чи конвергенції? Також я шукаю тексти, які пояснюють або узагальнюють відмінності (наприклад, плюси і мінуси) між моделями або методами у другому блоці.

Будемо дуже вдячні за будь-які вказівки чи відповіді, що стосуються таких порівнянь.

— Амеліо Васкес-Рейна
джерело

1

Чи можете ви бути більш конкретними щодо типів даних, які ви шукаєте? Це частково визначить, який тип алгоритму зблизиться найшвидше.

Я також не впевнений, як порівнювати такі методи, як прискорення та DL, оскільки підвищення - це лише сукупність методів. Які ще алгоритми ви використовуєте при завантаженні?

Взагалі методи DL можуть бути описані як шари кодера / декодера. Попередня підготовка працює без нагляду, спочатку попередньо підготовляючи кожен шар, кодуючи сигнал, декодуючи сигнал, а потім вимірюючи помилку відновлення. Тоді настройка може бути використана для отримання кращої продуктивності (наприклад, якщо ви використовуєте позначаючі автоскладові коди, ви можете використовувати зворотне поширення).

Один хороший вихідний пункт для теорії DL:

http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.73.795&rep=rep1&type=pdf

а також такі:

http://portal.acm.org/citation.cfm?id=1756025

(вибачте, довелося видалити останнє посилання через систему фільтрації SPAM)

Я не містив жодної інформації про УЗМ, але вони тісно пов'язані (хоча особисто спочатку трохи складніше зрозуміти).

— user5268
джерело

Дякую @f (x), мене цікавить класифікація (2D або 3D) піксельних сегментів або патчів, але я хотів зберегти оригінальне запитання якомога загальнішим. Якщо різні методи найкраще працюють над різними типами наборів даних, мені було б цікаво обговорити ці проблеми.

— Амеліо Васкес-Рейна

1

Як правило, з точки зору обробки зображень, методи DL будуть діяти як екстрактори функцій, які потім можуть поєднуватися з SVM для класифікації. Ці методи, як правило, порівнянні з рукотворними підходами, такими як SIFT, SURF та HOG. Методи DL були розповсюджені на відео з CRBM з закритим типом та ISA. Ручні інженерні методи включають HOG / HOF, HOG3d та eSURF (для хорошого порівняння див. Wang et al. 2009).

— user5268

1

Велике запитання! Як адаптивне стимулювання, так і глибоке навчання можна класифікувати як імовірнісні мережі навчання. Різниця полягає в тому, що "глибоке навчання" конкретно включає одну або кілька "нейронних мереж", тоді як "підвищення" - це "алгоритм метанавчання", який вимагає однієї або декількох мереж навчання, званих слабкими учнями, які можуть бути "будь-якими" (тобто нейронна мережа, дерево рішень тощо). Алгоритм активізації вимагає створення однієї або декількох слабких мереж для участі, щоб створити те, що називається "сильним учнем", що може значно "збільшити" загальні результати навчальних мереж (наприклад, детектор обличчя Microsoft Viola та Jones, OpenCV).

— SensorVista
джерело