Машина Больцмана з обмеженими можливостями: як вона використовується в машинному навчанні?

Фон:

Так, для обмеження ваг нейронної мережі МОЖЕ бути використана обмежена машина Больцмана (БРМ). Також його можна використовувати "пошарово" шляхом побудови глибокої мережі вірування (тобто тренування -го шару на верхньому ( n - 1 ) -го шару, а потім для підготовки -й шар у верхній частині -го шару, промийте і повторіть ...)$n$$(n-1)$$n+1$$n$ .

Щодо використання RBM, детальну інформацію можна знайти з теми Хороший підручник для обмежених машин Больцмана (RBM), де можна знайти деякі статті та навчальні посібники.

Моє запитання було б:

• Чи реально застосовується УЗМ або в промислових проектах, або в академічних проектах
• Якщо так, то як і які проекти використовуються?
• Будь-яка популярна бібліотека (наприклад, tensorflow, Caffe, Theono тощо) пропонує модуль RBM?

Дякую, що поділились. Хотілося б знати, чи дійсно корисний пристрій на практиці.

RBM був одним з перших практичних способів навчання / вивчення глибокої мережі, що має більше ніж один або два шари. І мережа глибоких переконань була запропонована Джеффрі Хінтоном, який вважається одним із "батькових глибоких навчань", я думаю, хоча Ян Лекун є другим головним "батьком" глибокого навчання, я думаю, чи так я це бачу. Звичайно, все вже вигадав роки тому Юрген Шмідхубер :-)

Отже, КВП відомі тим, що 1. один з перших способів глибокого навчання 2. Джеффрі Хінтон.

Однак на практиці вони, безумовно, використовуються і корисні в академічних дослідженнях, оскільки багато людей намагаються знайти якусь унікальну нішу, в якій вони можуть бути експертом, і бути світовим експертом у якійсь ніші МПБ - це добре ніша, як і будь-яка інша. Однак на практиці в промисловості, хоча я не стверджую, що вони ніколи не використовуються, але вони трапляються вкрай рідко. Просто так багато дуже стандартних методик, які тренуються дійсно швидко та легко, як логістична регресія та зворотні нейронні мережі. На сьогоднішній день такі речі, як GAN, справді популярні.

Можливо використовувати ОРМ для вирішення типових проблем, що виникають при зборі даних (які можуть бути використані, наприклад, для навчання моделі машинного навчання). До таких проблем відносяться незбалансовані набори даних (у проблемі класифікації) або набори даних із відсутніми значеннями (значення деяких ознак невідомі). У першому випадку можна навчити КУА з даними класу меншості та використовувати його для генерування прикладів для цього класу, тоді як у другому випадку можна тренувати RBM окремо для кожного класу та виявити невідомі значення функції.

Іншим типовим застосуванням УЗМ є спільна фільтрація ( http://dl.acm.org/citation.cfm?id=1273596 ).

Щодо популярних бібліотек, то я думаю, що поглиблення4j є хорошим прикладом ( http://deeplearning4j.org ).