Запитання з тегом «dropout»

Чи є загальні вказівки щодо того, де розмістити шари, що випадають в нейронну мережу?

65 neural-networks  dropout 

Я створюю конволюційну нейронну мережу (CNN), де у мене є згортковий шар, за яким слідує шар об'єднання, і я хочу застосувати випадання для зменшення перевитрати. У мене таке відчуття, що шар, що випадає, слід наносити після об'єднання шару, але я насправді не маю нічого, що би це створити. Де є …

35 deep-learning  conv-neural-network  dropout 

Яка різниця між випадаючим і краплинним з'єднанням? AFAIK, випадання випадковим чином скидає приховані вузли під час тренування, але тримає їх у тестуванні, а краплі підключають краплі. Але чи не випадає з’єднання, рівнозначне видаленню прихованих вузлів? Чи не вузли (або з'єднання) - це лише набір ваг?

24 neural-networks  dropout 

Нещодавно я працював над вивченням алгоритмів прискорення, таких як adaboost, gradient boost, і я знав той факт, що найпоширенішими слабовживаними є дерева. Мені дуже хочеться знати, чи є кілька останніх успішних прикладів (я маю на увазі деякі статті чи статті) для використання нейронних мереж як базового учня.

21 neural-networks  deep-learning  boosting  ensemble  dropout 

Якщо у вас є півсторінки, щоб пояснити випадання , як би ви діяли? Яке обґрунтування лежить в основі цієї методики?

17 neural-networks  deep-learning  regularization  dropout 

Це стосується статті " Ефективна локалізація об'єктів за допомогою згорткових мереж" , і з того, що я розумію, випадання реалізується в 2D. Після прочитання коду від Кераса про те, як реалізовано просторовий 2D випадання, в основному реалізується випадкова бінарна маска форми [batch_size, 1, 1, num_channels]. Однак що саме робить цей …

14 machine-learning  deep-learning  tensorflow  dropout