Чим екстремальний випадковий ліс відрізняється від випадкового лісу?


18

Чи більш ефективна реалізація ER (яка схожа Extreme Gradient Boostingна збільшення градієнта) - чи важлива різниця з практичної точки зору? Є R пакет, який реалізує їх. Чи є новий алгоритм, який долає "загальну" реалізацію (пакет RandomForest від R) не лише з точки зору ефективності, але і в деяких інших сферах?

Екстремальний випадковий ліс http://link.springer.com/article/10.1007%2Fs10994-006-6226-1

Відповіді:


20

Це досить просто - РФ оптимізує розбиття дерев (тобто вибирає ті, які найкраще отримують інформацію стосовно рішення), а ERF робить їх навмання. Тепер,

  • витрати на оптимізацію (не багато, але все ж), тому ERF зазвичай швидше.
  • оптимізація може сприяти співвідношенню дерев в ансамблі або загальній надмірній обробці, тому ЕРФ, ймовірно, більш надійні, особливо якщо сигнал слабкий.

Просуваючись ще далі в цьому напрямку, ви можете отримати додаткову швидкість, вирівнюючи розколи на кожному рівні дерева, таким чином перетворюючи дерева в папороті , які також досить цікаві; є моя реалізація такого індивідуума.


Це посилання розірвано, використовуйте CVLAB: Ferns
smci

Я припускаю, що дерева, створені ERF, набагато більше, ніж у РФ, оскільки РФ використовує оптимізацію, яка стискає знання з набору даних на менші дерева
Qbik
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.