Укладання / складання моделей з каре


21

Я часто ловлю себе на навчання кілька різних моделей прогнозування з використанням caretв Р. я буду навчати їх все на один і ту ж поперечних складках перевірки, з допомогою caret::: createFolds, а потім вибрати кращу модель , засновану на перехресній перевірці помилок.

Однак середній прогноз декількох моделей часто перевершує найкращу одиничну модель на незалежному тестовому наборі. Я думаю про створення деяких функцій для складання / складання каретних моделей, які навчалися з однаковими складками перехресної перевірки, наприклад, беручи середні прогнози для кожної моделі на кожну складку, або тренуючи "мета-модель".

Звичайно, для цього може знадобитися зовнішній цикл перехресної перевірки. Хтось знає про будь-які існуючі пакети / відкритий код для складання моделей карет (і, можливо, перехресну перевірку цих ансамблів)?

Відповіді:


19

Схоже, Макс Кун насправді почав працювати над пакетом для складання моделей карет , але ще не встиг його закінчити. Це саме те, що я шукав. Я сподіваюся, що проект буде закінчений одного дня!

редагувати: Я написав власний пакет для цього: caretEnsemble


1
Відмінна робота над цим пакетом!
mikeycgto

8

Те, що ви шукаєте, називається "складання моделі". Простий вступний посібник з кодом R можна знайти тут: http://viksalgorithms.blogspot.jp/2012/01/intro-to-ensemble-learning-in-r.html


3
Щоб не бути вибагливим, але "складання" - це саме так, як і в назві моєї посади. Я дуже конкретно шукаю пакет R для складання довільних моделей, який, схоже, не існує. Дякуємо, що опублікували код. Можливо, я напишу власний пакет!
Зак

1

Я не зовсім впевнений, що ви шукаєте, але це може допомогти: http://www.jstatsoft.org/v28/i05/paper

Це як використовувати кілька моделей у кареті. Частина, яка може вас зацікавити - це розділ 5 на сторінці. 13.


Що я шукаю - це пакет, який би взяв в якості списку об'єктів карети, а потім виведе середнє, середнє або середньозважене середнє значення їх прогнозів. Більш досконала функціональність може включати оптимізацію ваг за допомогою перевірки вкладеного кросу.
Зак
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.