Чи мрія автоматизованого машинного навчання?

Коли я відкриваю машинне навчання, я бачу різні цікаві методи, такі як:

• автоматично налаштовувати алгоритми з такими методами, як grid search,
• отримати більш точні результати за допомогою комбінації різних алгоритмів одного "типу" boosting,
• отримати більш точні результати за рахунок поєднання різних алгоритмів (але не той же самий тип алгоритмів), це stacking,
• і, напевно, ще багато чого мені ще належить відкрити ...

Моє запитання таке: є всі ці твори. Але чи можливо їх скласти разом, щоб скласти алгоритм, який приймає як вхідні очищені дані та виводить хороші результати, беручи найкращі з усіх методів? (Звичайно, професійним вченим з даних буде, мабуть, менш ефективно, але він буде кращим за мене!) Якщо так, чи є у вас зразки кодів чи ви знаєте рамки, які можуть це зробити?

EDIT: Після деяких відповідей, здається, необхідно зробити деяке звуження. Візьмемо для прикладу, у нас є один стовпчик з категоричними даними, назвемо його yі ми хочемо передбачити це з числових даних, Xщо є або манекенами, або реальними числовими даними (висота, температура). Ми припускаємо, що чистка була зроблена раніше. Чи існує алгоритм, який може приймати такі дані і давати прогноз? (тестуючи декілька алгоритмів, налаштовуючи їх, збільшуючи їх і т.д.) Якщо так, чи є обчислювально ефективним (чи обчислення робляться в розумний час, якщо порівняти зі звичайним алгоритмом), і чи є у вас приклад коду?

Якщо ви заздалегідь знаєте, в які дані ви будете надходити ("це щомісячні продажі CPG, із цінами та маркерами просування, і я хочу точний прогноз"), тож ви можете налаштувати налаштування достроково, це, швидше за все, буде можливо і вже зроблено, дивіться різні "експертні системи" для певних конкретних завдань.

Якщо ви шукаєте щось, що може взяти будь-які дані і зробити "щось корисне" з ним ("ах, тут я повинен розпізнати рукописний текст і вивести поштові індекси, і там я повинен зробити виявлення шахрайства, і цей вхідний файл очевидно це завдання зарахування кредиту "), ні, я не думаю, що це станеться задовго.

Вибачте за відповідь, що ґрунтується на думці, на те, що може бути закритим як запитання на основі думки.

EDIT для вирішення відредагованого питання:

у нас є один стовпець з категоричними даними, назвемо його і ми хочемо передбачити це з числових даних що є манекенами або реальними числовими даними$y$$X$

Це звучить як щось, у чому насправді досить випадкові ліси . Тоді знову ж , «універсальний» алгоритм , як ФР, швидше за все , не бив алгоритм , який був налаштований до конкретного типу заздалегідь відомі, ризики , наприклад, рукописні цифр, або кредит за замовчуванням.$y$

Те, що ви описуєте, вже певною мірою існує, наприклад, в AutoWEKA і активно досліджується (наприклад, такі проблеми, як AutoML Chalearn's ).

Зазвичай це розглядається в підполі оптимізації гіперпараметрів. Програмні пакети, такі як Optunity , Hyperopt та ParamILS, можуть використовуватися для автоматичної оптимізації гіперпараметрів для заданого підходу та вибору, який підхід буде найкращим. Однак, такі проблеми оптимізації не тривіальні, і, як правило, потрібен тривалий час, щоб автоматично отримати найкращу модель (або близьку до неї).

Ви можете знайти приклад використання Optunity для автоматичного визначення найкращого алгоритму навчання та оптимізації його гіперпараметрів за адресою http://optunity.readthedocs.org/en/latest/notebooks/notebooks/sklearn-automated-classification.html

Успіхи в налаштуванні гіпер параметрів та ансамблевих моделей виймають багато «мистецтва» з побудови моделей. Однак є два важливих аспекти побудови моделі, з якими налаштування гіперпараметрів та ансамблі не займаються і не дозволять вам знайти найкращу можливу модель.

По-перше, певні типи алгоритмів краще моделювати певні типи даних. Наприклад, якщо між вашими змінними існують взаємодії, адитивна модель їх не збирається знайти, але дерево рішень буде. Знаючи, як моделі поводяться на різних даних, і вибирати правильний, можливо, знадобиться знання про домен, щоб знайти найкращий алгоритм моделювання.

По-друге, інженерія та видобуток функцій - справжнє "мистецтво" побудови моделей. Ваше запитання передбачає, що набір даних вже підготовлений. Але ви не повинні вважати, що набір даних є найкращим представленням того, що ви намагаєтеся моделювати. Це завжди і питання відкрите. У багатьох випадках, коли набір даних є складним, ви можете розробляти функції протягом усього дня, але ви ризикуєте кидати все більше і більше шуму в алгоритм. Щоб знати, які функції потрібно додати, ви повинні знати, які функції мають сенс із статистичної точки зору, а які мають сенс з погляду доменного експерта.

З цих двох причин я роблю висновок, що ні, ви не зможете знайти алгоритм, який автоматично знайде найкращу можливу модель. Ось чому я скептично ставляться до постачальників програмного забезпечення, які замінять потребу в даних.

Однак, якщо ви звужуєте свої амбіції до пошуку найкращої моделі з фіксованого набору моделей, з оптимальними гіпер-параметрами, де "кращий" визначається як найвища точність прогнозування на тренувальному наборі, то так, це можливо.

Ознайомтеся з caretпакетом Rяк приклад того, як автоматично налаштовувати моделі. caretвикористовує пошук в сітці, який має вади, і він будує лише одну модель за один раз. Однак є функції порівняння моделей та зручних обгортків для довгого списку моделей із багатьох різних Rпакетів.

Залежить від того, кого ви запитуєте.

Нещодавно я почув розмову Скотта Голдера в " Контексті релевантному" . Їх продукт по суті є особливістю та вибору моделі робота. Основною базовою моделлю є логістична регресія, але система в основному використовує машинне навчання для з'ясування правильної комбінації вибору особливостей, зменшення розмірів, регуляризації тощо для створення точних прогнозів. Це була дуже вражаюча розмова, і всі деталі дуже захищені. Очевидно, їхні клієнти включають великі фінансові компанії, і система може обробляти довільно масивні набори даних.

Принаймні, кілька людей, здається, вважають, що тут вже є автоматизована наука даних, принаймні для певних застосувань. А деякі з цих людей (клієнти Context Relevant), очевидно, платять через ніс за доступ до нього.

Ні, це не мрія. Ми реалізували це (поєднання всіх згаданих вами методик, включаючи складені ансамблі) в бібліотеці машинного навчання H2O . Ви можете прочитати більше про нього та знайти приклади коду в R та Python тут .