Алгоритми машинного навчання, засновані на «структурному мінімізації ризиків»?

Які алгоритми машинного навчання (крім SVM) використовують принцип структурної мінімізації ризиків ?

reference-request machine-learning

— Класифікатор
джерело

Що таке альго?

— Дейв Кларк

algo = алгоритм;)

— Classifire

будь ласка, використовуйте повні слова.

— Каве

гаразд, просто не хотілося робити заголовок занадто довгим

— Classifire

Наскільки я можу сказати, SRM - це не що інше, як стара стара регуляризація , яка використовується абсолютно скрізь.

— Емре

Принцип структурної мінімізації ризиків - це принцип, який хоча б частково "використовується" у всіх методах машинного навчання, оскільки надмірне оснащення часто слід враховувати: зменшення складності моделі - це (мабуть, і на практиці) - хороший спосіб обмеження оздоблення.

У SVM явно є параметр складності (розмірність простору функцій або навіть функція ядра), і це необхідно, оскільки підвищення складності є частиною алгоритму навчання.
Нейрональні мережі також мають простий показник їх складності (кількість "клітин") і є частиною пов'язаного алгоритму навчання.
Без цього принципу умовивід граматики був би і дурним, і досконалою граматикою є список усіх можливих слів, тому кожен нетривіальний алгоритм хоча б визнає цей принцип.
Дерева рішень мають своє поняття ентропії .
Кластери можуть бути просто перелічені або типу «використовувати» принцип власне або мати фіксовану кількість кластерів, і в такому випадку ви застосовуєте принцип на більш високому рівні.

Якщо бути чесним, я не знаю, що відбувається в генетичному програмуванні, але вони не мають власного поняття складності.

Я не знаю добре індуктивного логічного програмування, але, схоже, це не дуже добре відповідає цьому принципу.

— jmad
джерело

Чи знаєте ви про будь-який алгоритм навчання, який є навіть більш потужним і менш схильним до переозброєння, ніж SVM? А може бути методика вдосконалення стандартного SVM?

— Classifire

@ User2278 якщо під потужним "ви маєте в виду« ефективним » , то SVMs досить велика і є багато з досліджень про нього і інструментах його використання. Але, звичайно, це залежить від вашої проблеми.

— jmad

Ну, я хотів би використовувати SVM на фінансових ринках, і насправді існує досить багато робіт, присвячених цій темі (використання SVM для прогнозування запасів тощо). Чи існує алгоритм, який би краще підходив для цієї мети (тим більше, що фінансові часові ряди настільки "галасливі")?

— Classifire

@ user2278 Ви краще використовуйте документи. Я не експерт. (Я не буду здивований, SVM - це найкращі для цього. Також вони добре поводяться. Шум)

— jmad