Застосування «хитрості ядра» до лінійних методів?

Трюк ядра використовується в декількох моделях машинного навчання (наприклад , SVM ). Вперше він був введений у статті "Теоретичні основи методу потенційної функції в навчанні розпізнавання образів" у 1964 році.

Визначення вікіпедії говорить, що це так

метод використання алгоритму лінійного класифікатора для вирішення нелінійної задачі шляхом відображення оригінальних нелінійних спостережень у просторі більш високого розміру, де згодом використовується лінійний класифікатор; це робить лінійну класифікацію в новому просторі еквівалентною нелінійній класифікації у вихідному просторі.

Одним із прикладів лінійної моделі, яка поширюється на нелінійні проблеми, є PCA ядра . Чи може трюк ядра застосувати до будь-якої лінійної моделі, чи має певні обмеження?

Хитрість ядра може застосовуватися лише до лінійних моделей, де приклади в формулюванні проблеми постають як крапкові продукти (Support Vector Machines, PCA тощо).

Ще два посилання Б. Шелкопфа :

• Schölkopf, B. and Smola, AJ (2002). Навчання з ядрами . MIT Press.
• Schölkopf, B., Tsuda, K., and Vert, J.-P. (2004). Методи ядра в обчислювальній біології . MIT Press.

і веб-сайт, присвячений машинам ядра .

@ ebony1 дає ключовий момент (+1), я був співавтором статті, яка обговорювала, як кенелізувати узагальнені лінійні моделі, наприклад, логістична регресія та пуассонова регресія, це досить просто.

GC Cawley, GJ Janacek та NLC Talbot, Узагальнені машини ядра, в матеріалах Міжнародної спільної конференції IEEE / INNS з нейронних мереж (IJCNN-2007), сторінки 1732-1737, Орландо, штат Флорида, США, 12-17 серпня 2007 року. ( www , pdf )

Я також написав (якість дослідження) інструментарій MATLAB (на жаль, ніяких інструкцій), який ви можете знайти тут .

Можливість моделювання розподілу цілей є досить корисною для кількісної оцінки невизначеності тощо, тому є корисним (якщо досить інкрементальним) доповненням до методів навчання ядра.