Випадкові ліси для багатоваріантної регресії

У мене проблема з виходів із вхідними функціями та виходами. Виходи мають складну нелінійну кореляційну структуру. $d_x$ $d_y$

Я хотів би використати випадкові ліси, щоб зробити регресію. Наскільки я можу сказати, випадкові ліси для регресії працюють лише з одним виходом, тому мені доведеться тренувати випадкові ліси - по одному на кожен вихід. Це ігнорує їх кореляцію. $d_y$

Чи існує розширення до випадкових лісів, яке враховує кореляцію виробництва? Можливо, щось на зразок регресії процесу Гаусса для багатозадачного навчання .

regression multivariate-analysis random-forest

— сергейф
джерело

ось що мені вдалося викопати досі: scikit-learn.org/dev/modules/tree.html#multi-output-problems

— sergeyf

впевнений. У мене є високі розмірні "зображення" (фактично спектри dI / dV) пептидів. мета полягає у визначенні місцеположень та класів амінокислот, що складають пептид. моїм першим підходом була сегментація зображень, але CRF та випадкові ліси, сприйняті пікселі, не змогли. тож тепер, замість того, щоб сказати, що кожен піксель "належить" одній & лише одній амінокислоті (не дуже правда), я присвоюю кожному пікселю значення відносного "впливу" від сусідніх амінокислот. в результаті виходить

розмірна гістограма для кожного пікселя. отже, множинна регресія виходу!

d_{y}

$d_y$

— sergeyf

Це може бути запізнілою відповіддю: у Crimisini et al. Ліси рішень: Єдина рамка для класифікації, регресії, оцінки щільності, колективного навчання, вони використовують RF таким чином, який може відповідати вам для визначення кордонів органів.

— Симона

Це також може бути пізно, але може допомогти кожному, хто натрапив на цю посаду. Випадковий ліс можна легко навчити, використовуючи багатовимірні дані. Все відбувається так само, однак замість того, щоб використовувати дисперсію для обчислення інформаційного коефіцієнта, ми використовуємо коваріацію кількох вихідних змінних. І що ще важливіше, зараз листя містять N-мірні PDF-файли.

— масада

Я не знаю, що РФ "Це ігнорує їх кореляцію". Враховуючи ансамблевий характер РФ, я думаю, що вони можуть пояснити кореляції. Якби вони брали однозначний вклад і давали одновимірний вихід, вони не відповідали б кореляціям.

— EngrStudent

Ось приклад проблеми регресії з кількома виходами, розробленої з розпізнаванням обличчя. Він включає також зразок кодування, який повинен дати вам початок із вашої методології. http://scikit-learn.org/stable/auto_examples/plot_multioutput_face_completion.html

— помаранчевий1
джерело

Існує новий пакет спеціально для цього (не перевірений особисто)

https://cran.r-project.org/package=MultivariateRandomForest

— ММ
джерело