SVM для незбалансованих даних

Я хочу спробувати використовувати векторні машини підтримки (SVM) у своєму наборі даних. Перш ніж спробувати проблему, мене попередили, що SVM не справляються з надзвичайно незбалансованими даними. У моєму випадку я можу мати 95-98% 0 і 2-5% 1.

Я намагався знайти ресурси, які говорили про використання SVM на рідкісних / незбалансованих даних, але все, що я міг знайти, - це "sparseSVM" (які використовують невелику кількість векторів підтримки).

Я сподівався, що хтось може коротко пояснити:

1. Наскільки добре SVM, як очікується, зробить із таким набором даних
2. Які, якщо такі є, зміни повинні бути внесені до алгоритму SVM
3. Які ресурси / документи обговорюють це

Багато реалізацій SVM вирішують це, привласнюючи різну вагу позитивним та негативним примірникам. По суті, ви зважуєте зразки так, щоб сума ваг позитивів була дорівнює мінусі. Звичайно, при оцінці SVM ви повинні пам’ятати, що якщо 95% даних є негативними, тривіально отримувати 95% точність, завжди прогнозуючи негатив. Тому ви повинні переконатися, що ваші показники оцінювання також зважені, щоб вони були збалансованими.

Зокрема, у тому libsvm, що ви додали як тег, є прапор, який дозволяє встановлювати ваги класу ( -wя вважаю, але перевіряйте документи ).

Нарешті, з особистого досвіду можу сказати вам, що я часто виявляю, що SVM дасть дуже схожі результати з корекцією ваги або без неї.

SVM-файли добре працюють на розріджених та незбалансованих даних. SVM, зважений у класі, призначений для боротьби з неврівноваженими даними шляхом призначення більш високих штрафних санкцій за неправильну класифікацію навчальним інстанціям класу меншин.

У випадку таких рідких даних, як SVM, буде добре працювати.

Як зазначає @Bitwise, ви не повинні використовувати точність для вимірювання продуктивності алгоритму.

Натомість слід обчислити точність, відкликання та F-бал алгоритму.