Дисбаланс класу в контрольованому машинному навчанні

Це взагалі питання, не характерне для будь-якого методу чи набору даних. Як ми маємо справу з проблемою дисбалансу класу в контрольованому машинному навчанні, де число 0 становить близько 90%, а число 1 - близько 10% у вашому наборі даних. Як ми оптимально навчаємо класифікатор.

Один із способів, за якими я слідую, - це вибірка, щоб зробити набір даних збалансованим, а потім навчити класифікатор і повторити це для кількох зразків.

Я вважаю, що це випадково. Чи є рамки для підходу до подібних проблем.

Існує безліч рамок і підходів. Це питання, що повторюється.

Приклади:

• Підкреслення . Виберіть піддіапазон наборів нулів таким чином, щоб його розмір відповідав набору одиниць. Очевидною є втрата інформації, якщо ви не використовуєте більш складний фреймворк (наприклад, я б розділив перший набір на 9 менших взаємовиключних підмножин, підготував модель на кожну з них і зібрав моделі).
• Перенапруження . Виробляйте штучні, поки частка не складе 50% / 50%. Мій попередній роботодавець використовував це за замовчуванням. Для цього існує багато рамок (я вважаю, SMOTE є найпопулярнішим, але я віддаю перевагу більш простим хитрощам, як шумна PCA ).
• Один клас навчання . Припустимо, у ваших даних є кілька реальних моментів (тих) і багато випадкового шуму, який фізично не існує, просочився в набір даних (все, що не є - це шум). Використовуйте алгоритм для позначення даних замість алгоритму класифікації.
• Тренінг з урахуванням витрат . Використовуйте функцію асиметричної вартості, щоб штучно збалансувати навчальний процес.

Деякі освітлені огляди, що збільшують порядок технічної складності \ рівень деталей:

• Про класифікацію незбалансованих наборів даних
• Інформаційний бюлетень ACM SIGKDD Explorations - Спеціальний випуск про навчання з незбалансованих наборів даних (читайте принаймні редакцію , це буде освічувальним)
• Обмін даними для незбалансованих наборів даних: огляд

О, і, до речі, 90% / 10% не є незбалансованим. Набори даних про шахрайські операції з картками часто розбиваються на 99,97% / 0,03%. Це незбалансовано.

Це сильно залежить від способу навчання. Більшість підходів загального призначення мають один (або кілька) способів вирішити це. Поширене виправлення - присвоєння вищої міри за неправильну класифікацію класу меншості, примушування класифікатора розпізнавати їх (SVM, логістична регресія, нейронні мережі, ...).

Зміна вибірки - це також така можливість, як ви згадуєте. У цьому випадку перенапруження класу меншин зазвичай є кращим рішенням, ніж підсилення мажоритарного класу.

Деякі методи, як-от випадкові ліси, не потребують змін.

Часто проблемою є не частота, а абсолютна кількість випадків у класі меншин. Якщо ви не маєте значних варіацій цілі в порівнянні з різницею функцій, це може означати, що алгоритм не може класифікувати речі дуже точно.

Одне полягає в тому, що штраф за класифікацію може бути використаний на етапі класифікації, а не на етапі оцінки параметрів, якщо такий є. Деякі методи не мають поняття параметра, вони просто створюють відверті мітки класу або ймовірності класу.

Якщо у вас є ймовірнісний оцінювач, то ви можете приймати рішення про класифікацію, виходячи з теоретичних інформаційних підстав або з комбінацією вартості бізнесу.

Додайте два хитрості: 1. використовуйте CDF, підраховуйте частоту ваших навчальних даних або використовуйте дуже велику валідацію (якщо ваш тестовий набір не зміниться, але набір перевірки повинен мати однаковий розподіл з навчальним набором), потім сортуйте свій прогноз і отримайте перший X% (ви рахуєте частоту раніше) для одного класу, а інші - інше / 2. зважений зразок, модель буде схильна до зваженого класу вибірки, ви можете використовувати дисперсію вибірки проти. Weightti = 1/2 (1- (vmax - vi) / vmax)