Який діапазон пошуку для визначення оптимальних параметрів С і гамма для SVM?

Я використовую SVM для класифікації і намагаюся визначити оптимальні параметри для лінійних та RBF ядер. Для лінійного ядра я використовую перехресний вибір параметрів для визначення C, а для ядра RBF я використовую пошук сітки для визначення C та гамми.

У мене є 20 (числових) ознак та 70 прикладів навчання, які слід класифікувати на 7 класів.

Який діапазон пошуку слід використовувати для визначення оптимальних значень параметрів С та гамма?

Перегляньте практичний посібник з класифікації SVM для деяких покажчиків, зокрема, сторінка 5.

Ми рекомендуємо "пошук по сітці" на і γ, використовуючи перехресну перевірку. Випробуються різні пари значень ( C , γ ) і вибирається одне з найкращою точністю перехресної перевірки. Ми виявили, що спроба експоненціально зростаючих послідовностей C і γ є практичним методом ідентифікації хороших параметрів (наприклад, C = 2 - 5 , 2 - 3 , … , 2 15 ; γ = 2 - 15 , 2 - 13$C$$\gamma$$(C,\gamma)$$C$$\gamma$ ).$C = 2^{-5},2^{-3},\ldots,2^{15};\gamma = 2^{-15},2^{-13},\ldots,2^{3}$

Не забудьте спочатку нормалізувати ваші дані, і якщо зможете, зібрати більше даних, оскільки, як виглядає, ваша проблема може бути сильно невизначеною.

$\sigma$$C$

$C$$\sigma$$c$$1/c$$D^\rho_{ij}$$\sigma$$C$$s^2$$s^2 = \frac{1}{n} \sum_i K_{ii} - \frac{1}{n^2}\sum_{i,j} K_{ij}$$n\times n$$K$

$2^k$$k\in \{-2,...,2\}$

Звичайно, ми сказали @ciri, нормалізація даних тощо - це завжди хороша ідея.