Який тип нормалізації даних слід використовувати з KNN?

Я знаю, що існує більше двох типів нормалізації.

Наприклад,

1- Трансформація даних за допомогою z-оцінка або t-оцінка. Зазвичай це називається стандартизацією.

2- Розміщення даних для значень між 0 і 1.

Питання зараз, чи потрібно мені нормалізувати

Який тип нормалізації даних слід використовувати з KNN? і чому?

Для k-NN я б запропонував нормалізувати дані між і 1 .$0$$1$

k-NN використовує евклідову відстань як свій засіб порівняння прикладів. Для того, щоб розрахувати відстань між двома точками і х 2 = ( F 1 2 , F 2 2 , . . . , Е M 2 ) , де f i 1 - значення $x_1 = (f_1^1, f_1^2, ..., f_1^M)$$x_2 = (f_2^1, f_2^2, ..., f_2^M)$$f_1^i$$i$-та особливість :$x_1$

Щоб усі функції мали однакове значення при обчисленні відстані, функції повинні мати однаковий діапазон значень. Це досягається лише шляхом нормалізації.

Якщо вони не були нормалізовані і, наприклад, функція мала діапазон значень [ 0 , 1 ), тоді як f 2 мав діапазон значень у [ 1 , 10 ) . При обчисленні відстані другий доданок був би в 10 разів важливішим за перший, змушуючи k-NN більше покладатися на другу особливість, ніж на перший. Нормалізація забезпечує те, що всі функції відображаються в однаковому діапазоні значень.$f^1$$[0, 1$$f^2$$[1, 10)$$10$

З іншого боку, стандартизація має багато корисних властивостей, але не може гарантувати, що функції відображаються в одному діапазоні. Хоча стандартизація може бути найкращим чином підходить для інших класифікаторів, це не стосується k-NN або будь-якого іншого класифікатора на основі відстані.