Кластеризація набору даних як дискретних, так і безперервних змінних

У мене є набір даних X з 10 вимірами, 4 з яких - дискретні значення. Насправді ці 4 дискретні змінні є порядковими, тобто більш високе значення означає більш високу / кращу семантичну.

2 з цих дискретних змінних є категоричними в тому сенсі, що для кожної з цих змінних відстань, наприклад, від 11 до 12, не є такою ж, як відстань від 5 до 6. У той час як більш високе значення змінної передбачає більшу реальність, масштаб є не обов'язково лінійний (насправді він насправді не визначений).

Моє запитання:

• Чи корисно застосувати загальний алгоритм кластеризації (наприклад, K-Means, а потім Гауссова суміш (GMM)) до цього набору даних, який містить як дискретні, так і безперервні змінні?

Якщо ні:

• Чи слід видаляти дискретні змінні та зосереджуватися лише на безперервних?
• Чи варто краще дискретизувати безперервні та використовувати алгоритм кластеризації для дискретних даних?

Тож вам сказали, що вам потрібна відповідна міра відстані. Ось кілька прикладів:

• Кластеризація змішаних даних
• Узагальнена відстань махаланобісу для змішаних даних
• Оцінка відстані махаланобіса від змішаних суцільних та дискретних даних
• Узагальнення відстані махаланобіс у змішаному випадку
• Функції відстані для категоричних та змішаних змінних
• Інформаційні відстані та відповідна статистика у змішаних безперервних та категоричних змінних

і, звичайно: відстань махаланобіс .

Мені доводилося стикатися з подібною проблемою в минулому, і, думаю, може бути два цікавих підходи:

• Продовження: перетворення символічних атрибутів у послідовність цілих чисел. Існує кілька способів зробити це, всі вони описані в цій роботі . Ви можете спробувати алгоритми NBF, VDM та MDV.

• Дискретизація: перетворення безперервних атрибутів у символічні значення. Знову багато алгоритмів, і гарною лекцією про це була б ця стаття . Я вважаю, що найпоширенішим методом є 1R Холте, але найкращий спосіб точно знати - це дивитись на криві ROC проти таких алгоритмів, як EWD, EFD, ID, LD або NDD.

Після того, як у вас є всі функції в одному просторі, це стає звичайною проблемою кластеризації.

Вибір між континуасифікацією чи дискретизацією залежить від вашого набору даних та того, як виглядають ваші функції, тому сказати це трохи важко, але я раджу прочитати статті, які я дав вам на цю тему.

K-означає, очевидно, не має ніякого сенсу, оскільки він обчислює засоби (які є безглуздими). Те саме стосується і GMM.

Ви можете спробувати алгоритми кластеризації на основі відстані з відповідними функціями відстані, наприклад, DBSCAN.

Основна задача - знайти функцію дистанції!

Хоча ви можете помістити іншу функцію відстані в k-засоби, вона все одно буде обчислювати середнє значення, яке, ймовірно, не має особливого сенсу (і, ймовірно, міси з функцією відстані для дискретних значень).

У будь-якому випадку спочатку зосередьтесь на визначенні, що таке «подібне» . Тоді кластер, використовуючи таке визначення подібного!

Якщо вам зручно працювати з дистанційною матрицею розміру num_of_samples x num_of_samples, ви можете також використовувати random forests.

Клацніть тут, щоб отримати довідковий документ під назвою Unsupervised learning with random forest predictors.

Ідея полягає у створенні синтетичного набору даних за shufflingзначеннями в початковому наборі даних та підготовці класифікатора для розділення обох. Під час класифікації ви отримаєте анкету inter-sample distance matrix, на якій ви можете перевірити свій улюблений алгоритм кластеризації.

Скористатися змішаним підходом: 1) Використовувати методи класифікації (дерево рішень C4.5) для класифікації набору даних у 2 класи. 2) Після того, як це буде зроблено, залиште категоричні змінні та перейдіть до безперервних змінних для кластеризації.