Кластеризація двійкової матриці

У мене є напівмаленька матриця двійкових ознак розміром 250k x 100. Кожен рядок - це користувач, а стовпці - це двійкові "теги" деякої поведінки користувача, наприклад "like_cats".

user  1   2   3   4   5  ...
-------------------------
A     1   0   1   0   1
B     0   1   0   1   0
C     1   0   0   1   0

Я хотів би вкласти користувачів у 5-10 кластерів та проаналізувати завантаження, щоб побачити, чи можу я інтерпретувати групи поведінки користувачів. Здається, існує досить багато підходів до встановлення кластерів на бінарні дані - що, на наш погляд, може бути найкращою стратегією для цих даних?

• PCA

• Створення матриці подібності Жакарду , встановлення ієрархічного кластера та використання верхнього "вузла".

• К-медіани

• К-медоїди

• Проксімус ?

• Агнес

Поки що я мав певний успіх у використанні ієрархічної кластеризації, але я дійсно не впевнений, що це найкращий шлях.

tags = read.csv("~/tags.csv")
d = dist(tags, method = "binary")
hc = hclust(d, method="ward")
plot(hc)
cluster.means = aggregate(tags,by=list(cutree(hc, k = 6)), mean)

Аналіз латентного класу - один із можливих підходів.

Візьміть такий розподіл ймовірностей, де A, B і C можуть приймати значення 1 або 0.

$P(A_i, B_j, C_k)$

Якби вони були незалежні одне від одного, то ми очікували б побачити:

$P(A_i, B_j, C_k)=P(A_i)P(B_j)P(C_k)$

Після усунення цієї можливості, ми можемо припустити, що будь-яка спостережувана залежність обумовлена ​​кластеризацією значень всередині неспостережуваних підгруп. Для перевірки цієї ідеї ми можемо оцінити наступну модель:

$P(A_i, B_j, C_k)=P(X_n)P(A_i|X_n)P(B_j|X_n)P(C_k|X_n)$

Де - латентна категоріальна змінна з рівнями. Ви конкретизуєте , а параметри моделі (граничні ймовірності приналежності до класу та специфічні ймовірності класу для кожної змінної) можна оцінити за допомогою максимізації очікувань.n $X$$n$$n$

На практиці ви можете оцінити кілька моделей з та "вибрати" найкращу модель на основі теорії, індексів відповідності індексів та якості класифікації (що можна оцінити, обчисливши задні ймовірності членства в класі для спостереження).$5 \le n \le 10$

Однак, намагаючись визначити змістовні зразки в 100 змінних з 5-10 групами, швидше за все, буде потрібно скорочення цього списку перед оцінкою моделі, що є досить складною темою саме по собі ( REF ).

Насправді, часте видобуток наборів елементів може бути кращим вибором, ніж кластеризація таких даних.

Звичайний векторно-орієнтований набір алгоритмів не має великого сенсу. Наприклад, K-засоби створюють засоби, які вже не є бінарними.