Різні типи коваріації для гауссових моделей сумішей

Спробувавши тут Гауссові моделі сумішей , я знайшов ці 4 типи коваріацій.

'full' (each component has its own general covariance matrix),
'tied' (all components share the same general covariance matrix),
'diag' (each component has its own diagonal covariance matrix),
'spherical' (each component has its own single variance).

Я дуже багато шукаю деталі щодо кожного з цих типів, але знайшов описи дуже високого рівня (наприклад, цього ).

Вдячний, якщо хтось може допомогти мені зрозуміти це, або принаймні направити мене кудись, де я можу прочитати про них.

covariance-matrix gaussian-mixture

— Бджола
джерело

Розподіл Гаусса повністю визначається його матрицею коваріації та її середнім значенням (місцем у просторі). Коваріаційна матриця гауссового розподілу визначає напрями та довжини осей контурів її густини, всі вони є еліпсоїдами.

$(0,0)$ $(4,5)$ $3/5$ $2/5$

Натиснувши на зображення, відображатиметься версія з більшою роздільною здатністю.

Примітка. Це графіки фактичних сумішей, а не окремих компонентів. Оскільки компоненти добре відокремлені і мають порівнянну вагу, контури суміші дуже нагадують контури компонентів (за винятком низьких рівнів, де вони можуть спотворюватись і зливатися, як це показано, наприклад, у центрі "прив'язаного" ділянки).

Повна означає, що компоненти можуть незалежно приймати будь-яку позицію та форму.
Зв'язані означає, що вони мають однакову форму, але форма може бути будь-якою.
Діагональна означає, що контурні осі орієнтовані вздовж осей координат, але в іншому випадку ексцентриситети можуть змінюватись між компонентами.
Зав'язана діагональ - це "прив'язана" ситуація, коли контурні осі орієнтовані уздовж осей координат. (Я додав це, тому що спочатку було так, як я неправильно трактував "діагональ".)
Сферична - це "діагональна" ситуація з круглими контурами (сферична у більших розмірах, звідки і назва).

$n$ $n(n+1)/2$

— дзижчати
джерело

Чудова відповідь. Дякую. Останнє питання. Це єдині 4 типи? чи є ще якісь види?

— Бджола

1

$1$

Дякую. Я просто порівняв цитований опис у своєму пості та вашу відповідь. У моєму "Зв'язаний" - це єдиний, який поділяють усі компоненти. Але по-вашому, "Повна", здається, є єдиною, яку НЕ поділяють кожен компонент. Я просто відчуваю, що ці 2 суперечать. (Я впевнений, що мені чогось не вистачає). Ви не проти пояснити це? Дуже дякую.

— Бджола

Я не бачу жодного протиріччя: я сумлінно представляв саме умови, які ви окреслюєте. Дійсно, я не посилався на жодні інші джерела для створення цих образів.

— whuber

Дякую - я бачу, що ти маєш на увазі. Я оновлю пояснення, щоб це відобразити.

— whuber