Сліпого розділення опуклої суміші?

Припустимо, у мене є незалежних джерел, і я спостерігаю опуклі суміші: $n$ $X_1, X_2, ..., X_n$ $m$

\begin{aligned} Y_{1} & = a_{11} X_{1} + a_{12} X_{2} + \dots + a_{1 n} X_{n} \\ . . . \\ Y_{m} & = a_{m 1} X_{1} + a_{m 2} X_{2} + \dots + a_{m n} X_{n} \end{aligned}

$\begin{align} Y_1 &= a_{11}X_1 + a_{12}X_2 + \cdots + a_{1n}X_n\\ ...&\\ Y_m &= a_{m1}X_1 + a_{m2}X_2 + \cdots + a_{mn}X_n \end{align}$

з для всіх і для всіх . $\sum_j a_{ij} = 1$ $i$ $a_{ij} \ge 0$ $i,j$

Який стан техніки відновлення $X$ з $Y$ ?

PCA не підлягає сумніву, тому що мені потрібні компоненти для ідентифікації. Я переглянув ICA та NMF - я не можу знайти жодного способу нав'язати негативності коефіцієнтів змішування для ICA, і NMF, схоже, не забезпечує максимальну незалежність.

pca ica

— анонімний
джерело

Я думаю, що це слід назвати "невід'ємним аналізом незалежних компонентів", але, схоже, це ім'я було використано для ICA з обмеженням негативності на джерелах

X

$X$ , а не на матриці змішування

A

$A$ ( eecs.qmul.ac.uk/ ~ markp / 2003 / Plumbley03-алгоритми-c.pdf ). Тож це не стосується вашої справи. Цікаве запитання.

— Амеба каже, що повернеться Моніка

Ви не хочете, щоб суми перевищували j, а не я? Чи можете ви припустити, що джерела є приблизно гауссовими? якщо вони є одномодовими і мають досить швидкий розпад, можливо, що встановлення ГММ буде достатньо.

— Yair Daon

@YairDaon Ага, дякую, хороший улов. На жаль, джерела дискретні і навіть не схожі на суміші гаусів. Але, можливо, я міг би грубо наблизити їх до гауссових сумішей, а потім ще більше вдосконалити. Але було б непогано мати щось більш загальне / надійне

— анонімний

Які алгоритми ICA ви спробували? Я трохи іржавий, але думаю, що неґативні припущення коефіцієнтів змішування можуть бути накладені в деяких алгоритмах, які передбачають певні моделі для сигналів, таких як алгоритм сліпої ідентифікації сліпого другого порядку (WASOBI) з урахуванням ваг, як передбачається, ви можете моделювати сигнали як АР-процеси, і, таким чином, ви можете встановити умови в коефіцієнтах.

— Нестор

Усі джерела підтримуються на знімку {1,2, ..., 96}

— анонім

Це може бути досягнуто за допомогою експоненціальної нелінійності замість типового / за замовчуванням tanh (), якщо X також є негативним.

Формула 40 в https://www.cs.helsinki.fi/u/ahyvarin/papers/NN00new.pdf та доступна в більшості реалізацій.

Наприклад, у sklearn просто використовуйте fun = 'exp' https://scikit-learn.org/stable/modules/generated/sklearn.decomposition.FastICA.html

— Анріке Мендонса
джерело

Ласкаво просимо до Stats.SE. Чи можете ви відредагувати свою відповідь та розширити її, щоб пояснити ключові кроки наданих вами посилань? Таким чином, тут можна шукати інформацію (а іноді посилання перериваються). Ви можете ознайомитися з деякою допомогою щодо форматування . Поки ви перебуваєте на цьому, ви можете використовувати LaTeX / MathJax .

— Ertxiem