Конвергенція з алгоритму ЕМ з розподілом біваріантної суміші

У мене є змішана модель, яку я хочу знайти максимальну оцінку ймовірності заданого набору даних та набір частково спостережуваних даних . Я реалізував як E-крок (обчислення очікування заданих і поточних параметрів ), так і M-крок, щоб мінімізувати негативну ймовірність журналу з огляду на очікуване .$x$$z$$z$$x$$\theta^k$$z$

Як я зрозумів, максимальна ймовірність зростає для кожної ітерації, це означає, що негативна ймовірність логарифма повинна зменшуватися для кожної ітерації? Однак, як я повторюю, алгоритм насправді не призводить до зменшення значень негативної ймовірності ймовірності. Натомість воно може як зменшуватися, так і збільшуватися. Наприклад, це були значення негативної ймовірності ймовірності до конвергенції:

Чи є тут, що я неправильно зрозумів?

Крім того, для імітованих даних, коли я виконую максимальну ймовірність для справжніх прихованих (непомічених) змінних, я маю близьке до ідеального пристосування, що свідчить про відсутність помилок програмування. Для алгоритму ЕМ він часто сходить до явно неоптимальних рішень, особливо для конкретного підмножини параметрів (тобто пропорцій класифікаційних змінних). Добре відомо, що алгоритм може сходитися до локальних мінімумів або стаціонарних точок, чи є звичайний пошук евристичним чи аналогічним чином, щоб збільшити ймовірність знайти глобальний мінімум (або максимум) . Для цієї конкретної проблеми я вважаю, що існує багато класифікацій пропусків, тому що для біваріантної суміші один з двох розподілів приймає значення з вірогідністю один (це суміш життєвих періодів, де справжній час життя знайдений$T=z T_0 + (1-z)\infty$ де позначає приналежність до будь-якого розподілу. Індикатор звичайно цензурується у наборі даних. $z$$z$

Я додав другу цифру, коли починаю з теоретичного рішення (яке має бути близьким до оптимального). Однак, як видно, вірогідність і параметри розходяться від цього рішення на той, який явно поступається.

редагувати: Повні дані у формі де - спостережуваний час для предмета , вказує, чи пов'язаний час з фактичною подією або якщо вона правильно цензурована (1 позначає подію і 0 позначає праву цензуру), - час усікання спостереження (можливо, 0) з індикатором усічення і, нарешті, - показник, до якого населення належить спостереження (оскільки його двовимірним нам потрібно розглянути лише 0 і 1).$\mathbf{x_i}=(t_i,\delta_i,L_i,\tau_i,z_i)$$t_i$$i$$\delta_i$$L_i$$\tau_i$$z_i$

Для нас функція густини , аналогічно вона пов'язана з хвостовою функцією розподілу . Для подія, що цікавить, не відбудеться. Хоча з цим розподілом немає , ми визначаємо його як , таким чином і . Це також дає наступне повне розподіл суміші:$z=1$$f_z(t)=f(t|z=1)$$S_z(t)=S(t|z=1)$$z=0$$t$$\inf$$f(t|z=0)=0$$S(t|z=0)=1$

$f(t) = \sum_{i=0}^{1}p_if(t|z=i) = pf(t|z=1)$ і $S(t) = 1 - p + pS_z(t)$

Переходимо до визначення загальної форми ймовірності:

$L(\theta;\mathbf{x_i}) = \Pi_i \frac{f(t_i;\theta)^{\delta_i}S(t_i;\theta)^{1-\delta_i}}{S(L_i)^{\tau_i}}$

Тепер спостерігається лише частково, коли , інакше невідомо. Повна ймовірність стає$z$$\delta=1$

$L(\theta,p;\mathbf{x_i}) = \Pi_i \frac{\big((p f_z(t_i;\theta))^{z_i}\big)^{\delta_i}\big((1-p)^{(1-z_i)}(p S_z(t_i;\theta))^{z_i}\big)^{1-\delta_i}}{\big((1-p)^{(1-z_i)}(p S_z(L_i;\theta))^{z_i}\big)^{\tau_i}}$

де - вага відповідного розподілу (можливо, пов'язаний з деякими коваріатами та їх відповідними коефіцієнтами деякою функцією зв'язку). У більшості літератури це спрощено до наступної вірогідності$p$

$\sum \Big( z_i \ln(p) + (1-p) \ln(1-p) - \tau_i\big(z_i \ln(p) + (1-z_i)\ln(1-p)\big) + \delta_i z_i f_z(t_i;\theta) + (1-\delta_i) z_i S_z(t_i;\theta) - \tau_i S_z(L_i;\theta)\Big)$

Для М-кроку ця функція є максимальною, хоча і не повністю в 1 методі максимізації. Натомість ми не вважаємо, що це можна розділити на частини .$l(\theta,p; \cdot) = l_1(\theta,\cdot) + l_2(p,\cdot)$

Для k: th + 1 E-кроку ми повинні знайти очікуване значення (частково) незарезервованих прихованих змінних . Ми використовуємо той факт, що для , тоді .$z_i$$\delta=1$$z=1$

$E(z_i|\mathbf{x_i},\theta^{(k)},p^{(k)}) = \delta_i + (1-\delta_i) P(z_i=1;\theta^{(k)},p^{(k)}|\mathbf{x_i})$

Ось маємо, за$P(z_i=1;\theta^{(k)},p^{(k)}|\mathbf{x_i}) =\frac{P(\mathbf{x_i};\theta^{(k)},p^{(k)}|z_i=1)P(z_i=1;\theta^{(k)},p^{(k)})}{P(\mathbf{x_i};\theta^{(k)},p^{(k)})}$

що дає нам$P(z_i=1;\theta^{(k)},p^{(k)}|\mathbf{x_i})=\frac{pS_z(t_i;\theta^{(k)})}{1 - p + pS_z(t_i;\theta^{(k)})}$

(Зауважте тут, що , тому спостереження не спостерігається, тому ймовірність даних задається функцією розподілу хвоста.$\delta_i=0$$\mathbf{x_i}$

Завдання ЕМ - максимізація спостережуваних можливостей журналу даних,

На жаль, це, як правило, важко оптимізувати щодо . Натомість ЕМ неодноразово формує та максимізує допоміжну функцію$\theta$

Якщо максимізує , ЕМ гарантує, що$\theta^{t+1}$$Q(\theta, \theta^t)$

Якщо ви хочете точно знати, чому це так, розділ 11.4.7 машинного навчання Мерфі : ймовірнісна перспектива дає хороші пояснення. Якщо ваша реалізація не задовольняє цих нерівностей, ви десь помилилися. Говорячи такі речі, як

У мене це ідеально підходить, вказуючи на відсутність помилок програмування

небезпечно. Маючи багато алгоритмів оптимізації та навчання, дуже легко помилятися, але все-таки отримувати правильні відповіді більшу частину часу. Мені подобається інтуїція, що ці алгоритми призначені для боротьби з брудними даними, тому не дивно, що вони також добре справляються з помилками!

Щодо другої половини вашого запитання,

чи є звичайна пошукова евристика чи так само, щоб збільшити ймовірність знайти глобальний мінімум (або максимум)

Випадкові перезавантаження - це найпростіший підхід; Наступний найпростіший - це, мабуть, імітований відпал над початковими параметрами. Я також чув про варіант ЕМ, який називається детермінованим відпалом , але я його особисто не використовував, тому не можу сказати вам багато про що.