Я прочитав пару пояснень алгоритму ЕМ (наприклад, з розпізнавання шаблонів Бішопа та машинного навчання та з першого курсу з машинного навчання Роджера та Героламі). Виведення ЕМ нормально, я це розумію. Я також розумію, чому алгоритм щось прикриває: на кожному кроці ми вдосконалюємо результат і ймовірність обмежується 1,0, тому, використовуючи простий факт (якщо функція збільшується і обмежується, то вона конвергується), ми знаємо, що алгоритм конвергується в якесь рішення.

Однак, як ми знаємо, що це локальний мінімум? На кожному кроці ми розглядаємо лише одну координату (латентну змінну або параметри), тому ми можемо щось пропустити, наприклад, що локальний мінімум вимагає переміщення обох координат одразу.

Це, на мій погляд, схоже на проблему, що стосується загального класу алгоритмів сходження на гірку, яким ЕМ є примірником. Отже, для загального алгоритму сходження на гірку ми маємо цю задачу для функції f (x, y) = x * y. Якщо ми почнемо з (0, 0) точки, то лише розглядаючи обидва напрямки відразу, ми можемо рухатись вгору від значення 0.

ЕМ не гарантується, що вона збільшиться до локального мінімуму. Гарантоване лише зближення до точки з нульовим градієнтом щодо параметрів. Так він справді може застрягнути в сідлових точках.

Перш за все, можливо, що ЕМ переходить до локальної хв , локальної максимуму або точки сідла функції ймовірності. Точніше, як вказував Том Мінка , ЕМ гарантовано сходиться до точки з нульовим градієнтом .

Я можу придумати два способи побачити це; перший погляд - це чиста інтуїція, а другий погляд - ескіз формального доказу. Спочатку я дуже коротко поясню, як працює ЕМ:

Максимізація очікувань (ЕМ) - це послідовна пов'язана техніка оптимізації, де в ітерації спочатку будуємо (нижню) зв'язану на ймовірності функції а потім максимізуємо пов'язану для отримання нового рішення , і продовжуйте робити це, поки нове рішення не зміниться.b t ( θ ) L ( θ ) θ t = arg max θ b t ( θ $t$$b_t(\theta)$$L(\theta)$$\theta_t = \arg\max_\theta b_t(\theta)$

Очікування Максимізація як сходження градієнта

У кожній ітерації ЕМ вимагає, щоб зв'язаний до функції ймовірності при розв'язанні попередньої ітерації, тобто що означає, що їх градієнти теж однакові; тобто . Отже, ЕМ принаймні настільки ж хороший, як і градієнтне підйом, тому що принаймні настільки ж хороший, як . Іншими словами:b t L θ t - 1 g = ∇ b t ( θ t - 1 ) = ∇ L ( θ t - 1 ) θ t θ t - 1 + η $t$$b_t$$L$$\theta_{t-1}$$g = \nabla b_t(\theta_{t-1}) = \nabla L(\theta_{t-1})$$\theta_t$$\theta_{t-1} + \eta g$

якщо ЕМ сходиться до то є також конвергентною точкою для сходження градієнта, і ЕМ задовольняє будь-яке властивість, поділене між рішеннями сходження градієнта (включаючи нульове значення градієнта).θ $\theta^*$$\theta^*$

Ескіз формального доказу

Можна показати, що розрив між межами та функцією ймовірності сходить до нуля; тобто Можна довести, що градієнт пов'язаної також сходиться до градієнта функції ймовірності; тобто: Через і і що межі, використані в ЕМ, є диференційованими, і що , у нас є і, отже, .