Варіативні умовиводи, дивергенція KL вимагає справжнього

На мій (дуже скромний) рівень розуміння варіативного висновку, намагається наблизити невідомий розподіл шляхом пошуку розподілу який оптимізує наступне:$p$$q$

$$KL (p||q) = \sum\limits_{x} p(x)log \frac {p(x)}{q(x)}$$

Щоразу, коли я вкладаю час на розуміння варіативного висновку, я продовжую вражати цією формулою і не можу не відчути, як я пропускаю суть. Здається, мені потрібно знати $p$ , щоб обчислити $KL(p||q)$ . Але вся справа в тому, що я не знав цього розподілу $p$ .

Саме цей момент мене клопоче щоразу, коли я намагаюся прочитати щось варіативне. Що я пропускаю?

Редагувати :

Я додам сюди кілька додаткових коментарів у результаті відповіді @wij, я спробую бути більш точним.

У тих випадках, які мене цікавлять, справді здається цілком розумним вважати, що наступне має місце;

$$p(\theta | D) = \frac{p(D|\theta)p(\theta)}{p(D)} \propto p(D|\theta)p(\theta)$$

У цьому випадку я міг би знати, як має пропорційно виглядати тому що я зробив вибір моделі для p ( D | θ ) та p ( θ ) . Чи був би я тоді правильним, кажучи, що мені тоді потрібно вибрати сімейний розподіл q [скажемо гаусса], щоб тепер я міг оцінити K L ( p ( θ | D ) | | q ) . Схоже, що в цьому випадку я намагаюся помістити гаусса, близького до ненормованого p ( D | θ $p$$p(D|\theta)$$p(\theta)$$q$$KL(p(\theta|D) || q)$ . Це правильно?$p(D|\theta)p(\theta)$

Якщо так, то я відчуваю, що я припускаю, що мій задній - нормальний розподіл, і я просто намагаюся знайти ймовірні значення для цього розподілу щодо розбіжності $KL$

У мене таке відчуття, що ви ставитесь до як до абсолютно невідомого об'єкта. Я не думаю, що це так. Це, мабуть, те, що ви пропустили.$p$

Скажімо, ми спостерігаємо (iid) і хочемо зробити висновок p ( x | Y ) там, де вважаємо, що p ( y | x ) і p ( x ) для x ∈ R d задані через модель. За правилом Байєса,$Y = \{y_i\}_{i=1}^n$$p(x|Y)$$p(y|x)$$p(x)$$x\in\mathbb{R}^d$

$$p(x|Y) = \frac{p(x)}{p(Y)}p(Y|x) = \frac{p(x)}{p(Y)}\prod_{i=1}^n p(y_i|x).$$

Перше спостереження полягає в тому, що ми знаємо щось про задній розподіл . Дано як вище. Зазвичай ми просто не знаємо його нормалізатор p ( Y ) . Якщо ймовірність p ( y | x ) дуже складна, тоді ми закінчуємо деякий складний розподіл p ( x | Y ) .$p(x|Y)$$p(Y)$$p(y|x)$$p(x|Y)$

Друга річ, яка дає змогу робити варіаційні умовиводи - це обмеження у формі, яку може приймати . Без будь-яких обмежень, аргумент min q K L ( p | | q ) був би p, який зазвичай є незламним. Як правило, передбачається , що q живе в обраному підмножині експоненціальної родини. Наприклад, це може бути сімейство повністю факторизованих гауссових розподілів, тобто q ∈ Q = { ∏ d i = 1 q i ( x i ) $q$$\arg \min_q KL(p||q)$$p$$q$ . Виявляється, якщо це ваш набір обмежень, то кожен компонент q задається через$q \in \mathcal{Q} = \{\prod_{i=1}^d q_i(x_i) \mid \text{each } q_i \text{ is a one-dimensional Gaussian}\}$$q$

$$q_i \propto \exp( \mathbb{E}_{\prod_{j\neq i} q_j} \log p(x, Y) ),$$

де Точна формула не має великого значення. Справа в тому, що приблизний q можна знайти, спираючись на знання істинного p , і припущення про форму, яку має приймати наближений q .$p(x, Y) = p(x) \prod_{i=1}^n p(y_i|x).$$q$$p$$q$

Оновлення

Далі слід відповісти на оновлену частину питання. Я щойно зрозумів, що я думав про . Я завжди буду використовувати p для справжньої кількості, а q для приблизної. У варіативному умовиводі або варіаційному Байсі q задається числом$KL(q||p(x|Y))$$p$$q$$q$

$$q = \arg \min_{q \in \mathcal{Q}} KL(q\, ||\, p(x|Y)).$$

З набором обмежень як зазначено вище, рішення є тим, яке було задано раніше. Тепер якщо ви задумаєтесь$\mathcal{Q}$

$$q = \arg \min_{q \in \mathcal{Q}} KL( p(x|Y) \, || \, q),$$

для визначеного як підмножина експоненціальної родини, тоді цей висновок називається поширенням очікування (EP). Рішення для q в цьому випадку є таким, що його моменти відповідають рівню p ( x | Y ) .$\mathcal{Q}$$q$$p(x|Y)$

$q$