Я працюю над виведенням задньої частини Normal-Wishart, але я застряг у одному з параметрів (задній частині матриці шкали, див. Внизу).
Тільки для контексту та повноти, ось модель та решта похідних:
xiμΛ∼N(μ,Λ)∼N(μ0,(κ0Λ)−1)∼W(υ0,W0)
Розширеними формами кожного з трьох факторів є (до постійної пропорційності) є:
Ймовірність:
N(xi|μ,Λ)∝|Λ|N/2exp(−12∑i=1N(xTiΛxi−2μTΛxi+μTΛμ))
Звичайний попередній час:
N(μ|(μ0,κ0Λ)−1)∝|Λ|1/2exp(−12(μTκ0Λμ−2μTκ0Λμ0+μT0κ0Λμ0))
Попереднє завдання:
W(Λ|υ0,W0)∝|Λ|υ0−D−12exp(−12tr(W−10Λ))
Ми хочемо заднього Normal-Wishart ( ), який можна розкласти як а також :μ,Λ|μ′,κ′,υ′,W′N(μ|μ,κ′Λ)W(Λ|υ′,W′)
Погіршення свободиυ′
Об'єднуючи перші чинники ймовірності та Вішарта, ми отримуємо перший фактор коефіцієнта Вішарта в задній частині:
і тому у нас є перший параметр заднього:
|Λ|υ0+N−D−12
υ′=υ0+N
Коефіцієнт масштабуκ′
Ми ідентифікуємо елементи, оточені і щоб дізнатися, хто попередньо оновлює ймовірність:
і тому ми отримали другий параметр:
μTμκ0Λ
μT((κ0+N)Λ)μ
κ′=κ0+N
Середнійμ′
Треті параметри походять від визначення того, що знаходиться всередині :
І тому ми отримали третій параметр:
2μT...
2μT(ΛNx¯¯¯+κ0Λμ0)(ΛNx¯¯¯+κ0Λμ0)(Nx¯¯¯+κ0μ0)=2μTκ′Λμ′=κ′Λμ′=κ′μ′
μ′=1k′(Nx¯¯¯+κ0μ0)
Матриця масштабуW′
І четвертий параметр відбувається від роботи над рештою параметрами:
tr(W′−1Λ)=tr(W−10Λ)+∑i=1NxTiΛxi+μT0κ0Λμ0=tr(W−10Λ)+∑i=1Ntr(xTiΛxi)+tr(μT0κ0Λμ0)=tr(W−10Λ+∑i=1NxTiΛxi+μT0κ0Λμ0)
Як продовжуватись звідси (якщо я досі не помилявся) і отримати стандартне рішення для ?W′
Редагувати 1 :
Тепер ми перевпорядковуємо умови, додаємо та підбиваємо деякі фактори, щоб отримати два квадрати, як у стандартному рішенні:
tr(W′−1Λ)==tr(W−1Λ+∑i=1N(xTiΛxi+x¯¯¯TΛx¯¯¯−2xTiΛx¯¯¯)+κ0(μT0Λμ0+x¯¯¯TΛx¯¯¯−2x¯¯¯TΛμ0)−∑i=1Nx¯¯¯TΛx¯¯¯+2∑i=1NxTiΛx¯¯¯−κ0x¯¯¯TΛx¯¯¯+2κ0x¯¯¯TΛμ0)tr(W−1Λ+∑i=1N(xi−x¯¯¯)Λ(xi−x¯¯¯)T+κ0(x¯¯¯−μ0)Λ(x¯¯¯−μ0)T−Nx¯¯¯Λx¯¯¯T+2Nx¯¯¯Λx¯¯¯T−κ0x¯¯¯Λx¯¯¯T+2κ0x¯¯¯ΛμT0)
Ми спростимо фактори, які залишаються поза квадратами:
tr(W′−1Λ)=tr(W−1Λ+∑i=1N(xi−x¯¯¯)TΛ(xi−x¯¯¯)+κ0(x¯¯¯−μ0)TΛ(x¯¯¯−μ0)+(N−κ0)x¯¯¯TΛx¯¯¯+2κ0x¯¯¯TΛμ0)
Редагувати 2 ( продовжити завдяки відповіді @bdeonovic )
Слід циклічний, тому . Тоді:
а потім:
tr(ABC)=tr(BCA)=tr(CAB)
tr(W′−1Λ)=tr(W−1Λ+∑i=1N(xi−x¯¯¯)(xi−x¯¯¯)TΛ+κ0(x¯¯¯−μ0)(x¯¯¯−μ0)TΛ+(N−κ0)x¯¯¯x¯¯¯TΛ+2κ0x¯¯¯μT0Λ)
tr(W′−1)=tr(W−1+∑i=1N(xi−x¯¯¯)(xi−x¯¯¯)T+κ0(x¯¯¯−μ0)(x¯¯¯−μ0)T+(N−κ0)x¯¯¯x¯¯¯T+2κ0x¯¯¯μT0)
Майже! Але все одно там немає. Мета:
W−1+∑i=1N(xi−x¯¯¯)(xi−x¯¯¯)T+κ0Nκ0+N(x¯¯¯−μ0)(x¯¯¯−μ0)T