Отримання умовних розподілів багатоваріантного нормального розподілу

114

У нас є багатоваріантний нормальний вектор ${\boldsymbol Y} \sim \mathcal{N}(\boldsymbol\mu, \Sigma)$ . Розглянемо розділення $\boldsymbol\mu$ та ${\boldsymbol Y}$ на

μ = [\begin{matrix} μ_{1} \\ μ_{2} \end{matrix}]

$\boldsymbol\mu = \begin{bmatrix} \boldsymbol\mu_1 \\ \boldsymbol\mu_2 \end{bmatrix}$

Y = [\begin{matrix} y_{1} \\ y_{2} \end{matrix}]

${\boldsymbol Y}=\begin{bmatrix}{\boldsymbol y}_1 \\ {\boldsymbol y}_2 \end{bmatrix}$

з аналогічним розділом $\Sigma$ на

[\begin{matrix} Σ_{11} & Σ_{12} \\ Σ_{21} & Σ_{22} \end{matrix}]

$\begin{bmatrix} \Sigma_{11} & \Sigma_{12}\\ \Sigma_{21} & \Sigma_{22} \end{bmatrix}$ Потім,

(y_{1} | y_{2} = a)

$({\boldsymbol y}_1|{\boldsymbol y}_2={\boldsymbol a})$ , умовний розподіл першого розділу, заданого другого, є

N (\bar{μ}, \bar{Σ})

$\mathcal{N}(\overline{\boldsymbol\mu},\overline{\Sigma})$ , із середнім

\bar{μ} = μ_{1} + Σ_{12} {Σ_{22}}^{- 1} (a - μ_{2})

$\overline{\boldsymbol\mu}=\boldsymbol\mu_1+\Sigma_{12}{\Sigma_{22}}^{-1}({\boldsymbol a}-\boldsymbol\mu_2)$ та матрицею коваріації

\bar{Σ} = Σ_{11} - Σ_{12} {Σ_{22}}^{- 1} Σ_{21}

$\overline{\Sigma}=\Sigma_{11}-\Sigma_{12}{\Sigma_{22}}^{-1}\Sigma_{21}$

Насправді ці результати також надаються у Вікіпедії, але я не маю уявлення, як походять $\overline{\boldsymbol\mu}$ та $\overline{\Sigma}$ . Ці результати мають вирішальне значення, оскільки вони є важливою статистичною формулою для отримання фільтрів Калмана . Хто-небудь надасть мені етапи виведення виведення $\overline{\boldsymbol\mu}$ та $\overline{\Sigma}$ ? Дуже дякую!

normal-distribution conditional-probability

— Літаюча свиня
джерело

Ідея полягає у використанні визначення умовної щільності . Ви знаєте, що суглоб - норма двовимірної норми і що граничний є нормальним, тоді вам просто потрібно замінити значення і зробити неприємну алгебру. Ці замітки можуть бути корисними. Ось повний доказ.

f (y_{1} | y_{2} = a) = \frac{f_{Y_{1}, Y_{2}} (y_{1}, a)}{f_{Y_{2}} (a)}

$f(y_1\vert y_2=a)=\dfrac{f_{Y_1,Y_2}(y_1,a)}{f_{Y_2}(a)}$

f_{Y_{1}, Y_{2}}

$f_{Y_1,Y_2}$

f_{Y_{2}}

$f_{Y_2}$

Ваше друге посилання відповідає на питання (+1). Чому б не поставити це як відповідь @Procrastinator?

— gui11aume

Я цього не усвідомлював, але думаю, що я неявно використовував це рівняння в умовному PCA. Умовна PCA вимагає перетворення яке ефективно обчислює матрицю умовної коваріації з урахуванням деякого вибору А.

(I - A^{'} {(A A^{'})}^{- 1} A) Σ

$\left(I-A'\left(AA'\right)^{-1}A\right)\Sigma$

— Джон

@Procrastinator - ваш підхід фактично вимагає знання ідентичності матриці Вудбері та знання блок-інверсії матриці. Це призводить до надмірно складної матричної алгебри.

— ймовірністьлогічний

@probabilityislogic Насправді результат доведений у наданому мені посиланні. Але це респектабельно, якщо вам це здається складнішим за інші методи. Крім того, я не намагався запропонувати оптимальне рішення у своєму коментарі . Також мій коментар був попереднім відповіддю Макроса (який я підтримав, як бачите).

Відповіді:

111

Ви можете довести це, чітко обчисливши умовну щільність грубою силою, як у посиланні Прокрастинатора (+1) у коментарях. Але є також теорема, яка говорить про те, що всі умовні розподіли багатоваріантного нормального розподілу є нормальними. Тому залишається лише обчислити матрицю середнього вектора та коваріації. Я пам’ятаю, ми отримали це в класі часових рядів у коледжі, вміло визначивши третю змінну та використовуючи її властивості, щоб отримати результат простіше, ніж грубе рішення в посиланні (доки вам не подобається матрична алгебра). Я йду з пам’яті, але це було щось подібне:

Нехай - перший розділ, а другий. Тепер визначте де . Тепер ми можемо писати ${\bf x}_{1}$ ${\bf x}_2$ ${\bf z} = {\bf x}_1 + {\bf A} {\bf x}_2$ ${\bf A} = -\Sigma_{12} \Sigma^{-1}_{22}$

\begin{aligned} c o v (z, x_{2}) & = c o v (x_{1}, x_{2}) + c o v (A x_{2}, x_{2}) \\ = Σ_{12} + A v a r (x_{2}) \\ = Σ_{12} - Σ_{12} Σ_{22}^{- 1} Σ_{22} \\ = 0 \end{aligned}

$\begin{align*} {\rm cov}({\bf z}, {\bf x}_2) &= {\rm cov}( {\bf x}_{1}, {\bf x}_2 ) + {\rm cov}({\bf A}{\bf x}_2, {\bf x}_2) \\ &= \Sigma_{12} + {\bf A} {\rm var}({\bf x}_2) \\ &= \Sigma_{12} - \Sigma_{12} \Sigma^{-1}_{22} \Sigma_{22} \\ &= 0 \end{align*}$

Тому і є некорельованими, і, оскільки вони спільно нормальні, вони незалежні . Тепер чітко , тому випливає, що ${\bf z}$ ${\bf x}_2$ $E({\bf z}) = {\boldsymbol \mu}_1 + {\bf A} {\boldsymbol \mu}_2$

\begin{aligned} E (x_{1} | x_{2}) & = E (z - A x_{2} | x_{2}) \\ = E (z | x_{2}) - E (A x_{2} | x_{2}) \\ = E (z) - A x_{2} \\ = μ_{1} + A (μ_{2} - x_{2}) \\ = μ_{1} + Σ_{12} Σ_{22}^{- 1} (x_{2} - μ_{2}) \end{aligned}

$\begin{align*} E({\bf x}_1 | {\bf x}_2) &= E( {\bf z} - {\bf A} {\bf x}_2 | {\bf x}_2) \\ & = E({\bf z}|{\bf x}_2) - E({\bf A}{\bf x}_2|{\bf x}_2) \\ & = E({\bf z}) - {\bf A}{\bf x}_2 \\ & = {\boldsymbol \mu}_1 + {\bf A} ({\boldsymbol \mu}_2 - {\bf x}_2) \\ & = {\boldsymbol \mu}_1 + \Sigma_{12} \Sigma^{-1}_{22} ({\bf x}_2- {\boldsymbol \mu}_2) \end{align*}$

що доводить першу частину. Для матриці коваріації зауважте, що

\begin{aligned} v a r (x_{1} | x_{2}) & = v a r (z - A x_{2} | x_{2}) \\ = v a r (z | x_{2}) + v a r (A x_{2} | x_{2}) - A c o v (z, - x_{2}) - c o v (z, - x_{2}) A^{'} \\ = v a r (z | x_{2}) \\ = v a r (z) \end{aligned}

$\begin{align*} {\rm var}({\bf x}_1|{\bf x}_2) &= {\rm var}({\bf z} - {\bf A} {\bf x}_2 | {\bf x}_2) \\ &= {\rm var}({\bf z}|{\bf x}_2) + {\rm var}({\bf A} {\bf x}_2 | {\bf x}_2) - {\bf A}{\rm cov}({\bf z}, -{\bf x}_2) - {\rm cov}({\bf z}, -{\bf x}_2) {\bf A}' \\ &= {\rm var}({\bf z}|{\bf x}_2) \\ &= {\rm var}({\bf z}) \end{align*}$

Зараз ми майже закінчили:

\begin{aligned} v a r (x_{1} | x_{2}) = v a r (z) & = v a r (x_{1} + A x_{2}) \\ = v a r (x_{1}) + A v a r (x_{2}) A^{'} + A c o v (x_{1}, x_{2}) + c o v (x_{2}, x_{1}) A^{'} \\ = Σ_{11} + Σ_{12} Σ_{22}^{- 1} Σ_{22} Σ_{22}^{- 1} Σ_{21} - 2 Σ_{12} Σ_{22}^{- 1} Σ_{21} \\ = Σ_{11} + Σ_{12} Σ_{22}^{- 1} Σ_{21} - 2 Σ_{12} Σ_{22}^{- 1} Σ_{21} \\ = Σ_{11} - Σ_{12} Σ_{22}^{- 1} Σ_{21} \end{aligned}

$\begin{align*} {\rm var}({\bf x}_1|{\bf x}_2) = {\rm var}( {\bf z} ) &= {\rm var}( {\bf x}_1 + {\bf A} {\bf x}_2 ) \\ &= {\rm var}( {\bf x}_1 ) + {\bf A} {\rm var}( {\bf x}_2 ) {\bf A}' + {\bf A} {\rm cov}({\bf x}_1,{\bf x}_2) + {\rm cov}({\bf x}_2,{\bf x}_1) {\bf A}' \\ &= \Sigma_{11} +\Sigma_{12} \Sigma^{-1}_{22} \Sigma_{22}\Sigma^{-1}_{22}\Sigma_{21} - 2 \Sigma_{12} \Sigma_{22}^{-1} \Sigma_{21} \\ &= \Sigma_{11} +\Sigma_{12} \Sigma^{-1}_{22}\Sigma_{21} - 2 \Sigma_{12} \Sigma_{22}^{-1} \Sigma_{21} \\ &= \Sigma_{11} -\Sigma_{12} \Sigma^{-1}_{22}\Sigma_{21} \end{align*}$

що доводить другу частину.

Примітка. Для тих, хто не дуже знайомий з матричною алгеброю, яка використовується тут, це відмінний ресурс .

Редагувати: Одне властивість, що використовується тут, це не у матричній кулінарній книзі (хороший улов @FlyingPig) - це властивість 6 на сторінці вікіпедії про матриці коваріації: тобто для двох випадкових векторів , Для скалярів, звичайно, але для векторів вони різні, оскільки матриці розташовані по-різному. $\bf x, y$

v a r (x + y) = v a r (x) + v a r (y) + c o v (x, y) + c o v (y, x)

${\rm var}({\bf x}+{\bf y}) = {\rm var}({\bf x})+{\rm var}({\bf y}) + {\rm cov}({\bf x},{\bf y}) + {\rm cov}({\bf y},{\bf x})$

c o v (X, Y) = c o v (Y, X)

${\rm cov}(X,Y)={\rm cov}(Y,X)$

— Макрос
джерело

Дякую за цей геніальний метод! Є одна матрична алгебра не здається мені знайомою, де я можу знайти формулу для відкриття ? Я не знайшов його за посиланням, яке ви надіслали.

v a r (x_{1} + A x_{2})

$var(x_1+Ax_2)$

— Летюча свиня

@Flyingpig, ласкаво просимо. Я вважаю, що це результат рівнянь поєднанні з додатковою властивістю дисперсії суми випадкових векторів, які не записані в «Матричній кулінарній книзі» - я додав цей факт до своєї відповіді - дякую, що знайшов що!

(291), (292)

$(291),(292)$

— Макрос

Це дуже хороша відповідь (+1), але її можна вдосконалити з точки зору впорядкованості підходу. Почнемо з того, що ми хочемо лінійну комбінацію всього вектора, незалежного / некорельованого з . Це тому, що ми можемо використовувати той факт, що що означає і . Вони в свою чергу призводять до виразів для та . Це означає , що ми повинні прийняти . Тепер нам потрібен . Якщо є зворотним, то маємо

z = C x = C_{1} x_{1} + C_{2} x_{2}

$z=Cx=C_1x_1+C_2x_2$

x_{2}

$x_2$

p (z | x_{2}) = p (z)

$p(z|x_2)=p(z)$

v a r (z | x_{2}) = v a r (z)

$var(z|x_2)=var(z)$

E (z | x_{2}) = E (z)

$E(z|x_2)=E(z)$

v a r (C_{1} x_{1} | x_{2})

$var(C_1x_1|x_2)$

E (C_{1} x_{1} | x_{2})

$E(C_1x_1|x_2)$

C_{1} = I

$C_1=I$

c o v (z, x_{2}) = Σ_{12} + C_{2} Σ_{22} = 0

$cov(z,x_2)=\Sigma_{12}+C_2\Sigma_{22}=0$

Σ_{22}

$\Sigma_{22}$

C_{2} = - Σ_{12} Σ_{22}^{- 1}

$C_2=-\Sigma_{12}\Sigma_{22}^{-1}$ .

— ймовірність

@jakeoung - це не доведення, що , воно встановлює це значення, так що ми отримуємо вираз, який містить змінні, про які ми хочемо знати.

C_{1} = I

$C_1=I$

— ймовірність

@jakeoung Я також не зовсім розумію це твердження. Я розумію таким чином: якщо , то . Тож значення якимось чином є довільною шкалою. Отже, для простоти встановимо

c o v (z, x_{2}) = 0

$cov(z, x_2)=0$

c o v (C_{1}^{- 1} z, x_{2}) = C_{1}^{- 1} c o v (z, x_{2}) = 0

$cov(C_1^{-1} z, x_2) = C_1^{-1} cov( z, x_2)=0$

C_{1}

$C_1$

C_{1} = I

$C_1=I$

— Кен Т

Відповідь Макроса чудова, але ось ще простіший спосіб, який не вимагає від вас жодної зовнішньої теореми, яка стверджує умовний розподіл. Він передбачає запис відстані Маханалобіса у формі, яка відокремлює змінну аргументу для констатуючого твердження, а потім відповідно факторизує нормальну щільність.

Переписання відстані Маханалобіса для умовного вектора: Ця деривація використовує формулу інверсії матриці, яка використовує доповнення Шура . Спочатку використовуємо формулу інверсії за блоковою стрілкою, щоб записати матрицю оберненої дисперсії у вигляді: $\boldsymbol{\Sigma}_\text{S} = \boldsymbol{\Sigma}_{11} - \boldsymbol{\Sigma}_{12} \boldsymbol{\Sigma}_{22}^{-1} \boldsymbol{\Sigma}_{21}$

\begin{aligned} Σ^{- 1} = {[\begin{matrix} Σ_{11} & Σ_{12} \\ Σ_{21} & Σ_{22} \end{matrix}]}^{- 1} = [\begin{matrix} Σ_{11}^{*} & Σ_{12}^{*} \\ Σ_{21}^{*} & Σ_{22}^{*} \end{matrix}], \end{aligned}

$\begin{equation} \begin{aligned} \boldsymbol{\Sigma}^{-1} = \begin{bmatrix} \boldsymbol{\Sigma}_{11} & \boldsymbol{\Sigma}_{12} \\ \boldsymbol{\Sigma}_{21} & \boldsymbol{\Sigma}_{22} \\ \end{bmatrix}^{-1} = \begin{bmatrix} \boldsymbol{\Sigma}_{11}^* & \boldsymbol{\Sigma}_{12}^* \\ \boldsymbol{\Sigma}_{21}^* & \boldsymbol{\Sigma}_{22}^* \\ \end{bmatrix}, \end{aligned} \end{equation}$

де:

\begin{aligned} \begin{matrix} Σ_{11}^{*} = Σ_{S}^{- 1} & Σ_{12}^{*} = - Σ_{S}^{- 1} Σ_{12} Σ_{22}^{- 1}, \\ Σ_{21}^{*} = - Σ_{22}^{- 1} Σ_{12} Σ_{S}^{- 1} & Σ_{22}^{*} = Σ_{22}^{- 1} Σ_{12} Σ_{S}^{- 1} Σ_{12} Σ_{22}^{- 1} . \end{matrix} \end{aligned}

$\begin{equation} \begin{aligned} \begin{matrix} \boldsymbol{\Sigma}_{11}^* = \boldsymbol{\Sigma}_\text{S}^{-1} \text{ } \quad \quad \quad \quad & & & & & \boldsymbol{\Sigma}_{12}^* = -\boldsymbol{\Sigma}_\text{S}^{-1} \boldsymbol{\Sigma}_{12} \boldsymbol{\Sigma}_{22}^{-1}, \quad \quad \quad \\[6pt] \boldsymbol{\Sigma}_{21}^* = - \boldsymbol{\Sigma}_{22}^{-1} \boldsymbol{\Sigma}_{12} \boldsymbol{\Sigma}_\text{S}^{-1} & & & & & \boldsymbol{\Sigma}_{22}^* = \boldsymbol{\Sigma}_{22}^{-1} \boldsymbol{\Sigma}_{12} \boldsymbol{\Sigma}_\text{S}^{-1} \boldsymbol{\Sigma}_{12} \boldsymbol{\Sigma}_{22}^{-1}. \text{ } \\[6pt] \end{matrix} \end{aligned} \end{equation}$

За допомогою цієї формули ми можемо записати відстань Маханалобіса у вигляді:

\begin{aligned} (y - μ)^{T} Σ^{- 1} (y - μ) & = {[\begin{matrix} y_{1} - μ_{1} \\ y_{2} - μ_{2} \end{matrix}]}^{T} [\begin{matrix} Σ_{11}^{*} & Σ_{12}^{*} \\ Σ_{21}^{*} & Σ_{22}^{*} \end{matrix}] [\begin{matrix} y_{1} - μ_{1} \\ y_{2} - μ_{2} \end{matrix}] \\ = (y_{1} - μ_{1})^{T} Σ_{11}^{*} (y_{1} - μ_{1}) + (y_{1} - μ_{1})^{T} Σ_{12}^{*} (y_{2} - μ_{2}) \\ + (y_{2} - μ_{2})^{T} Σ_{21}^{*} (y_{1} - μ_{1}) + (y_{2} - μ_{2})^{T} Σ_{22}^{*} (y_{2} - μ_{2}) \\ = (y_{1} - (μ_{1} + Σ_{12} Σ_{22}^{- 1} (y_{2} - μ_{2})))^{T} Σ_{S}^{- 1} (y_{1} - (μ_{1} + Σ_{12} Σ_{22}^{- 1} (y_{2} - μ_{2}))) \\ = (y_{1} - μ_{*})^{T} Σ_{*}^{- 1} (y_{1} - μ_{*}), \end{aligned}

$\begin{equation} \begin{aligned} (\boldsymbol{y} - \boldsymbol{\mu})^\text{T} \boldsymbol{\Sigma}^{-1} (\boldsymbol{y} - \boldsymbol{\mu}) &= \begin{bmatrix} \boldsymbol{y}_1 - \boldsymbol{\mu}_1 \\ \boldsymbol{y}_2 - \boldsymbol{\mu}_2 \end{bmatrix}^\text{T} \begin{bmatrix} \boldsymbol{\Sigma}_{11}^* & \boldsymbol{\Sigma}_{12}^* \\ \boldsymbol{\Sigma}_{21}^* & \boldsymbol{\Sigma}_{22}^* \\ \end{bmatrix} \begin{bmatrix} \boldsymbol{y}_1 - \boldsymbol{\mu}_1 \\ \boldsymbol{y}_2 - \boldsymbol{\mu}_2 \end{bmatrix} \\[6pt] &= \quad (\boldsymbol{y}_1 - \boldsymbol{\mu}_1)^\text{T} \boldsymbol{\Sigma}_{11}^* (\boldsymbol{y}_1 - \boldsymbol{\mu}_1) + (\boldsymbol{y}_1 - \boldsymbol{\mu}_1)^\text{T} \boldsymbol{\Sigma}_{12}^* (\boldsymbol{y}_2 - \boldsymbol{\mu}_2) \\[6pt] &\quad + (\boldsymbol{y}_2 - \boldsymbol{\mu}_2)^\text{T} \boldsymbol{\Sigma}_{21}^* (\boldsymbol{y}_1 - \boldsymbol{\mu}_1) + (\boldsymbol{y}_2 - \boldsymbol{\mu}_2)^\text{T} \boldsymbol{\Sigma}_{22}^* (\boldsymbol{y}_2 - \boldsymbol{\mu}_2) \\[6pt] &= (\boldsymbol{y}_1 - (\boldsymbol{\mu}_1 + \boldsymbol{\Sigma}_{12} \boldsymbol{\Sigma}_{22}^{-1} (\boldsymbol{y}_2 - \boldsymbol{\mu}_2)))^\text{T} \boldsymbol{\Sigma}_\text{S}^{-1} (\boldsymbol{y}_1 - (\boldsymbol{\mu}_1 + \boldsymbol{\Sigma}_{12} \boldsymbol{\Sigma}_{22}^{-1} (\boldsymbol{y}_2 - \boldsymbol{\mu}_2))) \\[6pt] &= (\boldsymbol{y}_1 - \boldsymbol{\mu}_*)^\text{T} \boldsymbol{\Sigma}_*^{-1} (\boldsymbol{y}_1 - \boldsymbol{\mu}_*), \\[6pt] \end{aligned} \end{equation}$

де:

\begin{aligned} μ_{*} & \equiv μ_{1} + Σ_{12} Σ_{22}^{- 1} (y_{2} - μ_{2}), \\ Σ_{*} & \equiv Σ_{11} - Σ_{12} Σ_{22}^{- 1} Σ_{21} . \end{aligned}

$\begin{equation} \begin{aligned} \boldsymbol{\mu}_* &\equiv \boldsymbol{\mu}_1 + \boldsymbol{\Sigma}_{12} \boldsymbol{\Sigma}_{22}^{-1} (\boldsymbol{y}_2 - \boldsymbol{\mu}_2), \\[8pt] \boldsymbol{\Sigma}_* &\equiv \boldsymbol{\Sigma}_{11} - \boldsymbol{\Sigma}_{12} \boldsymbol{\Sigma}_{22}^{-1} \boldsymbol{\Sigma}_{21}. \\[6pt] \end{aligned} \end{equation}$

Зауважимо, що цей результат є загальним результатом, який не передбачає нормальності випадкових векторів. Це дає корисний спосіб переоформлення відстані Маханалобіса, щоб вона була квадратичною формою відносно лише одного з векторів при розкладанні (з іншим, поглиненим у матрицю середнього вектора та дисперсії).

Отримання умовного розподілу: Тепер, коли у нас є вищенаведена форма для відстані Маханалобіс, решта легко. Ми маємо:

\begin{aligned} p (y_{1} | y_{2}, μ, Σ) & \overset{y_{1}}{\propto} p (y_{1}, y_{2} | μ, Σ) \\ = N (y | μ, Σ) \\ \overset{y_{1}}{\propto} \exp (- \frac{1}{2} (y - μ)^{T} Σ^{- 1} (y - μ)) \\ = \exp (- \frac{1}{2} (y_{1} - μ_{*})^{T} Σ_{*}^{- 1} (y_{1} - μ_{*})) \\ \overset{y_{1}}{\propto} N (y_{1} | μ_{*}, Σ_{*}) . \end{aligned}

$\begin{equation} \begin{aligned} p(\boldsymbol{y}_1 | \boldsymbol{y}_2, \boldsymbol{\mu}, \boldsymbol{\Sigma}) &\overset{\boldsymbol{y}_1}{\propto} p(\boldsymbol{y}_1 , \boldsymbol{y}_2 | \boldsymbol{\mu}, \boldsymbol{\Sigma}) \\[12pt] &= \text{N}(\boldsymbol{y} | \boldsymbol{\mu}, \boldsymbol{\Sigma}) \\[10pt] &\overset{\boldsymbol{y}_1}{\propto} \exp \Big( - \frac{1}{2} (\boldsymbol{y} - \boldsymbol{\mu})^\text{T} \boldsymbol{\Sigma}^{-1} (\boldsymbol{y} - \boldsymbol{\mu}) \Big) \\[6pt] &= \exp \Big( - \frac{1}{2} (\boldsymbol{y}_1 - \boldsymbol{\mu}_*)^\text{T} \boldsymbol{\Sigma}_*^{-1} (\boldsymbol{y}_1 - \boldsymbol{\mu}_*) \Big) \\[6pt] &\overset{\boldsymbol{y}_1}{\propto}\text{N}(\boldsymbol{y}_1 | \boldsymbol{\mu}_*, \boldsymbol{\Sigma}_*). \\[6pt] \end{aligned} \end{equation}$

Це встановлює, що умовний розподіл є також багатоваріантним нормальним, із заданим умовно-середнім матрицею вектора та умовною дисперсією.

— Бен
джерело