Лінійна комбінація двох залежних багатоваріантних нормальних випадкових величин

Припустимо, у нас є два вектори випадкових величин, обидва є нормальними, тобто і . Нас цікавить розподіл їх лінійної комбінації , де і - матриці, - вектор. Якщо і незалежні, . Питання полягає у залежному випадку, якщо припустити, що ми знаємо співвідношення будь-якої пари . Дякую. $X \sim N(\mu_X, \Sigma_X)$ $Y \sim N(\mu_Y, \Sigma_Y)$ $Z = A X + B Y + C$ $A$ $B$ $C$ $X$ $Y$ $Z \sim N(A \mu_X + B \mu_Y + C, A \Sigma_X A^T + B \Sigma_Y B^T)$ $(X_i, Y_i)$

Найкращі побажання, Іване

probability normal-distribution multinomial

— Іван
джерело

Відповіді:

У такому випадку вам потрібно написати (з надією чіткими позначеннями) ( відредаговано: припускаючи спільну нормальність ) Тоді та тобто

(\begin{matrix} X \\ Y \end{matrix}) \sim N [(\begin{matrix} μ_{X} \\ μ_{Y} \end{matrix}), Σ_{X, Y}]

$\left(\begin{matrix}X\\Y \end{matrix}\right) \sim \mathcal{N}\left[ \left(\begin{matrix}\mu_X\\\mu_Y\end{matrix}\right), \Sigma_{X,Y} \right]$

(X, Y)

$(X,Y)$

A X + B Y = (\begin{matrix} A & B \end{matrix}) (\begin{matrix} X \\ Y \end{matrix})

$AX+BY=\left(\begin{matrix}A& B \end{matrix}\right) \left(\begin{matrix}X\\Y \end{matrix}\right)$

A X + B Y + C \sim N [(\begin{matrix} A & B \end{matrix}) (\begin{matrix} μ_{X} \\ μ_{Y} \end{matrix}) + C, (\begin{matrix} A & B \end{matrix}) Σ_{X, Y} (\begin{matrix} A^{T} \\ B^{T} \end{matrix})]

$AX+BY+C \sim \mathcal{N}\left[ \left(\begin{matrix}A& B \end{matrix}\right) \left(\begin{matrix}\mu_X\\\mu_Y\end{matrix}\right) + C, \left(\begin{matrix}A & B \end{matrix}\right)\Sigma_{X,Y} \left(\begin{matrix}A^T \\ B^T \end{matrix}\right)\right]$

A X + B Y + C \sim N [A μ_{X} + B μ_{Y} + C, A Σ_{X X} A^{T} + B Σ_{X Y}^{T} A^{T} + A Σ_{X Y} B^{T} + B Σ_{Y Y} B^{T}]

$AX+BY+C \sim \mathcal{N}\left[A\mu_X + B\mu_Y +C, A\Sigma_{XX}A^T+B\Sigma_{XY}^TA^T+A\Sigma_{XY}B^T+B\Sigma_{YY}B^T \right]$

— Сіань
джерело

У випадку, якщо це не помічено, зауважте, що нитка коментаря до іншої відповіді вказує на (а) ці розрахунки коваріації є нормальними (розуміючи, що вони включають природне, але нестаціонарне позначення блокової матриці), але (б) ми не можемо правильно зробити висновок, що лінійні комбінації зазвичай розподіляється, поки ми не зробимо додаткове припущення; а саме, що і мають спільне багатоваріантне нормальне розподіл.

X

$X$

Y

$Y$

— whuber

Чи можете ви пояснити, як ви перейшли від до в останньому рядку? Я б подумав, що і результат далі не спрощується. Тут є НЕ симетрична матрицею , так як його -го елемент , а його -й елемент , і немає жодної причини, по якій ці товариства повинні бути рівними.

B Σ_{X Y}^{T} A^{T} + A Σ_{X Y} B^{T}

$B\Sigma_{XY}^TA^T+A\Sigma_{XY}B^T$

2 A Σ_{X Y} B^{T}

$2A\Sigma_{XY}B^T$

B Σ_{X Y}^{T} A^{T} + A Σ_{X Y} B^{T} = (A Σ_{X Y} B^{T})^{T} + A Σ_{X Y} B^{T}

$B\Sigma_{XY}^TA^T+A\Sigma_{XY}B^T = (A\Sigma_{XY}B^T)^T + A\Sigma_{XY}B^T$

Σ_{X Y}

$\Sigma_{XY}$

(i, j)

$(i,j)$

cov (X_{i}, Y_{j})

$\text{cov}(X_i,Y_j)$

(j, i)

$(j,i)$

cov (X_{j}, Y_{i})

$\text{cov}(X_j,Y_i)$

— Діліп Сарват

@DilipSarwate: (+1) ви праві, в загальному випадку немає жодних причин, щоб ці два терміни були рівними.

— Сіань

Ваше питання не має однозначної відповіді , як в даний час ставиться , якщо ви не брати до уваги , що і спільно розподілені нормально з ковариационной правому верхньому блоці . Я думаю, ви це маєте на увазі, тому що ви говорите, що у вас є кожна коваріація між X і Y. У цьому випадку ми можемо записати що також є багатовимірним нормальним. тоді задається у вигляді як: $X$ $Y$ $\Sigma_{XY}$ $W=(X^T,Y^T)^T$ $Z$ $W$

Z = (A, B) W + C

$Z=(A,B)W+C$

Потім ви використовуєте свою звичайну формулу для лінійного поєднання. Зауважте, що середнє значення не змінюється, але матриця коваріації має два додаткові доданки $A\Sigma_{XY}B^T+B\Sigma_{XY}^TA^T$

— ймовірністьіслогічна
джерело

Дякую за те, що я вказав на це питання, насправді я навіть не замислювався над цим, але, схоже, змінні дійсно можна розглядати, в моєму випадку, як спільно нормально розподілені, навіть якщо їх компоненти співвідносяться.

— Іван

Я погоджуюся, що питання не можна вирішити як поставлене. Це можна вирішити прямо, якщо припустити, як відповідає відповідь @ Xi'an, що і спільно нормально розподіляються. Це може бути вирішено, імовірно, з більшими труднощами, якби розподіл суглобів було визначено як щось інше, ніж спільне нормальне. Але просто знання для всіх , не означає, що є багатоваріантною нормою . Будь-які дві випадкові величини з кінцевими дисперсіями мають коваріацію. Коваріація не визначається лише для звичайних або спільно нормальних випадкових величин.

X

$X$

Y

$Y$

cov (X_{i}, Y_{j})

$\text{cov}(X_i,Y_j)$

i, j

$i, j$ $W = (X^T,Y^T)^T$

— Діліп Сарват

У моєму випадку X і Y - це спільно нормально, я спробую пояснити, чому, будь ласка, виправте мене, якщо я помиляюся. Припустимо, існує набір незалежних одновимірних нормальних rv. Кожен елемент X і Y є довільною лінійною комбінацією цих одновимірних змінних з набору. Отже, оскільки початкові змінні є незалежними і беруть участь лише лінійні перетворення, то отримані вектори X, Y і Z є всіма багатовимірними нормальними rv. Звідси випливає визначення багатоваріантного нормального rv, де повинен бути одновимірним нормальним rv для будь-якого вектора . Чи є сенс?

a^{T} X

$a^T X$

a

$a$

— Іван

@Ivan Ваше пояснення має сенс, але скарга стосується твердження "Припустимо, у нас є два вектори випадкових змінних, обидва є нормальними, тобто і " , яка не означає , що і є спільно нормально . Не говорить також, що "ми знаємо співвідношення будь-якої пари " означає, що і є спільно нормальними, хоча, як ви правильно стверджуєте, означає, що є нормальним (і аналогічно для .) Універсальна нормальність

X \sim N (μ_{X}, Σ_{X})

$X\sim N(\mu_X,\Sigma_X)$

Y \sim N (μ_{Y}, Σ_{Y})

$Y\sim N(\mu_Y,\Sigma_Y)$

X

$X$

Y

$Y$

(X_{i}, Y_{i})

$(X_i,Y_i)$

X_{i}

$X_i$

Y_{i}

$Y_i$

X \sim N (μ_{X}, Σ_{X})

$X\sim N(\mu_X,\Sigma_X)$

X_{i}

$X_i$

Y_{i}

$Y_i$ не передбачає нормальності спільності. Дивіться посилання нижче.

— Діліп Сарват

@Ivan Дивіться дискусію після цього питання

— Діліп Сарват