Чи відповідає дисперсія суми сумі дисперсій?

62

Чи завжди (правда), що

V a r (\sum_{i = 1}^{m} X_{i}) = \sum_{i = 1}^{m} V a r (X_{i}) ?

$\mathrm{Var}\left(\sum\limits_{i=1}^m{X_i}\right) = \sum\limits_{i=1}^m{\mathrm{Var}(X_i)} \>?$

variance

— Абе
джерело

3

Наведені нижче відповіді надають підтвердження. Інтуїцію можна побачити у простому випадку var (x + y): якщо x і y позитивно співвідносяться, обидва мають тенденцію бути великими / малими разом, збільшуючи загальну варіацію. Якщо вони негативно співвідносяться, вони, як правило, скасовують один одного, зменшуючи загальну варіацію.

— Асад Ебрагім

91

Відповідь на ваше запитання - "Іноді, але не взагалі".

Щоб побачити це, нехай є випадковими змінними (з кінцевими відхиленнями). Тоді, $X_1, ..., X_n$

v a r (\sum_{i = 1}^{n} X_{i}) = E ({[\sum_{i = 1}^{n} X_{i}]}^{2}) - {[E (\sum_{i = 1}^{n} X_{i})]}^{2}

${\rm var} \left( \sum_{i=1}^{n} X_i \right) = E \left( \left[ \sum_{i=1}^{n} X_i \right]^2 \right) - \left[ E\left( \sum_{i=1}^{n} X_i \right) \right]^2$

Тепер зауважте, що , що зрозуміло, якщо ви подумайте, що ви робите, коли ви обчислюєте вручну. Тому $(\sum_{i=1}^{n} a_i)^2 = \sum_{i=1}^{n} \sum_{j=1}^{n} a_i a_j$ $(a_1+...+a_n) \cdot (a_1+...+a_n)$

E ({[\sum_{i = 1}^{n} X_{i}]}^{2}) = E (\sum_{i = 1}^{n} \sum_{j = 1}^{n} X_{i} X_{j}) = \sum_{i = 1}^{n} \sum_{j = 1}^{n} E (X_{i} X_{j})

$E \left( \left[ \sum_{i=1}^{n} X_i \right]^2 \right) = E \left( \sum_{i=1}^{n} \sum_{j=1}^{n} X_i X_j \right) = \sum_{i=1}^{n} \sum_{j=1}^{n} E(X_i X_j)$

аналогічно,

{[E (\sum_{i = 1}^{n} X_{i})]}^{2} = {[\sum_{i = 1}^{n} E (X_{i})]}^{2} = \sum_{i = 1}^{n} \sum_{j = 1}^{n} E (X_{i}) E (X_{j})

$\left[ E\left( \sum_{i=1}^{n} X_i \right) \right]^2 = \left[ \sum_{i=1}^{n} E(X_i) \right]^2 = \sum_{i=1}^{n} \sum_{j=1}^{n} E(X_i) E(X_j)$

тому

v a r (\sum_{i = 1}^{n} X_{i}) = \sum_{i = 1}^{n} \sum_{j = 1}^{n} (E (X_{i} X_{j}) - E (X_{i}) E (X_{j})) = \sum_{i = 1}^{n} \sum_{j = 1}^{n} c o v (X_{i}, X_{j})

${\rm var} \left( \sum_{i=1}^{n} X_i \right) = \sum_{i=1}^{n} \sum_{j=1}^{n} \big( E(X_i X_j)-E(X_i) E(X_j) \big) = \sum_{i=1}^{n} \sum_{j=1}^{n} {\rm cov}(X_i, X_j)$

за визначенням коваріації.

Тепер щодо Чи дисперсія суми дорівнює сумі дисперсій? :

Якщо змінні некорельовані, так : тобто для , тоді ${\rm cov}(X_i,X_j)=0$ $i\neq j$
$v a r (\sum_{i = 1}^{n} X_{i}) = \sum_{i = 1}^{n} \sum_{j = 1}^{n} c o v (X_{i}, X_{j}) = \sum_{i = 1}^{n} c o v (X_{i}, X_{i}) = \sum_{i = 1}^{n} v a r (X_{i})$ ${\rm var} \left( \sum_{i=1}^{n} X_i \right) = \sum_{i=1}^{n} \sum_{j=1}^{n} {\rm cov}(X_i, X_j) = \sum_{i=1}^{n} {\rm cov}(X_i, X_i) = \sum_{i=1}^{n} {\rm var}(X_i)$
Якщо змінні співвідносяться, ні, не в цілому : Наприклад, припустимо, це дві випадкові величини, кожна з дисперсією і де . Тоді , тому ідентифікація не вдається. $X_1, X_2$ $\sigma^2$ ${\rm cov}(X_1,X_2)=\rho$ $0 < \rho <\sigma^2$ ${\rm var}(X_1 + X_2) = 2(\sigma^2 + \rho) \neq 2\sigma^2$
але можливі певні приклади : припустимо, що мають коваріаційну матрицю то $X_1, X_2, X_3$
$(\begin{array}{ccc} 1 & 0.4 & - 0.6 \\ 0.4 & 1 & 0.2 \\ - 0.6 & 0.2 & 1 \end{array})$ $\left( \begin{array}{ccc} 1 & 0.4 &-0.6 \\ 0.4 & 1 & 0.2 \\ -0.6 & 0.2 & 1 \\ \end{array} \right)$ ${\rm var}(X_1+X_2+X_3) = 3 = {\rm var}(X_1) + {\rm var}(X_2) + {\rm var}(X_3)$

Тому , якщо змінні є некоррелірованнимі , то дисперсія суми дорівнює сумі дисперсій, але зворотне НЕ вірно в цілому.

— Макрос
джерело

Стосовно прикладу матриці коваріації є правильним: симетрія між правою та нижньою лівою трикутниками відображає той факт, що , але симетрія між лівою верхньою та нижньою правою (у цьому випадку є лише частиною прикладу, але його можна замінити двома різними числа, що дорівнюють наприклад, і ? Ще раз спасибі.

cov (X_{i}, X_{j}) = cov (X_{j}, X_{i})

$\text{cov}(X_i,X_j)=\text{cov}(X_j,X_i)$

cov (X_{1}, X_{2}) = cov (X_{2}, X_{3}) = 0.3

$\text{cov}(X_1, X_2) = \text{cov}(X_2,X_3) = 0.3$

0.6

$0.6$

cov (X_{1}, X_{2}) = a

$\text{cov}(X_1, X_2) = a$

cov (X_{2}, X, 3) = 0.6 - a

$\text{cov}(X_2,X,3) = 0.6 -a$

— Абе

41

Var (\sum_{i = 1}^{m} X_{i}) = \sum_{i = 1}^{m} Var (X_{i}) + 2 \sum_{i < j} Cov (X_{i}, X_{j}) .

$\text{Var}\bigg(\sum_{i=1}^m X_i\bigg) = \sum_{i=1}^m \text{Var}(X_i) + 2\sum_{i\lt j} \text{Cov}(X_i,X_j).$

Отже, якщо коваріації в середньому до , це буде наслідком, якщо змінні попарно некорельовані або якщо вони незалежні, то дисперсія суми є сумою дисперсій. $0$

Приклад, коли це не відповідає дійсності: Нехай . Нехай . Тоді . $\text{Var}(X_1)=1$ $X_2 = X_1$ $\text{Var}(X_1 + X_2) = \text{Var}(2X_1)=4$

— Дуглас Заре
джерело

Це рідко буде вірно для варіацій вибірки.

— DWin

1

@DWin, "рідкісний" - це заниження - якщо має постійний розподіл, ймовірність того, що дисперсія вибірки суми дорівнює сумі дисперсій вибірки рівно 0 :)

X

$X$

— Макрос

15

Я просто хотів додати більш стисну версію доказу, наданого Макросом, щоб було легше зрозуміти, що відбувається. $\newcommand{\Cov}{\text{Cov}}\newcommand{\Var}{\text{Var}}$

Зауважте, що оскільки $\Var(X) = \Cov(X,X)$

Для будь-яких двох випадкових величин маємо: $X,Y$

\begin{aligned} Var (X + Y) & = Cov (X + Y, X + Y) \\ = E ((X + Y)^{2}) - E (X + Y) E (X + Y) \\ by expanding, \\ = E (X^{2}) - (E (X))^{2} + E (Y^{2}) - (E (Y))^{2} + 2 (E (X Y) - E (X) E (Y)) \\ = Var (X) + Var (Y) + 2 (E (X Y)) - E (X) E (Y)) \end{aligned}

$\begin{align} \Var(X+Y) &= \Cov(X+Y,X+Y) \\ &= E((X+Y)^2)-E(X+Y)E(X+Y) \\ &\text{by expanding,} \\ &= E(X^2) - (E(X))^2 + E(Y^2) - (E(Y))^2 + 2(E(XY) - E(X)E(Y)) \\ &= \Var(X) + \Var(Y) + 2(E(XY)) - E(X)E(Y)) \\ \end{align}$ Тому в цілому дисперсія суми двох випадкових величин не є сумою дисперсій. Однак якщо незалежні, то , і маємо .

X, Y

$X,Y$

E (X Y) = E (X) E (Y)

$E(XY) = E(X)E(Y)$

Var (X + Y) = Var (X) + Var (Y)

$\Var(X+Y) = \Var(X) + \Var(Y)$

Зауважте, що ми можемо отримати результат для суми випадкових величин за допомогою простої індукції. $n$

— Омар Хаке
джерело

11

Так, якщо кожна пара є некорельованою, це правда. $X_i$

Дивіться пояснення у Вікіпедії

— Abe
джерело

Я згоден. Ви також знайдете просте (r) пояснення щодо Insight Things .

— Ян Роткегель