Набір некорельованих, але лінійно залежних змінних

9

Чи можливо мати набір змінних, які не співвідносяться, але лінійно залежать? $K$

тобто і $cor(x_i, x_j)=0$ $\sum_{i=1}^K a_ix_i=0$

Якщо так, чи можете ви написати приклад?

EDIT: З відповідей випливає, що це неможливо.

Принаймні, можливо, що де - розрахунковий коефіцієнт кореляції, обчислений від вибірок змінних, а - змінна, некорельована з . $\mathbb{P}(|\hat \rho_{x_i, x_j}-\hat \rho_{x_i, v}|<\epsilon)$ $\hat\rho$ $n$ $v$ $x_i$

Я думаю про щось на кшталт $x_K=\dfrac{1}{K} \sum_{i=1}^{K-1} x_i$ $K>>0$

correlation mathematical-statistics multicollinearity

— Донбео
джерело

11

Як показує відповідь @ RUser4512, некорельовані випадкові величини не можуть бути лінійно залежними. Але майже неспоріднені випадкові величини можуть бути лінійно залежними, і один із прикладів цього - щось дороге серцю статистиків.

Припустимо, що - це набір некорельованих випадкових змінних одиничних дисперсій із загальним середнім . Визначте де . Тоді - нульові середні випадкові величини, такі що , тобто лінійно залежні. Тепер так що а показуючи, що $\{X_i\}_{i=1}^K$ $K$ $\mu$ $Y_i = X_i - \bar{X}$ $\bar{X} = \frac 1K \sum_{i=1}^K X_i$ $Y_i$ $\sum_{i=1}^K Y_i = 0$

Y_{i} = \frac{K - 1}{K} X_{i} - \frac{1}{K} \sum_{j \neq i} X_{j}

$Y_i = \frac{K-1}{K} X_i - \frac 1K\sum_{j \neq i}X_j$

var (Y_{i}) = {(\frac{K - 1}{K})}^{2} + \frac{K - 1}{K^{2}} = \frac{K - 1}{K}

$\operatorname{var}(Y_i) = \left(\frac{K-1}{K}\right)^2+\frac{K-1}{K^2} = \frac{K-1}{K}$

cov (Y_{i}, Y_{j}) = - 2 (\frac{K - 1}{K}) \frac{1}{K} + \frac{K - 2}{K^{2}} = \frac{- 1}{K}

$\operatorname{cov}(Y_i,Y_j) = -2\left(\frac{K-1}{K}\right)\frac 1K + \frac{K-2}{K^2}= \frac{-1}{K}$

Y_{i}

$Y_i$ - майже некорельовані випадкові величини з коефіцієнтом кореляції .

- \frac{1}{K - 1}

$\displaystyle -\frac{1}{K-1}$

Дивіться також цю попередню мою відповідь.

— Діліп Сарват
джерело

1

Це справді приємний приклад!

— RUser4512

9

Ні.

Припустимо, один із не дорівнює нулю. Не втрачаючи загальності, припустимо . $a_i$ $a_1=1$

Для це означає, що і . Але ця кореляція дорівнює нулю. повинен дорівнювати нулю, що суперечить існуванню лінійної залежності. $K=2$ $x_1=-a_2x_2$ $cor(x_1,x_2)=-1$ $a_1$

Для будь-якого , та . Але, за гіпотезою, . У «s дорівнюють нулю (при ) , і тому повинні бути . $K$ $x_1=-\sum_{i>1}a_ix_i$ $cor(x_1,x_k)=-1$ $cor(x_1,x_k)=0$ $a_i$ $i>1$ $a_1$

— RUser4512
джерело

Що стосується гауссових векторів, у вас навіть є однолінійний доказ (що я вважаю за краще залишати як коментар). Кореляція, що дорівнює 0, передбачає незалежність. означає і ви закінчили.

\sum_{i} a_{i} x_{i} = 0

$\sum_i a_ix_i =0$

\sum_{i} a_{i}^{2} = 0

$\sum_i a_i^2 =0$

— RUser4512

Дуже гарна відповідь. Було б добре, якщо ви зможете відповісти також на відредаговане питання.

— Донбео

Відредаговане питання набагато складніше;) Я припускаю, що і посилаються на одне і те ж? Я не бачу сенсу коефіцієнта 1 / K, якщо ви шукаєте кореляцію, це нічого не змінить до кінцевого результату

v

$v$

x_{K}

$x_K$

— RUser4512

1 / K потрібно , щоб зробити .

c o r (x_{K}, x_{i}) = 1 / K

$cor(x_K, x_i)=1/K$

— Донбео

4

Це може бути обманом, але якщо ми визначимо "некорельований" як коваріацію 0, відповідь - так . Нехай обидва і дорівнюють нулю з вірогідністю 1. Тоді $X$ $Y$

$\mathop{\mathrm{Cov}}(X,Y)= \mathop{\mathrm{E}}(XY)-\mathop{\mathrm{E}}(X)\mathop{\mathrm{E}}(Y)=0-0=0$

тоді як , тому і лінійно залежні (за вашим визначенням). $X+Y=0$ $X$ $Y$

Хоча , якщо вам потрібно, щоб співвідношення визначено, то , що дисперсії обох і є строго позитивними, це НЕ можливо знайти змінні виконання ваших критеріїв (див інші відповіді). $X$ $Y$

— Карл Ове Хаффхаммер
джерело