Як працює формула для генерації корельованих випадкових змінних?

19

Якщо у нас є 2 нормальних, некоррельовані випадкові величини ми можемо створити 2 корельовані випадкові величини за формулою $X_1, X_2$

$Y=\rho X_1+ \sqrt{1-\rho^2} X_2$

і тоді матиме кореляцію з . $Y$ $\rho$ $X_1$

Чи може хтось пояснити, звідки береться ця формула?

correlation normal-distribution covariance

— Ланца
джерело

1

Широке обговорення цього та пов’язаних із цим питань з’являється у моїй відповіді на сайті stats.stackexchange.com/a/71303 . Крім усього іншого, зрозуміло, що (1) припущення про нормальність не має значення і (2) потрібно зробити додаткові припущення: відхилення і повинні бути рівними, щоб кореляція з була .

X_{1}

$X_1$

X_{2}

$X_2$

Y

$Y$

X_{1}

$X_1$

ρ

$\rho$

— whuber

Дуже цікаве посилання. Я не впевнений, я розумію, що ви маєте на увазі, що нормальність не має значення. Якщо або не є нормальним, і важче контролювати щільність за допомогою алгоритму Кайзера-Дікмана. У цьому вся причина спеціалізовані алгоритми для генерації без нормальної корельованих даних (наприклад, Headrick, 2002; Ruscio & Kaczetow, 2008; Vale & Maurelli, 1983) Наприклад, уявіть собі , ваша мета полягає в генерації ~ нормальний, ~ уніформу , з = .5. Використання ~ рівномірних призводить до того, що не є рівномірним ( кінцевому підсумку є лінійною комбінацією нормального та рівномірного).

X_{1}

$X_1$

X_{2}

$X_2$

Y

$Y$

X

$X$

Y

$Y$

ρ

$\rho$

X_{2}

$X_2$

Y

$Y$

Y

$Y$

— Ентоні

@Anthony Питання задається лише співвідношенням , яке є суто функцією першого та другого моментів. Відповідь не залежить від будь-яких інших властивостей розподілів. Те, що ви обговорюєте, - це зовсім інша тема.

— whuber

17

Припустимо, ви хочете знайти лінійну комбінацію $X_1$ і $X_2$ такою, що

corr (α X_{1} + β X_{2}, X_{1}) = ρ

$\text{corr}(\alpha X_1 + \beta X_2, X_1) = \rho$

Зауважте, що якщо ви помножите і і на одну і ту ж (ненульову) константу, кореляція не зміниться. Таким чином, ми додамо умову збереження дисперсії: $\alpha$ $\beta$ $\text{var}(\alpha X_1 + \beta X_2) = \text{var}(X_1)$

Це еквівалентно

ρ = \frac{cov (α X_{1} + β X_{2}, X_{1})}{\sqrt{var (α X_{1} + β X_{2}) var (X_{1})}} = \frac{α \overset{= var (X_{1})}{\overset{⏞}{cov (X_{1}, X_{1})}} + \overset{= 0}{\overset{⏞}{β cov (X_{2}, X_{1})}}}{\sqrt{var (α X_{1} + β X_{2}) var (X_{1})}} = α \sqrt{\frac{var (X_{1})}{α^{2} var (X_{1}) + β^{2} var (X_{2})}}

$\rho = \frac{\text{cov}(\alpha X_1 + \beta X_2, X_1)}{\sqrt{\text{var}(\alpha X_1 + \beta X_2) \text{var}(X_1)}} = \frac{\alpha \overbrace{\text{cov}(X_1, X_1)}^{=\text{var}(X_1)} + \overbrace{\beta \text{cov}(X_2, X_1)}^{=0}}{\sqrt{\text{var}(\alpha X_1 + \beta X_2) \text{var}(X_1)}} = \alpha \sqrt{\frac{\text{var}(X_1)}{\alpha^2 \text{var}(X_1) + \beta^2 \text{var}(X_2)}}$

Якщо припустити, що обидві випадкові величини мають однакову дисперсію (це важливе припущення!) ( ), отримаємо $\text{var}(X_1) = \text{var}(X_2)$

ρ \sqrt{α^{2} + β^{2}} = α

$\rho \sqrt{\alpha^2 + \beta^2} = \alpha$

Існує багато рішень цього рівняння, тому настав час згадати умову збереження дисперсії:

вар (Х_{1}) = вар (α Х_{1} + β Х_{2}) = α^{2} вар (Х_{1}) + β^{2} вар (Х_{2}) \Rightarrow α^{2} + β^{2} = 1

$\text{var}(X_1) = \text{var}(\alpha X_1 + \beta X_2) = \alpha^2 \text{var}(X_1) + \beta^2 \text{var}(X_2) \Rightarrow \alpha^2 + \beta^2 = 1$

І це веде до нас

α = ρ β = \pm \sqrt{1 - ρ^{2}}

$\alpha = \rho \\ \beta = \pm \sqrt{1-\rho^2}$

UPD . Щодо другого питання: так, це відомо як відбілювання .

— Артем Соболєв
джерело

9

Рівняння - це спрощена двоваріантна форма розкладу Холеського . Це спрощене рівняння іноді називають алгоритмом Кайзера-Дікмана (Kaiser & Dickman, 1962).

Зауважте, що для правильного роботи цього алгоритму і повинні мати однакову дисперсію. Також алгоритм зазвичай використовується із звичайними змінними. Якщо або не є нормальними, може не мати такої ж форми розподілу, як . $X_1$ $X_2$ $X_1$ $X_2$ $Y$ $X_2$

Список літератури:

Кайзер, Х. Ф., і Дікман, К. (1962). Матриці оцінки вибірки та сукупності та матриці кореляції вибірки з довільної матриці кореляції сукупності. Психометріка, 27 (2), 179-182.

— Ентоні
джерело

2

Я думаю, вам не потрібні стандартизовані нормальні змінні, достатньо мати однакову дисперсію.

— Артем Соболєв

2

Ні, розподіл

є НЕ суміш розподілу , як ви стверджуєте.

Y

$Y$

— Діліп Сарват

Точка прийнята, @Dilip Sarwate. Якщо або

або

ненормально,

стає лінійною комбінацією двох змінних, що може не призвести до потрібного розподілу. Це причина спеціалізованих алгоритмів (замість Кайзера-Дікмана) для генерованих ненормальних корельованих даних.

X_{1}

$X_1$

X_{2}

$X_2$

Y

$Y$

— Ентоні

3

Коефіцієнт кореляції - це між двома рядами, якщо їх розглядати як вектори (з точкою даних буде розмірність вектора). Вищенаведена формула просто створює розклад вектора на його компоненти , (стосовно ). якщо , то $\cos$ $n^{th}$ $n^{th}$ $\cos\theta$ $sin\theta$ $X_1,X_2$
$\rho = cos \theta$ . $\sqrt{1-{\rho}^2}=\pm sin \theta$

Оскільки, якщо є некорельованими, кут між ними є прямим кутом (тобто їх можна розглядати як ортогональні, хоч і ненормовані, базисні вектори). $X_1, X_2$

— Дмитро Рубанович
джерело

2

Ласкаво просимо на наш сайт! Я вірю, що ваш пост приверне більше уваги, якщо ви позначите математичні вирази за допомогою

: укладіть їх між знаками долара. Під час редагування доступна допомога.

T E X

$\TeX$

— whuber