Приклади незалежних і некорельованих даних у реальному житті та способи їх вимірювання / виявлення

Ми завжди чуємо про цей вектор даних VS, про цей інший вектор даних, незалежний один від одного, або не пов'язаний між собою тощо, і хоча легко зустріти математику щодо цих двох понять, я хочу зв'язати їх із прикладами із реальних справ. життя, а також знайти способи виміряти ці відносини.

З цієї точки зору, я шукаю приклади двох сигналів, які мають такі комбінації: (Почну з деяких):

Два сигнали, які є незалежними І (обов'язково) некорельованими:
- Шум від автомобільного двигуна (називайте його ) та ваш голос ( ) під час розмови. $v_1[n]$ $v_2[n]$
- Запис вологості щодня ( ) та індексу dow-jones ( ). $v_1[n]$ $v_2[n]$

Q1) Як би ви оцінили / довели, що вони незалежні з тими двома векторами в руці? Ми знаємо, що незалежність означає, що продукт їхніх pdfs дорівнює їхньому спільному pdf, і це чудово, але з тими двома векторами в руці, як можна довести свою незалежність?

Два сигнали, які НЕ незалежні, але все ще несумісні:

Q2) Я не можу тут придумати будь-яких прикладів ... які були б приклади? Я знаю, що ми можемо виміряти кореляцію, взявши перехресну кореляцію двох таких векторів, але як би ми довели, що вони також НЕ незалежні?

Два сигнали, які співвідносяться:
- Вектор, що вимірює голос оперної співачки в головному залі, , а хтось записує її голос десь із будівлі, скажімо, в репетиційній залі ( ). $v_1[n]$ $v_2[n]$
- Якщо ви постійно вимірювали серцевий ритм у своєму автомобілі, ( ), а також вимірювали інтенсивність синіх вогнів, що вражають ваше заднє лобове скло ( ) ... я здогадуюсь, це було б дуже корельовано ... :-) $v_1[n]$ $v_2[n]$

Q3) Пов’язано з q2, але чи у випадку вимірювання перехресної кореляції з цієї емпіричної точки зору достатньо подивитися на крапковий добуток цих векторів (оскільки це значення на піку їх перехресної кореляції)? Чому ми б дбали про інші значення в функції крос-корр?

Ще раз дякую, чим більше прикладів, тим краще для побудови інтуїції!

cross-correlation independence

— Космічний
джерело

@DilipSarwate Спасибі Діліп, я погляну на це. Наразі деякі приклади було б добре.

— Спейсі

Ви не можете "довести", що вони незалежні таким же чином, що навіть добре складене опитування не може "довести", як всі збираються голосувати - і з тих же причин.

— Джим Клей

@JimClay Не соромтеся послабити критерій "довести" - те, що я намагаюся отримати, - це способи вимірювання / кількісної оцінки незалежності. Ми часто чуємо про таке, і тому незалежні, ну як вони це знають? Яка вимірювальна стрічка використовується?

— Спейсі

Я хотів би знати, чи можна використовувати кореляцію cros для двох аналогових сигналів, одного з високою роздільною здатністю та іншого низької роздільної здатності для аналізу.

Якщо у нас є деяка випадкова величина X і побудуємо 2 сигнали a ** = (x) і ** b ** = (x), при цьому і є ортогональними, а ** x = a + b $f_1$ $f_2$ $f_1$ $f_2$ . Чи означає це, що такі сигнали є незалежними? Чи вимагає цього додаткових умов? Ця властивість була б цікавою, оскільки вона уникає створення спільних файлів pdf з a та b .

— Младен

Відповіді:

Кілька елементів ... (Я знаю, що це не вичерпно. Більш повна відповідь, мабуть, повинна згадати моменти)

Щоб перевірити, чи є два розподіли незалежними, потрібно виміряти, наскільки подібний їх спільний розподіл на добуток їх граничного розподілу . Для цього ви можете використовувати будь-яку відстань між розподілами. Якщо ви використовуєте дивергенцію Kullback-Leibler для порівняння цих розподілів, ви врахуєте кількість: $p(x,y)$ $p(x) \times p(y)$

$\int_x \int_y p(x, y) \log \frac{p(x, y)}{p(x) p(y)} dx dy$

І ви впізнали ... Взаємну інформацію! Чим він нижчий, тим більш незалежними є змінні.

Більш практично, щоб обчислити цю величину зі своїх спостережень, ви можете або оцінити щільність , , з ваших даних, використовуючи оцінювач щільності ядра, і виконати числову інтеграцію на тонкій сітці ; або просто кількісно оцініть свої дані в бункерах і використовуйте вираз Взаємної інформації для дискретних розподілів. $p(x)$ $p(y)$ $p(x, y)$ $N$

Зі сторінки Вікіпедії про статистичну незалежність та кореляцію:

Ділянки розподілу

За винятком останнього прикладу, ці двовимірні розподіли мають некорельовані (діагональна коваріаційна матриця), але не незалежні, граничні розподіли та . $p(x, y)$ $p(x)$ $p(y)$

Дійсно існують ситуації, в яких ви можете переглянути всі значення функцій перехресної кореляції. Вони виникають, наприклад, при обробці звукових сигналів. Розглянемо два мікрофони, що фіксують одне джерело, але віддалене від кількох метрів. Перехресна кореляція двох сигналів матиме сильний пік при відставанні, що відповідає відстані між мікрофонами, розділеною на швидкість звуку. Якщо ви просто подивитеся на перехресну кореляцію за відставанням 0, ви не побачите, що один сигнал є зміщеною у часі версією іншого!

— пішенети
джерело

p (x, y)

$p(x,y)$

p(x}

$p(x}$

(продовження) 2) Отже, підсумовуючи: Якщо матриця коваріації x, а y діагональна, то вони некорельовані, але НЕ обов'язково незалежні правильні? Перевірка незалежності була проблемою з подальшим запитанням (1). Однак, якщо ми покажемо, що вони невідповідні, то, звичайно, їх матриця коваріації МАЄ бути діагональною. Я правильно зрозумів? Що є прикладом двох фізичних сигналів, які я можу виміряти в реальному житті, які були б залежними, але не співвідносяться? Знову дякую.

— Космічний

x_{n}

$x_n$

y_{n}

$y_n$

N

$N$

p (x, y)

$p(x, y)$

p^{*} (x, y) = \sum_{i} \frac{1}{N} K (x - x_{i}, y - y_{i})

$p^*(x, y) = \sum_i \frac{1}{N}K(x - x_i, y - y_i)$

K

$K$

(x_{n}, y_{n})

$(x_n, y_n)$

p^{*} (x, y) = \frac{C}{N}

$p^*(x, y) = \frac{C}{N}$

C

$C$

(x, y)

$(x, y)$

"2 фізичні сигнали, які залежать, але не співвідносяться": Скажімо, ми зламаємо GPS кабіни Нью-Йорка, щоб записати (широту, довготу) історію його положення. Є хороший шанс лат., Довго. дані будуть некорельовані - немає привілейованої "орієнтації" хмари точок. Але навряд чи це буде незалежним, оскільки, якби вас попросили відгадати широту кабіни, ви б набагато краще здогадалися, якби знали довготу (ви могли б потім подивитися на карту і виключити [лат, довгі] пари, зайняті будівлями).

— пікенети

Інший приклад: дві синусоїди хвилі з цілим числом, кратним однаковій частоті. Нульова кореляція (основа Фур'є є ортонормальною); але якщо ви знаєте значення одного, існує лише кінцевий набір значень, який може прийняти інший (придумайте сюжет Ліссайюса).

— пікенети

Вказувати на те, чи є два сигнали незалежними, дуже важко зробити (з урахуванням кінцевих спостережень) без попередніх знань / припущень.

$X$ $Y$ $X$ $Y$ $Y$ $X$ $Y$

cov (f_{1} (X), f_{2} (Y)) = E (f_{1} (X), f_{2} (Y)) = 0

$\text{cov}(f_1(X),f_2(Y)) = E(f_1(X),f_2(Y)) = 0$

f_{1}

$f_1$

f_{2}

$f_2$

X

$X$

Y

$Y$

f_{1} (x) = f_{2} (x) = x

$f_1(x) = f_2(x) = x$

$E(X^iY^j)$

$X(t)$ $Y(t)$

S_{X, Y} (f), S_{X^{2}, Y} (f), S_{X, Y^{2}} (f) \dots

$S_{X,Y}(f),S_{X^2,Y}(f),S_{X,Y^2}(f) \dots$

f

$f$

Приклад :

X (t) = \sin (2 π f t)

$X(t) = \sin(2 \pi ft)$

Y (t) = \sin (2 π f t k)

$Y(t) = \sin( 2 \pi ftk)$

k \in Z

$k \in \mathbb{Z}$

k \neq 1

$k \neq 1$

X (t)

$X(t)$

Y (t)

$Y(t)$

\sin (k x)

$\sin(kx)$

\sin (x)

$\sin(x)$

Y (t) = f (X (t))

$Y(t) = f (X (t))$

f

$f$

$X(t)$ $Y(t)$

— rwolst
джерело

X_{x^{2}, Y} (f)

$X_{x^2, Y}(f)$

X^{2} (t)

$X^2(t)$

Y (t)

$Y(t)$