Як перевірити, чи є матриця перехресної коваріації не нульовою?

Передумови мого дослідження :

У вибірці Гіббса, де ми відбираємо (змінну інтересів) і з і відповідно, де і - -вимірні випадкові вектори. Ми знаємо, що процес зазвичай розбивається на два етапи: $X$ $Y$ $P(X|Y)$ $P(Y|X)$ $X$ $Y$ $k$

Період згоряння, де ми відкидаємо всі зразки. Позначимо зразки як та . $X_1\sim X_t$ $Y_1\sim Y_t$
Період "Після закінчення запиту", де ми оцінюємо вибірки як наш кінцевий бажаний результат. $\bar{X} = \frac{1}{k}\sum_{i=1}^k X_{t+i}$

Однак зразки в послідовності "після спалювання" не розподіляються незалежно. Тому якщо я хочу перевірити дисперсію кінцевого результату, це стає $X_{t+1}\sim X_{t+k}$

Var [\bar{X}] = Var [\sum_{i = 1}^{k} X_{t + i}] = \frac{1}{k^{2}} (\sum_{i = 1}^{k} Var [X_{t + i}] + \sum_{i = 1}^{k - 1} \sum_{j = i + 1}^{k} Cov [X_{t + i}, X_{t + j}])

$\operatorname{Var}[\bar{X}] = \operatorname{Var}\left[\sum_{i=1}^k X_{t+i}\right] = \frac{1}{k^2}\left(\sum_{i=1}^k\operatorname{Var}[X_{t+i}] + \sum_{i=1}^{k-1} \sum_{j=i+1}^k \operatorname{Cov}[X_{t+i},X_{t+j}]\right)$

Тут термін ім'я є матрицею перехресної коваріації застосовується до будь-якого з . $\operatorname{Cov}[X_{t+i},X_{t+j}]$ $k\times k$ $(i,j)$ $i<j$

Наприклад, у мене є

X_{t + 1} = (1, 2, 1)^{'} X_{t + 2} = (1, 0, 2)^{'} X_{t + 3} = (1, 0, 0)^{'} X_{t + 4} = (5, 0, - 1)^{'}

$X_{t+1} = (1,2,1)'\\ X_{t+2} = (1,0,2)'\\ X_{t+3} = (1,0,0)'\\ X_{t+4} = (5,0,-1)'$

тоді я міг би оцінити коваріаційну матрицю з $\operatorname{Cov}[X_{t+i}, X_{t+i+1}]$

\frac{1}{3} \sum_{i = 1}^{3} (X_{t + i} - μ_{t + i}) (X_{t + i + 1} - μ_{t + i + 1})^{'}

$\frac{1}{3}\sum_{i=1}^3 (X_{t+i}-\mu_{t+i})(X_{t+i+1}-\mu_{t+i+1})'$

Тепер мене цікавить, чи отримана оцінка суттєво не дорівнює нулю, тому мені потрібно включити її до моєї оцінки дисперсії . $\operatorname{Var}[\bar{X}]$

Ось тут виникають мої запитання :

Ми зразок з . Оскільки змінюється, я думаю, що і не з одного розподілу, тому - це не те саме, що . Чи правильно це твердження? $X_{t+i}$ $P(X_{t+i}|Y_{t+i})$ $Y_{t+i}$ $X_{t+i}$ $X_{t+i+1}$ $\operatorname{Cov}[X_{t+i},X_{t+j}]$ $\operatorname{Cov}[X_{t+i},X_{t+i}]$
Припустимо, у мене є достатньо даних, щоб оцінити (сусідні зразки в послідовності), чи є спосіб перевірити, чи є матриця коваріації значно a ненульова матриця? В цілому, мене цікавить показник, який спрямовує мене на деякі значущі перехресні коваріаційні матриці, які слід включити до моєї остаточної оцінки дисперсії. $\operatorname{Cov}[X_{t+i},X_{t+i+1}]$

— TomHall
джерело

Власне, зараз це виглядає цілком непогано; Я думаю, що іншим людям буде зручніше дати відповіді, ніж мені, тому я хотів би просувати це (розмістити на ньому гроші), коли воно скоро стане прийнятним. [Короткі відповіді: 1. Ці дві коваріації різні. 2. Вам не потрібно перевіряти, чи співвідносяться послідовні змінні (у всіх, окрім найбільш тривіальних випадків; алгоритм працює, генеруючи залежні змінні) - цікавіше виміряти кореляцію, ніж перевірити її;] ... якщо гарні відповіді не з’являться Я

— розширю

Здається, ваше запитання набагато ширше, ніж ваше заголовок. Зокрема, стосуючись вашого заголовкового питання, існує тест сферичності Бартлетта, який дозволяє перевірити, чи є матриця коваріації зразка діагональною. Ймовірно, вам знадобиться адаптувати його до вашого сценарію перехресної коваріації (ваша "матриця коваріації" насправді насправді не є матрицею коваріації, це матриця поперечної коваріації; це позадіагональний блок повної матриці коваріації як X_t, так і X_ { t + 1} разом). CC до @Glen_b.

— амеба

Я хотів би додати, що коваріації мають тенденцію до занепаду більш-менш геометрично (все частіше, коли ви рухаєтесь далі); Значення, далекі один від одного, у часі мають дуже низьку кореляцію ( не нульову, але значною мірою ігнорується), хоча ті, що знаходяться поблизу, іноді можуть бути досить залежними.

— Glen_b -Встановити Моніку

@Tom 1. Тим не менш, із стаціонарними серіями, при дуже віддалених відставаннях (4 не віддалено!), Що відбувається з ACF? 2. Ви знаєте щось про те, як працюють генеровані значення MCMC, що ви не можете сказати про довільний часовий ряд ... вони марковійські . Ви зауважите, що мої попередні коментарі не стверджують, що найближчі лаги повинні показувати геометричний розпад (наприклад, я не сказав, що неможливо побачити вищу кореляцію за відставанням 4, ніж 3). Ви все одно отримаєте (якщо певні умови дотримуються) схильність до геометричного занепаду в АЧС, коли ви віддаляєтесь далеко один від одного.

$\quad$

— Glen_b -Встановіть Моніку

Якщо період вибірки такий короткий, у вас немає високоточних оцінок перехресної коваріації, можливо, вам доведеться просто мати справу з тим, що ваші оцінки термінів перехресної коваріації мають велику стандартну помилку. Враховуючи моє сучасне розуміння, я ще сильніше збираюся підтвердити своє заперечення щодо перевірки кореляцій. Тестування гіпотез для кореляцій між нулем та не нулем тут не вирішує вашу проблему.

— Glen_b -Встановіть Моніку

Ми зразок з . Оскільки змінюється, я думаю, що і не з одного розподілу [...] $X_{t+i}$ $P(X_{t+i}|Y_{t+i})$ $Y_{t+i}$ $X_{t+i}$ $X_{t+i+1}$

Тут ви плутаєте умовні та безумовні розподіли, дивіться також моє наступне зауваження. Умовно і , . Але вся суть побудови вашого Гіббс пробоотборника для вибірки з стаціонарних розподілів і . Дуже грубо кажучи, якщо ви досить довго запускаєте ланцюг і так, що слідкує за стаціонарним розподілом, ви можете сказати тобто безумовний розподіл також є інваріантним. Іншими словами, як $Y_{t+i} = y_1$ $Y_{t+i+1} = y_2$ $P(X_{t+i}|Y_{t+i} = y_1) \neq P(X_{t+i+1}|Y_{t+i+1} = y_2)$ $X$ $Y$ $\{Y_t\}$

\begin{aligned} P (X_{t}) = \int_{Y} P (X_{t} | Y_{t}) d P (Y_{t}), \end{aligned}

$\begin{align} P(X_t) = \int_{\mathcal{Y}}P(X_t|Y_t)dP(Y_t), \end{align}$

X_{t}

$X_t$

t \to \infty

$t \to \infty$ і ми сходимо до стаціонарних розподілів, , оскільки і будуть асимптотично з (того ж!) стаціонарного розподілу . З іншого боку, як і раніше, як тільки ми ставимо за умовами і , це більше не відбудеться, незалежно від того, наскільки велике .

P (X_{t + i} | Y_{t + i}) = P (X_{t + i + 1} | Y_{t + i + 1})

$P(X_{t+i}|Y_{t+i}) = P(X_{t+i+1}|Y_{t+i+1})$

Y_{t + i}

$Y_{t+i}$

Y_{t + i + 1}

$Y_{t+i+1}$

P (Y_{t})

$P(Y_t)$

Y_{t + i} = y_{1}

$Y_{t+i} = y_1$

Y_{t + i + 1} = y_{2}

$Y_{t+i+1} = y_2$

t

$t$

[...] так не те саме, що . Чи правильно це твердження? $\operatorname{Cov}[X_{t+i},X_{t+j}]$ $\operatorname{Cov}[X_{t+i},X_{t+i}]$

Так, це правильно - навіть незважаючи на те, що , тобто і мають однакове стаціонарне розподіл. Я знаю, що це може заплутати, але майте на увазі мене. Визначте з . Ітераційним підстановкою можна показати, що , і оскільки (нескінченна) сума нормалів все ще є нормальною, вона вважає, що і так, щоб . Зрозуміло, і $X_{t+1} \sim X_{t}$ $X_t$ $X_{t+1}$ $Y_t = 0.8\cdot Y_{t-1} + \varepsilon_t$ $\varepsilon_t \overset{iid}{\sim} N(0,1)$ $Y_t = \sum_{i=0}^t0.8^i \varepsilon_{t-i}$ $\text{Var}(Y_t) = \sum_{i=0}^t0.8^{2i} = \dfrac{1}{1-0.8^2}$ $Y_t \overset{iid}{\sim} N(0, \dfrac{1}{1-0.8^2})$ $Y_t$ $Y_{t+1}$ все ще буде корелювати, але вони також будуть надходити з того ж розподілу ( ). Аналогічна ситуація стосується і вашого . $Y_{t+1} \sim Y_{t}$ $X_t$

Припустимо, у мене є достатньо даних, щоб оцінити (сусідні зразки в послідовності), чи є спосіб перевірити, чи є матриця коваріації значно a ненульова матриця? В цілому, мене цікавить показник, який спрямовує мене на деякі значущі перехресні коваріаційні матриці, які слід включити до моєї остаточної оцінки дисперсії. $\operatorname{Cov}[X_{t+i},X_{t+i+1}]$

Що ж, якщо у вас було нескінченно багато спостережень, вони з часом будуть значущими. Зрозуміло, що ви не можете цього зробити на практиці, але є способи "відрізати" розширення після деяких термінів, див. Прийнятий відмінний відповідь тут. В основному ви визначаєте ядро яке розпадається на і призначає ваги першим коваріації які ви могли обчислити. Якщо ви хочете обрати принципово, вам доведеться трохи заглибитися в літературу, але публікація, яку я пов’язував, дає вам кілька хороших посилань, щоб зробити саме це. $k(\cdot)$ $0$ $l_T$ $l_T$

— Єремія К
джерело