Діагностика конвергенції Гельмана та Рубіна, як узагальнити роботу з векторами?

Діагностика Гельмана і Рубіна використовується для перевірки конвергенції декількох ланцюгів mcmc, що працюють паралельно. Він порівнює дисперсію всередині ланцюга з дисперсією між ланцюгами, експозиція нижче:

Кроки (для кожного параметра):

Виконайте m ≥ 2 ланцюгів довжиною 2n від перерізних початкових значень.
Відкиньте перші n малюнків у кожному ланцюжку.
Обчисліть дисперсію всередині ланцюга та між ланцюгом.
Обчисліть оцінену дисперсію параметра як зважену суму дисперсії всередині ланцюга та між ланцюгом.
Обчисліть коефіцієнт зменшення потенційного масштабу.
Елемент списку

Я хочу використовувати цю статистику, але змінні, з якими я хочу її використовувати, - випадкові вектори.

Чи має сенс брати середнє значення матриць коваріації в цьому випадку?

mcmc convergence covariance-matrix

— Тім
джерело

Рекомендація: просто обчисліть PSRF окремо для кожного скалярного компонента

Оригінальна стаття Gelman & Rubin [1], а також байєсівський підручник з аналізу даних Gelman et al. [2], рекомендує обчислювати коефіцієнт зменшення потенціальної шкали (PSRF) окремо для кожного скалярного параметра, що становить інтерес. Щоб вивести конвергенцію, тоді потрібно, щоб всі PSRF були близькими до 1. Неважливо, що ваші параметри інтерпретуються як випадкові вектори, їх компоненти є скалярами, для яких можна обчислити PSRF.

Brooks & Gelman [3] запропонували багатоваріантне розширення PSRF, яке я розглядаю в наступному розділі цієї відповіді. Однак, щоб процитувати Gelman & Shirley [4]:

[...] ці методи іноді можуть представляти надмірність: окремі параметри можуть бути добре оцінені навіть тоді, коли приблизне зближення симуляцій багатофакторного розподілу може зайняти дуже багато часу.

Альтернатива: багатоваріантне розширення від Brooks & Gelman

$W$ $B$

\hat{V} = \frac{n - 1}{n} W + \frac{1}{n} B,

$\begin{equation} \hat{V} = \frac{n-1}{n}W + \frac{1}{n}B, \end{equation}$

n

$n$

\hat{V}, W

$\hat{V},W$

\hat{R} = max_{a} \frac{a^{T} \hat{V} a}{a^{T} W a} = \frac{n - 1}{n} + (\frac{m + 1}{m}) λ_{1},

$\begin{equation} \hat{R} = \max_a \frac{a^T\hat{V}a}{a^TWa} = \frac{n-1}{n} + \left(\frac{m+1}{m}\right)\lambda_1, \end{equation}$

m

$m$

λ_{1}

$\lambda_1$

W^{- 1} \hat{V} / n

$W^{-1}\hat{V}/n$

λ_{1} \to 0

$\lambda_1\rightarrow 0$

n

$n$

\hat{R}

$\hat{R}$

Список літератури

[1] Гельман, Ендрю та Дональд Б. Рубін. "Висновок з ітеративного моделювання з використанням декількох послідовностей." Статистична наука (1992): 457-472.

[2] Гельман, Ендрю та ін. Байєсівський аналіз даних. Преса CRC, 2013 рік.

[3] Брукс, Стівен П. та Ендрю Гельман. "Загальні методи моніторингу конвергенції ітеративних моделей." Журнал обчислювальної та графічної статистики 7.4 (1998): 434-455.

[4] Гельман, Ендрю та Кеннет Ширлі. "Висновок від моделювання та конвергенції моніторингу". (Розділ 6 у Brooks, Steve et al., Ред. Довідник Markov Chain Monte Carlo. CRC Press, 2011.)

Усі статті, окрім підручника [2], розміщені на веб-сайті Ендрю Гелмана .

— Юхо Коккала
джерело