Центральна гранична теорема для ланцюгів Маркова

$\newcommand{\E}{\mathbb{E}}$$\newcommand{\P}{\mathbb{P}}$ Центральна гранична теорема (CLT) зазначає, що для незалежні та однаково розподілені (iid) з і \ ім'я оператора {Var} (X_i) <\ infty , сума переходить у звичайний розподіл як n \ to \ infty : \ sum_ {i = 1} ^ n X_i \ в N \ зліва ( 0, \ sqrt {n} \ праворуч). $X_1,X_2,\dots$$\E[X_i]=0$$\operatorname{ Var} (X_i)<\infty$$n\to\infty$

$$\sum_{i=1}^n X_i \to N\left(0, \sqrt{n}\right).$$

Припустимо, замість того утворюють ланцюг Маркова кінцевого стану зі стаціонарним розподілом з очікуванням 0 та обмеженою дисперсією. Чи існує просте розширення CLT для цього випадку?$X_1,X_2,\dots$$\P_\infty$

Документи, які я знайшов на CLT для Markov Chains, як правило, стосуються набагато більш загальних випадків. Я був би дуже вдячний за вказівку на відповідний загальний результат та пояснення того, як це застосовується.

Відповіді Алекса Р. майже достатньо, але я додаю ще кілька деталей. У теоремі про центральну межу ланцюга Маркова - Галіні Л. Джонс , якщо подивитися на теорему 9, вона говорить:

Якщо - ланцюг ергодичного Маркова Харріса зі стаціонарним розподілом , тоді CLT виконується при якщо рівномірно ергодичний, а .$X$$\pi$$f$$X$$E[f^2] < \infty$

Для просторів кінцевих станів усі невідворотні та апериодичні ланцюги Маркова рівномірно ергодичні. Доказом цього є певна історія в теорії ланцюгів Маркова. Хороша довідка була б внизу теореми 18 тут .

Отже, ланцюжок Маркова Маркова виконується для будь-якої функції яка має кінцевий другий момент. Форма, яку приймає CLT, описується наступним чином.$f$

Нехай - усереднений за часом оцінки , то, як вказує Алекс Р., як , $\bar{f}_n$$E_{\pi}[f]$$n \to \infty$

$$\bar{f}_n = \frac{1}{n} \sum_{i=1}^n f(X_i) \overset{\text{a.s.}}{\to} E_\pi[f].$$

Марківський ланцюг Маркова це

$$\sqrt{n} (\bar{f}_n - E_\pi[f]) \overset{d}{\to} N(0, \sigma^2),$$

де

$$\sigma^2 = \underbrace{\operatorname{Var}_\pi(f(X_1))}_\text{Expected term} + \underbrace{2 \sum_{k=1}^\infty \operatorname{Cov}_\pi(f(X_1), f(X_{1+k}))}_\text{Term due to Markov chain}.$$

Виведення терміна можна знайти на Сторінках 8 та Сторінці 9 MCMC приміток Чарльза Гейєра тут$\sigma^2$

"Звичайний" результат для Марківських ланцюгів - теорема Ергодіка Бірхофа, яка говорить про це

$$\frac{1}{n}\sum_{i=1}^nf(X_i)\rightarrow E_{\pi}[f],$$

де $\pi$ - стаціонарний розподіл, і $f$ задовольняє $E|f(X_1)|<\infty$і конвергенція майже впевнена.

На жаль, коливання цієї конвергенції, як правило, досить важкі. В основному це пов’язано з надзвичайними труднощами з'ясування загальних меж варіацій щодо того, як швидко$X_i$ сходяться до стаціонарного розподілу $\pi$. Відомі випадки, коли коливання є аналогічними CLT, і ви можете знайти деякі умови на дрейфі, які змушують аналогію виконувати: Про теорему центрального граничного ланцюга Маркова - Галін Л. Джонс (Див. Теорему 1).

Бувають і дурні ситуації, наприклад ланцюг з двома станами, коли одне поглинає (тобто $P(1\rightarrow 2)=1$ і $P(2\rightarrow 1)=0$. У цьому випадку коливань немає, і ви отримуєте конвергенцію до виродженого нормального розподілу (постійної).