Представлення космічного простору ARMA (p, q) від Гамільтона

Я читав розділ 13 Гамільтона, і він має таке представлення простору стану для ARMA (p, q). Нехай Тоді процес ARMA (p, q) такий: \ початок {вирівняний} y_t - \ mu & = \ phi_1 (y_ {t-1} - \ mu) + \ phi_2 (y_ {t-2} - \ mu) + ... + \ phi_3 (y_ {t-3} - \ mu) \\ & + \ epsilon_t + \ theta_1 \ epsilon_ {t-1} +. .. + \ theta_ {r-1} \ epsilon_ {t-r + 1}. \ end {align} Потім він визначає рівняння стану так:$r = \max(p,q+1)$

$$\begin{aligned} y_t -\mu &= \phi_1(y_{t-1} -\mu) + \phi_2(y_{t-2} -\mu) + ... + \phi_3(y_{t-3} -\mu) \\ &+ \epsilon_t + \theta_1\epsilon_{t-1} + ... + \theta_{r-1}\epsilon_{t-r+1}. \end{aligned}$$

$$\xi_{t+1} = \begin{bmatrix} \phi_1 & \phi_2 & \dots & \phi_{r-1} & \phi_r \\ 1 & 0 & \dots & 0 & 0 \\ \vdots & \vdots & \dots & 0 & 0 \\ 0 & 0 & \dots &1 &0 \end{bmatrix} \xi_t + \begin{bmatrix} \epsilon_{t+1} \\ 0\\\vdots \\ 0 \end{bmatrix}$$

а рівняння спостереження як:

$$y_t = \mu + \begin{bmatrix} 1 & \theta_1 & \theta_2 & \dots & \theta_{r-1} \\ \end{bmatrix} \xi_t.$$

Я не розумію, що означає $\xi_t$ в цьому випадку. Тому що в його AR (p) поданні це $\begin{bmatrix} y_{t} - \mu \\ y_{t-1} - \mu\\\vdots \\ y_{t-p+1} - \mu \end{bmatrix}$ і в його MA (1) поданні це $\begin{bmatrix} \epsilon_{t} \\ \epsilon_{t-1} \end{bmatrix}$ .

Чи міг би хтось пояснити мені це трохи краще?

Гамільтон показує, що це правильне уявлення в книзі, але цей підхід може здатися трохи протизаконним. Тому дозвольте спершу дати відповідь на високому рівні, яка мотивує його вибір моделювання, а потім трохи детальніше розглянути його виведення.

Мотивація :

Як слід зрозуміти з читання глави 13, існує багато способів написання динамічної моделі у формі простору стану. Тому слід запитати, чому Гамільтон обрав саме це представництво. Причина полягає в тому, що це уявлення підтримує низьку розмірність вектора стану. Інтуїтивно ви думаєте (або, принаймні, я б сказав), що вектор стану для ARMA ( , ) повинен бути принаймні розмірним . Зрештою, лише спостерігаючи за словами , ми не можемо зробити висновок про значення . І все-таки він показує, що ми можемо визначити представлення простору стану у розумний спосіб, який залишає вектор розміру стану не більше$p$$q$$p+q$$y_{t-1}$$\epsilon_{t-1}$$r = \max\{p, q + 1 \}$. Зрозуміло, що збереження низької розмірності стану може бути важливим для обчислювальної реалізації. Виявляється, його представлення у просторі стану також пропонує приємну інтерпретацію процесу ARMA: неспостережуваний стан є AR ( ), тоді як частина MA ( ) виникає через похибку вимірювання.$p$$q$

Виведення :

Тепер про виведення. Спочатку зауважте, що, використовуючи позначення оператора відставання, ARMA (p, q) визначається як: де дозволити для , і для і опустимо оскільки принаймні . Отже, все, що нам потрібно показати, це те, що його рівняння та рівняння спостереження мають на увазі рівняння вище. Нехай вектор стану буде Подивіться на рівняння стану. Ви можете перевірити, що рівняння до

$$(1-\phi_1L - \ldots - \phi_rL^r)(y_t - \mu) =(1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})\epsilon_t$$ $\phi_j = 0$$j>p$$\theta_j = 0$$j>q$$\theta_r$$r$$q+1$ $$\mathbf{\xi}_t = \{\xi_{1,t}, \xi_{2,t},\ldots,\xi_{r,t}\}^\top$$ $2$$r$просто перемістіть записи до один період вперед і у векторі стану при . Отже, перше рівняння, що визначає є відповідним. : Оскільки другий елемент є першим елементом а третім елементом є перший елемент$\xi_{i,t}$$\xi_{i-1,t+1}$$\xi_{r,t}$$t+1$$\xi_{i,t+1}$ $$\xi_{1,t+1} = \phi_1 \xi_{1,t} + \phi_2 \xi_{2,t} + \ldots + \phi_r \xi_{r,t} + \epsilon_{t+1}$$ $\mathbf{\xi_{t}}$$\mathbf{\xi_{t-1}}$$\mathbf{\xi_{t}}$$\mathbf{\xi_{t-2}}$і так далі, ми можемо переписати це, використовуючи позначення оператора відставання і перемістивши поліном лагу вліво (рівняння 13.1.24 в H.): Отже, прихований стан слідує за процесом авторегресії. Аналогічно рівняння спостереження або Це поки що не дуже схоже на ARMA, але тепер з'являється приємна частина: помножте останнє рівняння на : $$(1-\phi_1L - \ldots - \phi_rL^r)\xi_{1,t+1} = \epsilon_{t+1}$$ $$y_t = \mu + \xi_{1,t} + \theta_1\xi_{2,t} + \ldots + \theta_{r-1}\xi_{r-1,t}$$ $$y_t - \mu = (1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})\xi_{1,t}$$ $(1-\phi_1L - \ldots - \phi_rL^r)$ $$(1-\phi_1L - \ldots - \phi_rL^r)(y_t - \mu) = (1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})(1-\phi_1L - \ldots - \phi_rL^r)y_t$$ Але з рівняння стану (відставання на один період) маємо ! Отже, вищезгадане еквівалентно що саме нам потрібно було показати! Отже система спостереження за станом коректно представляє ARMA (p, q). Я справді просто перефразовував Гамільтона, але сподіваюся, що це все одно стане в нагоді.$(1-\phi_1L - \ldots - \phi_rL^r)\xi_{1,t} = \epsilon_{t}$ $$(1-\phi_1L - \ldots - \phi_rL^r)(y_t - \mu) = (1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})\epsilon_{t}$$

Це те саме, що і вище, але я думав, що надам коротшу, більш коротку відповідь. Знову ж таки, це представлення Гамільтона для причинного процесу ARMA ( , ), де . Це число буде розміром вектора стану , і це потрібно, щоб зробити кількість рядків стан збігається з кількістю стовпців матриці спостереження. Це означає, що ми також повинні встановлювати коефіцієнти до нуля, коли індекс занадто великий.$p$$q$$r=\max(p,q+1)$$r$$(\xi_t, \xi_{t-1},\ldots, \xi_{t-r+1})'$

1. Рівняння спостереження

$$\begin{align*} &\phi(B)(y_t - \mu) = \theta(B)\epsilon_t \\ \iff &(y_t - \mu) = \phi^{-1}(B)\theta(B)\epsilon_t \tag{causality}\\ \iff &y_t = \mu + \phi^{-1}(B)\theta(B)\epsilon_t \\ \iff &y_t = \mu + \theta(B)\phi^{-1}(B)\epsilon_t \\ \iff &y_t = \mu + \theta(B)\xi_t \tag{letting $\xi_t = \phi^{-1}(B)\epsilon_t$}\\ \iff &y_t = \mu + \left[\begin{array}{ccccc}1 & \theta_1 & \theta_2 & \ldots & \theta_{r-1} \end{array}\right] \underbrace{\left[\begin{array}{c} \xi_t \\ \xi_{t-1} \\ \vdots \\ \xi_{t-r+1} \end{array}\right]}_{\text{the state vector}} + 0\tag{this is where we need $r$}. \end{align*}$$

2. Державне рівняння

$$\begin{align*} &\xi_t = \phi^{-1}(B)\epsilon_t \\ \iff &\phi(B)\xi_t = \epsilon_t \\ \iff &(1 - \phi_1 B - \cdots - \phi_rB^r) \xi_t = \epsilon_t \\ \iff &\xi_t = \phi_1 \xi_{t-1} + \cdots + \phi_r \xi_{t-r} + \epsilon_t \\ \iff & \left[\begin{array}{c} \xi_t \\ \xi_{t-1} \\ \xi_{t-2} \\ \vdots \\ \xi_{t-r+1} \end{array}\right] = \left[ \begin{array}{ccccc} \phi_1 & \phi_2 & \phi_3 & \cdots & \phi_r \\ 1 & 0 & 0 & \cdots & 0 \\ 0 & 1 & 0 & \cdots & 0 \\ \vdots & \vdots & \ddots & \cdots & 0 \\ 0 & 0 &\cdots & 1 & 0 \end{array}\right] \left[ \begin{array}{c} \xi_{t-1} \\ \xi_{t-2} \\ \vdots \\ \xi_{t-r} \end{array}\right] + \left[ \begin{array}{c} \epsilon_t \\ 0 \\ \vdots \\ 0 \end{array}\right]. \end{align*}$$