Середньосуперечні терміни помилки моделі

17

Це основне питання щодо моделей Box-Jenkins MA. Як я розумію, модель MA - це в основному лінійна регресія значень часових рядів проти попередніх термінів помилки . Тобто спостереження спочатку регресується проти його попередніх значень а потім одне або більше значень використовуються як терміни помилки для MA модель. $Y$ $e_t,..., e_{t-n}$ $Y$ $Y_{t-1}, ..., Y_{t-n}$ $Y - \hat{Y}$

Але як обчислюються умови помилки в моделі ARIMA (0, 0, 2)? Якщо модель MA використовується без авторегресивної частини і, таким чином, без оціночного значення, то як я можу мати термін помилки?

— Роберт Кубрик
джерело

1

Ні, я думаю, ви плутаєте визначення моделі MA (n), де регресія є лише з точки зору

e_{t - i}

$e_{t-i}$ 's, з її оцінкою, де

e_{t - i}

$e_{t-i}$ ' s оцінюється з даних .

— Сіань

1

Основна проблема вашого запитання полягає в тому, що ви говорите, що модель MA в основному є лінійною регресією. Це просто не відповідає дійсності, оскільки ми не дотримуємось помилок.

— mpiktas

Я думаю , що термін помилка є на самому справі

Y_{t} - \hat{Y_{t}}

$Y_t - \hat{Y_t}$ , де

є

або просто

. Ось чому оцінка параметрів моделі МА виходить із повторюваної картини у функції часткової автокореляції

, тобто поведінки залишків. Оцінка параметра AR замість цього базується на повторюваному шаблоні acf (Y).

\hat{Y}

$\hat{Y}$

E (Y | Y_{t, . . ., t - n})

$E(Y|Y_{t,...,t-n})$

Y_{t} - Y_{t - 1}

$Y_t - Y_{t-1}$

Y

$Y$

— Роберт Кубрик

20

Оцінка моделі MA:

Припустимо серію зі 100 часовими точками і скажемо, що для неї характерна модель MA (1) без перехоплення. Тоді модель задається

y_{t} = ε_{t} - θ ε_{t - 1}, t = 1, 2, \dots, 100 (1)

$y_t=\varepsilon_t-\theta\varepsilon_{t-1},\quad t=1,2,\cdots,100\quad (1)$

Термін помилки тут не спостерігається. Отже, щоб отримати це, Box et al. Аналіз часових рядів: прогнозування та контроль (3-е видання) , сторінка 228 , припускають, що термін помилки обчислюється рекурсивно,

ε_{t} = y_{t} + θ ε_{t - 1}

$\varepsilon_t=y_t+\theta\varepsilon_{t-1}$

Отже, термін помилки для є, Тепер ми не можемо обчислити це, не знаючи значення . Отже, щоб отримати це, нам потрібно обчислити Початкову або Попередню оцінку моделі, див. Box et al. зазначеної книги, в розділі 6.3.2 на сторінці 202 зазначено, $t=1$

ε_{1} = y_{1} + θ ε_{0}

$\varepsilon_{1}=y_{1}+\theta\varepsilon_{0}$

θ

$\theta$

Показано, що перші автокореляції процесу MA ( ) є ненульовими і можуть бути записані в параметри моделі як $q$ $q$ Вираз вище для в термінах , поставки рівнянь в невідомих. Попередні оцінки s може бути отримано шляхом підстановки оцінки для увище рівнянні
$ρ_{k} = \frac{- θ_{k} + θ_{1} θ_{k + 1} + θ_{2} θ_{k + 2} + \dots + θ_{q - k} θ_{q}}{1 + θ_{1}^{2} + θ_{2}^{2} + \dots + θ_{q}^{2}} k = 1, 2, \dots, q$ $\rho_k=\displaystyle\frac{-\theta_{k}+\theta_1\theta_{k+1}+\theta_2\theta_{k+2}+\cdots+\theta_{q-k}\theta_q}{1+\theta_1^2+\theta_2^2+\cdots+\theta_q^2}\quad k=1,2,\cdots, q$ $\rho_1,\rho_2\cdots,\rho_q$ $\theta_1,\theta_2,\cdots,\theta_q$ $q$ $q$ $\theta$ $r_k$ $\rho_k$

Зауважимо, що - передбачувана автокореляція. У розділі 6.3 - Початкові кошторисні параметри є додаткові обговорення , будь ласка, прочитайте їх. Тепер, припускаючи, що ми отримаємо початкову оцінку . Тоді Тепер ще одна проблема полягає в тому, що у нас немає значення для оскільки починається з 1, і тому ми не можемо обчислити . На щастя, є два способи отримати це, $r_k$ $\theta=0.5$

ε_{1} = y_{1} + 0.5 ε_{0}

$\varepsilon_{1}=y_{1}+0.5\varepsilon_{0}$

ε_{0}

$\varepsilon_0$

t

$t$

ε_{1}

$\varepsilon_1$

Умовна ймовірність
Беззастережна ймовірність

За даними Box et al. У розділі 7.1.3, сторінка 227 , значення можна замінити на нуль як апроксимацію, якщо помірний або великий, цей спосіб є умовною вірогідністю. В іншому випадку використовується безумовна ймовірність, де значення отримують за допомогою зворотного прогнозування, Box et al. рекомендуємо цей метод. Детальніше про попереднє прогнозування читайте в розділі 7.1.4 на сторінці 231 . $\varepsilon_0$ $n$ $\varepsilon_0$

Отримавши початкові оцінки та значення , тоді нарешті ми можемо приступити до рекурсивного обчислення терміна помилки. Тоді завершальним етапом є оцінка параметра моделі , пам’ятайте, це вже не попередня оцінка. $\varepsilon_0$ $(1)$

Оцінюючи параметр , я використовую процедуру нелінійної оцінки, зокрема алгоритм Левенберга-Маркарда, оскільки моделі MA нелінійні за його параметром. $\theta$

Загалом, я б дуже рекомендував вам прочитати Box et al. Аналіз часових рядів: прогнозування та контроль (3-е видання) .

— Аль-Ахмадгаїд Асаад
джерело

r_{k}

$r_k$

4

Y_{t} = - \sum_{i = 1}^{q} ϑ_{i} e_{t - i} + σ e_{t}, e_{t} \overset{iid}{\sim} N (0, 1)

$Y_t = -\sum_{i=1}^q \vartheta_i e_{t-i} + \sigma e_t,\quad e_t\stackrel{\text{iid}}{\sim} \mathcal{N}(0,1)$

q

$q$

— Сіань
джерело

1

e_{t}

$e_t$

e_{t}

$e_t$

q

$q$

1

Чому у вашій формулі є мінус? Зазвичай мінус для моделей AR. Математично це не проблема, мені просто цікаво, оскільки я ніколи не бачив мінусів у моделях MA.

— mpiktas

3

@RobertKubrick, чи знаєте ви теорему про розкладання Уолда ? Кожен стаціонарний процес має відповідний інноваційний процес, тобто звідки терміни

e_{t}

$e_t$ прийти.

— mpiktas

1

@mpiktas Дякую, це дає деяку інформацію про термін помилки, але мені все ще не зрозуміло, звідки відбувається інноваційний процес, щоб інновація існувала, десь повинен бути прогноз ( en.wikipedia.org/wiki/Innovation_ ( сигнал_обробка) ). Є оптимальним

Y

$Y$ прогноз просто

E (Y)

$E(Y)$ , це середина серії?

— Роберт Кубрик

1

Ви кажете «спостереження $Y$ вперше регресує проти своїх попередніх значень $Y_{t−1},...,Y_{t−n}$ and then one or more $Y−\hat{Y}$ values are used as the error terms for the MA model." What I say is that $Y$ is regressed against two predictor series $e_{t-1}$ and $e_{t−2}$ yielding an error process $e_t$ which will be uncorrelated for all i=3,4,,,,t .We then have two regression coefficients: $\theta_1$ representing the impact of $e_{t-1}$ and $\theta_2$ representing the impact of $e_{t-2}$ . Thus $e_t$ is a white noise random series containing n-2 values. Since we have n-2 estimable relationships we start with the assumption that e1 and e2 are equal to 0.0 . Now for any pair of $\theta_1$ and $\theta_2$ we can estimate the t-2 residual values. The combination that yields the smallest error sum of squares would then be the best estimates of $\theta_1$ and $\theta_2$ .

— IrishStat
джерело

What are the 2 other predictor series? I am asking because when I look at the literature I have it's never clearly specified. Are these 2 other series unrelated to

Y

$Y$ ? I had the impression that all ARIMA formulation is limited to the

Y

$Y$ series.

— Robert Kubrick

1

The 2 predictors are the lags of the error terms. Since these are not known a priori since we do not know the error terms before we begin is why this has to be treated by non-linear estimation.The confusion you are having is that a model that is finite in the past ( i.e. an AR MODEL ) is potentially infinite in the errors AND a model that is finite in the errors ( i.e. an MA MODEL) is potentially infinite in the past of Y.The reason one selects an AR MODEL versus an MA MODEL is for parsimony. Sometimes we construct an ARMA MODEL which blends both the history of Y and the history of the errors.

— IrishStat

1

As I commented in the other answer, what I am still missing is what's the optimal forecast for

Y

$Y$ , which is used to calculate the innovation

e_{t - n}

$e_{t-n}$ .

— Robert Kubrick

1

See my post here for an explanation of how to understand the disturbance terms in a MA series.

You need different estimation techniques to estimate them. This is because you cannot first get the residuals of a linear regression and then include the lagged residual values as explanatory variables because the MA process uses the residuals of the current regression. In your example you are making two regression equations and using residuals from one into the other. This is not what an MA process is. It cannot be estimated with OLS.

— JoeDanger
джерело