Чи можна моделювати стаціонарну серію за допомогою ARIMA?

У мене є питання / плутанина щодо стаціонарних серій, необхідних для моделювання з ARIMA (X). Я думаю про це більше з точки зору висновку (ефекту від втручання), але хотів би знати, чи прогнозування проти умовиводу має якусь різницю у відповіді.

Питання:

Усі прочитані вами вступні ресурси стверджують, що серія повинна бути нерухомою, що має для мене сенс, і саме там "я" в аримі входить (розрізняється).

Мене бентежить використання тенденцій та зрушень в ARIMA (X) та наслідки (якщо такі є) для стаціонарних вимог.

Чи використання константного / дрейф-терміна та / або змінної тренда як екзогенної змінної (тобто додавання 't' як регресора) заперечує вимогу стаціонарного ряду? Чи відрізняється відповідь залежно від того, чи є у серії одиничний корінь (наприклад, тест adf) чи детермінований тренд, але немає одиничного кореня?

АБО

Чи завжди серія повинна бути нерухомою, її роблять за допомогою розмежування та / або зменшення, перш ніж використовувати ARIMA (X)?

З огляду на коментарі, здається, ми не зверталися до питання про те, як вибрати між детермінованою чи стохастичною тенденцією. Тобто як діяти на практиці, а не наслідки чи властивості кожного випадку.

Один із способів продовження - наступний: Почніть із застосування тесту ADF.

• Якщо нуль одиничного кореня відхилено, ми закінчуємо. Тенденція (якщо така є) може бути представлена ​​детермінованою лінійною тенденцією.

• Якщо нуль тесту ADF не відхилено, ми застосовуємо тест KPSS (де нульова гіпотеза є протилежною, стаціонарність або стаціонарність навколо лінійної тенденції).

  o Якщо нуль тесту KPSS відхилено, то робимо висновок про існування одиничного кореня та працюємо з першими відмінностями даних. За першими відмінностями серії ми можемо перевірити значення інших регресорів або вибрати модель ARMA.

  o Якщо нуль тесту KPSS не буде відхилено, ми повинні сказати, що дані не дуже інформативні, оскільки ми не змогли відкинути жодну з нульових гіпотез. У цьому випадку може бути безпечніше працювати з першими відмінностями серії.

Як згадувалося в попередній відповіді, пам’ятайте, що на ці тести може впливати наявність залишків (наприклад, вибірка в один момент часу через помилку під час запису даних або зсув рівня, наприклад, через зміну політики, яка впливає на серія з даного моменту часу). Таким чином, доцільно також перевірити ці питання та повторити попередній аналіз після включення регресорів для деяких потенційних людей, що втратили досвід.

Пам'ятайте, що існують різні види нестаціонарності та різні способи поводження з ними. Чотири поширених:

1) Детерміновані тенденції або стаціонарність тенденцій. Якщо ваша серія є такою, що де-трендовою, вона включатиме тенденцію часу в регресію / модель. Можливо, ви хочете перевірити теорему Фріша – Ву-Ловелла на цій.

2) Зміна рівня та структурні розриви. Якщо це так, ви повинні включити фіксовану змінну для кожного перерви або якщо ваш зразок достатньо довгий, моделюйте кожну схему окремо.

3) Зміна дисперсії. Або моделюйте зразки окремо, або моделюйте мінливу дисперсію, використовуючи клас моделювання ARCH або GARCH.

4) Якщо ваша серія містить одиничний корінь. Загалом, тоді слід перевірити наявність взаємозамінних зв’язків між змінними, але оскільки ви переймаєтесь однозначним прогнозуванням, вам слід різнитися один раз або два рази залежно від порядку інтеграції.

Для моделювання часового ряду за допомогою класу моделювання ARIMA слід виконати наступні кроки:

1) Подивіться на ACF та PACF разом із графіком часових рядів, щоб побачити, чи є серія стаціонарною чи нестаціонарною.

2) Перевірте ряд на одиничний корінь. Це можна зробити за допомогою широкого спектру тестів, одними з найбільш поширених є тест АПД, тест Філіпса-Перрона (ПП), тест KPSS, який має нульову стаціонарність, або тест DF-GLS, який є найбільш ефективним. вищезазначених тестів. ПРИМІТКА! У тому випадку, якщо ваша серія містить структурний розрив, ці тести є упередженими щодо не відхилення нуля одиничного кореня. Якщо ви хочете перевірити надійність цих тестів і якщо ви підозрюєте про один або декілька структурних розривів, вам слід скористатися ендогенними тестами на розрив структури. Два поширених - тест Зивот-Ендрюса, який дозволяє зробити один ендогенний структурний розрив, і Клементе-Монтаньє-Рейєс, який дозволяє зробити два структурних розриви. Остання дозволяє використовувати дві різні моделі.

3) Якщо в ряду є одиничний корінь, то слід відрізняти ряд. Після цього слід заглянути в ACF, PACF та графік часових рядів, і, ймовірно, перевірити, чи є корень другої одиниці на безпечній стороні. ACF та PACF допоможуть вам визначити, скільки термінів AR та MA ви повинні включати.

4) Якщо серія не містить одиничного кореня, але графік часового ряду та ACF показують, що серія має детерміновану тенденцію, слід додати тенденцію при встановленні моделі. Деякі люди стверджують, що цілком справедливо лише відрізняти ряд, коли він містить детерміновану тенденцію, хоча інформація може втрачатися в процесі. Тим не менш, це гарна ідея, щоб відрізнити це, щоб побачити багато термінів AR та / або MA, які вам потрібно буде включити. Але часова тенденція справедлива.

5) Встановіть різні моделі та зробіть звичайну діагностичну перевірку, можливо, ви захочете скористатись інформаційним критерієм або MSE, щоб вибрати найкращу модель з огляду на зразок, на який ви її підходите.

6) Виконайте вибіркове прогнозування на найкращих моделях та обчисліть функції втрат, такі як MSE, MAPE, MAD, щоб побачити, хто з них насправді найкраще працює при використанні їх для прогнозування, тому що це ми хочемо зробити!

7) Робіть прогнозування зразка, як начальник, і будьте задоволені своїми результатами!

Визначення того, чи є тенденція (або інший компонент, такий як сезонність) детермінованим чи стохастичним, є частиною загадки в аналізі часових рядів. Я додам пару пунктів до сказаного.

1) Відмінність між детермінованими та стохастичними тенденціями важлива, тому що якщо в даних присутній одиничний корінь (наприклад, випадкова хода), то статистика тестів, що використовується для висновку, не відповідає традиційному розподілу. Дивіться цю публікацію для отримання детальної інформації та посилань.

Ми можемо імітувати випадкову прогулянку (стохастична тенденція, де слід взяти перші розбіжності), перевірити значення детермінованої тенденції та побачити відсоток випадків, коли нульова детермінована тенденція відкидається. У R ми можемо:

require(lmtest)
iter <- 10000
cval <- 0.05
n <- 120
rejections <- 0
set.seed(123)
for (i in seq.int(iter))
{
  x <- cumsum(rnorm(n)) # random walk
  fit <- lm(x ~ seq(n))
  if (coeftest(fit)[2,"Pr(>|t|)"] < cval)
    rejections <- rejections + 1
}
100 * rejections / iter
#[1] 88.67

На рівні 5% значущості ми очікували б відхилити нуль у 95% випадків, однак у цьому експерименті його було відхилено лише у ~ 89% випадків із 10 000 модельованих випадкових прогулянок.

Ми можемо застосувати одиничні кореневі тести, щоб перевірити, чи є корінь одиниці. Але ми маємо усвідомлювати, що лінійна тенденція в свою чергу може призвести до відмови відхилити нуль одиничного кореня. Щоб вирішити це, тест KPSS враховує нульову стаціонарність навколо лінійної тенденції.

2) Інше питання - інтерпретація детермінованих компонентів у процесі в рівнях або перших відмінностях. Ефект перехоплення не такий, як у моделі з лінійною тенденцією, як у випадковій ході. Дивіться цю ілюстрацію для ілюстрації.

Аналітично візьмемо випадкову прогулянку з дрейфом:

Якщо ми кілька разів підміняємо версіями : y $y_{t-i}$$y_t$

Ми приїжджаємо до:

де - деяке довільне початкове значення. Таким чином, ми бачимо, що накопичення поштовхів і довга пам'ять випадкової прогулянки змушує перехоплення мати ефект лінійної тенденції з нахилом (у цьому випадку постійний термін називається дрейфом). μ µ $y_0$$\mu$$\mu$$\mu$

Якщо графічне зображення ряду показує відносно чітку лінійну тенденцію, ми не можемо бути впевнені, пов'язано це з наявністю детермінованої лінійної тенденції або зсувом у процесі випадкового ходу. Слід застосовувати додаткову графіку та статистику тестів.

Майте на увазі деякі застереження, оскільки аналіз, заснований на одиничному корені та інших статистичних даних тесту, не є надійним. На деякі з цих випробувань може вплинути наявність зовнішніх спостережень або зрушення рівня і вимагати вибір порядку відставання, який не завжди є простим.

Як вирішення цієї головоломки, я вважаю, що поширена практика полягає в тому, щоб приймати відмінності даних, поки серія не виглядає нерухомою (наприклад, перегляд функції автокореляції, яка повинна швидко перейти до нуля), а потім вибрати модель ARMA.

Дуже цікаве запитання, я також хотів би знати, що мають сказати інші. Я інженер за освітою, а не статистик, тому хтось може перевірити мою логіку. Як інженери ми хотіли б імітувати та експериментувати, тому я був вмотивований імітувати та перевіряти ваше запитання.

Як емпірично показано нижче, використання змінної тенденції в ARIMAX заперечує необхідність розмежування та робить тренд серії стаціонарним. Ось логіка, яку я використовував для перевірки.

1. Моделював процес AR
2. Додано детерміновану тенденцію
3. Використання моделей ARIMAX з урахуванням тенденції як екзогенної змінної вищевказаних рядів без розходження.
4. Перевірив залишки на білий шум, і це чисто випадково

Нижче наведено код R та сюжети:

set.seed(3215)

##Simulate an AR process
x <- arima.sim(n = 63,list(ar = c(0.7)));
plot(x)

## Add Deterministic Trend to AR
t <- seq(1, 63)
beta <- 0.8
t_beta <- ts(t*beta,frequency=1)
ar_det <- x+t_beta
plot(ar_det)

## Check with arima

ar_model <- arima(ar_det,order=c(1,0,0),xreg=t,include.mean=FALSE)

## Check whether residuals of fitted model is random

pacf(ar_model$residuals)

AR (1) Імітований сюжет

AR (1) з детермінованою тенденцією

ARIMAX Залишковий PACF з тенденцією до екзогенності. Залишки випадкові, без візерунка

Як видно вище, моделювання детермінованої тенденції як екзогенної змінної в моделі ARIMAX заперечує необхідність диференціювання. Принаймні, у детермінованій справі це спрацювало. Цікаво, як це поводитиметься зі стохастичним трендом, який дуже важко передбачити або моделювати.

Щоб відповісти на ваше друге питання, ТАК усі ARIMA, включаючи ARIMAX, повинні бути нерухомими. Принаймні, так кажуть текстові книги.

Крім того, як коментується, дивіться цю статтю . Дуже чітке пояснення щодо Детермінованої тенденції проти стохастичного тренду та як їх усунути, щоб зробити його тенденцією нерухомим, а також дуже приємним опитуванням літератури на цю тему. Вони використовують його в контексті нейронної мережі, але це корисно для загальної проблеми часових рядів. Їх остаточна рекомендація полягає в тому, коли вона чітко визначена як детермінований тренд, робити лінійне зменшення, інше застосовувати диференціювання, щоб зробити часовий ряд нерухомим. Засідання присяжних все ще там, але більшість дослідників, цитованих у цій статті, рекомендують проводити диференціацію, а не лінійну деградацію.

Редагувати:

Нижче - випадкова хода з дрейфовим стохастичним процесом, використовуючи екзогенну змінну та різницю арима. Здається, обидва дають однакову відповідь і по суті вони однакові.

library(Hmisc)

set.seed(3215)

## ADD Stochastic Trend to simulated Arima this is AR(1) with unit root with non zero mean

y = rep(NA,63)
y[[1]] <- 2


for (i in 2:63)  {
y[i] <-3+1*y[i-1]+ rnorm(1, mean = 0, sd = 1)
} 

plot(y,type="l")

y_ts <- ts(y,frequency=1)

## Lag to create Xreg

y_1 <- Lag(y,shift=1)


## Start from 2 value to avoid NA and make it equal length with xreg

y <- window(y_ts,start =2,end=63)
xreg1 <- y_1[-1]

## Check the values with ARIMA and xreg

g <- arima(y,order=c(0,0,0),xreg=xreg1)

pacf(g$residuals)

## Check the values with ARIM

g1 <- arima(y,order=c(0,1,0))

pacf(g1$residuals)

## 

ARIMA(0,0,0) with non-zero mean 

Coefficients:
      intercept   xreg1
         3.1304  0.9976
s.e.     0.2664  0.0025

Сподіваюся, це допомагає!