ARIMA проти ARMA на різницевій серії

У R (2.15.2) я встановив один раз ARIMA (3,1,3) на часовій серії та один раз ARMA (3,3) на колись різнилися часові серії. Встановлені параметри відрізняються, що я відніс до методу підгонки в ARIMA.

Крім того, встановлення ARIMA (3,0,3) на ті ж дані, що й ARMA (3,3), не призведе до однакових параметрів, незалежно від використовуваного нами методу.

Мені цікаво визначити, звідки походить різниця та з якими параметрами я можу (якщо взагалі) підходити до ARIMA, щоб отримати ті ж коефіцієнти придатності, що й від ARMA.

Приклад коду для демонстрації:

library(tseries)
set.seed(2)
#getting a time series manually
x<-c(1,2,1)
e<-c(0,0.3,-0.2)
n<-45
AR<-c(0.5,-0.4,-0.1)
MA<-c(0.4,0.3,-0.2)
for(i in 4:n){
tt<-rnorm(1)
t<-x[length(x)]+tt+x[i-1]*AR[1]+x[i-2]*AR[2]+x[i-3]*AR[3]+e[i-1]*MA[1]+e[i-2]*MA[2]+e[i-3]*MA[3]
x<-c(x,t)
e<-c(e,tt)
}
par(mfrow=c(2,1))
plot(x)
plot(diff(x,1))

#fitting different versions. What I would like to get is fit1 with ARIMA()
fit1<-arma(diff(x,1,lag=1),c(3,3),include.intercept=F)
fit2<-arima(x,c(3,1,3),include.mean=F)
fit3<-arima(diff(x,1),c(3,0,3),include.mean=F)
fit4<-arima(x,c(3,1,3),method="CSS",include.mean=F)
fit5<-arima(diff(x,1),c(3,0,3),method="CSS",include.mean=F)

cbind(fit1$coe,fit2$coe,fit3$coe,fit4$coe,fit5$coe)

Редагувати: Використання умовної суми квадратів дуже близьке, але це не зовсім так. Дякую за підказку для fit1!

Edit2: Я не думаю, що це дублікат. Пункти 2 і 3 вирішують різні проблеми, ніж мої, і навіть якщо я перекрию ініціалізацію, згадану в пункті 1

fit4<-arima(x,c(3,1,3),method="CSS",include.mean=F,init=fit1$coe)

Я все одно отримую різні коефіцієнти

У tseries::armaпорівнянні з stats::arimaцим є три незначні проблеми, що призводять до дещо іншого результату в моделі ARMA для tseries::armaрізницької серії з використанням і ARIMA в stats::arima.

• stats::arimaВихідні значення коефіцієнтів: встановлюють початкові коефіцієнти AR і MA на нуль, тоді як tseries::armaдля отримання початкових значень коефіцієнтів використовується процедура, описана в Hannan і Rissanen (1982).

• Масштаб цільової функції: цільова функція tseries::armaповертає значення умовних сум квадратів, RSS; stats::arimaповертає 0.5*log(RSS/(n-ncond)).

• Алгоритм оптимізації: за замовчуванням використовується Nelder-Mead tseries::arma, а stats::arimaвикористовується алгоритм BFGS.

Останній може бути змінений через аргумент optim.methodв, stats::arimaале для інших потрібна зміна коду. Нижче я показую скорочену версію вихідного коду (мінімальний код для даної конкретної моделі), stats::arimaде три вищезгадані проблеми видозмінені, щоб вони були такими ж, як у tseries::arma. Після вирішення цих питань tseries::armaотримується той же результат, що і в .

Мінімальна версія stats::arima(із зазначеними вище змінами):

# objective function, conditional sum of squares
# adapted from "armaCSS" in stats::arima
armaCSS <- function(p, x, arma, ncond)
{
  # this does nothing, except returning the vector of coefficients as a list
  trarma <- .Call(stats:::C_ARIMA_transPars, p, arma, FALSE)
  res <- .Call(stats:::C_ARIMA_CSS, x, arma, trarma[[1L]], trarma[[2L]], as.integer(ncond), FALSE)
  # return the conditional sum of squares instead of 0.5*log(res), 
  # actually CSS is divided by n-ncond but does not relevant in this case
  #0.5 * log(res)
  res
}
# initial values of coefficients  
# adapted from function "arma.init" within tseries::arma
arma.init <- function(dx, max.order, lag.ar=NULL, lag.ma=NULL)
{
  n <- length(dx)
  k <- round(1.1*log(n))
  e <- as.vector(na.omit(drop(ar.ols(dx, order.max = k, aic = FALSE, demean = FALSE, intercept = FALSE)$resid)))
      ee <- embed(e, max.order+1)
      xx <- embed(dx[-(1:k)], max.order+1)
      return(lm(xx[,1]~xx[,lag.ar+1]+ee[,lag.ma+1]-1)$coef) 
}
# modified version of stats::arima
modified.arima <- function(x, order, seasonal, init)
{
  n <- length(x)
  arma <- as.integer(c(order[-2L], seasonal$order[-2L], seasonal$period, order[2L], seasonal$order[2L]))
      narma <- sum(arma[1L:4L])
      ncond <- order[2L] + seasonal$order[2L] * seasonal$period
      ncond1 <- order[1L] + seasonal$period * seasonal$order[1L]
      ncond <- as.integer(ncond + ncond1)
      optim(init, armaCSS, method = "Nelder-Mead", hessian = TRUE, x=x, arma=arma, ncond=ncond)$par
}

Тепер порівняйте обидві процедури та перевірте, чи дає такий самий результат (потрібна серія, xпороджена ОП в тілі питання).

Використовуючи початкові значення, вибрані у tseries::arima:

dx <- diff(x)
fit1 <- arma(dx, order=c(3,3), include.intercept=FALSE)
coef(fit1)
#         ar1         ar2         ar3         ma1         ma2         ma3 
#  0.33139827  0.80013071 -0.45177254  0.67331027 -0.14600320 -0.08931003 
init <- arma.init(diff(x), 3, 1:3, 1:3)
fit2.coef <- modified.arima(x, order=c(3,1,3), seasonal=list(order=c(0,0,0), period=1), init=init)
fit2.coef
# xx[, lag.ar + 1]1 xx[, lag.ar + 1]2 xx[, lag.ar + 1]3 ee[, lag.ma + 1]1 
#        0.33139827        0.80013071       -0.45177254        0.67331027 
# ee[, lag.ma + 1]2 ee[, lag.ma + 1]3 
#       -0.14600320       -0.08931003 
all.equal(coef(fit1), fit2.coef, check.attributes=FALSE)
# [1] TRUE

Використовуючи початкові значення, вибрані в stats::arima(нулі):

fit3 <- arma(dx, order=c(3,3), include.intercept=FALSE, coef=rep(0,6))
coef(fit3)
#         ar1         ar2         ar3         ma1         ma2         ma3 
#  0.33176424  0.79999112 -0.45215742  0.67304072 -0.14592152 -0.08900624 
init <- rep(0, 6)
fit4.coef <- modified.arima(x, order=c(3,1,3), seasonal=list(order=c(0,0,0), period=1), init=init)
fit4.coef
# [1]  0.33176424  0.79999112 -0.45215742  0.67304072 -0.14592152 -0.08900624
all.equal(coef(fit3), fit4.coef, check.attributes=FALSE)
# [1] TRUE

Наскільки я можу сказати, різниця цілком обумовлена ​​умовами MA. Тобто, коли я погоджую ваші дані лише з термінами AR, ARMA розрізненого ряду та ARIMA погоджуються.