Об'єктивний оцінювач для AR (

Розглянемо AR ( $p$ ) модель (припускаючи нульове середнє значення для простоти):

x_{т} = φ_{1} х_{т - 1} + \dots + φ_{p} х_{т - p} + ε_{т}

$x_t = \varphi_1 x_{t-1} + \dotsc + \varphi_p x_{t-p} + \varepsilon_t$

Оцінювач OLS (еквівалентний умовно- максимальній оцінці ймовірності) для $\mathbf{\varphi} := (\varphi_1,\dotsc,\varphi_p)$ як відомо в недавній темі , як відомо, упереджено .

(Цікаво, що я не зміг знайти упередженості, згаданої в Гамільтоні "Аналіз часових рядів", ні в декількох інших підручниках часових рядів. Однак, це можна знайти в різних конспектах лекцій та в наукових статтях, наприклад, у цій .

Я не зміг з’ясувати, чи є точний максимальний показник ймовірності AR ( $p$ ) упереджений чи ні; звідси моє перше запитання.

Питання 1: Чи точний максимальний показник ймовірності AR ( $p$ ) Авторегресивні параметри моделі $\varphi_1,\dotsc,\varphi_p$ упереджений? (Припустимо, AR ( $p$ ) процес стаціонарний. В іншому випадку оцінювач навіть не є послідовним, оскільки він обмежений у стаціонарній області; див., наприклад, Гамільтон "Аналіз часових рядів" , с. 123.)

Також,

Запитання 2: Чи є досить прості неупереджені оцінки?

— Річард Харді
джерело

Я впевнений, що оцінювач ML в AR (p) є упередженим (існування межі стаціонарності говорить про те, що він буде зміщений), але я не маю доказів для вас зараз (більшість оцінювачів ML є упередженими в будь-яких випадку, але ми маємо трохи більше, ніж тут продовжувати). [Особисто я не бачу об'єктивності як особливо корисної властивості, принаймні взагалі - це як старий жарт про статистиків, які збираються на полювання на качок. Ceteris paribus, маючи це краще, ніж ні, звичайно, але на практиці цетери ніколи не є парусом . Це важлива концепція. ]

— Glen_b -Встановити Моніку

Я вважав, що об'єктивність буде бажаною при роботі в невеликих зразках, і я просто зіткнувся з таким випадком . На моє розуміння, в такому випадку неупередженість була більш бажаною, ніж, скажімо, ефективність, доки ефективність можна було оцінити кількісно.

— Річард Харді

Якщо ухил може бути не малим (як у невеликих зразках), я дійсно схильний шукати щось більше, як мінімальна середня квадратична помилка. Який сенс піклуватися про те, що ваша оцінка в середньому може бути неправильною, коли насправді ваша альтернативна оцінка може бути набагато помилковішою, оскільки вона має велику дисперсію? наприклад, якщо моя упередженість при цьому розмірі вибірки для цього

ϕ

$\phi$ 0,1, що може бути тривожно великим, тому ви скажете "давайте скористаємось неупередженим оцінювачем" ... але якщо стандартна помилка є достатньо великою, що моя оцінка, як правило, ще більше від правильного значення ... я краще? ...

— ctd

ctd ... Я не думаю, що так (не для моїх звичайних цілей, і я майже ніколи не бачив хорошого аргументу за неупередженість у практичній ситуації, що щось подібне до MMSE не було б кращим). Мене хвилює, наскільки помилкова ця оцінка - наскільки я можу відійти від справжнього значення - а не наскільки зміна середнього рівня, якщо я опинився в цій ситуації в мільйон разів більше. Основна практична цінність при розробці зміщення, як правило, полягає в тому, чи можна легко зменшити її, не впливаючи на різницю.

— Glen_b -Встановіть Моніку

Гарний аргумент, дякую. Я більше подумаю про це.

— Річард Харді

Це, звичайно, не є суворою відповіддю на ваше запитання 1, але оскільки ви задали це питання взагалі, докази для контрприкладу вже вказують на те, що відповідь - ні.

Отже, ось невелике імітаційне дослідження, яке використовує точну оцінку ML, arima0щоб стверджувати, що існує принаймні один випадок, коли є упередженість:

reps <- 10000
n <- 30
true.ar1.coef <- 0.9

ar1.coefs <- rep(NA, reps)
for (i in 1:reps){
  y <- arima.sim(list(ar=true.ar1.coef), n)
  ar1.coefs[i] <- arima0(y, order=c(1,0,0), include.mean = F)$coef
}
mean(ar1.coefs) - true.ar1.coef

— Крістоф Ганк
джерело

-1

Я, мабуть, читав ту саму книжку, яку ви читали, і знайшов відповідь на обидва ваші запитання.

Упередженість бета-авторегресії згадується в книзі на сторінці 215.

У книзі також згадується спосіб виправлення упередженості на сторінці 223. Спосіб продовження полягає в ітеративному двоступеневому підході.

Сподіваюсь, це допомагає.

— північ
джерело

Відповідно до вказівок сайту , відповіді не повинні складатися з посилань на матеріали в інших місцях.

— Олексій