Коли доцільно вибирати моделі, мінімізуючи AIC?

Принаймні встановлено, принаймні серед статистиків деякого вищого калібру, що моделі зі значеннями статистики AIC у межах певного порогового значення мінімального значення слід вважати відповідними як модель мінімізації статистики AIC. Наприклад, у [1, с.221] знаходимо

Тоді найкращими будуть вважатися моделі з невеликим GCV або AIC. Звичайно, не слід просто сліпо мінімізувати GCV або AIC. Швидше за все, всі моделі з досить малими значеннями GCV або AIC слід вважати потенційно відповідними та оцінювати відповідно до їх простоти та наукової актуальності.

Аналогічно в [2, с.144] маємо

Було запропоновано (Duong, 1984), що моделі зі значеннями AIC в межах c мінімального значення слід вважати конкурентоспроможними (з c = 2 - типовим значенням). Тоді вибір серед конкурентних моделей може ґрунтуватися на таких факторах, як білість залишків (Розділ 5.3) та простота моделі.

Список літератури:

1. Ruppert, D .; Паличка, народні депутати та Керрол, напівпараметрична регресія RJ , Кембриджський університет-прес, 2003
2. Brockwell, PJ & Davis, RA Вступ до часових рядів та прогнозування , John Wiley & Sons, 1996

Отже, з огляду на вищесказане, якій із двох наведених нижче моделей слід віддати перевагу?

print( lh300 <- arima(lh, order=c(3,0,0)) )
# ... sigma^2 estimated as 0.1787:  log likelihood = -27.09,  aic = 64.18
print( lh100 <- arima(lh, order=c(1,0,0)) )
# ... sigma^2 estimated as 0.1975:  log likelihood = -29.38,  aic = 64.76

Більш загально, коли доцільно вибирати моделі шляхом сліпого мінімізації АПК або пов'язаної статистики?

Перефразовуючи лекції Cosma Shalizi з правдивості про лінійну регресію , ви ніколи не обираєте модель тільки тому, що сталося звести до мінімуму статистику, як AIC , для

Every time someone solely uses an AIC statistic for model selection, an angel loses its
wings. Every time someone thoughtlessly minimises it, an angel not only loses its wings,
but is cast out of Heaven and falls in most extreme agony into the everlasting fire.

Я б сказав, що часто доцільно використовувати AIC у виборі моделі, але рідко правильно використовувати його як єдину основу для вибору моделі. Ми також повинні використовувати предметні знання.

У вашому конкретному випадку ви порівнюєте модель з AR 3-го порядку проти однієї з AR 1-го порядку. На додаток до AIC (або чогось подібного) я би розглядав схеми автокореляції та часткової автокореляції. Я також розглядав би, що означатиме модель 3-го порядку . Чи є сенс? Чи додає це до предметних знань? (Або, якщо вас цікавить виключно прогнозування, чи допомагає це передбачити?)

Загалом, іноді буває так, що цікавим є пошук дуже невеликого розміру ефекту.

Ви можете думати про AIC як про забезпечення більш розумного (тобто, більшого) значення відсікання. Але вибір моделі на основі значень або будь-якої іншої метрики одночасної змінної загрожує труднощами, що мають всі проблеми вибору ступінчастої змінної. Взагалі кажучи, AIC найкраще працює, якщо використовується для вибору унікального одного параметра (наприклад, коефіцієнт усадки) або для порівняння 2 або 3 кандидатних моделей. В іншому випадку, якщо якимось чином встановити весь набір змінних, використовуючи зменшення або зменшення даних, часто це призведе до вищої дискримінації прогнозування. Потворність суперечить прогностичній дискримінації.$P$$P$