Як ACF та PACF визначають порядок термінів MA та AR?

Вже більше 2 років я працюю над різними часовими рядами. Я читав у багатьох статтях, що ACF використовується для визначення порядку терміну MA, а PACF для AR. Існує правило, що для MA, відставання, коли ACF раптово відключається, є порядком MA та аналогічно для PACF та AR.

Ось одна зі статей, яку я дотримувався з коледжу наук PennState Eberly.

Моє запитання, чому це так? Для мене навіть ACF може дати термін AR. Мені потрібно пояснення згаданого вище правила великого пальця. Я не в змозі зрозуміти правило великого пальця інтуїтивно / математично, чому -

Ідентифікація моделі AR часто найкраще проводити за допомогою PACF.
Ідентифікація моделі МА найчастіше найкраще проводити за допомогою ACF, а не PACF

Зверніть увагу: - Мені не потрібно як "ЧОМУ". :)

Цитати за посиланням в ОП:

Ідентифікація моделі AR часто найкраще проводити за допомогою PACF.

Для моделі AR теоретичний PACF "відключається" поза порядком моделі. Фраза "відключається" означає, що теоретично часткові автокореляції дорівнюють 0 за цією точкою. По-іншому, кількість ненульових часткових автокореляцій наводить порядок моделі AR. Під "порядком моделі" ми маємо на увазі найбільш крайнє відставання x, яке використовується як предиктор.

... авторегресія порядку a , записана як AR (k), - це множинна лінійна регресія, в якій значення рядів у будь-який момент часу t (лінійна) функція значень у рази$k^{\text{th}}$$t-1,t-2,\ldots,t-k:$

$$\begin{equation*} y_{t}=\beta_{0}+\beta_{1}y_{t-1}+\beta_{2}y_{t-2}+\cdots+\beta_{2}y_{t-k}+\epsilon_{t}. \end{equation*}$$

Це рівняння виглядає як модель регресії, як зазначено на пов'язаному підказок… Отже, яка можлива інтуїція того, що ми робимо ...

Китайським шепотом або телефонною грою, як показано тут

повідомлення спотворюється, коли воно прошепотіться від людини до людини, і всі сліди подібності (будь-які правдиві слова, якщо ви хочете) втрачаються після червоного учасника (за винятком статті "а"). PACF повідомив би нам, що коефіцієнти для учасників синього та жовтого кольорів не вносяться після врахування ефекту коричневих та червоних учасників (зелений учасник в кінці рядка не спотворює повідомлення).

Не важко наблизитись до фактичного виходу функції R, фактично отримуючи послідовні регресії OLS через початок більш відсталих послідовностей та збираючи коефіцієнти у вектор. Схематично,

дуже подібний процес до телефонної гри - це настане момент, коли не буде жодної змінності сигналу фактичного початкового часового ряду, виявленого в прогресивно віддалених самих фрагментах.

---

Ідентифікація моделі МА найчастіше найкраще проводити за допомогою ACF, а не PACF .

Для моделі MA теоретичний PACF не вимикається, а натомість звужується до 0 певним чином. Більш чіткий зразок для моделі MA є в ACF. ACF матиме ненульові автокореляції лише при відставаннях, що беруть участь у моделі.

Ковзний середній термін у моделі часових рядів - це помилка минулого (помножена на коефіцієнт).

-порядок змінна середня модель, що позначається МА (д)$q^{\text{th}}$

$$x_t = \mu + w_t +\theta_1w_{t-1}+\theta_2w_{t-2}+\dots + \theta_qw_{t-q}$$

з$w_t \overset{iid}{\sim} N(0, \sigma^2_w).$

Тут не крок за кроком, який шукається назад у часі, - це не схожість повідомлень у часових точках, а скоріше внесок шуму, який я уявляю як часто масові відхилення, які випадкова прогулянка може вести за часовою лінією:

Тут є безліч послідовно зміщених послідовностей, які корелюються, відкидаючи будь-який внесок проміжних етапів. Це буде графік проведених операцій:

У зв'язку з цим "CV круто!" не зовсім інше, ніж "У Наомі є басейн". З точки зору шуму, рими все ще існують аж до початку гри.

Роберт Нау з школи бізнесу герцога Фукуа дає детальне та дещо інтуїтивне пояснення того, як сюжети ACF та PACF можуть використовуватися для вибору замовлень AR та MA тут і тут . Я наводжу короткий підсумок його аргументів нижче.

Просте пояснення того, чому PACF ідентифікує порядок AR

Часткові автокореляції можна обчислити, встановивши послідовність моделей AR, починаючи лише з першого відставання та прогресивно додаючи більше відставання. Коефіцієнт відставання в моделі AR ( ) дає часткову автокореляцію при відставанні . Враховуючи це, якщо часткова автокореляція "відсікається" / перестає бути значущою при певному відставанні (як це спостерігається в графіку ACF), це вказує на те, що це відставання не додає пояснювальної сили моделі, а отже, що порядок AR повинен бути попереднє відставання.$k$$k$$k$

Більш повне пояснення, яке також стосується використання ACF для ідентифікації замовлення MA

Тимчасовий ряд може мати підписи AR або MA:

• Підпис AR відповідає графіку PACF, що демонструє різке відсічення та більш повільний занепад ACF;
• Підпис MA відповідає графіку ACF, що відображає різке відсічення, і PACF-графік, який зменшується повільніше.

Підписи AR часто асоціюються з позитивною автокореляцією на відставанні 1, що дозволяє припустити, що серія є дещо "невідмінною" (це означає, що для повного усунення автокореляції необхідно подальше диференціювання). Оскільки терміни AR досягають часткової диференціації (див. Нижче), це можна виправити, додавши в модель термін AR (звідси і назва цього підпису). Тому ділянка PACF з різким відсіченням (супроводжується повільно затухаючим графіком ACF з позитивним першим відставанням) може вказувати на порядок терміну AR. Нау ставить це як фул:

Якщо PACF розрізненого ряду показує різке відсічення та / або автокореляція відставання-1 є позитивною, тобто, якщо серія виявляється злегка "невідмінною", то розгляньте можливість додавання терміна AR до моделі. Затримка, при якій PACF відсікає, - це вказана кількість термінів AR.

Підписи МА, з іншого боку, зазвичай асоціюються з негативними першими відставаннями, що дозволяє припустити, що серія є "переподіленою" (тобто необхідно частково скасувати диференціювання, щоб отримати стаціонарний ряд). Оскільки умови MA можуть скасувати порядок розходження (див. Нижче), графік ACF серії з підписом MA вказує на необхідний порядок MA:

Якщо ACF розрізненого ряду показує різке відсічення та / або автокореляція відставання-1 є негативною, тобто, якщо серія виявляється злегка «завищеною різницею» - тоді подумайте про додавання терміну MA до моделі. Затримка, при якій ACF відключається, - це вказана кількість термінів MA.

Чому терміни AR досягають часткової диференціації, а умови MA частково скасовують попереднє диференціювання

Візьміть базову модель ARIMA (1,1,1), представлену без константи для простоти:

$y_t = Y_t - Y_{t-1}$

$y_t = \phi y_{t-1} + e_t - \theta e_{t-1}$

Визначаючи як оператора відставання / зворотного зсуву , це можна записати так:$B$

$y_t = (1-B)Y_t$

$y_t = \phi B y_t + e_t - \theta B e_t$

які можна додатково спростити:

$(1-\phi B) y_t = (1-\theta B) e_t$

або еквівалентно:

$(1-\phi B)(1-B) Y_t = (1-\theta B)e_t$ .

Ми можемо бачити, що термін AR (1) дав нам термін , таким чином частково (якщо ) збільшивши порядок розрізнення. Більше того, якщо ми маніпулюємо як числовою змінною (що ми можемо зробити, тому що це лінійний оператор), ми можемо побачити, що термін MA (1) дав нам термін, тим самим частково скасовуючи початковий термін розрізнення - в лівій частині.ϕ ∈ ( 0 , 1 ) B ( 1 - θ B ) ( 1 - B $(1-\phi B)$$\phi \in (0,1)$$B$$(1-\theta B)$$(1-B)$

На більш високому рівні, ось як це зрозуміти. (Якщо вам потрібен більш математичний підхід, я із задоволенням можу пройти кілька моїх записок про аналіз часових рядів)

ACF і PACF - це теоретичні статистичні конструкції так само, як очікуване значення або дисперсія, але в різних областях. Точно так само, як і очікувані значення при вивченні випадкових змінних, ACF та PACF з'являються під час вивчення часових рядів.

При вивченні випадкових величин виникає питання про те, як оцінити їх параметри, куди потрапляє метод моментів, MLE та інші процедури та конструкції, а також перевірити оцінки, їх стандартні помилки тощо.

Перевірка оцінок ACF та PACF походить з тієї ж ідеї, оцінюючи параметри процесу випадкового часового ряду. Здобути ідею?

Якщо ви думаєте, що вам потрібна більш математично відповідна відповідь, будь ласка, повідомте мене, і я спробую переконатися, чи зможу я щось зробити в кінці дня.