Випадкова оцінка ходу з AR (1)

Коли я оцінюю випадкову прогулянку з AR (1), коефіцієнт дуже близький до 1, але завжди менший.

Яка математична причина того, що коефіцієнт не більший одиниці?

regression autoregressive random-walk

— Марко
джерело

Я спробував за допомогою інструменту Matlab, а також зі своїм сценарієм на arima (де коефіцієнт обмежений [-10,10], і результат той самий). Я пробую з простим OLS, і результат той самий.

— Марко

Оцінка упереджена вниз, ми повинні читати папери Дікі та Фуллера.

— Марко

Відповіді:

Оцінимо за OLS модель

х_{т} = ρ х_{т - 1} + у_{т}, Е (у_{т} ∣ {х_{т - 1}, х_{т - 2}, . . .}) = 0, х_{0} = 0

$x_{t} = \rho x_{t-1} + u_t,\;\; E(u_t \mid \{x_{t-1}, x_{t-2},...\}) =0,\;x_0 =0$

Для вибірки розміру T оцінювач є

\hat{ρ} = \frac{\sum_{т = 1}^{Т} х_{т} х_{т - 1}}{\sum_{т = 1}^{Т} х_{т - 1}^{2}} = ρ + \frac{\sum_{т = 1}^{Т} у_{т} х_{т - 1}}{\sum_{т = 1}^{Т} х_{т - 1}^{2}}

$\hat \rho = \frac {\sum_{t=1}^T x_{t}x_{t-1}}{\sum_{t=1}^T x_{t-1}^2} = \rho + \frac {\sum_{t=1}^T u_tx_{t-1}}{\sum_{t=1}^T x_{t-1}^2}$

Якщо справжній механізм генерації даних - це чиста випадкова прогулянка, то , і $\rho=1$

х_{т} = х_{т - 1} + у_{т} ⟹ х_{т} = \sum_{i = 1}^{т} у_{i}

$x_{t} = x_{t-1} + u_t \implies x_t= \sum_{i=1}^t u_i$

Розподіл вибірки МНК - оцінки, або , що еквівалентно, розподіл вибірки , не є симетричним близько нуля, а це перекіс вліво від нуля, з % від отриманих значень (тобто ймовірність маси) негативна, і тому ми отримуємо найчастіше . Ось відносний розподіл частоти $\hat \rho - 1$ $\approx 68$ $\approx$ $\hat \rho < 1$

введіть тут опис зображення

\begin{aligned} Середнє значення: - 0,0017773 \\ Середня: - 0.00085984 \\ Мінімум: - 0,042875 \\ Максимум: 0,0052173 \\ Стандартне відхилення: 0,0031625 \\ Шкідливість: - 2.2568 \\ Вих. куртоз: 8.3017 \end{aligned}

$\begin{align} \text{Mean:} -0.0017773\\ \text{Median:} -0.00085984\\ \text{Minimum: } -0.042875\\ \text{Maximum: } 0.0052173\\ \text{Standard deviation: } 0.0031625\\ \text{Skewness: } -2.2568\\ \text{Ex. kurtosis: } 8.3017\\ \end{align}$

Іноді це називається розподілом "Dickey-Fuller", тому що це основа для критичних значень, що використовуються для виконання однойменних тестів Unit-Root.

Я не згадую, як бачив спробу інтуїції форми розподілу вибірки. Ми дивимось на вибіркове розподіл випадкової величини

\hat{ρ} - 1 = (\sum_{т = 1}^{Т} у_{т} х_{т - 1}) \cdot (\frac{1}{\sum_{т = 1}^{Т} х_{т - 1}^{2}})

$\hat \rho - 1 = \left(\sum_{t=1}^T u_tx_{t-1}\right)\cdot \left(\frac {1}{\sum_{t=1}^T x_{t-1}^2}\right)$

$u_t$ $\hat \rho - 1$ $\hat \rho - 1$

$T=5$

Якщо підсумовувати незалежні Нормативи продуктів, ми отримуємо розподіл, який залишається симетричним навколо нуля. Наприклад:

введіть тут опис зображення

Але якщо ми підсумовуємо незалежні Нормативи товарів, як це у нас виходить

введіть тут опис зображення

який перекошений вправо, але з більшою часткою ймовірності маса, розподілена на негативні значення. І маса, схоже, штовхається ще більше ліворуч, якщо збільшити розмір вибірки і додати більше співвіднесених елементів до суми.

Зворотна сума незалежної Гамми - це негативна випадкова величина з позитивним перекосом.

$\hat \rho -1$

— Алекос Пападопулос
джерело

Нічого, приємний аналіз! Чи можете ви вказати, яке із стандартних припущень OLS тут порушено?

— Річард Харді

@ RichardHardy Дякую Я повернусь пізніше, щоб відповісти на ваш коментар.

— Алекос Пападопулос

Мені все ще цікаво припущень OLS ... Дякую заздалегідь!

— Річард Харді

X_{t + 1} = α X_{t} + ϵ

$X_{t+1} = \alpha X_t + \epsilon$

X_{t + 1} - X_{t}

$X_{t+1} - X_t$

\hat{ρ} < 1

$\hat \rho<1$

\hat{ρ} - 1

$\hat \rho-1$

Це насправді не відповідь, але занадто довго для коментаря, тому я все-таки публікую це.

Я зміг отримати коефіцієнт, більший за 1, два рази зі ста для розміру вибірки 100 (використовуючи "R"):

N=100                   # number of trials
T=100                   # length of time series
coef=c()
for(i in 1:N){
 set.seed(i)
 x=rnorm(T)             # generate T realizations of a standard normal variable
 y=cumsum(x)            # cumulative sum of x produces a random walk y
 lm1=lm(y[-1]~y[-T])    # regress y on its own first lag, with intercept
 coef[i]=as.numeric(lm1$coef[1])
}
length(which(coef<1))/N # the proportion of estimated coefficients below 1

Реалізації 84 і 95 мають коефіцієнт вище 1, тому він не завжди нижче одного. Однак, очевидно, є тенденція мати тенденцію до зменшення вниз. Залишаються питання, чому ?

Редагувати: вищезазначені регресії включали термін перехоплення, який, схоже, не належить до моделі. Після того, як перехоплення буде знято, я отримую ще багато оцінок вище 1 (3158 з 10000) - але все одно це явно нижче 50% усіх випадків:

N=10000                 # number of trials
T=100                   # length of time series
coef=c()
for(i in 1:N){
 set.seed(i)
 x=rnorm(T)             # generate T realizations of a standard normal variable
 y=cumsum(x)            # cumulative sum of x produces a random walk y
 lm1=lm(y[-1]~-1+y[-T]) # regress y on its own first lag, without intercept
 coef[i]=as.numeric(lm1$coef[1])
}
length(which(coef<1))/N # the proportion of estimated coefficients below 1

— Річард Харді
джерело

точно, не "завжди" другорядне, але в більшості випадків. Очевидно, це хибний результат. чому причина?

— Марко

x_{t}

$x_t$

x_{t - 1}

$x_{t-1}$