Чому оцінювач OLS коефіцієнта AR (1) упереджений?

Я намагаюся зрозуміти, чому OLS дає необ’єктивну оцінку процесу AR (1). Розглянемо У цій моделі порушена сувора екзогенність, тобто та співвідносяться, але та є некорельованими. Але якщо це правда, то чому не виконується наступне просте виведення?

\begin{aligned} y_{t} & = α + β y_{t - 1} + ϵ_{t}, \\ ϵ_{t} & \overset{i i d}{\sim} N (0, 1) . \end{aligned}

$\begin{aligned} y_{t} &= \alpha + \beta y_{t-1} + \epsilon_{t}, \\ \epsilon_{t} &\stackrel{iid}{\sim} N(0,1). \end{aligned}$

y_{t}

$y_t$

ϵ_{t}

$\epsilon_t$

y_{t - 1}

$y_{t-1}$

ϵ_{t}

$\epsilon_t$

\begin{aligned} plim \hat{β} & = \frac{Cov (y_{t}, y_{t - 1})}{Var (y_{t - 1})} \\ = \frac{Cov (α + β y_{t - 1} + ϵ_{t}, y_{t - 1})}{Var (y_{t - 1})} \\ = β + \frac{Cov (ϵ_{t}, y_{t - 1})}{Var (y_{t - 1})} \\ = β . \end{aligned}

$\begin{aligned} \text{plim} \ \hat{\beta} &= \frac{\text{Cov}(y_{t},y_{t-1})}{\text{Var}(y_{t-1})} \\ &=\frac{\text{Cov}(\alpha + \beta y_{t-1}+\epsilon_{t}, y_{t-1})}{\text{Var}(y_{t-1})} \\ &= \beta+ \frac{\text{Cov}(\epsilon_{t}, y_{t-1})}{\text{Var}(y_{t-1})} \\ &=\beta. \end{aligned}$

— Флорестан
джерело

У Cross Validated було декілька пов'язаних питань. Ви можете отримати користь від того, щоб їх шукати.

— Річард Харді

Я їх бачив, але вони мені не дуже допомогли. Я знайшов доказ та симуляції, які показують цей результат. Мене цікавить те, що не так з моїми міркуваннями вище.

— Флорестан

Коли ви використовуєте , ви не послідовність, а не (не) упередженість? Для (не) упередженості ви повинні використовувати очікування.

plim

$\text{plim}$

— Річард Харді

Ви абсолютно праві, що може вирішити загадку. Отже, якщо рівняння вище не дотримується без пліма, то воно не буде суперечити упередженості OLS у малих зразках і одночасно виявляти б узгодженість OLS. Хоча я трохи не впевнений: чи справді ця формула коваріації щодо дисперсії відповідає лише пліму, а не в очікуванні? Дякую вже багато!

— Флорестан

Оцінювач OLS сам не передбачає жодних s, вам слід просто подивитися на очікування у кінцевих зразках.

plim

$\text{plim}$

— Річард Харді

Відповіді:

Як по суті обговорювалося в коментарях, неупередженість є властивістю кінцевого зразка, і якби це було, це виражалося б як

E (\hat{β}) = β

$E (\hat \beta ) = \beta$

(де очікуване значення - це перший момент розподілу кінцевої вибірки)

в той час як послідовність є асимптотичною властивістю, вираженою як

plim \hat{β} = β

$\text{plim} \hat \beta = \beta$

ОП показує, що хоча OLS в цьому контексті є необ'єктивним, він все ще є послідовним.

E (\hat{β}) \neq β but plim \hat{β} = β

$E (\hat \beta ) \neq \beta\;\;\; \text{but}\;\;\; \text{plim} \hat \beta = \beta$

Тут немає суперечності.

— Алекос Пападопулос
джерело

@Alecos чудово пояснює, чому правильний плім та неупереджений не однаковий. Що стосується основної причини, по якій оцінювач не є об'єктивним, нагадайте, що неупередженість оцінювача вимагає, щоб усі умови помилки були середніми, незалежними від усіх значень регресора, . $E(\epsilon|X)=0$

У цьому випадку регресорна матриця складається зі значень , так що - див. Коментар mpiktas - умова перекладається на для всіх . $y_1,\ldots,y_{T-1}$ $E(\epsilon_s|y_1,\ldots,y_{T-1})=0$ $s=2,\ldots,T$

Ось, маємо

y_{t} = β y_{t - 1} + ϵ_{t},

$\begin{equation*} y_{t}=\beta y_{t-1}+\epsilon _{t}, \end{equation*}$ Навіть за умови припущення маємо, що Але також є регресором майбутніх значень в моделі AR, як .

E (ϵ_{t} y_{t - 1}) = 0

$E(\epsilon_{t}y_{t-1})=0$

E (ϵ_{t} y_{t}) = E (ϵ_{t} (β y_{t - 1} + ϵ_{t})) = E (ϵ_{t}^{2}) \neq 0.

$\begin{equation*} E(\epsilon_ty_{t})=E(\epsilon_t(\beta y_{t-1}+\epsilon _{t}))=E(\epsilon _{t}^{2})\neq 0. \end{equation*}$

y_{t}

$y_t$

y_{t + 1} = β y_{t} + ϵ_{t + 1}

$y_{t+1}=\beta y_{t}+\epsilon_{t+1}$

— Крістоф Ганк
джерело

Я додав би пояснення, що у цьому випадку перекладається на для кожного . Тоді подальше обговорення стає дещо зрозумілішим.

E (ε | X)

$E(\varepsilon | X)$

E (ε_{s} | y_{1}, . . ., y_{T})

$E(\varepsilon_s|y_{1},...,y_T)$

s

$s$

— mpiktas

Хороший момент, я зробив правки

— Крістоф Хенк

Розширення на дві хороші відповіді. Запишіть оцінювач OLS:

\hat{β} = β + \frac{\sum_{t = 2}^{T} y_{t - 1} ε_{t}}{\sum_{t = 2}^{T} y_{t - 1}^{2}}

$\hat\beta =\beta + \frac{\sum_{t=2}^Ty_{t-1}\varepsilon_t}{\sum_{t=2}^Ty_{t-1}^2}$

Для неупередженості нам потрібно

E [\frac{\sum_{t = 2}^{T} y_{t - 1} ε_{t}}{\sum_{t = 2}^{T} y_{t - 1}^{2}}] = 0.

$E\left[\frac{\sum_{t=2}^Ty_{t-1}\varepsilon_t}{\sum_{t=2}^Ty_{t-1}^2}\right]=0.$

Але для цього нам потрібно, щоб для кожного . Для моделі AR (1) це явно не вдається, оскільки пов'язаний з майбутніми значеннями . $E(\varepsilon_t|y_{1},...,y_{T-1})=0,$ $t$ $\varepsilon_t$ $y_{t},y_{t+1},...,y_{T}$

— mpiktas
джерело

Просто щоб перевірити, чи правильно я це зрозумів: Проблема не в чисельнику, оскільки кожен t і не співвідносяться. Проблема полягає в знаменнику, який має більш високі t, такі, що між чисельником і знаменником існує кореляція, так що я не можу приймати очікування в межах чисельника (за суворої екзогенності я міг би це зробити ?!). Це правильна математична інтуїція?

y_{t - 1}

$y_{t-1}$

ϵ_{t}

$\epsilon_{t}$

— Флорестан

Так, це правильна інтуїція. Зауважте, що сувора екзогенність в цьому випадку неможлива, але для неупередженості сувора екзогенність стає вимогою.

— mpiktas