Чому у визначенні асимптотичної нормальності?

Послідовність оцінювачів для параметра є асимптотично нормальною, якщо . ( джерело ) Потім ми називаємо асимптотичну дисперсію . Якщо ця дисперсія дорівнює границі Креймера-Рао , ми говоримо, що оцінювач / послідовність є асимптотично ефективним. $U_n$ $\theta$ $\sqrt{n}(U_n - \theta) \to N(0,v)$ $v$ $U_n$

Питання: Чому ми використовуємо зокрема? $\sqrt{n}$

Я знаю, що для зразка означає, і такий вибір його нормалізує. Але оскільки вищезазначені визначення стосуються більше, ніж означає вибірки, чому ми все-таки вирішимо нормалізуватися за допомогою . $Var(\bar{X}) = \frac{\sigma^2}{n}$ $\sqrt{n}$

estimation asymptotics efficiency

— незрозумілий
джерело

Для хорошого оцінювача повинен мати середнє значення , параметр, що оцінюється, і дисперсія повинна збігатися до , тобто розподіл повинен бути до виродженого розподілу з одним атомом при . Але існує багато різних способів такого зближення, наприклад, або тощо. Ми хочемо застосувати субрикет асимптотично нормально до останнього випадку, але не до першого випадку.

U_{n}

$U_n$

θ

$\theta$

U_{n}

$U_n$

0

$0$

U_{n}

$U_n$

θ

$\theta$

U_{n} \sim U (θ - 1 / n, θ + 1 / n)

$U_n \sim U(\theta-1/n,\theta+1/n)$

U_{n} \sim N (θ, v / n)

$U_n\sim N(\theta,v/n)$

— Діліп Сарват

Ефективні оцінки є асимптотично нормальними. en.wikipedia.org/wiki/…

— Хашаа

Чи можна це питання краще назвати "асимптотичною нормальністю", а не "асимптотичною ефективністю"? Мені незрозуміло, де «ефективність» стає суттєвим аспектом питання, а не просто тим контекстом, в якому зустрічається «асимптотична нормальність».

— Срібляста рибка

Треба лише перевірити доказ асимптотичної нормальності MLE! Квадратний корінь - це зробити центральну граничну теорему, застосовну до вибіркового середнього!

n

$n$

— Megadeth

Відповіді:

Тут ми не можемо вибирати . Фактор «нормалізуючий», по суті, є фактором «стабілізації дисперсії до чогось кінцевого», щоб вираз не йшов до нуля чи нескінченності, оскільки розмір вибірки переходить до нескінченності, а для підтримки розподілу на межі.

Тож воно повинно бути таким, яким воно має бути у кожному конкретному випадку. Звичайно , цікаво , що в багатьох випадках з'ясовується , що він повинен бути . (але дивіться також коментар @ whuber нижче). $\sqrt n$

Стандартний приклад, коли нормуючий коефіцієнт повинен бути , а не $n$ - це коли ми маємо модель $\sqrt n$

y_{t} = β y_{t - 1} + u_{t}, y_{0} = 0, t = 1, . . ., T

$y_t = \beta y_{t-1} + u_t, \;\; y_0 = 0,\; t=1,...,T$

з білим шумом, і ми оцінюємо невідоме за звичайними найменшими квадратами. $u_t$ $\beta$

Якщо так сталося, справжнє значення коефіцієнта дорівнює , тоді оцінювач OLS є послідовним і збігається за звичайного $|\beta|<1$ ставка. $\sqrt n$

Але якщо натомість справжнє значення (тобто насправді у нас є чиста випадкова прогулянка), тоді Оцінювач OLS є послідовним, але буде збігатися "швидше", зі швидкістю (це іноді називають "надсуперечливим" оцінником -since , Я думаю, так багато оцінювачів сходяться зі швидкістю $\beta=1$ $n$ ). У цьому випадку, щоб отримати його (ненормальний) асимптотическое розподіл, мимаємов масштабіпо(якщо масштаб тільки $\sqrt n$
$(\hat \beta - \beta)$ $n$ вираз перейде до нуля). Гамільтон ch 17має деталі. $\sqrt n$

— Алекос Пападопулос
джерело

Алекос, НЕ могли б ви уточнити , що в даний час оцінюється в моделі

(де я вважаю , ви мали в виду

і спостереження індексуються

і т.д.). Є чи це , що в моделі

МНК - оцінка

сходиться зі швидкістю

y_{t} = y_{t - 1} + u_{t}, u_{0} = 0

$y_t = y_{t-1}+u_t, u_0=0$

y_{0} = 0

$y_0=0$

1, 2,

$1, 2,$

y_{t} = β y_{t - 1} + u_{t}

$y_t = \beta y_{t-1}+u_t$

\hat{β}

$\hat{\beta}$

для

але коли

конвергенція зі швидкістю

, чи це випадок, що в моделі

конвергенція завжди зі швидкістю

? Коротше кажучи, яке значення твердження "і

, тобто чиста випадкова хода".

\sqrt{n}

$\sqrt{n}$

| β | < 1

$|\beta| < 1$

β = 1

$\beta=1$

n

$n$

y_{t} = β y_{t - 1} + u_{t}

$y_t = \beta y_{t-1}+u_t$

n

$n$

β = 1

$\beta=1$

— Діліп Сарват

@DilipSarwate Дякую Оновлено. Я вважаю, це зрозуміло зараз.

— Алекос Пападопулос

(+1) Можливо, варто і повчально зазначити, що вибір

(або

або все, що може бути доречним) не є унікальним. Замість нього ви можете використовуватибудь-якуфункцію

для якої граничне значення

\sqrt{n}

$\sqrt{n}$

n

$n$

f (n)

$f(n)$

дорівнює єдності. Лише в цьому більш широкому сенсі

"має бути таким, яким він має бути".

f (n) / \sqrt{n}

$f(n)/\sqrt{n}$

f

$f$

— whuber

@Khashaa ОП запитала про асимптотичну ефективність, але в ході цього процесу було виявлено, що ОП може скласти неправильне враження про "нормалізацію" факторів. Це більш фундаментальне питання, тому я вирішив висвітлити це у своїй відповіді. У моїй відповіді про ефективність нічого не сказано.

— Алекос Пападопулос

Можливо, у вашій відповіді варто згадати, що випадок з

а не

n

$n$

називається "суперсуперечливим"? На даний момент єдиною іншою згадкою про "суперечливий" у резюме, який може знайти функція пошуку на сайті, єще одна компанія Alecos! Я думаю, що це гарна ідея зробити питання Qs і якомога більш зручними для пошуку.

\sqrt{n}

$\sqrt{n}$

— Срібляста рибка

Ви були на правильному шляху з інтуїцією зразкової середньої дисперсії. Перестановіть умову:

\sqrt{n} (U_{n} - θ) \to N (0, v)

$\sqrt{n}(U_n - \theta) \to N(0,v)$

(U_{n} - θ) \to \frac{N (0, v)}{\sqrt{n}}

$(U_n - \theta) \to \frac{N(0,v)}{\sqrt{n}}$

U_{n} \to N (θ, \frac{v}{n})

$U_n \to N(\theta,\frac{v}{n})$

Останнє рівняння неформальне . Однак це в чомусь інтуїтивніше: ви говорите, що відхилення від стає більше схожим на нормальний розподіл, коли збільшується. Дисперсія зменшується, але форма стає ближчою до нормального розподілу. $U_n$ $\theta$ $n$

$n$

— Аксакал
джерело

Ви можете пояснити, як ви робите "перестановки". Як і які властивості ви застосовуєте.

— mavavilj