Асимптотична консистенція з ненульовою асимптотичною дисперсією - що це собою являє?

Питання виникла раніше, але я хочу поставити конкретне запитання, яке намагатиметься отримати відповідь, яка уточнить (і класифікує) його:

У «Асимптотиці бідної людини» чітко розмежовується між ними

• (a) послідовність випадкових змінних, яка ймовірно сходиться до постійної

на противагу

• (b) послідовність випадкових змінних, яка ймовірно сходиться до випадкової величини (а отже, і до розподілу до неї).

Але в "Асимптотиці мудрої людини" ми також можемо мати випадок

• (c) послідовність випадкових змінних, яка ймовірно перетворюється на постійну, зберігаючи ненульову дисперсію на межі.

Моє запитання (крадіжка з моєї власної дослідницької відповіді нижче):

Як ми можемо зрозуміти оцінювач, який є асимптотично послідовним, але також має ненульову, кінцеву дисперсію? Що відображає ця дисперсія? Чим його поведінка відрізняється від "звичайного" послідовного оцінювача?

Нитки, пов'язані з явищем, описаним у (с) (дивіться також у коментарях):

• Чим відрізняється послідовний оцінювач від об'єктивного оцінювача?

• /stats/120553/convergence-of-an-estimator-with-infinite-variance

• Чому асимптотично послідовні оцінки не мають нульової дисперсії у нескінченності?

• Майже впевненість конвергенції та обмеження дисперсії йде до нуля

27-10-2014: На жаль (для мене це є), ніхто ще не дав відповіді тут - можливо, тому що це виглядає як дивне, "патологічне" теоретичне питання і нічого більше?

Добре цитувати коментар для користувача Cardinal (який я згодом вивчу)

"Ось, безумовно, абсурдний, але простий приклад. Ідея полягає в тому, щоб проілюструвати, що саме може піти не так і чому. У ньому є практичні додатки (мій акцент). Приклад: Розглянемо типову модель з кінцевим другим моментом. Нехай де не залежить від і кожен з вірогідністю і дорівнює нулю в іншому випадку, довільним Тоді є неупередженим, має відхилення, обмежене внизу на , і майже напевно (це цілком послідовно). Я залишаю в якості справи про упередження ". Z$\hat θ_n=\bar X_n+Z_n$$Z_n$Zп=±п1/п2>0 θ п2 θ п→$\bar X_n$$Z_n=\pm an$$1/n^2$$a>0$$\hat θ_n$$a^2$$\hat θ_n→\mu$

Тут випадкова величина maverick - , тому давайте подивимось, що ми можемо сказати про неї. Змінна має підтримку з відповідними ймовірностями . Він симетричний навколо нуля, так що у нас є { - a n , 0 , a n } { 1 / n 2 , 1 - 2 / n 2 , 1 / n 2$Z_n$
$\{-an,0,an\}$$\{1/n^2,1-2/n^2,1/n^2\}$

$$E(Z_n) = 0,\;\; \text{Var}(Z_n) = \frac {(-an)^2}{n^2} + 0 + \frac {(an)^2}{n^2} = 2a^2$$

Ці моменти не залежать від тому я гадаю, що нам дозволено тривіально писати$n$

$$\lim_{n\rightarrow \infty} E(Z_n) = 0,\;\;\lim_{n\rightarrow \infty}\text{Var}(Z_n) = 2a^2$$

У асимптотиці бідної людини ми знаємо умову, щоб межі моментів дорівнювали моментам граничного розподілу. Якщо -й момент розподілу кінцевих випадків конвергується до постійної (як у нашому випадку), то, якщо більше,$r$

$$\exists \delta >0 :\lim \sup E(|Z_n|^{r+\delta}) < \infty$$

межа -го моменту буде -м моментом граничного розподілу. У нашому випадку$r$$r$

$$E(|Z_n|^{r+\delta}) = \frac {|-an|^{r+\delta}}{n^2} + 0 + \frac {|an|^{r+\delta}}{n^2} = 2a^{r+\delta}\cdot n^{r+\delta-2}$$

Для це розходиться для будь-якої , тому ця достатня умова не відповідає для дисперсії (вона справді відповідає середньому). По-іншому: Який асимптотичний розподіл ? Чи CDF до невиродженого CDF на межі?δ > 0 Z n Z $r\geq2$$\delta >0$
$Z_n$$Z_n$

Це не схоже на це: обмежуюча підтримка буде (якщо нам дозволено писати це), і відповідні ймовірності . Виглядає як константа для мене. Але якщо ми не маємо обмежувального розповсюдження в першу чергу, як ми можемо говорити про його моменти? { 0 , 1 , 0 $\{-\infty, 0, \infty\}$$\{0,1,0\}$

Потім, повертаючись до оцінювача , оскільки також переходить у константу, виявляється, що ˉ Х$\hat \theta_n$$\bar X_n$

$\hat \theta_n$ не має (нетривіального) обмежуючого розподілу, але він має дисперсію на межі. Або, може, ця дисперсія нескінченна? Але нескінченна дисперсія з постійним розподілом?

Як ми можемо це зрозуміти? Що це нам говорить про оцінювач? Яка суттєва різниця на межі між та ? ~ θ п= ˉ Х$\hat \theta_n = \bar X_n + Z_n$$\tilde \theta_n = \bar X_n$

Я не дам дуже задовільної відповіді на ваше запитання, тому що мені здається, що це занадто відкрито, але дозвольте спробувати прояснити, чому це питання важке.

Я думаю, ти борешся з тим, що звичайні топології, які ми використовуємо для розподілу ймовірностей, та випадкові змінні є поганими. Я написав більшу частину про це у своєму блозі, але дозвольте спробувати узагальнити: ви можете сходитись у слабкому (і загальній варіації) сенсі, порушуючи загальнозвучні припущення щодо того, що означає конвергенція.

Наприклад, ви можете конвергувати слабку топологію до постійної, маючи дисперсію = 1 (саме це робить ваша послідовність ). Тоді існує граничний розподіл (у слабкій топології) - це ця монументальна випадкова величина, яка в більшості випадків дорівнює 0, але нескінченно рідко дорівнює нескінченності.$Z_n$

Я особисто вважаю це тим, що слабка топологія (і топологія тотальної варіації теж) є поганим поняттям конвергенції, яке слід відмовитися. Більшість конвергенцій, які ми фактично використовуємо, є сильнішими за це. Однак я не знаю, що нам слід використовувати замість слабкої топології ...

Якщо ви дійсно хочете знайти істотну різницю між та , ось моя : обидва оцінки є еквівалентними для [0,1] -лосс (коли розмір вашої помилки не має значення). Однак набагато краще, якщо розмір ваших помилок має значення, оскільки іноді катастрофічно виходить з ладу. ~ & thetas ; = ˉ Х ~ & thetas ; & thetas$\hat \theta= \bar X+Z_n$$\tilde \theta=\bar X$$\tilde \theta$$\hat \theta$

Оцінювач є послідовним у ймовірності, але не в MSE, якщо є довільно мала ймовірність оцінки "вибуху". Хоча цікава математична цікавість, для будь-яких практичних цілей це не повинно вас турбувати. З будь-якою практичною метою оцінювачі мають кінцеві опори і тому не можуть вибухнути (реальний світ не є нескінченно малим, не великим).

Якщо ви все ще хочете закликати до постійного наближення "реального світу", а ваше наближення таке, що збігається у ймовірності, а не в MSE, то прийміть це так: Ваш оцінювач може бути правильним з довільно великою ймовірністю, завжди буде довільно невеликий шанс, що він вибухне. На щастя, коли це станеться, ви помітите, так що в іншому випадку ви можете довіряти цьому. :-)