Загальні теореми про послідовність та асимптотичну нормальність максимальної вірогідності


10

Мене цікавить хороша довідка щодо результатів щодо асимптотичних властивостей оцінювачів максимальної ймовірності. Розглянемо модель , де е п ( х | & thetas ; ) є п - мірне щільність і & thetas п є MLE на основі вибірки X 1 , ... , X n від f n ( θ{fn(θ):θΘ,nN}fn(xθ)nθ^nX1,,Xn де θ 0 - "справжнє" значення θ . Є дві порушення, які мене цікавлять.fn(θ0)θ0θ

  1. Дані не є iid, і, як результат, інформація Фішера про θ накопичується зі швидкістю, меншою ніж n .X1,,Xnθn
  2. є обмеженим безліччю, і з позитивної ймовірністю & thetas п лежить на кордоні. Межа відповідає "простішій" моделі, і тому існує особливий інтерес у тому, чи θ 0 лежить на межі.Θθ^nθ0

Мої конкретні запитання

  1. Нехай позначає спостережувану інформацію Фішера, що відповідає θ , і припустимо, що θ 0 лежить у внутрішній частині Θ . За яких умов [ J п ( θ п ) ] 1 / 2 ( θ п - θ 0 ) асимптотично нормально , так як п ? Зокрема, чи є умови регулярності подібними до звичайних, відповідною модифікацією є J n (Jn(θ)θθ0Θ

    [Jn(θ^n)]1/2(θ^nθ0)
    nв деякому сенсі?Jn(θ^n)
  2. θ0θ^n=θ0Yij=μ+βi+ϵijσ^β2=0θ^nθ0θ^n=θ0

Знову ж таки, дуже вдячний би лише вказівник на текст із результатами цього рівня загальності.


Відповіді:


7

Посилання, з яких можна почати:

Для випадку, коли справжній параметр лежить на межі :
Моран (1971) "Максимальна оцінка ймовірності в нестандартних умовах"

Стівен Г. Селф і Кунг-Лі Лян (1987) "Асимптотичні властивості оцінювачів максимальної ймовірності та випробування коефіцієнта ймовірності в нестандартних умовах"

Цідінг Фенг та Чарльз Е. Маккаллох (1990) "Статистичні умовиводи з використанням максимальної оцінки ймовірності та узагальненого коефіцієнта ймовірності, коли справжній параметр знаходиться на межі простору параметрів"

Для неідентичних, але незалежних телевізорів :
Брюс Ходлі (1971) "Асимптотичні властивості оцінювачів максимальної вірогідності для незалежного нерозподіленого випадку"

Для залежних rv:
Martin J. Crowder (1976) "Максимальна оцінка ймовірності залежних спостережень"

Також

Хубер, П.Я. (1967). "Поведінка максимальної оцінки ймовірності в нестандартних умовах" . У працях п’ятого симпозіуму Берклі з математичної статистики та ймовірності (т. 1, № 1, с. 221-233).

Оновлення 17-03-2017: як запропоновано в коментарі, тут може бути посилання на наступний документ

Ендрюс, DW (1987). Узгодженість у нелінійних економетричних моделях: загальний єдиний закон великої кількості. Econometrica: Журнал Економетричного товариства, 1465-1471.


Подивіться на дискусію тут: andrewgelman.com/2012/07/05/…
kjetil b halvorsen

1
(+1) Я добре використав ці посилання. Може бути корисним включити також Andrews, 1987 ( jstor.org/stable/1913568 ). Зокрема, це "... вказує, що часто використовувана рівномірна LLN, завдяки Ходлі (1971, теорема A.5), застосовується лише до обмежених випадкових величин".
еквалл
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.