Які недоліки ймовірності профілю?


19

Розглянемо вектор параметрів , з параметром, що цікавить, і параметром неприємності.θ 1 θ 2(θ1,θ2)θ1θ2

Якщо є ймовірність, побудована з даних , вірогідність профілю для визначається як де є MLE для фіксованого значення .х & thetas 1 L P ( & thetas 1 ; х ) = L ( θ 1 , θ 2 ( θ 1 ) ; х ) θ 2 ( θ 1 ) θ 2 θ 1L(θ1,θ2;x)xθ1LP(θ1;x)=L(θ1,θ^2(θ1);x)θ^2(θ1)θ2θ1

Максимізація ймовірності профілю стосовно призводить до такої ж оцінки як та, отримана шляхом максимального збільшення ймовірності одночасно щодо та .θ 1 θ 1 θ 2θ1θ^1θ1θ2

Я думаю, що стандартне відхилення також може бути оцінене з другої похідної вірогідності профілю.θ^1

Статистика ймовірності для можна записати через ймовірність профілю: LR = 2 \ log (\ tfrac {L_P (\ hat {\ theta} _1; x)} {L_P (\ theta_0 ; x)}) . L R =H0:θ1=θ0LR=2log(LP(θ^1;x)LP(θ0;x))

Отже, здається, що ймовірність профілю можна використовувати саме так, як якщо б це була справжня ймовірність. Це справді так? Які основні недоліки такого підходу? А як щодо "чутки", що оцінювач, отриманий з імовірності профілю, є упередженим (редагувати: навіть асимптотично)?


2
лише зауважте, оцінники від ймовірності також можуть бути упередженими, класичним прикладом є оцінка ймовірності відхилення для нормальної вибірки.
mpiktas

@mpiktas: Дякуємо за ваш коментар. Дійсно, класичні млеки також можуть бути упередженими. Я відредагую питання, щоб зробити речі зрозумілішими.
окрам

що таке асимптотичне зміщення? Ви говорите про неузгоджені оцінки?
mpiktas

@mpiktas: Так, це я повинен був сказати ...
ocram

Відповіді:


14

Оцінка від правдоподібності профілю - це просто MLE. Максимізація відносно θ 2 для кожного можливого θ 1, а потім максимізація відносно θ 1 - це те саме, що максимізація щодо спільно.θ1θ2θ1θ1(θ1,θ2)

Основна слабкість полягає в тому, що якщо ви базуєте свою оцінку SE на ймовірності кривизни профілю, ви не повністю враховуєте невизначеність у .θ^1θ2

McCullagh і Nelder, узагальнені лінійні моделі, 2-е видання , мають короткий розділ щодо вірогідності профілю (Sec 7.2.4, стор. 254-255). Вони кажуть:

[A] Орієнтовні довірчі набори можуть бути отримані звичайним чином .... такі довірчі інтервали часто задовільні, якщо [розмірність ] невелика по відношенню до загальної інформації про Фішера, але може бути введена в оману інакше .. .. На жаль [вірогідність журналу профілю] не є функцією вірогідності журналу у звичному розумінні. Найбільш очевидно, що її похідна не має нульової середньої величини, властивості, яка є важливою для оцінки рівнянь.θ2


ЕлП(θ1)θ10

Цікаве запитання, хоча воно вимагало поїздки на книжкову полицю (що я мав би зробити у будь-якому випадку). Я трохи доповнив свою відповідь на цю тему.
Карл

Дуже дякую за редагування. Кажуть, що властивість (оцінка, оцінена за значенням справжнього параметра, має середнє нульове значення) є важливою для оцінки рівнянь. Але хоча ймовірність того, що журнал профілю не відповідає цій властивості, він створює MLE. Щось мені не вистачає?
окрам

Ця власність не є необхідною для надання MLE.
Карл
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.