Як ви обчислюєте стандартні помилки для перетворення MLE?

Мені потрібно зробити висновок про позитивний параметр . Для активізації позитиву я перераметризував . Використовуючи процедуру MLE, я обчислював оцінку балів і se для . Властивість інваріантності MLE безпосередньо дає мені бальну оцінку , але я не впевнений, як обчислити se для . Заздалегідь дякую за будь-яку пропозицію чи посилання. $p$ $p=\exp(q)$ $q$ $p$ $p$

maximum-likelihood standard-error delta-method

— Марсель
джерело

Чи не можете ви використовувати один і той самий режим MLE для обчислення точкової оцінки та se для безпосередньо?

p

$p$

— whuber

Відповіді:

Для цього використовується метод « Дельта» . Відповідно до деяких стандартних припущень щодо регулярності , ми знаємо, що MLE для приблизно (тобто асимптотично) розподіляється як $\hat{\theta}$ $\theta$

\hat{θ} \sim N (θ, Я^{- 1} (θ))

$\hat{\theta} \sim N(\theta, \mathcal{I}^{-1}(\theta))$

де - обернена інформація Фішера для всього зразка, оцінена в і позначає нормальний розподіл із середнім значенням та варіація . Функціональна инвариантность ОМП говорить про те , що ОМП , де деяка відома функція, є (як ви вказали) і має приблизне розподіл $\mathcal{I}^{-1}(\theta)$ $\theta$ $N(\mu,\sigma^{2})$ $\mu$ $\sigma^{2}$ $g(\theta)$ $g$ $g(\hat{\theta})$

г (\hat{θ}) \sim N (г (θ), Я^{- 1} (θ) [г^{'} (θ)]^{2})

$g(\hat{\theta}) \sim N( g(\theta), \mathcal{I}^{-1}(\theta) [g'(\theta)]^{2} )$

де ви можете підключити послідовні оцінки невідомих величин (тобто підключити де відображено у дисперсії). Я вважаю, що стандартні помилки, які ви маєте, базуються на інформації про Фішера (оскільки у вас є MLE). Позначимо цю стандартну помилку . Тоді стандартна помилка , як у вашому прикладі $\hat{\theta}$ $\theta$ $s$ $e^{\hat{\theta} }$

\sqrt{с^{2} е^{2 \hat{θ}}}

$\sqrt{s^{2}e^{2 \hat{\theta}}}$

Я, можливо, інтерпретую вас назад, а насправді ви маєте дисперсію MLE і хочете дисперсію MLE в цьому випадку стандарт буде $\theta$ $\log(\theta)$

\sqrt{с^{2} / {\hat{θ}}^{2}}

$\sqrt{ s^{2}/\hat{\theta}^{2} }$

— Макрос
джерело

Лише бічна примітка: є також відповідні багатоваріантні розширення, за допомогою яких похідні замінюються градієнтами, і множення має бути матричним множенням, тому трохи більше головного болю у з'ясуванні, куди йде транспонування.

— StasK

Дякуємо, що вказали на StasK. Я вважаю, що в мультиваріантному випадку асимптотичною коваріацією є

g (\hat{θ})

$g(\hat{\theta})$

\nabla g (θ)^{'} I (θ)^{- 1} \nabla g (θ)

$\nabla g(\theta)' \mathcal{I}(\theta)^{-1} \nabla g(\theta)$

— Макрос

(+1) Я додав посилання на припущення щодо регулярності (та деякі інші речі), оскільки не ясно, чи задоволені вони проблемою ОП. Я міг би сказати, що є асимптотично нормальним і не приблизно нормальним, оскільки коефіцієнти конвергенції в рази можуть бути повільними.

\hat{θ}

$\hat{\theta}$

— MånsT

Дякую @ MånsT, я також уточнив, що маю на увазі асимптотично, коли сказав приблизно :)

— Макрос

Макрос дав правильну відповідь про те, як перетворити стандартні помилки за допомогою методу delta. Хоча ОП спеціально просила стандартні помилки, я підозрюю, що мета полягає у створенні інтервалів довіри для . Окрім обчислення стандартних помилок ви можете безпосередньо перетворити довірчий інтервал в -параметризації в інтервал довіри в -параметризація. Це цілком справедливо, і це може бути навіть кращою ідеєю залежно від того, наскільки добре нормальне наближення, що використовується для виправдання інтервалу довіри, заснованого на стандартних помилках, працює в -параметризації проти $p$ $\hat{p}$ $[q_1, q_2]$ $q$ $[\exp(q_1), \exp(q_2)]$ $p$ $q$ $p$ -параметризація. Крім того, безпосередньо перетворений інтервал довіри буде виконувати обмеження позитивності.

— NRH
джерело