У R, отриманий вихід з оптимуму з матрицею гессіана, як обчислити довірчі інтервали параметрів за допомогою гессіанової матриці?

З огляду на вихід з оптимуму з матрицею гессіана, як обчислити довірчі інтервали параметрів за допомогою гессіанової матриці?

fit<-optim(..., hessian=T)

hessian<-fit$hessian

Мене найбільше цікавить контекст аналізу максимальної вірогідності, але мені цікаво дізнатися, чи можна розширити метод за його межами.

r maximum-likelihood

— Етьєн Низький Декарі
джерело

Це питання занадто розпливчасте. Які інтервали довіри? Які моделі вас цікавлять? Розгляньте літературу, перш ніж публікувати 3 запитання підряд.

Метод повинен бути незалежним від інтервалу та моделі.

— Етьєн Лоу-Декарі

Яку функцію ви оптимізуєте?

— Стефан Лоран

Мені сказали, що я можу робити це незалежно від моделі, яку я використовую.

— Etienne Low-Decarie

Corey Chivers дала відповідь.

— Етьєн Низький Декарі

Якщо ви максимізуєте ймовірність, то матриця коваріації оцінок є (асимптотично) оберненою негативом Гессі. Стандартні помилки - це квадратні корені діагональних елементів коваріації ( з інших місць в Інтернеті! Від професора Томаса Лумлі та Спенсера Грейвза, англ.).

Для довірчого інтервалу 95%

fit<-optim(pars,li_func,control=list("fnscale"=-1),hessian=TRUE,...)
fisher_info<-solve(-fit$hessian)
prop_sigma<-sqrt(diag(fisher_info))
prop_sigma<-diag(prop_sigma)
upper<-fit$par+1.96*prop_sigma
lower<-fit$par-1.96*prop_sigma
interval<-data.frame(value=fit$par, upper=upper, lower=lower)

Зауважте, що:

Якщо ви максимізуєте журнал (вірогідність), то НЕГАТИВНИЙ гессіан - це "спостережувана інформація" (наприклад, тут).
Якщо МІНІМІЗУВАТИ "відхилення" = (-2) * журналу (вірогідність), то ПОЛОВА гессіана є спостережуваною інформацією.
У тому ймовірному випадку, що ви максимізуєте саму ймовірність, вам потрібно розділити негативний гессіан на ймовірність отримати спостережувану інформацію.

Дивіться це для подальших обмежень завдяки використанню розпорядження оптимізації.

— Етьєн Низький Декарі
джерело

Corey Chivers дала відповідь.

— Етьєн Низький Декарі

(+1) Зворотний від'ємний гессіан є оцінкою асимптотичної матриці коваріації - я знаю, це відображається у вашому коді, але я думаю, що це важливо вказати.

— Макрос

Відмінна відповідь, чи слід читати верхню та нижню межі upper<-fit$par+1.96*(prop_sigma/sqrt(n)) lower<-fit$par-1.96*(prop_sigma/sqrt(n))? Дякую

— синоптик

Чому б не видалити рядок 4?

— Джейсон

Чи включає рядок prop_sigma<-diag(prop_sigma)помилку?

— Марк Міллер