Запитання з тегом «maximum-likelihood»

Коли краще використовувати максимальну оцінку ймовірності замість звичайних найменших квадратів? Які сильні та обмежені сторони кожного? Я намагаюся зібрати практичні знання про те, де їх використовувати в загальних ситуаціях.

13 regression  maximum-likelihood  least-squares 

Я написав деякий код, який може робити фільтрацію Кальмана (використовуючи ряд різних фільтрів типу Кальмана [Інформаційний фільтр та ін.]) Для лінійного аналізу простору Гаусса для простору для n-мірного вектора стану. Фільтри чудово працюють, і я отримую хороший вихід. Однак, оцінка параметрів за допомогою оцінки логічності, мене бентежить. Я не статистик, …

13 maximum-likelihood  algorithms  kalman-filter  likelihood 

Скажімо, у мене є проблема вибору моделі, і я намагаюся використовувати AIC або BIC для оцінки моделей. Це зрозуміло для моделей, які мають деяку кількість реальних значень параметрів.кkk Однак що робити, якщо одна з наших моделей (наприклад, модель Маллоуса ) має перестановку, плюс деякі реально оцінені параметри, а не просто …

13 modeling  maximum-likelihood  aic  fitting  bic 

У мене є модель прогнозування траєкторії (x як функція часу) з кількома параметрами. На даний момент я обчислюю середньоквадратичну похибку середнього значення (RMSE) між прогнозованою траєкторією та експериментально записаною траєкторією. В даний час я мінімізую цю різницю (RMSE), використовуючи симплекс (fminsearch в matlab). Незважаючи на те, що цей метод працює …

13 maximum-likelihood  curve-fitting 

Це питання мотивоване цим . Я шукав два джерела, і ось що я знайшов. A. van der Vaart, Асимптотична статистика: Вкрай рідко можливо вирахувати вірогідність профілю, але його чисельне оцінювання часто можливо. Тоді ймовірність профілю може слугувати для зменшення розмірності функції ймовірності. Функції правдоподібності профілю часто використовуються так само, як …

13 estimation  maximum-likelihood  likelihood  asymptotics  profile-likelihood 

Приміщення: це може бути дурним питанням. Я знаю лише твердження про асимптотичні властивості MLE, але я ніколи не вивчав докази. Якби я це зробив, можливо, я б не задавав цих питань, або, можливо, я зрозумів би, що ці питання не мають сенсу ... тому, будь ласка, просто на мене :) …

13 maximum-likelihood  model  asymptotics 

Фон: Я намагаюся дотримуватися огляду Прінстона на оцінку MLE для GLM . Я розумію основи оцінки MLE: likelihood, score, яка спостерігається і очікувана Fisher informationі Fisher scoringтехніка. І я знаю, як виправдати просту лінійну регресію з оцінкою MLE . Питання: Я не можу зрозуміти навіть перший рядок цього методу :( …

13 regression  generalized-linear-model  maximum-likelihood  link-function  irls 

Я намагаюся зрозуміти Фіртова логістичну регресію (метод управління ідеальним / повним або квазіповним розділенням у логістичній регресії), щоб я міг пояснити це іншим у спрощених термінах. Хто-небудь має занедбане пояснення того, яку модифікацію оцінку Ферта вносить у MLE? Я прочитав, як тільки міг, Ферта (1993) і розумію, що до функції …

13 logistic  maximum-likelihood  separation 

Загалом, здається, що метод моментів - це лише узгодження спостережуваної середньої вибірки або відхилення від теоретичних моментів для отримання оцінок параметрів. Це часто те саме, що MLE для експоненціальних сімей, я збираю. Однак важко знайти чітке визначення методу моментів та чітке обговорення того, чому MLE здається загалом сприятливим, хоча він …

13 maximum-likelihood  method-of-moments 

Нехай - спільний розподіл двох категоріальних змінних , з . Скажімо, вибірок було взято з цього розподілу, але нам дано лише граничні підрахунки, а саме для : X , Y x , y ∈ { 1 , … , K } n j = 1 , … , Kpx,ypx,yp_{x,y}X,YX,YX,Yx,y∈{1,…,K}x,y∈{1,…,K}x,y\in\{1,\ldots,K\}nnnj=1,…,Kj=1,…,Kj=1,\ldots,K Sj=∑i=1nδ(Xi=l),Tj=∑i=1nδ(Yi=j),Sj=∑i=1nδ(Xi=l),Tj=∑i=1nδ(Yi=j), …

12 categorical-data  maximum-likelihood  joint-distribution  marginal  maximum-entropy 

Я намагаюся обчислити ймовірність журналу для узагальненої нелінійної регресії найменших квадратів для функції оптимізована функціонують у пакеті R , використовуючи дисперсійну коваріаційну матрицю, породжену відстанями на філогенетичному дереві, припускаючи броунівський рух ( від пакета). Наступний відтворюваний код R підходить для моделі gnls з використанням даних x, y та випадкового дерева …

12 r  maximum-likelihood  least-squares  nonlinear-regression  mixed-model 

Я використовую Байєса для вирішення проблеми кластеризації. Після деяких обчислень я закінчую необхідність отримати співвідношення двох ймовірностей: P(A)/P(B)P(A)/P(B)P(A)/P(B) мати можливість отримати . Ці ймовірності отримуються шляхом інтеграції двох різних двовимірних KDE, як пояснено у цій відповіді :P(H|D)P(H|D)P(H|D) P ( B ) = ∬ х Керівництво , Y : G ( …

12 probability  bayesian  maximum-likelihood  kernel-smoothing 

У мене є кілька простих концептуальних питань, які я хотів би уточнити стосовно MLE (Максимальна оцінка ймовірності), а також те, яке зв’язок воно має, якщо воно є, з EM (Максималізація очікування). Як я розумію, якщо хтось каже "Ми використовували MLE", чи це автоматично означає, що вони мають чітку модель PDF-файлів …

12 estimation  maximum-likelihood  expectation-maximization 

Я виходжу з цього питання на випадок, якщо хтось захоче піти слідом. В основному у мене є набір даних складається з об'єктів, де кожен об'єкт має задане число вимірюваних значень, приєднаних до нього (у цьому випадку два):NΩΩ\OmegaNNN Ω = o1[ х1, у1] , о2[ х2, у2] , . . . …

12 probability  maximum-likelihood  kernel-smoothing  numerical-integration 

Якби хтось сказав "Цей метод використовує MLE бальну оцінку для параметра, який максимізує , тому він є частосистемним; і далі він не баєсовский."P ( x | θ )P(x|θ)\mathrm{P}(x|\theta) ти погодився б? Оновлення на задньому плані : нещодавно я прочитав статтю, яка стверджує, що вона часто. Я не згоден з їх …

12 bayesian  maximum-likelihood  likelihood  frequentist  philosophical