Використання MLE проти OLS

13

Коли краще використовувати максимальну оцінку ймовірності замість звичайних найменших квадратів? Які сильні та обмежені сторони кожного? Я намагаюся зібрати практичні знання про те, де їх використовувати в загальних ситуаціях.

regression  maximum-likelihood  least-squares 
— user38133
джерело

Відповіді:

1

Як пояснено тут , OLS - це лише певний екземпляр MLE. Тут тісно пов'язане питання з виведенням OLS з точки зору MLE.

Умовний розподіл відповідає вашій моделі шуму (для OLS: Гауссова та однаковий розподіл для всіх входів). Існують і інші варіанти (t-Student для боротьби з випускниками або дозволити розподілу шуму залежно від входу )

— jpmuc
джерело
t
6
OLS - метод наближення / оцінювання, що мінімізує відстань, тоді як ML - метод максимізації "ймовірності". OLS не потребує стохастичних припущень, щоб забезпечити його рішення, що мінімізує відстань, тоді як ML починається з прийняття спільної функції щільності / маси ймовірностей. Той факт, що за деяких обставин вони забезпечують одне і те ж рішення, ні в якому разі не робить одного конкретним екземпляром іншого.
— Алекос Пападопулос
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.