MLE проти найменших квадратів у примірному розподілі ймовірностей

Враження, яке я склав, грунтуючись на кількох прочитаних нами працях, книгах та статтях, полягає в тому, що рекомендований спосіб встановлення розподілу ймовірностей на набір даних - це використання максимальної оцінки ймовірності (MLE). Однак, як фізик, більш інтуїтивно зрозумілим способом є просто пристосування pdf моделі до емпіричного pdf даних, використовуючи найменші квадрати. Чому тоді MLE кращий, ніж найменші квадрати, у примірному розподілі ймовірностей? Чи може хтось, будь ласка, вказати мені на науковий документ / книгу, яка відповідає на це запитання?

Моя думка полягає в тому, що MLE не передбачає шумової моделі, а "шум" в емпіричному форматі PDF є гетероскедастичним і не є нормальним.

Один з корисних способів думати про це - зазначити, що бувають випадки, коли найменші квадрати та MLE однакові, наприклад, оцінка параметрів, коли випадковий елемент має нормальний розподіл. Тож насправді, а не (як ви міркуєте), що MLE не приймає шумову модель, що відбувається, це те, що він припускає, що існує випадковий шум, але бере більш складний погляд на те, як це формується, а не припускати його має нормальний розподіл.

Будь-яка підручник із статистичними висновками стосуватиметься приємних властивостей MLE щодо ефективності та послідовності (але не обов'язково зміщення). MLE також мають приємне властивість бути асимптотично нормальними при розумному наборі умов.