Чому MLE має сенс, враховуючи, що ймовірність окремої вибірки дорівнює 0?

Це якась дивна думка, яку я мав під час перегляду старої статистики, і я чомусь не можу думати про відповідь.

Безперервний PDF нам повідомляє про щільність спостереження значень у будь-якому заданому діапазоні. А саме, якщо, наприклад, $X \sim N(\mu,\sigma^2)$ , то ймовірність того, що реалізація падає між $a$ і $b$ , просто $\int_a^{b}\phi(x)dx$ де $\phi$ - щільність стандартної норми.

Коли ми думаємо про те, щоб зробити оцінку параметра MLE параметра, скажімо, $\mu$ , ми запишемо щільність спільних, скажімо, $N$ випадкових величин $X_1 .. X_N$ і диференціюйте wrt-вірогідність wrt на $\mu$ , встановіть рівну 0 і вирішіть для $\mu$ . Інтерпретація часто дається "з урахуванням даних, який параметр робить цю функцію щільності найбільш правдоподібною".

Частина, яка мене клопоче, така: у нас щільність $N$ rv, і ймовірність того, що ми отримаємо певну реалізацію, скажімо, наш зразок, дорівнює рівно 0. Чому навіть є сенс максимізувати щільність суглобів, враховуючи наші дані ( оскільки знову вірогідність спостереження за нашим фактичним зразком рівно 0)?

Єдиною раціоналізацією, яку я можу придумати, є те, що ми хочемо, щоб PDF-файл був максимально можливим навколо нашого спостережуваного зразка, щоб інтеграл у регіоні (а отже, ймовірність спостереження за даними у цьому регіоні) був найвищим.

$\mathbb{P}_\theta(X=x)$$x$$\delta$$\delta$

$\qquad\qquad\qquad$

$\delta$

Незважаючи на те, що він підпадав під деномінацію "найбільш ймовірне значення" і використовував принцип зворотної ймовірності (байєсівський умовивід) з рівним попереднім, Карл Фрідріх Гаус вже отримав у 1809 році максимальний оцінювач вірогідності параметру дисперсії нормального розподілу. Халд (1999) згадує кілька інших випадків оцінки максимальної ймовірності перед документом Фішера 1912 року, який встановлював загальний принцип.

$(x_1,\ldots,x_n)$