Чому саме оцінка максимальної вірогідності вважається частою методикою

Статистична статистика для мене є синонімом для спроб прийняти рішення, яке підходить для всіх можливих вибірок. Тобто, правило частого прийняття рішення завжди повинне намагатися мінімізувати ризик , що залежить від функції втрати та справжнього стану природи :$\delta$$L$$\theta_0$

Як максимальна ймовірність оцінки пов'язана з ризиком частості? З огляду на те, що це найчастіше застосовувана методика оцінки точок, яка використовується вестустами, має бути певний зв’язок. Наскільки я знаю, оцінка максимальної ймовірності є старшою від концепції частотистського ризику, але все ж має бути певний зв’язок, чому б інакше так багато людей стверджували, що це частофілістська техніка?

Найтісніший зв’язок, який я знайшов, - це те

"Для параметричних моделей, які задовольняють слабкі умови регулярності, максимальний показник ймовірності становить приблизно мінімакс" Wassermann 2006, p. 201 "

Прийнята відповідь або пов'язує оцінку максимальної точки ймовірності сильнішою до частолістського ризику, або дає альтернативне формальне визначення частолістського висновку, яке показує, що MLE є частою методикою виводу.

Ви застосовуєте відносно вузьке визначення частотизму та MLE - якщо ми трохи щедріші та визначаємо

• Частотність: мета послідовності, (асимптотична) оптимальність, неупередженість та контрольовані показники помилок при повторній вибірці, незалежно від справжніх параметрів

• MLE = оцінка точки + довірчі інтервали (CI)

тоді здається досить зрозумілим, що MLE задовольняє всі частістські ідеали. Зокрема, CI в MLE, як p-значення, керують коефіцієнтом помилок при повторній вибірці та не дають 95% області ймовірності для справжнього значення параметра, як думають багато людей - отже, вони проходять через та через частоту.

Не всі ці ідеї вже були присутні у фундаментальній праці Фішера 1922 р. «Про математичні основи теоретичної статистики» , але ідея оптимальності та неупередженості є, і Нейман останній додав ідею побудови КІ з фіксованими показниками помилок. Ефрон, 2013 р., "250-річний аргумент: віра, поведінка та завантажувальний тренінг" , підсумовує свою дуже читаючу історію дискусії Байєса / Частота:

На початку 1900-х рр. Частістська стрічка справді прокотилася. Рональд Фішер розробив теорію максимальної ймовірності оптимальної оцінки, показавши найкращу можливу поведінку для оцінки, а Єжи Нейман зробив те ж саме для інтервалів і тестів. Процедури Фішера та Неймана були майже ідеальним підходом до наукових потреб та обчислювальних меж науки ХХ століття, кидаючи байєсіанство в тіньове існування.

Що стосується вашого більш вузького визначення - я м'яко не погоджуюся з вашою передумовою, що мінімізація ризику частості (ФР) є головним критерієм, який вирішує, чи слід за методом філософії частолістів. Я б сказав, що мінімізація FR є бажаною властивістю випливає з філософії частолістської форми, а не передує їй. Отже, правило / оцінювач прийняття рішення не обов'язково мінімізувати FR, щоб бути частою, а мінімізація FR також не обов'язково говорить про те, що метод є частопеністським, але частоліст, сумніваючись, віддасть перевагу мінімізації FR.

Якщо ми поглянемо на MLE спеціально: Фішер показав, що MLE є асимптотично оптимальним (в цілому еквівалентним мінімізації FR), і це, безумовно, була однією з причин просування MLE. Однак він усвідомлював, що оптимальність не відповідає обмеженому розміру вибірки. І все-таки він був задоволений цим оцінником через інші бажані властивості, такі як послідовність, асимптотична нормальність, інваріантність при перетворенні параметрів, і не будемо забувати: простота обчислення. Зокрема, інваріантність підкреслюється в документі 1922 р. - з мого читання, я б сказав, що підтримка інваріантності при перетворенні параметрів та можливість позбутися пріорів взагалі були однією з його головних мотивацій у виборі MLE. Якщо ви хочете краще зрозуміти його міркування, я дуже рекомендую документ 1922 року,

В основному, з двох причин:

• Максимальна ймовірність - це точкова оцінка параметрів моделі. Ми, байєси, люблять задній розподіл.
• Максимальна ймовірність не передбачає попереднього розповсюдження. Ми, байєси, потрібні нашим пріорам, це може бути інформативним чи неінформативним, але воно має існувати