Незаангажований, позитивний оцінювач квадрата середнього

Припустимо, у нас є доступ до зразків iid з розподілу з істинною (невідомою) середньою та дисперсією , і ми хочемо оцінити . $\mu, \sigma^2$ $\mu^2$

Як ми можемо побудувати неупереджений, завжди позитивний оцінювач цієї кількості?

Якщо взяти квадрат зразка, середнє значення є упередженим і переоцінить кількість, esp. якщо близький до 0 і великий. $\tilde{\mu}^2$ $\mu$ $\sigma^2$

Це, мабуть, тривіальне питання, але мої навички google мене опускають як estimator of mean-squaredлише поверненняmean-squarred-error estimators

Якщо це полегшує питання, основний розподіл можна вважати гауссовим.

Рішення:

Можна побудувати неупереджену оцінку ; див . відповідь кнурмі $\mu^2$
Неможливо побудувати неупереджену, завжди позитивну оцінку оскільки ці вимоги суперечать, коли справжня середня величина дорівнює 0; див відповідь Вінкса $\mu^2$

mean unbiased-estimator

— Підморгує
джерело

Можливо, замість цього можна зробити оцінку середнього квадрату або оцінку квадрата середнього . Коли я читав вашу назву, я також був розгублений (як і Google), тому я відредагував це, щоб зробити його більш зрозумілим.

— Річард Харді

Відповіді:

Зауважимо, що середнє значення вибірки також зазвичай розподіляється із середнім та дисперсією . Це означає, що $\bar{X}$ $\mu$ $\sigma^2/n$

E ({\bar{X}}^{2}) = E (\bar{X})^{2} + Var (\bar{X}) = μ^{2} + \frac{σ^{2}}{n}

$\operatorname E(\bar{X}^2) = \operatorname E(\bar{X})^2 + \operatorname{Var}(\bar{X}) = \mu^2 + \frac{\sigma^2}n$

Якщо все, що вас цікавить, є неупередженою оцінкою, ви можете використовувати той факт, що дисперсія вибірки є неупередженою для . Це означає, що оцінювач є неупередженим для . $\sigma^2$

\hat{μ^{2}} = {\bar{X}}^{2} - \frac{S^{2}}{n}

$\widehat{\mu^2} = \bar{X}^2 - \frac{S^2}n$

μ^{2}

$\mu^2$

— крюмсей
джерело

Дякуємо за ваш внесок! Це хороше спостереження, але не відповідає завжди позитивній вимозі; Враховуючи вибірки {-1,1}, середня вибірка дорівнює 0, а дисперсія вибірки - 2, що призводить до оцінки -1.

\hat{μ^{2}}

$\hat{\mu^2}$

— Підморгує

Зважаючи на те, що мінімально достатньо і повно, цей неупереджений оцінювач повинен бути тим, у кого мінімальна дисперсія.

(\bar{X}, S^{2})

$(\bar{X},S^2)$

— Сіань

@Winks Саме ця причина є прикладом абсурдного неупередженого оцінювача.

— StubbornAtom

Дуже цікаво. Простий необмежений оцінювач, що використовує два iid спостереження і є , як . Очевидно, це не настільки хороший оцінювач, але дає зрозуміти, що будь-який многочлен у має необмежений оцінювач, що я вважав цікавим.

X_{1}

$X_1$

X_{2}

$X_2$

X_{1} X_{2}

$X_1X_2$

E (X_{1} X_{2}) = E (X_{1}) E (X_{2}) = μ^{2}

$E(X_1 X_2) = E(X_1)E(X_2) = \mu^2$

μ

$\mu$

— Пол Гаррісон

Не повинно бути можливим створити оцінювач, який є одночасно неупередженим і завжди позитивним для . $\mu^2$

Якщо справжнє середнє значення дорівнює 0, оцінювач повинен у очікуванні повернути 0, але йому не дозволяється виводити від’ємні числа, тому також не дозволяється виводити додатні числа, як це було б упередженим. Тому неупереджений, завжди позитивний оцінювач цієї кількості повинен завжди повертати правильну відповідь, коли середнє значення дорівнює 0, незалежно від вибірки, що здається неможливим.

Відповідь кнурмі показує, як виправити зміщення обчислювача середньоквадратичного зразка, щоб отримати неупереджену оцінку . $\mu^2$

— Підморгує
джерело

Існує досить стара стаття Джима Бергера, яка підтверджує цей факт, але я не можу простежити його. Проблема також з'являється в Монте-Карло з ухильними оцінками на зразок російської рулетки.

— Сіань