Чи є теорія мінімальної дисперсії неупередженою оцінкою переоціненою в аспірантурі?

Нещодавно мене дуже збентежило, коли я дав відповідь манжеті про мінімальну дисперсійну неупереджену оцінку параметрів рівномірного розподілу, що було абсолютно неправильним. На щастя, мене одразу виправили кардинал та Генрі з Генрі, надавши правильні відповіді на ОП .

Це все-таки задумалось. Я вивчив теорію найкращих неупереджених оцінювачів в моєму випускницькому класі математики в Стенфорді десь 37 років тому. У мене є згадування теореми Рао-Блеквелла, нижньої межі Крамера - Рао і теореми Леманна-Шеффе. Але, як прикладний статистик, я не дуже думаю про UMVUE в своєму повсякденному житті, тоді як максимальна оцінка ймовірності приходить багато.

Чому так? Чи занадто сильно ми підкреслюємо теорію UMVUE в аспірантурі? Я думаю так. Перш за все, неупередженість не є вирішальною властивістю. Багато ідеально хороших MLE є упередженими. Оцінки усадки Штейна є упередженими, але домінують над неупередженим MLE з точки зору середньої квадратної втрати помилок. Це дуже красива теорія (оцінка UMVUE), але дуже неповна, і я вважаю не дуже корисною. Що думають інші?

estimation point-estimation

— Майкл Черник
джерело

(+1) Я погоджуюсь, що це спричинить гарне запитання для головного сайту, і висловлюватиме його на користь. Це дещо суб'єктивно, тому це може бути найкращим як питання CW. (Крім того, немає ніяких причин для того, щоб бентежити.)

— кардинал

Я не думаю, що загалом така оцінка є надмірно вираженою. Я пам’ятаю, що мої професори більше зосереджувались на прикладах, де UMVUE є «дурним». Люди, як правило, використовують точкові оцінки, що належать до популярних теорій, задля безпеки, але існує повна теорія оцінки рівнянь. Деякі професори зосереджуються на UMVUE, оскільки вони є хорошим джерелом складних проблем для домашніх завдань. Я думаю, що зменшення зміщення є більш популярною і корисною теорією в даний час, ніж пошук UMVUE (який не завжди існує).

Ми бачимо, що тут багато питань на UMVUE, тому що вони створюють непогані домашні завдання. Можливо, це більше проблема з програмами статистики бакалавратів та магістрів, ніж з докторськими програмами.

— Майкл Р. Черник

Ну, оцінка UMVU - це класична ідея, тому, можливо, слід навчати з цієї причини? І це хороший вихідний пункт для обговорення / критичного критеріїв, таких як неупередженість! Просто тому, що вони не так багато використовуються на практиці, самі по собі не є причиною їх не навчати.

— kjetil b halvorsen

Акцент, ймовірно, різниться в залежності від часу та підрозділів. Моя кафедра представляє матеріал на курсі з математики першого курсу, але після цього його немає, тому я не можу з розумом сказати, що він переоцінений (навіть у курсі доктора наук, як правило, не викладається на користь більше час з байєсівськими та мінімаксними оцінками, допустимість та багатоваріантність оцінок), хоча я хотів би, щоб більше акцентувалося на тому, чому упередженість корисна річ, а отже, чому неупереджена оцінка є надмірно екстремальною парадигмою.

— хлопець

Відповіді:

Ми це знаємо

Якщо - випадкова вибірка з то для будь-якого $X_1,X_2, \dots X_n$ $Poisson(\lambda)$ є UE з $\alpha \in (0,1),~T_\alpha =\alpha \bar X+(1-\alpha)S^2$ $\lambda$

Отже, існує безмежно багато UE з . Тепер виникає питання, що з них нам вибрати? тому ми називаємо UMVUE. Поряд неупередженість не є доброю властивістю, але UMVUE є доброю властивістю. Але це не надзвичайно добре. $\lambda$

$X_1,X_2, \dots X_n$ $N(\mu, \sigma^2)$ $T_\alpha =\alpha S^2$ $(n-1)S^2=\sum_{i=1}^{n}(X_i-\bar X)^2$ $\sigma^2$ $\frac{n-1}{n+1}S^2=\frac{1}{n+1}\sum_{i=1}^{n}(X_i-\bar X)^2$

Зауважимо, що теорема Рао-Блеквелла говорить, що для пошуку UMVUE ми можемо сконцентруватися лише на тих UE, які є функцією достатньої статистики , тобто UMVUE є оцінником, який має мінімальну дисперсію серед усіх UE, які є функцією достатньої статистики. Отже, UMVUE - це обов'язково функція достатньої статистики.

MLE і UMVUE обидва з точки зору хороші. Але ми ніколи не можемо сказати, що одна з них краща за іншу. У статистиці ми маємо справу з невизначеними та випадковими даними. Тому завжди є можливість вдосконалення. Ми можемо отримати кращий оцінювач, ніж MLE та UMVUE.

Я думаю, що ми не занадто сильно підкреслюємо теорію UMVUE в аспірантурі. Це суто мій особистий погляд. Я думаю, що випускний етап - це етап навчання. Таким чином, студент, який закінчив навчання, повинен мати хорошу основу щодо оцінювачів UMVUE та інших,

— арги
джерело

Я думаю, що будь-яку справедливу теорію умовиводу добре знати. Хоча неупередженість може бути доброю властивістю, упередженість не обов'язково є поганою. Коли акцент робиться на UMVUE, може спостерігатись тенденція приписувати йому «оптимальність». Але в класі неупереджених оцінювачів може бути не дуже хороших оцінок. Точність є важливою, вона включає як упередженість, так і дисперсію. Що краще про MLE, це те, що існують умови, за яких може бути показано, що він є асимптотично ефективним.

— Майкл Р. Черник

Зауважимо, що теорему Рао-Блеквелла також можна використовувати для вдосконалення будь-якого упередженого оцінювача, створюючи вдосконалений оцінювач з однаковим зміщенням.

— kjetil b halvorsen

Можливо, документ Бреда Ефрона "Максимальна теорія ймовірності та рішення" може допомогти прояснити це. Бред зазначив, що однією з основних труднощів з UMVUE є те, що в цілому важко обчислити, а в багатьох випадках їх не існує.

— Цзянтао Цзяо
джерело