Припущення щодо оцінки невизначеності завантажувальної програми

Я ціную корисність завантажувальної програми для отримання оцінок невизначеності, але одне, що мене завжди турбує, - це те, що розподіл, відповідний цим оцінкам, - це розподіл, визначений вибіркою. Загалом, здається, поганою ідеєю вважати, що наші вибіркові частоти виглядають точно як базові розподіли, тому чому обгрунтовано / прийнятно отримувати оцінки невизначеності на основі розподілу, де вибіркові частоти визначають базовий розподіл?

З іншого боку, це може бути не гірше (можливо, краще), ніж інші припущення щодо розповсюдження, які ми зазвичай робимо, але я все ж хотів би зрозуміти виправдання трохи краще.

Є декілька способів, якими можна застосувати завантажувальний інструмент. Два основні підходи - це те, що вважається "непараметричним" і "параметричним" завантажувальним пристроєм. Другий передбачає, що модель, яку ви використовуєте, є (по суті) правильною.

Давайте зосередимось на першому. Ми припускаємо , що у вас є випадковий зразок розподіленого в відповідно до функції розподілу . (Якщо інше вимагає модифікованих підходів.) Нехай є емпіричним кумулятивним розподілом функція. Значна частина мотивації завантажувального тренажера походить від пари фактів.$X_1, X_2, \ldots, X_n$$F$$\hat{F}_n(x) = n^{-1} \sum_{i=1}^n \mathbf{1}(X_i \leq x)$

Нерівність Дворецького – Кійфера – Вулфовіца

Це свідчить про те, що емпірична функція розподілу рівномірно конвергується у справжню функцію розподілу експоненціально швидко, ймовірно. Дійсно, ця нерівність у поєднанні з Бореля — Кантеллі показує, що майже напевно.$\sup_{x \in \mathbb{R}} \,|\hat{F}_n(x) - F(x)| \to 0$

Для форми немає додаткових умов , щоб гарантувати цю конвергенцію.$F$

Евристично, тоді, якщо нас цікавить якийсь функціональний функції розподілу, який є гладким , тоді ми очікуємо, що буде близький до .$T(F)$$T(\hat{F}_n)$$T(F)$

(Вгору) Безсторонність$\hat{F}_n(x)$

За допомогою простої лінійності очікування та визначення для кожного ,$\hat{F}_n(x)$$x \in \mathbb{R}$

Припустимо, нас цікавить середнє значення . Тоді неупередженість емпіричної міри поширюється на неупередженість лінійних функціоналів емпіричної міри. Отже, $\mu = T(F)$

Отже, в середньому правильний, і оскільки швидко наближається до , то (евристично), швидко наближається до .$T(\hat{F}_n)$$\hat{F_n}$$F$$T(\hat{F}_n)$$T(F)$

Для побудови інтервалу довіри ( який, по суті, у чому полягає завантажувальна програма ), ми можемо використовувати центральну граничну теорему, узгодженість емпіричних квантилів і метод дельта як інструменти для переходу від простих лінійних функціоналів до складніших статистичних даних, що цікавлять .

Хороші посилання є

1. Б. Ефрон, Методи завантаження: Ще один погляд на нож , Енн. Стат. , т. 7, ні. 1, 1–26.
2. Б. Ефрон та Р. Тібшірані, Вступ до завантажувального закладу , Чапман – Холл, 1994 рік.
3. Г.А. Янг і Р.Л. Сміт, Основи статистичних висновків , Кембриджський університетський прес, 2005, глава 11 .
4. AW van der Vaart, Асимптотична статистика , Cambridge University Press, 1998, глава 23 .
5. П. Бікель та Д. Фрідман, Деякі асимптотичні теорії для завантажувального пристрою . Енн. Стат. , т. 9, ні. 6 (1981), 1196–1217.

Ось інший підхід до роздумів про це:

Почнемо з теорії, де ми знаємо справжній розподіл, ми можемо виявити властивості вибіркової статистики, моделюючи з істинного розподілу. Так Госсет розробив t-розподіл і t-тест, відбираючи з відомих нормалів і обчислюючи статистику. Це фактично форма параметричного завантажувального пристрою. Зауважте, що ми моделюємо для виявлення поведінки статистики (іноді відносно параметрів).

Тепер, що, якщо ми не знаємо розподілу населення, у нас є оцінка розподілу в емпіричному розподілі, і ми можемо зробити вибірку з цього. Шляхом вибірки з емпіричного розподілу (що відомо) ми можемо побачити взаємозв'язок між зразками завантажувальної програми та емпіричним розподілом (сукупність для вибірки завантажувальної програми). Тепер ми робимо висновок, що відношення від зразків завантаження до емпіричного розподілу таке ж, як і від вибірки до невідомої сукупності. Звичайно, наскільки вдало це співвідношення буде залежати від того, наскільки репрезентативною є вибірка для населення.

Пам'ятайте, що ми не використовуємо засоби зразків завантажувальної програми для оцінки середньої сукупності, ми використовуємо для цього середнє значення вибірки (або будь-яку статистику, що становить інтерес). Але ми використовуємо зразки завантажувальної програми для оцінки властивостей (поширення, зміщення) процесу вибірки. А використання вибірки з населення, що знає (на що ми сподіваємось, є репрезентативною для населення, що цікавить) для вивчення ефектів вибірки має сенс і набагато менш круговий.

Основна хитрість (і жала) завантажувального завантаження полягає в тому, що це асимптотична теорія: якщо у вас є нескінченний зразок для початку, емпіричний розподіл буде настільки близьким до фактичного розподілу, що різниця незначна.

На жаль, завантажувальна програма часто застосовується в невеликих розмірах зразків. Поширене враження, що завантажувальна машина показала свою роботу в дуже неасимптотичних ситуаціях, але будьте обережні. Якщо розмір вибірки занадто малий, ви насправді працюєте умовно над тим, щоб зразок був «хорошим представленням» справжнього розподілу, що дуже легко призводить до міркувань у колах :-)

Я б заперечував не з точки зору "асимптотично, емпіричний розподіл буде близький до фактичного розподілу" (що, звичайно, дуже вірно), а з "довгострокової перспективи". Іншими словами, у будь-якому конкретному випадку емпіричне розподіл, отримане завантажувальним завантаженням, буде вимкнено (іноді зміщується занадто далеко таким чином, іноді пересувається занадто далеко таким чином, іноді занадто перекошеним таким чином, іноді занадто перекошеним таким чином), але в середньому це буде хорошим наближенням до фактичного розподілу. Аналогічно, ваші оцінки невизначеності, отримані від розподілу завантажувальної програми, будуть вимкнені в будь-якому конкретному випадку, але знову ж таки, в середньому, вони будуть (приблизно) правильними.