Яке теоретичне обґрунтування рішень для Байєсових достовірних інтервальних процедур?

(Щоб зрозуміти, чому я це написав, перегляньте коментарі нижче моєї відповіді на це запитання .)

Помилки типу III та теорія статистичних рішень

Правильна відповідь на неправильну запитання іноді називається помилкою типу III. Теорія статистичних рішень - це формалізація прийняття рішень в умовах невизначеності; він забезпечує концептуальну основу, яка може допомогти уникнути помилок типу III. Ключовий елемент фреймворку називається функцією втрат . Потрібно два аргументи: перший - це (відповідна підмножина) справжнього стану світу (наприклад, в задачах оцінки параметрів, справжнє значення параметра ); другий - елемент у наборі можливих дій (наприклад, у задачах з оцінкою параметрів, оцінкаthetas$\theta$$\hat{\theta})$. Результат моделює втрати, пов'язані з усіма можливими діями стосовно кожного можливого справжнього стану світу. Наприклад, в задачах оцінки параметрів деякі добре відомі функції втрат:

• абсолютна втрата помилки$L(\theta, \hat{\theta}) = |\theta - \hat{\theta}|$
• втрата помилки в квадраті$L(\theta, \hat{\theta}) = (\theta - \hat{\theta})^2$
• Втрата LINEX Хал Варіана$L(\theta, \hat{\theta}; k) = \exp(k(\theta - \hat{\theta})) - k(\theta - \hat{\theta}) - 1,\text{ } k \ne0$

Вивчаючи відповідь, щоб знайти питання

Існує випадок, який можна спробувати зробити, щоб помилки типу III можна було уникнути, зосередившись на формуванні правильної функції втрат та проході через інший теоретичний підхід щодо прийняття рішень (тут не докладно). Це не моє стисло - адже статистики добре оснащені багатьма методиками та методами, які добре працюють, хоча вони не випливають із такого підходу. Але, як мені здається, кінцевий результат полягає в тому, що переважна більшість статистиків не знає і не переймається теорією статистичних рішень, і я думаю, що вони відсутні. Для цих статистиків я можу стверджувати, що причина, по якій вони можуть вважати теорію статистичних рішень цінною з точки зору уникнення помилок типу III, полягає в тому, що вона забезпечує основу для запиту будь-якої запропонованої процедури аналізу даних:з якою функцією втрати (якщо така є) виконує процедура оптимально? Тобто, в якій саме ситуації прийняття рішень вона дає найкращу відповідь?

Задні очікувані втрати

З байєсівської точки зору, функція втрат - це все, що нам потрібно. Ми можемо значною мірою пропустити решту теорії рішень - майже за визначенням, найкраще робити - це мінімізувати очікувані втрати заднього рівня, тобто знайти дію яка мінімізує .˜ L ( a ) = ∫ Θ L ( θ , a ) p ( θ | D ) d $a$$\tilde{L}(a) = \int_{\Theta}L(\theta, a)p(\theta|D)d\theta$

(А що стосується не-байесівських поглядів? Ну, це теорема теорії частотних рішень - конкретно, теореми повного класу Вальда - що оптимальною дією завжди буде мінімізація очікуваної втрати Байєса заднього рівня щодо деяких (можливо, неправильних) Складність з цим результатом полягає в тому, що саме теорема існування не дає ніяких вказівок щодо того, які до використання. Але вона плідно обмежує клас процедур, який ми можемо "перевернути", щоб точно з'ясувати, з якого питання йдеться Відповідь. Зокрема, першим кроком у переверненні будь-якої не-баєсової процедури є з'ясування, яку (якщо вона є) баєсову процедуру вона повторює або наближає.)

Ей, Сіане, ти знаєш, що це питання з питань запитання, правда?

Що підводить мене, нарешті, до статистичного питання. У статистиці Байєса при наданні оцінок інтервалу для одновимірних параметрів дві загальні достовірні інтервальні процедури - це достовірний інтервал на основі квантилі та найвищий достовірний інтервал задньої щільності. Які функції збитків стоять за цими процедурами?

При одновимірному оцінці інтервалу набір можливих дій - це набір упорядкованих пар із зазначенням кінцевих точок інтервалу. Нехай елемент цього набору представляється .$(a, b),\text{ } a \le b$

Найвищі інтервали задньої щільності

Нехай задня густина буде . Найвищі інтервали задньої щільності відповідають функції втрат, яка штрафує інтервал, який не містить справжнього значення, а також штрафує інтервали пропорційно їх довжині:$f(\theta)$

$L_{HPD}(\theta, (a, b); k) = I(\theta \notin [a, b]) + k(b – a), \text{} 0 < k \le max_{\theta} f(\theta)$ ,

де - функція індикатора . Це дає очікувані задні втрати$I(\cdot)$

$\tilde{L}_{HPD}((a, b); k) = 1 - \Pr(a \le \theta \le b|D) + k(b – a)$ .

Встановлення дає необхідну умову для локальний оптимум у внутрішній частині простору параметрів: - саме правило для інтервалів HPD, як очікувалося.f(a)=f(b)=$\frac{\partial}{\partial a}\tilde{L}_{HPD} = \frac{\partial}{\partial b}\tilde{L}_{HPD} = 0$$f(a) = f(b) = k$

Форма дає деяке розуміння того, чому інтервали HPD не інваріантні монотонному зростанню перетворення параметра. -простору ОПД інтервал перетворюється в простір відрізняється від -простору ОПД інтервал , так як два інтервали відповідає різним функціям втрат: при -простору ОПДА інтервал відповідає перетворена довжина штрафу .g(θ)θg(θ)g(θ)g(θ)k(g(b)-g(a)$\tilde{L}_{HPD}((a, b); k)$$g(\theta)$$\theta$$g(\theta)$$g(\theta)$$g(\theta)$$k(g(b) – g(a))$

Достовірні інтервали на основі квантилі

Розглянемо оцінку балів за допомогою функції втрат

$L_q(\theta, \hat{\theta};p) = p(\hat{\theta} - \theta)I(\theta < \hat{\theta}) + (1-p)(\theta - \hat{\theta})I(\theta \ge \hat{\theta}), \text{ } 0 \le p \le 1$ .

Задня очікувана втрата

$\tilde{L}_q(\hat{\theta};p)=p(\hat{\theta}-\text{E}(\theta|\theta < \hat{\theta}, D)) + (1 - p)(\text{E}(\theta | \theta \ge \hat{\theta}, D)-\hat{\theta})$ .

Встановлення дає непряме рівняння$\frac{d}{d\hat{\theta}}\tilde{L}_q=0$

$\Pr(\theta < \hat{\theta}|D) = p$ ,

тобто оптимальним є % квантил заднього розподілу, як очікувалося. (100р$\hat{\theta}$$(100p)$

Таким чином, для отримання кількісних інтервальних оцінок функцією втрат є

$L_{qCI}(\theta, (a,b); p_L, p_U) = L_q(\theta, a;p_L) + L_q(\theta, b;p_U)$ .

Інтервали мінімальних розмірів

Одним із очевидних виборів функції втрат для вибору інтервалу (як байєсівської, так і частотистської) є використання розміру інтервалів, виміряних з точки зору граничних розподілів. Таким чином, почніть з бажаної властивості або функції втрати та отримайте оптимальні інтервали. Це, як правило, не робиться, як це пояснюється цим питанням, хоча це можливо. Для достовірних множин Байєса це відповідає мінімізації попередньої вірогідності інтервалу або максимальному відносному переконанню, наприклад, як зазначено в Evans (2016). Розмір може також використовуватися для вибору наборів довіри часті (Schafer 2009). Два підходи пов'язані між собою і можуть бути реалізовані досить легко за допомогою правил прийняття рішень, які переважно включали рішення з великою точковою взаємною інформацією (Bartels 2017).

Bartels, C., 2017. Використання попередніх знань у періодичних тестах. фішаре. https://doi.org/10.6084/m9.figshare.4819597.v3

Еванс, М., 2016. Вимірювання статистичних доказів з використанням відносної віри. Журнал обчислювальної та структурної біотехнології, 14, с.91-96.

Schafer, CM та Stark, PB, 2009. Побудова довірчих областей оптимального очікуваного розміру. Журнал Американської статистичної асоціації, 104 (487), стор.1080-1089.