Як обчислити довірчі інтервали для коефіцієнтів?

Розглянемо експеримент, який виводить співвідношення між 0 і 1. Отримання цього співвідношення не повинно бути доречним у цьому контексті. Це було розроблено в попередній версії цього питання , але для ясності було видалено після обговорення мета .$X_i$

Цей експеримент повторюється разів, тоді як n малий (приблизно 3-10). X_i передбачаються незалежними і однаково розподіленими. З них ми оцінюємо середнє значення, обчислюючи середнє \ перекреслення X , але як обчислити відповідний довірчий інтервал [U, V] ?n X i ¯ X [ U , V $n$$n$$X_i$$\overline X$$[U,V]$

Використовуючи стандартний підхід для обчислення довірчих інтервалів, $V$ іноді перевищує 1. Однак моя інтуїція полягає в тому, що правильний довірчий інтервал ...

1. ... має бути в межах 0 і 1
2. ... має зменшуватися зі збільшенням $n$
3. ... приблизно в порядку, розрахованому за стандартним підходом
4. ... обчислюється математично обгрунтованим методом

Це не абсолютні вимоги, але я хоч хотів би зрозуміти, чому моя інтуїція неправильна.

Розрахунки на основі наявних відповідей

Далі інтервали довіри, отримані в результаті існуючих відповідей, порівнюються для \ {X_i \} = \ {0.985,0.986,0.935,0.890,0.999 \}$\{X_i\} = \{0.985,0.986,0.935,0.890,0.999\}$ .

Стандартний підхід (він же "Шкільна математика")

$\overline X = 0.959$ , $\sigma^2 = 0.0204$ , таким чином, довірчий інтервал 99% дорівнює $[0.865,1.053]$ . Це суперечить інтуїції 1.

Обрізка (запропонована @soakley в коментарях)

Просто використовувати стандартний підхід, а потім надати $[0.865,1.000]$ як результат, це легко зробити. Але чи дозволено нам це робити? Я ще не впевнений, що нижня межа просто залишається постійною (-> 4.)

Модель логістичної регресії (запропонована @Rose Hartman)

Перетворені дані: Результат , перетворення його назад призводить до . Очевидно, що 6,90 є надмірним для трансформованих даних, тоді як 0,99 не для непереформованих даних, в результаті чого довірчий інтервал дуже великий. (-> 3.)[ 0.173 , 7.87 ] [ 0.543 , 0.999 $\{4.18,4.25,2.09,2.66,6.90\}$$[0.173,7.87]$$[0.543,0.999]$

Довірчий інтервал двочленної пропорції (запропоновано @Tim)

Підхід виглядає досить непогано, але, на жаль, він не підходить для експерименту. Просто поєднання результатів та інтерпретація їх як одного великого повторного експерименту Бернуллі, як запропонував @ZahavaKor, призводить до наступного:

5 ∗ 1000 [ 0.9511 , 0.9657 ] X $985+986+890+935+999 = 4795$ із загалом. Подача цього в Adj. Калькулятор Wald дає . Це не здається реалістичним, тому що жоден знаходиться всередині цього інтервалу! (-> 3.)$5*1000$$[0.9511,0.9657]$$X_i$

Завантаження (запропоновано @soakley)

При маємо 3125 можливих перестановок. Беручи середніх засобів перестановок, отримуємо . Видать не що погано, хоча я б очікувати більший інтервал (-> 3). Однак він на конструкцію ніколи не перевищує . Таким чином, для малого зразка він швидше зростатиме, ніж скорочуватиметься для збільшення (-> 2.). Це принаймні те, що відбувається із наведеними вище зразками.$n=5$[0,91,0,99][min(Xi),max(Xi)]$\frac{3093}{3125} = 0.99$$[0.91,0.99]$$[min(X_i),max(X_i)]$$n$

По-перше, для уточнення, що ви маєте справу з не зовсім біноміальним розподілом, як підказує ваше запитання (ви називаєте це експериментом Бернуллі). Біноміальні розподіли дискретні --- результат - або успіх, або невдача. Ваш результат - це співвідношення кожного разу, коли ви запускаєте експеримент , а не набір успіхів і невдач, на яких ви потім обчислюєте одне підсумкове співвідношення. Через це методи обчислення довірчого інтервалу біноміальної пропорції викинуть багато вашої інформації. І все-таки ви правильні, що ставитися до цього проблематично, як до нормального розподілу, тому що проблематично, оскільки ви можете отримати CI, що перевищує можливий діапазон вашої змінної.

Я рекомендую подумати про це з точки зору логістичної регресії. Запустіть логістичну регресійну модель зі змінною співвідношення як результат та без прогнозів. Перехоплення та його CI дасть вам те, що вам потрібно в logits, а потім ви зможете перетворити його на пропорції. Ви також можете просто зробити логістичне перетворення самостійно, обчислити CI, а потім перетворити назад у початкову шкалу. Мій пітон жахливий, але ось як ви могли це зробити в R:

set.seed(24601)
data <- rbeta(100, 10, 3)
hist(data)

data_logits <- log(data/(1-data)) 
hist(data_logits)

# calculate CI for the transformed data
mean_logits <- mean(data_logits)
sd <- sd(data_logits)
n <- length(data_logits)
crit_t99 <- qt(.995, df = n-1) # for a CI99
ci_lo_logits <- mean_logits - crit_t * sd/sqrt(n)
ci_hi_logits <- mean_logits + crit_t * sd/sqrt(n)

# convert back to ratio
mean <- exp(mean_logits)/(1 + exp(mean_logits))
ci_lo <- exp(ci_lo_logits)/(1 + exp(ci_lo_logits))
ci_hi <- exp(ci_hi_logits)/(1 + exp(ci_hi_logits))

Ось нижня та верхня межі 99% ІС для цих даних:

> ci_lo
[1] 0.7738327
> ci_hi
[1] 0.8207924

Ви можете спробувати перекомпонувати / завантажувати. Давайте розглянемо простий випадок, який ви згадали.

Маючи 3 точки даних 0,99, 0,94 та 0,94, ви навіть не будете робити перекомпонування, оскільки ви можете просто перерахувати всі 27 можливих перестановок, знайти середнє значення у кожному випадку та сортувати засоби.

Якщо ви створили список і взяли до середини 25 спостережень, у вас є довірчий інтервал 25/27 92,6% [0,9400, 0,9733]. Якщо ви хочете збільшити довіру до 26/27 96,3%, у вас є два однобічних варіанти інтервалів. Або [0,9400, 0,9733], або [0,94, 0,99].26 / 27 $25/27=$$26/27=$

Я припускаю, що ваш буде набагато більшим, ніж 3, тому ви будете впорядковувати заміну. Скажіть, ви робите це 1000 разів. Потім знайдіть середнє значення у кожному випадку. З набору 1000 засобів візьміть середні значення 950. Найнижчі та найвищі значення цього підмножини утворюють довірчий інтервал 95%.$n$

Питання тут: як ми можемо створити довірчий інтервал для параметра тесту перестановки? дає більш детальну інформацію, включаючи деякий код R.

Інтервали довірчих довірчих інтервалів вже давно були предметом дебатів статистиків. Ваша проблема вважає співвідношення менше 100%, але воно стає ще більш проблематичним, якщо ми використовуємо 100%. Один проникливий спосіб задати питання:

Зважаючи на те, що сонце сходило кожного дня за останні 2000 років, яка ймовірність того, що воно завтра зійде?

З таким високим рівнем успіху ми вважаємо, що шанси досить високі, але ми не можемо бути на 100% впевнені (Всесвіт може вибухнути першим чи щось). Тож, навіть якщо ви мали 100% -ну частку, ми не можемо дозволити інтервал довіри руйнуватися при .$p=1$

Існує ряд методів обчислення цих хвостів. Я рекомендую перевірити Вікіпедію на математику, або якщо ви просто хочете відповіді, знайдіть калькулятор біноміального інтервалу, як цей (який, можливо, має ще якесь пояснення математики).

Байєсівський підхід:

Знайдіть унікальний бета-розподіл , індукований експериментами (і попереднім, скажімо, попереднім Джефрісом), а потім виберіть найменший інтервал, за який щільність інтегрується до бажаної вами «впевненості». Можливо, що існує декілька рішень, і залежно від вашого попереднього значення середнє співвідношення може бути у вашому інтервалі.$B$$B$