Розрахунок необхідного розміру вибірки, точність оцінки дисперсії?

18

Фон

У мене є змінна з невідомим розподілом.

У мене є 500 зразків, але я хотів би продемонструвати точність, з якою я можу обчислити дисперсію, наприклад, стверджувати, що розмір вибірки 500 достатній. Мені також цікаво знати мінімальний розмір вибірки, який би знадобився для оцінки дисперсії з точністю . $X\%$

Запитання

Як я можу розрахувати

точність моєї оцінки дисперсії, заданої розміром вибірки ? з ? $n=500$ $n=N$
Як можна обчислити мінімальну кількість зразків, необхідну для оцінки дисперсії з точністю ? $X$

Приклад

Рисунок 1 Оцінка щільності параметра на основі 500 зразків.

введіть тут опис зображення

Рисунок 2 Ось графік розміру вибірки на осі x порівняно з оцінками дисперсії на осі y, який я обчислював, використовуючи підпроби з вибірки 500. .

Однак оцінки не є дійсними незалежними, оскільки вибірки, які використовуються для оцінки дисперсії для , не залежать один від одного або від зразків, що використовуються для обчислення дисперсії при $n \in [10,125,250,500]$ $n\in [20,40,80]$

введіть тут опис зображення

— Абе
джерело

Просто майте на увазі, що якщо складовою вашого невідомого розподілу є розподіл Коші, дисперсія не визначена.

— Майк Андерсон

@Mike Або дійсно нескінченна кількість інших дистрибутивів.

— Glen_b -Встановіть Моніку

11

Для iid випадкових величин , неупереджений оцінювач для дисперсії (той, що має знаменник ) має дисперсію: $X_1, \dotsc, X_n$ $s^2$ $n-1$

V a r (s^{2}) = σ^{4} (\frac{2}{n - 1} + \frac{κ}{n})

$\mathrm{Var}(s^2) = \sigma^4 \left(\frac{2}{n-1} + \frac{\kappa}{n}\right)$

де - надлишок куртозу розподілу (довідка: Вікіпедія ). Тож тепер вам також потрібно оцінити куртоз вашого розповсюдження. Ви можете використовувати кількість, яку іноді описують як (також з Вікіпедії ): $\kappa$ $\gamma_2$

γ_{2} = \frac{μ_{4}}{σ_{4}} - 3

$\gamma_2 = \frac{\mu_4}{\sigma_4} - 3$

Я б припустив, що якщо ви використовуєте як оцінку для і як оцінку для , ви отримаєте розумну оцінку для , хоча я не бачу гарантії, що вона є неупередженою. Подивіться, чи відповідає вона різницею між підмножинами ваших 500 точок даних, і якщо це вже не хвилюється про це :) $s$ $\sigma$ $\gamma_2$ $\kappa$ $\mathrm{Var}(s^2)$

— Ерік П.
джерело

чи є у вас посилання на підручник для неупередженого оцінювача дисперсії? Я не знаю, куди подітись з Вікіпедії для більшого контексту.

— Абе

Тут у мене немає мого стандартного тексту « Райс» , тому я не можу перевірити номер сторінки для вас, але я впевнений, що він там є. Вікіпедія передбачає, що його слід згадати також у: Монтгомері, штат Колумбія та Рунджер, GC: Прикладна статистика та ймовірність для інженерів , стор. 201. John Wiley & Sons Нью-Йорк, 1994.

— Ерік П.

дякую за допомогу в цьому. Ця відповідь була дуже корисною, і вона була інформативною для кількісної оцінки невизначеності дисперсії - я застосував рівняння приблизно 10 разів за останній день. Обчислити

легко з бібліотекою:

k a p p a

$kappa$ momentslibrary(moments); k <- kurtosis(x); n <- length(x); var(x)^2*(2/(n-1) + k/n)

— Abe

чи є шанс виявити номер сторінки з тексту рису? Я не можу знайти його в Каселлі та Бергері. Першочергове посилання було б навіть краще, якщо ви це знаєте. Сторінка вікіпедії помітно не посилається.

— Абе

Гммм ... схоже, Райс теж не має формули. Я буду стежити за цим, але на даний момент у мене взагалі немає довідки.

— Ерік П.

16

Вивчити дисперсію важко.

Для оцінки дисперсії в багатьох випадках потрібно (можливо, дивно) велика кількість зразків. Нижче я покажу розробки для "канонічного" випадку звичайного зразка iid.

Нехай , є незалежними випадковими змінними. Шукаємо довірчого інтервалу для дисперсії таким чином, що ширина інтервалу дорівнює , тобто ширина становить бальної оцінки. Наприклад, якщо , то ширина CI дорівнює половині значення оцінки точки, наприклад, якщо $Y_i$ $i=1,\ldots,n$ $\mathcal{N}(\mu, \sigma^2)$ $100(1-\alpha)\%$ $\rho s^2$ $100\rho \%$ $\rho = 1/2$ , тоді CI був би на кшталт $s^2 = 10$ , що має ширину 5. Зверніть увагу і на асиметрію навколо точкової оцінки. ( - неупереджений оцінювач для дисперсії.) $(8,\,13)$ $s^2$

Довірчий інтервал "(", швидше, "а") для дорівнює $s^2$ де

\frac{(n - 1) s^{2}}{χ_{(n - 1)}^{2 (1 - α / 2)}} \leq σ^{2} \leq \frac{(n - 1) s^{2}}{χ_{(n - 1)}^{2 (α / 2)}},

$\frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(1-\alpha/2)}} \leq \sigma^2 \leq \frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(\alpha/2)}} \>,$

-

квантил розподілу chi-квадрата з

градусом свободи. (Це випливає з того, що

- основна величина в гауссовій обстановці.)

χ_{(n - 1)}^{2 β}

$\chi_{(n-1)}^{2\;\beta}$

β

$\beta$

n - 1

$n-1$

(n - 1) s^{2} / σ^{2}

$(n-1)s^2/\sigma^2$

Ми хочемо мінімізувати ширину, щоб тому нам залишається вирішити для таке, що

L (n) = \frac{(n - 1) s^{2}}{χ_{(n - 1)}^{2 (α / 2)}} - \frac{(n - 1) s^{2}}{χ_{(n - 1)}^{2 (1 - α / 2)}} < ρ s^{2},

$L(n) = \frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(\alpha/2)}} - \frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(1-\alpha/2)}} < \rho s^2 \>,$

n

$n$

(n - 1) (\frac{1}{χ_{(n - 1)}^{2 (α / 2)}} - \frac{1}{χ_{(n - 1)}^{2 (1 - α / 2)}}) < ρ .

$(n-1) \left(\frac{1}{\chi_{(n-1)}^{2\;(\alpha/2)}} - \frac{1}{\chi_{(n-1)}^{2\;(1-\alpha/2)}} \right) < \rho .$

У випадку 99% довірчого інтервалу отримаємо при і при . Цей останній випадок дає інтервал, який ( все-таки! ) На 10% більший, ніж бальна оцінка дисперсії. $n = 65$ $\rho = 1$ $n = 5321$ $\rho = 0.1$

Якщо обраний рівень довіри менше 99%, то для нижчого значення буде отриманий той самий інтервал ширини . Але, може по- , як і раніше може бути більше , ніж ви б здогадалися. $n$ $n$

Діаграма розміру вибірки проти пропорційної ширини показує щось, що виглядає асимптотично лінійним за шкалою журналу журналу; Іншими словами, відносини, подібні до влади. Ми можемо оцінити силу цього правовідносини (грубо) як $n$ $\rho$

\hat{α} \approx \frac{\log 0.1 - \log 1}{\log 5321 - \log 65} = \frac{- \log 10}{\log \frac{5231}{65}} \approx - 0.525,

$\hat{\alpha} \approx \frac{\log 0.1 - \log 1}{\log 5321 - \log 65} = \frac{-\log 10}{\log \frac{5231}{65}} \approx -0.525 ,$

що, на жаль, рішуче повільно!

Це свого роду "канонічний" випадок, щоб дати вам уявлення про те, як рухатись до розрахунку. На основі ваших сюжетів ваші дані не виглядають особливо нормально; зокрема, є те, що здається помітним косою.

Але це повинно дати вам бальне уявлення про те, що чекати. Зауважте, що для того, щоб відповісти на ваше друге вище запитання, потрібно спочатку зафіксувати деякий рівень довіри, який я встановив на рівні 99% у вищезгаданій розробці для демонстраційних цілей.

— кардинальний
джерело

це дуже приємна відповідь на моє запитання. Однак, хоча я слідую за розрахунком, який ви робите для

, мені не зовсім зрозуміло, чи одиниці для

- відсоток у розчині

для

; це означає "

менше , ніж

" або "

менше , ніж

від

?

n | ρ

$n|\rho$

r h o

$rho$

n = 65

$n=65$

ρ < 1

$\rho<1$

ρ

$\rho$

1 \times s^{2}

$1\times s^2$

ρ

$\rho$

1 %

$1\%$

s^{2}

$s^2$

— Ейб

@Abe, оновлено та, сподіваємось, з’ясовано в процесі. У попередній версії був один особливо поганий друк. Вибач за це.

— кардинал

дуже приємна відповідь, але я вибрав відповідну від @Erik, оскільки вона більше стосується моєї проблеми (оскільки мій параметр зазвичай не розподіляється).

— Абе

@Abe: Не проблема. Саме для цього потрібна галочка. Моя відповідь була (мається на увазі) бути наочною, більше ніж усе. З того, що я можу сказати, що це все ще , здається, тільки один , що адреси і ваші питання, і буде (асимптотично) виправити навіть в сценарії , що Ерік обрисами. (+1 йому більше року тому.) :)

— кардинал

Ви правильні, і я радий, що зараз я переглянув вашу відповідь. Я в кінцевому підсумку використовував загальний обчислення від @Erik, але тепер я бачу значення в загальному рішенні. Крім того , представляючи CI , а не SD буде вирішити питання з моєї аудиторією плутаючись при вигляді статистики у вигляді

, не розуміючи , що дисперсія дисперсії є. Отже,

повинні зробити це більш зрозумілим і узгоджуватись з іншими статистичними підсумками. І корисно буде проявити асиметрію.

s (s_{s})

$s(s_{s})$

s [l c l, u c l]

$s[lcl,ucl]$

— Абе

1

Я б зосередив увагу на SD, а не на дисперсії, оскільки це на шкалі, яку легше інтерпретувати.

Люди іноді дивляться на довірчі інтервали для SD або відхилень, але, як правило, акцент робиться на засобах.

$s^2/\sigma^2$ $\sigma^2$ $\sigma$ $\sigma^2$

— Карл
джерело

(This reply came here after a duplicate question, framed somewhat differently, was merged.)

— whuber

1

The following solution was given by Greenwood and Sandomire in a 1950 JASA paper.

Let $X_1,\dots,X_n$ be a random sample from a $\mathrm{N}(\mu,\sigma^2)$ distribution. You will make inferences about $\sigma$ using as (biased) estimator the sample standard deviation

S = \sqrt{\sum_{i = 1}^{n} \frac{(X_{i} - \bar{X})^{2}}{n - 1}},

$S=\sqrt{\sum_{i=1}^n\frac{(X_i-\bar{X})^2}{n-1}},$ and you want to control the probability that the relative deviation between

S

$S$ and

σ

$\sigma$ is within a fraction

0 < u < 1

$0<u<1$ . That is,

Pr {S < (1 - u) \cdot σ} = a and Pr {S > (1 + u) \cdot σ} = b,

$\Pr\{S<(1-u)\cdot\sigma\}=a \quad\text{and}\quad \Pr\{S>(1+u)\cdot\sigma\}=b,$ in which the significance level

γ = 1 - a - b

$\gamma=1-a-b$ .

It follows that

Pr {\frac{(n - 1) S^{2}}{σ^{2}} < (n - 1) (1 - u)^{2}} = a

$\Pr\!\left\{ \frac{(n-1)S^2}{\sigma^2} < (n-1)(1-u)^2\right\} = a$ and

Pr {\frac{(n - 1) S^{2}}{σ^{2}} > (n - 1) (1 + u)^{2}} = b .

$\Pr\!\left\{ \frac{(n-1)S^2}{\sigma^2} > (n-1)(1+u)^2\right\} = b.$ Since the pivotal quantity

(n - 1) S^{2} / σ^{2}

$(n-1)S^2/\sigma^2$ has

χ_{n - 1}^{2}

$\chi^2_{n-1}$ distribution, adding the two probabilities, we find

γ = F_{χ_{(n - 1)}^{2}} ((n - 1) (1 + u)^{2}) - F_{χ_{(n - 1)}^{2}} ((n - 1) (1 - u)^{2}),

$\gamma = F_{\chi^2_{(n-1)}}((n-1)(1+u)^2) - F_{\chi^2_{(n-1)}}((n-1)(1-u)^2),$

and the necessary sample size is found solving the former equation in $n$ for given $\gamma$ and $u$ .

R code.

gamma <- 0.95
u <- 0.1
g <- function(n) pchisq((n-1)*(1+u)^2, df = n-1) - pchisq((n-1)*(1-u)^2, df = n-1) - gamma
cat("Sample size n = ", ceiling(uniroot(g, interval = c(2, 10^6))$root), "\n")

Output for $u=10\%$ and $\gamma=95\%$ .

Sample size n = 193

— Zen
джерело