Як я можу знайти стандартне відхилення стандартного відхилення вибірки від нормального розподілу?

Пробачте, якщо я пропустив щось досить очевидне.

Я фізик, який по суті є (гістограмою) розподілом, орієнтованим на середнє значення, яке наближається до нормального розподілу. Важливе значення для мене - це стандартне відхилення цієї Гауссової випадкової величини. Як би я намагався знайти помилку на стандартному відхиленні вибірки? У мене є відчуття, що це пов’язано з помилкою кожного контейнера в оригінальній гістограмі.

— Засмага
джерело

Підказка надається на сайті stats.stackexchange.com/questions/26924 . Загалом, помилка вибірки дисперсії може бути обчислена за першими чотирма моментами розподілу, і тому помилка вибірки SD може бути принаймні оцінена з цих моментів.

— whuber

Відповіді:

Здається, що ви просите обчислити стандартне відхилення вибіркового стандартного відхилення. Тобто ви запитуєте , де ${\rm SD}(s) = \sqrt{ {\rm var}(s) }$

s = \sqrt{\frac{1}{n - 1} \sum_{i = 1}^{n} (X_{i} - \bar{X})},

$s = \sqrt{ \frac{1}{n-1} \sum_{i=1}^{n} (X_i - \overline{X}) },$

$X_1, ..., X_n \sim N(\mu, \sigma^2)$ і - середнє значення вибірки. $\overline{X}$

По-перше, з основних властивостей дисперсії ми знаємо, що

v a r (s) = E (s^{2}) - E (s)^{2}

${\rm var}(s) = E(s^2) - E(s)^2$

Оскільки дисперсія вибірки є неупередженою, ми знаємо . В Чому стандартне відхилення вибірки є упередженим оцінювачем ? , обчислюється, з чого ми можемо зробити висновок $E(s^2) = \sigma^2$ $\sigma$ $E(s)$

E (s)^{2} = \frac{2 σ^{2}}{n - 1} \cdot {(\frac{Γ (n / 2)}{Γ (\frac{n - 1}{2})})}^{2}

$E(s)^2 = \frac{2 \sigma^2 }{n-1} \cdot \left( \frac{ \Gamma(n/2) }{ \Gamma( \frac{n-1}{2} ) } \right)^2$

тому

S D (s) = \sqrt{E (s^{2}) - E (s)^{2}} = σ \sqrt{1 - \frac{2}{n - 1} \cdot {(\frac{Γ (n / 2)}{Γ (\frac{n - 1}{2})})}^{2}}

${\rm SD}(s) = \sqrt{ E(s^2) - E(s)^2 } = \sigma \sqrt{ 1 - \frac{2}{n-1} \cdot \left( \frac{ \Gamma(n/2) }{ \Gamma( \frac{n-1}{2} ) } \right)^2 }$

— Макрос
джерело

Гарна думка. Я отримав оцінку дисперсії s ^ 2. Прийняття квадратного кореня дає оцінку стандартного відхилення s ^ 2. Але ви відповіли на фактичне запитання, яке повинно було отримати стандартне відхилення s. Я б припустив, що з практичних причин ви також замінили σ на s, щоб отримати оцінку за допомогою формули.

— Майкл Р. Черник

Так, саме так, ви можете замінити

на

і це наближення спрацьовує навіть для скромних розмірів вибірки - я зробив кілька тестувань з

σ

$\sigma$

s

$s$

n = 20

$n=20$

— Макрос

Величина має розподіл у квадраті з градусами свободи, коли зразки є незалежними та розподілені з однаковим нормальним розподілом. Ця кількість може бути використана для отримання довірчих інтервалів для дисперсія норми та її стандартне відхилення. Якщо у вас є вихідні значення, а не лише центральне значення бункерів, ви можете обчислити . $X=(n-1) s^2/\sigma^2$ $n-1$ $s^2$

Відомо, що якщо має розподіл c-квадрата з ступенем свободи, його дисперсія дорівнює . Знаючи це і той факт, що отримуємо, що має дисперсію, рівну Хоча невідомо, ви можете наблизити його до $X$ $n-1$ $2(n-1)$ $\mathrm{Var}(cX) = c^2 \mathrm{Var}(X)$ $s^2$

\frac{2 (n - 1) σ^{4}}{(n - 1)^{2}} = \frac{2 σ^{4}}{n - 1} .

$\frac{2(n-1)\sigma^4}{(n-1)^2} =\frac{2\sigma^4}{n-1} \>.$

σ^{4}

$\sigma^4$

s^{4}

$s^4$ і у вас є приблизне уявлення про те, що таке дисперсія .

s^{2}

$s^2$

— Майкл Р. Черник
джерело

Я збирався розмістити це на початку, але проблема, яку я тут бачу, полягає в тому, що

невідома. З огляду на цей факт, я не знаю, чи справедливо приблизний

якщо ми навіть не знаємо розміру вибірки. Я пригадую, що можна показати, що в четвертий момент можуть виникнути серйозні проблеми з сторонніми людьми.

σ^{2}

$\sigma^2$

s^{4} \approx σ^{4}

$s^4\approx \sigma^4$

— Нестор

- послідовний оцінювач

(за умови, що

існує), правильно @Nesp? Я думаю, що це, як правило, мається на увазі, коли люди сказали "приблизну" чи "грубу думку".

s^{4}

$s^4$

σ^{4}

$\sigma^4$

σ^{4}

$\sigma^4$

— Макрос

Можливо, це недолік сну, але чи не так це кругові міркування?

— Нестор

Ми з самого початку припускали, що дані надходять із звичайного розповсюдження, тому немає жодних проблем. Я мав на увазі грубо в тому, як пропонує Макрос. Я погоджуюся, що розмір вибірки впливає на те, наскільки s ^ 4 близький до σ ^ 4. Але турбота про людей, що вижили, - це офсайд Nesp. Якщо ви за це послухали мене, я вважаю це дуже несправедливим. Я представив стандартний спосіб оцінки стандартного відхилення для s ^ 2, коли дані НОРМАЛЬНО розподілені.

— Майкл Р. Черник

@Nesp, Майкл дав послідовну оцінку дисперсії стандартного відхилення вибірки від нормально розподіленого зразка - для великих зразків це буде добре - імітувати його та з'ясувати. Я не впевнений, чому ви вважаєте, що це кругові міркування.

— Макрос

Існує кілька способів кількісної оцінки похибки стандартного відхилення у звичайному випадку. Я збираюся представити профільну ймовірність яку можна використовувати для наближення довірчих інтервалів. $\sigma$

$x=(x_1,...,x_n)$ $(\mu,\sigma)$

L (μ, σ) \propto \frac{1}{σ^{n}} \exp (- \frac{1}{2 σ^{2}} \sum_{j = 1}^{n} (x_{j} - μ)^{2})

${\mathcal L}(\mu,\sigma) \propto \dfrac{1}{\sigma^n}\exp\left(-\dfrac{1}{2\sigma^2}\sum_{j=1}^n(x_j-\mu)^2\right)$

$(\hat\mu,\hat\sigma)=(\bar x,s)$ $s=\sqrt{\dfrac{1}{n}\sum_{j=1}^n(x_j-\bar x)^2}$ $\sigma$

R_{p} (σ) = \frac{sup_{μ} L (μ, σ)}{L (\hat{μ}, \hat{σ})} = {(\frac{\hat{σ}}{σ})}^{n} \exp [\frac{n}{2} (1 - {(\frac{\hat{σ}}{σ})}^{2})]

$R_p(\sigma)=\dfrac{\sup_{\mu}{\mathcal L}(\mu,\sigma)}{{\mathcal L}(\hat\mu,\hat\sigma)} = \left(\dfrac{\hat\sigma}{\sigma}\right)^n\exp\left[\dfrac{n}{2}\left(1-\left(\dfrac{\hat\sigma}{\sigma}\right)^2\right)\right]$

Зауважте, що . Інтервал рівня має приблизну впевненість . Далі я додаю код який можна використовувати для обчислення цих інтервалів. Ви можете змінити його відповідно у вашому контексті (або якщо ви розміщуєте дані, я можу включати ці зміни). $R_p:{\mathbb R}_+\rightarrow (0,1]$ $0.147$ $0.95$ $R$

data = rnorm(30)
n = length(data)
sg = sqrt(mean((data-mean(data))^2))
# Profile likelihood
rp = function(sigma) return( (sg/sigma)^n*exp(0.5*n*(1-(sg/sigma)^2))  )
vec = rvec = seq(0.5,1.5,0.01)
for(i in 1:length(rvec)) rvec[i] = rp(vec[i])
plot(vec,rvec,type="l")
rpc = function(sigma) return(rp(sigma)-0.147)
# Approximate 95% confidence interval
c(uniroot(rpc,c(0.7,0.8))$root,uniroot(rpc,c(1.1,1.3))$root)

Перевагою цього інтервалу є те, що вони є інваріантними під час перетворень. У цьому випадку, якщо обчислити інтервал для , , то відповідний інтервал для просто . $\sigma$ $I=(L,U)$ $\sigma^2$ $I^{\prime}=(L^2,U^2)$

Я думаю, що він справді просто хотів стандартного відхилення s.

— Майкл Р. Черник