Значення, що збільшує стандартне відхилення

12

Мене спантеличує таке твердження:

"Щоб збільшити стандартне відхилення набору чисел, потрібно додати значення, яке більше ніж одне стандартне відхилення від середнього"

Що є доказом цього? Звичайно, я знаю, як ми визначаємо стандартне відхилення, але цю частину я, здається, якось пропускаю. Будь-які коментарі?

standard-deviation

— ДжонК
джерело

1

Ви намагалися розробити алгебру, що займається?

— Алекос Пападопулос

Так, я маю. Я відняв дисперсію вибірки n значень від дисперсії значень n + 1, і я вимагав, щоб різниця була більше нуля. Але я не можу повністю зрозуміти це.

— ДжонК

3

Один з найпростіших способів - диференціювати алгоритм Велфорда відносно нового значення а потім інтегрувати, щоб показати, що якщо введення збільшує дисперсію, то де - середнє значення перших значень, а - оцінка їх дисперсії.

x_{n}

$x_n$

x_{n}

$x_n$

(x_{n} - {\bar{x}}_{n - 1})^{2} \geq \frac{n}{n - 1} v_{n - 1}

$(x_n-\bar{x}_{n-1})^2 \ge \frac{n}{n-1}v_{n-1}$

{\bar{x}}_{n - 1}

$\bar{x}_{n-1}$

n - 1

$n-1$

v_{n - 1}

$v_{n-1}$

— whuber

Гаразд, але це може бути показано простою алгеброю? Мої знання статистики не такі передові.

— ДжонК

@JohnK, можете поділитися джерелом цитати?

— Pe Dro

20

Для будь-яких чисел із середнім , дисперсія задається Застосування для заданого набору чисел які ми для зручності в експозиції вважаємо мати середнє значення , маємо це $N$ $y_1,y_2, \ldots, y_N$ $\displaystyle \bar{y} = \frac{1}{N}\sum_{i=1}^N y_i$

\begin{aligned} σ^{2} & = \frac{1}{N - 1} \sum_{i = 1}^{N} (y_{i} - \bar{y})^{2} \\ = \frac{1}{N - 1} \sum_{i = 1}^{N} (y_{i}^{2} - 2 y_{i} \bar{y} + {\bar{y}}^{2}) \\ = \frac{1}{N - 1} [(\sum_{i = 1}^{N} y_{i}^{2}) - 2 N (\bar{y})^{2} + N (\bar{y})^{2}] \\ (1) & σ^{2} & = \frac{1}{N - 1} \sum_{i = 1}^{N} (y_{i}^{2} - (\bar{y})^{2}) \end{aligned}

$\begin{align} \sigma^2 &= \frac{1}{N-1}\sum_{i=1}^N (y_i-\bar{y})^2\\ &= \frac{1}{N-1}\sum_{i=1}^N \left(y_i^2 - 2y_i\bar{y} + \bar{y}^2\right)\\ &= \frac{1}{N-1}\left[\left(\sum_{i=1}^Ny_i^2\right) - 2N(\bar{y})^2 + N(\bar{y})^2 \right] \\ \sigma^2 &=\frac{1}{N-1}\sum_{i=1}^N \left(y_i^2 - (\bar{y})^2\right) \tag{1} \end{align}$

(1)

$(1)$

n

$n$

x_{1}, x_{2}, \dots x_{n}

$x_1, x_2, \ldots x_n$

\bar{x} = 0

$\bar{x} = 0$

σ^{2} = \frac{1}{n - 1} \sum_{i = 1}^{n} (x_{i}^{2} - (\bar{x})^{2}) = \frac{1}{n - 1} \sum_{i = 1}^{n} x_{i}^{2}

$\sigma^2 = \frac{1}{n-1}\sum_{i=1}^n \left(x_i^2-(\bar{x})^2\right) = \frac{1}{n-1}\sum_{i=1}^n x_i^2$ Якщо тепер до цього набору даних додамо нове спостереження , то нове середнє значення набору даних поки нова дисперсія Отжемає бути більше, ніж

x_{n + 1}

$x_{n+1}$

\frac{1}{n + 1} \sum_{i = 1}^{n + 1} x_{i} = \frac{n \bar{x} + x_{n + 1}}{n + 1} = \frac{x_{n + 1}}{n + 1}

$\frac{1}{n+1}\sum_{i=1}^{n+1}x_i = \frac{n\bar{x} + x_{n+1}}{n+1} = \frac{x_{n+1}}{n+1}$

\begin{aligned} {\hat{σ}}^{2} & = \frac{1}{n} \sum_{i = 1}^{n + 1} (x_{i}^{2} - \frac{x_{n + 1}^{2}}{(n + 1)^{2}}) \\ = \frac{1}{n} [((n - 1) σ^{2} + x_{n + 1}^{2}) - \frac{x_{n + 1}^{2}}{n + 1}] \\ = \frac{1}{n} [(n - 1) σ^{2} + \frac{n}{n + 1} x_{n + 1}^{2}] \\ > σ^{2} only if x_{n + 1}^{2} > \frac{n + 1}{n} σ^{2} . \end{aligned}

$\begin{align} \hat{\sigma}^2 &= \frac{1}{n}\sum_{i=1}^{n+1} \left(x_i^2-\frac{x_{n+1}^2}{(n+1)^2}\right)\\ &= \frac{1}{n}\left[\left((n-1)\sigma^2 + x_{n+1}^2\right) - \frac{x_{n+1}^2}{n+1}\right]\\ &= \left.\left.\frac{1}{n}\right[(n-1)\sigma^2 + \frac{n}{n+1}x_{n+1}^2\right]\\ &> \sigma^2 ~ \text{only if}~ x_{n+1}^2 > \frac{n+1}{n}\sigma^2. \end{align}$

| x_{n + 1} |

$|x_{n+1}|$

σ \sqrt{1 + \frac{1}{n}}

$\displaystyle\sigma\sqrt{1+\frac{1}{n}}$ або, загалом, має відрізнятися від середнього початкового набору даних більш ніж , щоб розширений набір даних мав більшу дисперсію, ніж оригінальний набір даних. Дивіться також відповідь Рея Коопмана, в якій вказується, що нова дисперсія більша, рівна або менша, ніж початкова дисперсія відповідно до відрізняється від середньої на більш, ніж рівно або менше .

x_{n + 1}

$x_{n+1}$

\bar{x}

$\bar{x}$

σ \sqrt{1 + \frac{1}{n}}

$\displaystyle\sigma\sqrt{1+\frac{1}{n}}$

x_{n + 1}

$x_{n+1}$

σ \sqrt{1 + \frac{1}{n}}

$\displaystyle\sigma\sqrt{1+\frac{1}{n}}$

— Діліп Сарват
джерело

5

+1 Нарешті, хтось це зрозуміє правильно; ;-) Затвердження, яке потрібно довести, є правильним; це просто не тісно. Між іншим, ви також можете вибрати одиниці вимірювання для складання , що додатково спрощує обчислення, зменшивши його приблизно до двох рядків.

σ^{2} = 1

$\sigma^2=1$

— whuber

Я пропоную вам використовувати S замість сигми в першому наборі рівнянь і дякую за виведення. Це було добре знати :)

— Теоден

3

Неймовірний вислів дає необхідну, але недостатню умову для збільшення стандартного відхилення. Якщо старий розмір вибірки , стара середнє значення , старе стандартне відхилення , і нова точка додаються до даних, то нове стандартне відхилення буде менше, дорівнює або більше , ніж по якменше, рівне або більше . $n$ $m$ $s$ $x$ $s$ $|x-m|$ $s\sqrt{1+1/n}$

— Рей Купман
джерело

1

У вас є доказ під рукою?

— JohnK

2

Залишаючи осторонь алгебру (яка також працює), подумайте про це так: Стандартне відхилення - квадратний корінь дисперсії. Дисперсія - це середнє значення квадратних відстаней від середнього. Якщо ми додамо значення, яке ближче до середнього, ніж це, дисперсія зменшиться. Якщо ми додамо значення, яке знаходиться далі від середнього, ніж це, воно зростатиме.

Це стосується будь-яких середніх значень, які не мають негативу. Якщо додати значення, яке вище середнього, середнє збільшується. Якщо додати значення, яке менше, воно зменшується.

— Пітер Флом - Відновити Моніку
джерело

Я також хотів би бачити суворий доказ. Хоча я розумію принцип, я здивований тим фактом, що значення повинно бути не менше 1 відхилення від середнього. Чому саме 1?

— ДжонК

Я не бачу, що бентежить. Дисперсія - середня. Якщо додати щось більше, ніж середнє (тобто більше 1 сд), воно збільшується. Але я не один для офіційних доказів

— Пітер Флом - Відновлення Моніки

Він може бути більше середнього на 0,2 стандартних відхилень. Чому б тоді він не збільшився?

— ДжонК

Ні, не більша за середнє значення даних, більша за дисперсію, яка є середньою величиною відстані у квадраті.

— Пітер Флом - Відновити Моніку

4

Це заплутано, оскільки включення нового значення змінює середнє значення, тому змінюються всі залишки. Можна припустити, що навіть коли нове значення далеке від старого середнього, його внесок у СД можна було б компенсувати зменшенням суми квадратів залишків інших значень. Це одна з багатьох причин, за якими суворі докази корисні: вони забезпечують не тільки безпеку в знаннях, але й розуміння (і навіть нову інформацію). Наприклад, доказ покаже, що вам потрібно додати нове значення, яке суворо перевищує один SD від середнього, щоб збільшити SD.

— whuber

2

Я розпочну вас з алгебри, але не сприйматиму це зовсім так. Спочатку стандартизуйте свої дані, віднісши середнє значення та діливши на стандартне відхилення:Зауважте, що якщо знаходиться в межах одного стандартного відхилення середнього значення, становить від -1 до 1. Z буде рівним 1, якщо було б рівно на один sd від середнього. Потім подивіться на ваше рівняння для стандартного відхилення: Що відбувається з якщо знаходиться між -1 і 1?

Z = \frac{x - μ}{σ} .

$Z = \frac{x-\mu}{\sigma} .$

x

$x$

Z

$Z$

x

$x$

σ = \sqrt{\frac{\sum_{i = 1}^{N} Z_{i}^{2}}{N - 1}}

$\sigma = \sqrt{\frac{\sum_{i=1}^{N}Z_i^2}{N-1}}$

σ

$\sigma$

Z_{N}

$Z_N$

— wcampbell
джерело

Число, абсолютне значення якого менше 1, при квадраті воно також буде менше 1 в абс. значення. Але я не розумію, що навіть якщо Z_N потрапляє до цієї категорії, ми додаємо додатне значення до σ, так чи не повинно воно збільшуватися?

— ДжонК

Так, ви додаєте додатне значення, але воно буде меншим, ніж ваше середнє відхилення від середнього значення, і тому зменшить сигми. Можливо, було б більше сенсу розглядати значення як .

Z_{N + 1}

$Z_{N+1}$

— wcampbell

1

1) Не забувайте, додаючи це значення, ви також збільшуєте на 1. 2) Ви не додаєте цього значення до , ви додаєте його до .

N

$N$

σ

$\sigma$

\sum Z_{i}^{2}

$\sum Z_i^2$

— jbowman

Саме те, що я намагався висловити!

— wcampbell

Це не так просто: у цій відповіді ви обчислили SD так, ніби нове значення вже було частиною набору даних. Натомість повинні бути стандартизовані щодо SD та середнього значення лише для перших значень , а не для всіх.

Z_{i}

$Z_i$

N - 1

$N-1$

— whuber