Як обчислити об'єднану дисперсію двох або більше груп із заданими відомими груповими дисперсіями, засобами та розмірами вибірки?

Скажімо, є елементів, розділених на дві групи ( $m+n$ $m$ і $n$ ). Дисперсія першої групи $\sigma_m^2$ а дисперсія другої групи - $\sigma^2_n$ . Вважається, що самі елементи невідомі, але я знаю засоби $\mu_m$ і $\mu_n$ .

Чи є спосіб обчислити комбіновану дисперсію $\sigma^2_{(m+n)}$ ?

Дисперсія не повинна бути об'єктивною, тому знаменник $(m+n)$ а не $(m+n-1)$ .

variance pooling

— user1809989
джерело

Коли ви говорите, що знаєте засоби та відхилення цих груп, це їх параметри чи вибіркові значення? Якщо вони є зразковими засобами / дисперсіями, ви не повинні використовувати

μ

$\mu$ і

σ

$\sigma$ ...

— Джонатан Крістенсен

Я просто використовував символи як уявлення. Інакше було б важко пояснити мою проблему.

— user1809989

Для вибіркових значень ми зазвичай використовуємо латинські літери (наприклад,

). Грецькі літери зазвичай зарезервовані для параметрів. Використання "правильних" (очікуваних) символів допоможе вам чіткіше спілкуватися.

m

$m$

s

$s$

— Джонатан Крістенсен

Не хвилюйтесь, я буду дотримуватися цього відтепер! Ура

— користувач1809989

@ Джонатхан Оскільки це не питання про вибірки чи оцінку, можна законно вважати, що

- це справжня середня величина та дисперсія емпіричного розподілу партії даних, тим самим виправдовуючи звичайне використання грецьких букв, а не латинські літери для посилання на них.

μ

$\mu$

σ^{2}

$\sigma^2$

— whuber

Відповіді:

Використовуйте визначення середнього значення

μ_{1 : n} = \frac{1}{n} \sum_{i = 1}^{n} x_{i}

$\mu_{1:n} = \frac{1}{n}\sum_{i=1}^n x_i$

і вибіркова дисперсія

σ_{1 : n}^{2} = \frac{1}{n} \sum_{i = 1}^{n} {(x_{i} - μ_{1 : n})}^{2} = \frac{n - 1}{n} (\frac{1}{n - 1} \sum_{i = 1}^{n} {(x_{i} - μ_{1 : n})}^{2})

$\sigma_{1:n}^2 = \frac{1}{n}\sum_{i=1}^n \left(x_i - \mu_{1:n}\right)^2 = \frac{n-1}{n}\left(\frac{1}{n-1}\sum_{i=1}^n \left(x_i - \mu_{1:n}\right)^2\right)$

(останній член у дужках - це об'єктивний оцінювач дисперсії, який часто обчислюється за замовчуванням у статистичному програмному забезпеченні) для пошуку суми квадратів усіх даних . Впорядкуємо індекси так, що позначає елементи першої групи, а позначає елементи другої групи. Розбийте цю суму квадратів на групу і повторно висловіть дві частини у вигляді дисперсій та засобів підмножини даних: $x_i$ $i$ $i=1,\ldots,n$ $i=n+1,\ldots,n+m$

\begin{aligned} (m + n) (σ_{1 : m + n}^{2} + μ_{1 : m + n}^{2}) & = \sum_{i = 1}^{1 : n + m} x_{i}^{2} \\ = \sum_{i = 1}^{n} x_{i}^{2} + \sum_{i = n + 1}^{n + m} x_{i}^{2} \\ = n (σ_{1 : n}^{2} + μ_{1 : n}^{2}) + m (σ_{1 + n : m + n}^{2} + μ_{1 + n : m + n}^{2}) . \end{aligned}

$\eqalign{ (m+n)(\sigma^2_{1:m+n} + \mu_{1:m+n}^2) &= \sum_{i=1}^{1:n+m} x_i^2 \\ &= \sum_{i=1}^n x_i^2 + \sum_{i=n+1}^{n+m} x_i^2 \\ &= n(\sigma^2_{1:n} + \mu_{1:n}^2) + m(\sigma^2_{1+n:m+n} + \mu_{1+n:m+n}^2). }$

Алгебраїчно розв'язуючи це для у відношенні інших (відомих) величин виходів $\sigma^2_{m+n}$

σ_{1 : m + n}^{2} = \frac{n (σ_{1 : n}^{2} + μ_{1 : n}^{2}) + m (σ_{1 + n : m + n}^{2} + μ_{1 + n : m + n}^{2})}{m + n} - μ_{1 : m + n}^{2} .

$\sigma^2_{1:m+n} = \frac{n(\sigma^2_{1:n} + \mu_{1:n}^2) + m(\sigma^2_{1+n:m+n} + \mu_{1+n:m+n}^2)}{m+n} - \mu^2_{1:m+n}.$

Звичайно, використовуючи той самий підхід, може бути виражено через групові засоби. $\mu_{1:m+n} = (n\mu_{1:n} + m\mu_{1+n:m+n})/(m+n)$

Анонімний дописувач вказує, що коли вибіркові засоби рівні (так що ), рішення для є середньозваженим значенням відхилення вибірки групи. $\mu_{1:n}=\mu_{1+n:m+n}=\mu_{1:m+n}$ $\sigma^2_{m+n}$

— дзижчати
джерело

Тег "домашнє завдання" не означає, що питання є елементарним або нерозумним: він використовується для питань самостійного вивчення, які можуть включати навіть запити на рівні досліджень. Він відрізняє рутинні, більш-менш без контекстні запитання (такого роду, як правило, це може сприяти форуму з математики) від конкретних прикладних питань.

— whuber

n (σ^{2} + μ^{2}) = \sum (x - μ)^{2} + n μ^{2} \overset{?}{=} \sum x^{2}

$n(\sigma^2+\mu^2) = \sum (x - \mu)^2 + n\mu^2 \stackrel{?}{=} \sum x^2$

\sum [(x - μ)^{2} + μ^{2}] = \sum [x^{2} - 2 x μ]

$\sum [(x-\mu)^2+\mu^2] = \sum [x^2-2x\mu]$

μ = 0

$\mu = 0$ Am I missing something? Could you please explain this?

— DarioP

@Dario

\sum (x - μ)^{2} + n μ^{2} = (\sum x^{2} - 2 μ \sum x + n μ^{2}) + n μ^{2} = \sum x^{2} - 2 n μ^{2} + 2 n μ^{2} = \sum x^{2} .

$\sum(x-\mu)^2+n\mu^2=(\sum x^2 - 2\mu\sum x + n \mu^2)+n\mu^2 = \sum x^2 - 2n\mu^2 + 2n\mu^2 = \sum x^2.$

— whuber

Oh yes, I did a stupid sign mistake in my derivation, now is clear, thanks!!

— DarioP

I guess this can be extended to an arbitrary number of samples as long as you have the mean and variance for each. Calculating pooled (biased) standard deviation in R is simply sqrt(weighted.mean(u^2 + rho^2, n) - weighted.mean(u, n)^2) where n, u and rho are equal-length vectors. E.g. n=c(10, 14, 9) for three samples.

— Jonas Lindeløv

I'm going to use standard notation for sample means and sample variances in this answer, rather than the notation used in the question. Using standard notation, another formula for the pooled sample variance of two groups can be found in O'Neill (2014) (Result 1):

\begin{aligned} s_{pooled}^{2} & = \frac{1}{n_{1} + n_{2} - 1} [(n_{1} - 1) s_{1}^{2} + (n_{2} - 1) s_{2}^{2} + \frac{n_{1} n_{2}}{n_{1} + n_{2}} ({\bar{x}}_{1} - {\bar{x}}_{2})^{2}] . \end{aligned}

$\begin{equation} \begin{aligned} s_\text{pooled}^2 &= \frac{1}{n_1+n_2-1} \Bigg[ (n_1-1) s_1^2 + (n_2-1) s_2^2 + \frac{n_1 n_2}{n_1+n_2} (\bar{x}_1 - \bar{x}_2)^2 \Bigg]. \\[10pt] \end{aligned} \end{equation}$

This formula works directly with the underlying sample means and sample variances of the two subgroups, and does not require intermediate calculation of the pooled sample mean. (Proof of result in linked paper.)

— Reinstate Monica
джерело

-3

Так, з огляду на середнє значення, кількість вибірки та дисперсію або стандартне відхилення кожної з двох або більше груп проб, можна точно розрахувати дисперсію або стандартне відхилення комбінованої групи.

На цій веб-сторінці описано, як це зробити, і чому це працює; він також включає вихідний код на Perl: http://www.burtonsys.com/climate/composite_standard_deviations.html

До речі, всупереч наведеній вище відповіді,

\begin{aligned} н (σ^{2} + {мк}^{2}) \neq \sum_{i = 1}^{н} х_{i}^{2} \end{aligned}

$\eqalign{ n(\sigma^2 + \mu^2) \space\space \ne \space\space \sum_{i=1}^n x_i^2 }$

Побачте самі, наприклад, в R:

> x = rnorm (10,5,2)
> х
 [1] 6.515139 8.273285 2.879483 3.624233 6.199610 3.683164 4.921028 8.084591
 [9] 2.974520 6.049962
> середній (x)
[1] 5.320502
> sd (x)
[1] 2.007519
> сума (х ** 2)
[1] 319.3486
> 10 * (середнє значення (x) ** 2 + sd (x) ** 2)
[1] 323,3787

— Дейв Бертон
джерело

it's because you forgot the n-1 factor, e.g. try with n*(mean(x)**2+sd(x)**2/(n)*(n-1))

— user603

user603, what on earth are you talking about?

— Дейв Бертон

Дейв, математика - більш надійний викладач, ніж програмне забезпечення. У цьому випадку Rобчислюється неупереджена оцінка стандартного відхилення, а не стандартне відхилення множини чисел. Наприклад, sd(c(-1,1))повернення, 1.414214а не 1. Ваш приклад потрібно використовувати sqrt(9/10)*sd(x)замість sd(x). Інтерпретація "

σ

$\sigma$ "як SD даних і"

μ

$\mu$ "як середнє значення даних , ваше зауваження BTW неправильне. Програма, що демонструє цеn <- 10; x <- rnorm(n,5,2); m <- mean(x); s <- sd(x) * sqrt((n-1)/n); m2 <- sum(x^2); c(lhs=n * (m^2 + s^2), rhs=m2)

— whuber