Чому дисперсія не визначається як різниця між кожним значенням, що слідують один за одним?

Це може бути простим питанням для багатьох, але ось це:

Чому дисперсія не визначається як різниця між кожним значенням, що слідують один за одним замість різниці до середнього значення?

Це було б для мене більш логічним вибором, я думаю, я очевидно переглядаю деякі недоліки. Спасибі

Редагувати:

Дозвольте перефразувати якомога чіткіше. Це те, що я маю на увазі:

1. Припустимо, у вас впорядкований діапазон номерів: 1,2,3,4,5
2. Обчисліть та підсумуйте (абсолютні) різниці (безперервно, між кожним наступним значенням, а не попарно) між значеннями (без використання середнього).
3. Розділіть на кількість різниць
4. (Спостереження: чи була б відповідь іншою, якби номери не були впорядковані)

-> Які недоліки такого підходу порівняно зі стандартною формулою для дисперсії?

Найбільш очевидною причиною є те, що часто немає послідовностей у значеннях часу. Отже, якщо ви перемішуєте дані, це не має різниці в інформації, що передається даними. Якщо ми дотримуємося вашого методу, то кожного разу, коли ви перемішуєте дані, ви отримуєте різну вибірку дисперсії.

Більш теоретична відповідь полягає в тому, що дисперсія вибірки оцінює справжню дисперсію випадкової величини. Справжня дисперсія випадкової величини - E [ ( X - E X ) 2 ]$X$

$$E\left[ (X - EX)^2 \right].$$

Тут позначає очікування або "середнє значення". Отже визначення дисперсії - це середня квадратна відстань між змінною від її середнього значення. Якщо ви подивитесь на це визначення, тут немає "порядку часу", оскільки немає даних. Це лише атрибут випадкової величини.$E$

Коли ви збираєте iid дані з цього розповсюдження, у вас є реалізації . Найкращий спосіб оцінити очікування - взяти середні вибірки. Ключовим тут є те, що ми отримали дані iid, і тому немає впорядкування даних. Вибірка x 1 , x 2 , … , x n є такою ж, як вибірка x 2 , x 5 , x 1 , x n . $x_1, x_2, \dots, x_n$$x_1, x_2, \dots, x_n$$x_2, x_5, x_1, x_n..$

EDIT

Дисперсія зразка вимірює специфічний вид дисперсії для вибірки, той, який вимірює середню відстань від середньої. Існують і інші види дисперсії, такі як діапазон даних та міжквартальний діапазон.

Навіть якщо ви сортуєте свої значення у порядку зростання, це не змінює характеристики вибірки. Отриманий зразок (дані) - це реалізація змінної. Розрахунок дисперсії вибірки схожий на розуміння, скільки дисперсії в змінній. Наприклад, якщо ви відібрали 20 осіб і обчислили їхній зріст, то це 20 "реалізацій" від випадкової величини зріст людей. Тепер дисперсія вибірки повинна вимірювати мінливість у зростанні особин загалом. Якщо ви замовляєте дані 100 , 110 , 123 , 124 , … $X =$

$$100, 110, 123, 124, \dots,$$

що не змінює інформацію у вибірці.

Розглянемо ще один приклад. дозволяє сказати , що у Вас є 100 спостережень від випадкової величини упорядкованого таким чином , Тоді середня наступна відстань дорівнює 1 одиниці, тож за вашим методом дисперсія буде дорівнює 1.

$$1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, ... 100.$$

Спосіб інтерпретації "дисперсії" або "дисперсії" - це зрозуміти, який діапазон значень вірогідний для даних. У цьому випадку ви отримаєте діапазон в розмірі 0,99 одиниці, що, звичайно, не представляє відмінності.

Якщо замість середнього значення ви просто підсумуєте наступні відмінності, то ваша дисперсія буде 99. Звичайно, це не відображає змінності у вибірці, оскільки 99 дає вам діапазон даних, а не відчуття змінності.

Це буде визначено , що шлях!

Ось алгебра. Нехай значення будуть . Позначимо через F емпірична функція розподілу цих значень (що означає , що кожен х я вносить свій внесок вірогідну масу 1 / п при значенні х I ) , і нехай X і Y незалежні випадкові величини з розподілом F . В силу основних властивостей дисперсії (а саме це квадратична форма), а також визначення F і факту$\mathbf{x}=(x_1, x_2, \ldots, x_n)$$F$$x_i$$1/n$$x_i$$X$$Y$$F$$F$ і Y мають однакове середнє значення,$X$$Y$

$$\eqalign{ \operatorname{Var}(\mathbf{x})&=\operatorname{Var}(X) = \frac{1}{2}\left(\operatorname{Var}(X) + \operatorname{Var}(Y)\right)=\frac{1}{2}\left(\operatorname{Var}(X-Y)\right)\\ &=\frac{1}{2}\left(\mathbb{E}((X-Y)^2) - \mathbb{E}(X-Y)^2\right)\\ &=\mathbb{E}\left(\frac{1}{2}(X-Y)^2\right) - 0\\ &=\frac{1}{n^2}\sum_{i,j}\frac{1}{2}(x_i - x_j)^2. }$$

Ця формула не залежить від способу впорядкування : вона використовує всі можливі пари компонентів, порівнюючи їх, використовуючи половину їхніх відмінностей у квадраті. Однак це може бути пов'язано із середнім показником за всіма можливими впорядкуваннями (група S ( n ) усіх n ! Перестановок індексів 1 , 2 , … , n ). А саме,$\mathbf{x}$$\mathfrak{S}(n)$$n!$$1,2,\ldots, n$

$$\operatorname{Var}(\mathbf{x})=\frac{1}{n^2}\sum_{i,j}\frac{1}{2}(x_i - x_j)^2 = \frac{1}{n!}\sum_{\sigma\in\mathfrak{S}(n)} \frac{1}{n} \sum_{i=1}^{n-1} \frac{1}{2}(x_{\sigma(i)} - x_{\sigma(i+1)})^2.$$

That inner summation takes the reordered values $x_{\sigma(1)}, x_{\sigma(2)}, \ldots, x_{\sigma(n)}$ and sums the (half) squared differences between all $n-1$ successive pairs. The division by $n$ essentially averages these successive squared differences. It computes what is known as the lag-1 semivariance. The outer summation does this for all possible orderings.

---

These two equivalent algebraic views of the standard variance formula give new insight into what the variance means. The semivariance is an inverse measure of the serial covariance of a sequence: the covariance is high (and the numbers are positively correlated) when the semivariance is low, and conversely. The variance of an unordered dataset, then, is a kind of average of all possible semivariances obtainable under arbitrary reorderings.

Just a complement to the other answers, variance can be computed as the squared difference between terms:

$$\begin{align} &\text{Var}(X) = \\ &\frac{1}{2\cdot n^2}\sum_i^n\sum_j^n \left(x_i-x_j\right)^2 = \\ &\frac{1}{2\cdot n^2}\sum_i^n\sum_j^n \left(x_i - \overline x -x_j + \overline x\right)^2 = \\ &\frac{1}{2\cdot n^2}\sum_i^n\sum_j^n \left((x_i - \overline x) -(x_j - \overline x\right))^2 = \\ &\frac{1}{n}\sum_i^n \left(x_i - \overline x \right)^2 \end{align}$$

I think this is the closest to the OP proposition. Remember the variance is a measure of dispersion of every observation at once, not only between "neighboring" numbers in the set.

---

UPDATE

Using your example: $X = {1, 2, 3, 4, 5}$. We know the variance is $Var(X) = 2$.

With your proposed method $Var(X) = 1$, so we know beforehand taking the differences between neighbors as variance doesn't add up. What I meant was taking every possible difference squared then summed:

$$Var(X) = \\ = \frac{(5-1)^2+(5-2)^2+(5-3)^2+(5-4)^2+(5-5)^2+(4-1)^2+(4-2)^2+(4-3)^2+(4-4)^2+(4-5)^2+(3-1)^2+(3-2)^2+(3-3)^2+(3-4)^2+(3-5)^2+(2-1)^2+(2-2)^2+(2-3)^2+(2-4)^2+(2-5)^2+(1-1)^2+(1-2)^2+(1-3)^2+(1-4)^2+(1-5)^2}{2 \cdot 5^2} = \\ =\frac{16+9+4+1+9+4+1+1+4+1+1+4+1+1+4+9+1+4+9+16}{50} = \\ =2$$

Інші відповіли про корисність дисперсії, визначеної як зазвичай. У будь-якому випадку, у нас просто є два законних визначення різних речей: звичайне визначення дисперсії та ваше визначення.

Тоді, головне питання, чому перше називається дисперсією, а не вашою. Це лише питання конвенції. До 1918 року ви могли придумати все, що завгодно, і назвали це "дисперсією", але в 1918 році Фішер застосував це ім'я до того, що все ще називається дисперсією, і якщо ви хочете визначити щось інше, вам потрібно буде знайти інше ім'я, щоб назвати його.

Інше питання - чи те, що ви визначили, може бути корисним для чого-небудь. Інші вказували на його проблеми, які слід використовувати як міру розповсюдження, але вирішувати, що ви шукаєте для цього, залежить від вас. Можливо, ви знайдете настільки корисні програми, що через століття ваша річ є більш відомою, ніж дисперсія.

@GreenParker answer is more complete, but an intuitive example might be useful to illustrate the drawback to your approach.

In your question, you seem to assume that the order in which realisations of a random variable appear matters. However, it is easy to think of examples in which it doesn't.

Consider the example of the height of individuals in a population. The order in which individuals are measured is irrelevant to both the mean height in the population and the variance (how spread out those values are around the mean).

Your method would seem odd applied to such a case.

Although there are many good answers to this question I believe some important points where left behind and since this question came up with a really interesting point I would like to provide yet another point of view.

Why isn't variance defined as the difference between every value following    
each other instead of the difference to the average of the values?

The first thing to have in mind is that the variance is a particular kind of parameter, and not a certain type of calculation. There is a rigorous mathematical definition of what a parameter is but for the time been we can think of then as mathematical operations on the distribution of a random variable. For example if $X$ is a random variable with distribution function $F_X$ then its mean $\mu_x$, which is also a parameter, is:

$$\mu_X = \int_{-\infty}^{+\infty}xdF_{X}(x)$$

and the variance of $X$, $\sigma^2_X$, is:

$$\sigma^2_X = \int_{-\infty}^{+\infty}(x - \mu_X)^2dF_{X}(x)$$

The role of estimation in statistics is to provide, from a set of realizations of a r.v., a good approximation for the parameters of interest.

What I wanted to show is that there is a big difference in the concepts of a parameters (the variance for this particular question) and the statistic we use to estimate it.

Why isn't the variance calculated this way?

So we want to estimate the variance of a random variable $X$ from a set of independent realizations of it, lets say $x = \{x_1,\ldots,x_n\}$. The way you propose doing it is by computing the absolute value of successive differences, summing and taking the mean:

$$\psi(x) = \frac{1}{n}\sum_{i = 2}^{n}|x_i - x_{i-1}|$$

and the usual statistic is:

$$S^2(x) = \frac{1}{n-1}\sum_{i = i}^{n}(x_i - \bar{x})^2,$$

where $\bar{x}$ is the sample mean.

When comparing two estimator of a parameter the usual criterion for the best one is that which has minimal mean square error (MSE), and a important property of MSE is that it can be decomposed in two components:

MSE = estimator bias + estimator variance.

Using this criterion the usual statistic, $S^2$, has some advantages over the one you suggests.

• First it is a unbiased estimator of the variance but your statistic is not unbiased.

• One other important thing is that if we are working with the normal distribution then $S^2$ is the best unbiased estimator of $\sigma^2$ in the sense that it has the smallest variance among all unbiased estimators and thus minimizes the MSE.

When normality is assumed, as is the case in many applications, $S^2$ is the natural choice when you want to estimate the variance.

The time-stepped difference is indeed used in one form, the Allan Variance. http://www.allanstime.com/AllanVariance/

Lots of good answers here, but I'll add a few.

1. The way it is defined now has proven useful. For example, normal distributions appear all the time in data and a normal distribution is defined by its mean and variance. Edit: as @whuber pointed out in a comment, there are various other ways specify a normal distribution. But none of them, as far as I'm aware, deal with pairs of points in sequence.
2. Variance as normally defined gives you a measure of how spread out the data is. For example, lets say you have a lot of data points with a mean of zero but when you look at it, you see that the data is mostly either around -1 or around 1. Your variance would be about 1. However, under your measure, you would get a total of zero. Which one is more useful? Well, it depends, but its not clear to me that a measure of zero for its "variance" would make sense.
3. It lets you do other stuff. Just an example, in my stats class we saw a video about comparing pitchers (in baseball) over time. As I remember it, pitchers appeared to be getting worse since the proportion of pitches that were hit (or were home-runs) was going up. One reason is that batters were getting better. This made it hard to compare pitchers over time. However, they could use the z-score of the pitchers to compare them over time.

Nonetheless, as @Pere said, your metric might prove itself very useful in the future.