Що робить значення деяких розподілів невизначеним?

21

Багато PDF-файлів варіюються від мінус до позитивної нескінченності, проте деякі засоби визначені, а деякі - ні. Яка загальна ознака робить деякі обчислювальними?

distributions mean

— Кевін Новаччик
джерело

14

Конвергентні інтеграли.

— Sycorax каже, що повернеться до Моніки

1

Ці розподіли є математичними абстракціями. Якщо інтеграл не збігається, тоді значення не визначається. Однак у відповідях нижче не зазначено, що PDF-файли з мінусом нескінченності до плюс нескінченності не можуть моделювати реальні джерела даних. Не існує такого фізичного процесу для формування таких даних у реальному житті. На мою думку, всі реальні джерела даних будуть обмежені, і ви зможете наблизити середнє значення.

— Cagdas Ozgenc

3

@Cagdas Це зауваження не видається правильним. Існує безліч важкохвостих процесів. Їх розбіжні очікування виявляються як надзвичайна мінливість у довгострокових середніх показниках. Наприклад, про переконливе застосування моделі Коші, див. Публікацію Дугласа Заре за адресою stats.stackexchange.com/a/36037/919 .

— whuber

2

@CagdasOzgenc: Ви повинні прочитати Чорного лебедя від Taleb, щоб побачити, наскільки помилкові це міркування. Хоча евристично може не бути процесу, який ідеально генерує розподіл із невизначеною середньою чи нескінченною середньою величиною, є чимало прикладів, коли люди недооцінюють, наскільки жирними є хвости їх розподілу та приступають до обчислення засобів, тоді як справжній розподіл має мається на увазі, що це зовсім інше і, як правило, косоокість. Цей вид неправильних міркувань призвів до багатьох розбіжностей в оцінці ризику у фінансах, де ризик недооцінюється багатьма порядками.

— Алекс Р.

1

@Cagdas Ozgenc: Для обговорення, чому ваш аргумент неправильний, див. Stats.stackexchange.com/questions/94402/…

— kjetil b halvorsen

23

Середнє значення розподілу визначається інтегралом (я напишу його так, ніби для безперервного розподілу - як інтеграл Рімана, скажімо - але питання стосується більш загального характеру; ми можемо перейти до інтеграції Стілєтджеса або Лебега, щоб вирішити ці правильно і все відразу):

E (X) = \int_{- \infty}^{\infty} x f (x) d x

$E(X) = \int_{-\infty}^\infty x f(x)\, dx$

Але що це означає? Це фактично скорочення для

\overset{lim}{_{a \to \infty, b \to \infty}} \int_{- a}^{b} x f (x) d x

$\stackrel{\lim}{_{a\to\infty,b\to\infty}} \int_{-a}^b x\, f(x)\, dx$

або

\overset{lim}{_{a \to \infty}} \int_{- a}^{0} x f (x) d x + \overset{lim}{_{b \to \infty}} \int_{0}^{b} x f (x) d x

$\stackrel{\lim}{_{a\to\infty}} \int_{-a}^0 x f(x)\, dx \, +\, \stackrel{\lim}{_{b\to\infty}} \int_{0}^b x f(x)\, dx$

(хоча ви можете зламати його де завгодно, а не лише на 0)

Проблема виникає тоді, коли межі цих інтегралів не є кінцевими.

Так, наприклад, розглянемо стандартну щільність Коші, пропорційну ... зауважте, що $\frac{1}{1+x^2}$

\overset{lim}{_{b \to \infty}} \int_{0}^{b} \frac{x}{1 + x^{2}} d x

$\stackrel{\lim}{_{b\to\infty}} \int_{0}^b \frac{x}{1+x^2}\, dx$

дозволяє , тому $u=1+x^2$ $du=2x\,dx$

= \overset{lim}{_{b \to \infty}} \frac{1}{2} \int_{1}^{1 + b^{2}} \frac{1}{u} d u

$=\,\stackrel{\lim}{_{b\to\infty}}\frac12 \int_{1}^{1+b^2} \frac{1}{u}\, du$

= \overset{lim}{_{b \to \infty}} \frac{_{1}}{^{2}} \ln (u) |_{1}^{1 + b^{2}}

$=\,\stackrel{\lim}{_{b\to\infty}} \frac{_1}{^2}\ln(u)\Bigg |_{1}^{1+b^2}$

= \overset{lim}{_{b \to \infty}} \frac{_{1}}{^{2}} \ln (1 + b^{2})

$=\,\stackrel{\lim}{_{b\to\infty}} \frac{_1}{^2}\ln(1+b^2)$

що не є кінцевим. Межа в нижній половині також не є кінцевою; очікування, таким чином, не визначене.

Або якби ми мали як нашу випадкову величину абсолютне значення стандартного Коші, все її очікування було б пропорційним тому межі, яку ми тільки що подивилися (тобто ). $\stackrel{\lim}{_{b\to\infty}} \frac12\ln(1+b^2)$

З іншого боку, деякі інші щільності продовжують "до нескінченності", але їх інтеграл має обмеження.

— Glen_b -Встановити Моніку
джерело

1

Ви можете (звичайно) також бачити те саме в подібних дискретних розподілах ймовірностей. Візьміть розподіл, де ймовірність, якщо

виникає, для цілого

пропорційна

n

$n$

n > 0

$n>0$

. Сума ймовірностей є кінцевою (що так само добре, оскільки вона повинна мати обмеження 1: насправді наша константа повинна бути

\frac{1}{n^{2}}

$\frac{1}{n^2}$

\frac{6}{π^{2}}

$\frac{6}{\pi^2}$ або що б там не було), але оскільки сума

\frac{1}{n}

$\frac{1}{n}$ розходиться, це не означає. Тоді як ми обираємо ймовірність, пропорційну

то середнє значення включає суму

\frac{1}{n^{3}}

$\frac{1}{n^3}$

і ми все добре, це "досить мало", що воно сходиться.

\frac{1}{n^{2}}

$\frac{1}{n^2}$

— Стів Джессоп

1

так,

- константа масштабування для цього (щоб вона становила суму1).

\frac{6}{π^{2}}

$\frac{6}{\pi^2}$

— Glen_b -Встановити Моніку

8

Інші відповіді хороші, але можуть не переконати всіх, особливо людей, які дивляться на розподіл Коші (з ) і кажуть, що все одно очевидно, що середнє значеннямаєдорівнювати нулю. $x_0 = 0$

Причина того, що інтуїтивна відповідь не є правильною з математичної точки зору, обумовлена теоремою про перестановку Рімана (відео) .

Ефективно те, що ти робиш, коли дивишся на Коші і кажеш, що середнє значення "має бути нульовим" - це те, що ти розбиваєш "центр" на нуль, а потім вимагаєш, щоб моменти балансу двох розмірів. Або іншими словами, ви неявно виконуєте нескінченну суму з "половиною" доданків позитивом (моменти в кожній точці праворуч) і "половиною" терміни негативні (моменти в кожній точці зліва) і заявляєте про це сум до нуля. (Для технічно налаштованих: ) $\int_{0}^\infty f(x_0+r)r\, dr - \int_{0}^{\infty} f(x_0-r)r\, dr = 0$

Теорема про перестановку Рімана говорить, що цей тип нескінченної суми (одна з як позитивними, так і негативними доданками) є послідовним лише у тому випадку, якщо два ряди (лише додатні доданки та лише від'ємні доданки) є кожним збіжним, якщо взяти їх незалежно. Якщо обидві сторони (позитивна та негативна) розходяться самостійно, то ви можете придумати порядок підсумовування термінів таким чином, щоб він підсумовував будь-яке число. (Відео вище, починаючи з 6:50)

Так, так, якщо ви робите підсумки врівноважено з 0, перші моменти з розподілу Коші скасовуються. Однак (стандартне) визначення середини не примушує цього порядку підсумовувати. Ви повинні мати можливість підсумовувати моменти в будь-якому порядку і мати їх однаковою мірою. Тому середнє значення розподілу Коші не визначене - розумним вибором того, як ви підсумовуєте моменти, ви можете зробити їх «балансувати» (чи ні) практично в будь-якій точці.

Отже, щоб визначити середнє значення розподілу, кожен момент інтегралів повинен бути незалежно конвергентним (кінцевим) навколо запропонованого середнього (що, коли ви робите математику, насправді є просто ще одним способом сказати, що повний інтеграл ( ) має бути збіжним). Якщо хвости "жирні" досить, щоб зробити момент для однієї сторони нескінченним, ви закінчили. Ви не можете збалансувати це з нескінченним моментом з іншого боку. $\int_{-\infty}^\infty f(x)x\, dx$

Я мушу зазначити, що "протиінтуїтивна" поведінка таких речей, як розподіл Коші, повністю пов'язана з проблемами, коли думаєш про нескінченність. Візьміть розподіл Коші і відірвіть хвости - навіть як завгодно далеко, як при плюс / мінус число xkcd - і (раз повторно нормалізуючись) ви раптом отримаєте щось, що добре поводиться і має визначене значення. Це не самі жирові хвости - це те, як вони ведуть себе, коли ви наближаєтесь до нескінченності.

— RM
джерело

Приємно. Цікаво, чи можна дати експліцитний "порядок підсумовування", який призводить до, скажімо, двох.

— Меттью Друрі

@MatthewDrury: p_i та n_i позначають додатні та від’ємні числа. Послідовно знайдіть p_i та n_i так, що інтеграл над [n_i, p_i] дорівнює 2+ (1 / i), а інтеграл над [n_ {i + 1}, p_i] дорівнює 2 (1 / i). Можна зробити це явно, використовуючи R, matlab або matematika, але лише для обмеженої кількості термінів.

— Девід Епштейн

7

Генерал Абріал і Glen_b мали ідеальні відповіді. Я просто хочу додати невелику демонстрацію, щоб показати вам середнє значення розподілу Коші не існує / не конвергується.

У наступному експерименті ви побачите, навіть якщо ви отримаєте велику вибірку і підрахуйте емпіричне середнє значення від вибірки, числа сильно відрізняються від експерименту до експерименту.

set.seed(0)
par(mfrow=c(1,2))
experiments=rep(1e5,100)
mean_list_cauchy=sapply(experiments, function(n) mean(rcauchy(n)))
mean_list_normal=sapply(experiments, function(n) mean(rnorm(n)))
plot(mean_list_cauchy,ylim=c(-10,10))
plot(mean_list_normal,ylim=c(-10,10))

$100$ $1\times 10^5$

Редагувати:

Як зазначається @ mark999 у чаті, ми повинні стверджувати, що два розподіли, використані в експерименті, мають подібну "дисперсію" (причина, яку я використовую, тому, що дисперсія розподілу Коші також не визначена). Ось виправдання: їхній PDF схожий.

$0$

curve(dnorm, -8,8)
curve(dcauchy, -8,8)

— Хайтао Ду
джерело

4

Я не думаю, що це показує, що розподіл Коші не має жодного значення. Ви можете отримати подібні результати, якщо замінити розподіл Коші нормальним розподілом на відповідно велику дисперсію.

— mark999

хороший пункт @ mark999, я відредагую свою відповідь, щоб вирішити цю проблему.

— Хайтао Ду,

Чи можна з PDF дистрибуції Коші зрозуміти, що він не має ніякого значення, ймовірно, дивлячись на його жирові хвости?

— ks1322

Можливо, ви мали на увазі щось подібне? stats.stackexchange.com/questions/90531/…

— Sycorax

2

За визначенням інтеграла Лебега-Стілтеджі середнє значення існує, якщо:

\int | x | d F (x) < \infty .

$\int \vert x\vert dF(x)<\infty.$

https://en.wikipedia.org/wiki/Moment_(mathematics)#Significance_of_the_moments

https://en.wikipedia.org/wiki/Lebesgue_integration

— Захід
джерело

2

$d\theta/2\pi$ $\theta$ $A\subset \mathbb S^1$ $\mathtt{length}(A)/2\pi$ $U(-\pi,\pi)$ $\pi$ $\pi-\varepsilon$ $-\pi+\varepsilon\ (=\pi+\varepsilon \mod 2\pi)$ $\pi$ $U(-\pi,\pi)$ $\varepsilon/2\pi$

Оскільки розподіл по колу є обертально симетричним, на ньому не може бути середнього, медіанного чи режиму. Аналогічно, вищі моменти, такі як дисперсія, не можуть мати сенсу. Цей розподіл природним чином виникає у багатьох контекстах. Наприклад, мій поточний проект передбачає мікроскопські зображення ракової тканини. Дуже численні об’єкти на зображенні не симетричні, і кожному напрямку можна призначити "напрямок". Очевидною нульовою гіпотезою є те, що ці напрями розподілені рівномірно.

$\mathbb S^1$ $p=(0,1)\in\mathbb S^1$ $x$ $\theta$ $p$ $x$ $x=\tan(\theta/2)$ $d\theta/2 = dx/(1+x^2)$ $\frac{d\theta}{\pi(1+x^2)}$ , звичайна форма розподілу Коші, і "Гей, престо!", простота стає головним болем, що вимагає лікування за допомогою тонкощів теорії інтеграції.

$\mathbb S^1 \setminus \{p\}$ $p$ $p\in\mathbb S^1$ $p$ $-p = (0,-1)$ $0\in\mathbb R$ під стереографічним проекцією, і це стає медіаною і режимом розподілу Коші.

— Девід Епштейн
джерело

2

Розподіл Коші має медіану і режим.

— jkabrg

Абсолютно вірно. Я трохи захопився. Але аргумент про неіснування середнього є правильним .. Я відредагую свою відповідь.

— Девід Епштейн

θ \sim U (- π, π)

$\theta \sim U(-\pi,\pi)$

X = \tan (θ / 2)

$X = \tan(\theta/2)$

E [θ] = 0

$\mathbb E[\theta] = 0$

@jkabrg: Я сподіваюся, що нові редакції зробить це більш зрозумілим

— Девід Епштейн