Я чув, що співвідношення або обертання випадкових величин часто є проблематичними, тому що не мають очікувань. Чому так?

25

Назва - це питання. Мені кажуть, що співвідношення та обертання випадкових величин часто є проблематичними. Мається на увазі те, що очікування часто не існує. Чи є просте, загальне пояснення цього?

— kjetil b halvorsen
джерело

25

Я хотів би запропонувати дуже просте, інтуїтивне пояснення. Це дорівнює перегляду картини: решта цього допису пояснює картину і робить з неї висновки.

Ось до чого воно зводиться: коли є "маса ймовірностей", сконцентрована поблизу $X=0$ , буде занадто велика ймовірність поблизу $1/X\approx \pm \infty$ , внаслідок чого її очікування буде невизначеним.

Замість того, щоб бути повністю загальним, зупинимося на випадкових змінних які мають суцільну щільність в околиці . Нехай . Візуально ці умови означають, що графік лежить над віссю навколо : $X$ $f_X$ $0$ $f_X(0)\ne 0$ $f$ $0$

Неперервність навколо означає, що для будь-якої позитивної висоти менше і досить мала $f_X$ $0$ $p$ $f_X(0)$ $\epsilon$ , ми можемо вирізати прямокутник під цим графіком, який зосереджений навколо , має ширину та висоту , як показано. Це відповідає вираженню оригінального розподілу як суміші рівномірного розподілу (з масою ) і того, що залишилося. $x=0$ $2\epsilon$ $p$ $p\times 2\epsilon=2p\epsilon$

Іншими словами, ми можемо вважати таким, що виникає наступним чином: $X$

З ймовірністю вивести значення з уніфікованого розподілу. $2p\epsilon$ $(-\epsilon,\epsilon)$
В іншому випадку виведіть значення з розподілу, щільність якого пропорційна . (Це функція, намальована жовтим кольором праворуч.) $f_X - p I_{(-\epsilon,\epsilon)}$

( - функція індикатора.) $I$

Крок показує, що для будь-якого ймовірність того, що знаходиться між і перевищує $(1)$ $0 \lt u \lt \epsilon$ $X$ $0$ $u$ $p u / 2$ . Що рівно, це ймовірність того, що перевищує . Інакше кажучи: написання для функції виживання $1/X$ $1/u$ $S$ $1/X$

S (x) = Pr (1 / X > x),

$S(x) = \Pr(1/X \gt x),$

малюнок показує для всіх . $S(x) \gt p / (2x)$ $x \gt 1/\epsilon$

Ми закінчили зараз, тому що цей факт про означає, що очікування не визначене. $S$ Порівняйте інтеграли, що беруть участь у обчисленні очікування позитивної частини , : $1/X$ $(1/X)_{+} = \max(0, 1/X)$

E [(1 / X)_{+}] = \int_{0}^{\infty} S (x) d x > \int_{1 / ϵ}^{x} S (x) d x > \int_{1 / ϵ}^{x} \frac{p}{2 x} d x = \frac{p}{2} \log (x ϵ) .

$E[(1/X)_{+}] = \int_0^\infty S(x)dx \gt \int_{1/\epsilon}^x S(x)dx \gt \int_{1/\epsilon}^x \frac{p}{2x}dx = \frac{p}{2} \log(x\epsilon).$

(Це суто геометричний аргумент: кожен інтеграл являє собою ідентифіковану двовимірну область, і всі нерівності виникають із суворих включень у цих регіонах. Дійсно, нам навіть не потрібно знати, що остаточний інтеграл є логарифмом: є прості геометричні аргументи, що показують цілісні розбіжності.)

Оскільки правий бік розходяться на , розходиться. Ситуація з негативною частиною однакова (оскільки прямокутник зосереджений навколо ), і той же аргумент показує очікування від'ємної частини розбіжностей. Отже, очікування не визначене. $x\to\infty$ $E[(1/X)_{+}]$ $1/X$ $0$ $1/X$ $1/X$

Між іншим, той же самий аргумент показує , що , коли є ймовірність того, зосереджені на одній стороні від , наприклад, будь-якого розподілу експоненціального або гамма (з параметром форми менше , ніж ), тоді ще позитивне очікування розходиться, але негативне математичне сподівання дорівнює нуль. В цьому випадку математичне сподівання буде визначено, але нескінченно. $X$ $0$ $1$

— дзижчати
джерело

3

Чи правильно я підозрюю, що припущення

є визначальним для результату? Я маю на увазі, у нас є випадки, коли

має моменти принаймні для деякого діапазону задіяних параметрів, і виявляється, що це у випадках, коли

f_{X} (0) \neq 0

$f_X(0)\neq 0$

1 / X

$1/X$

, як Gamma / Inverse-Gamma

f_{X} (0) = 0

$f_X(0) = 0$

— Alecos Papadopoulos

3

@ Алеко Ні, це припущення не є визначальним. Це та безперервність

при

роблять аргумент простим, але жодне з них не є суттєвим. Розглянемо

з щільністю

пропорційною

при

і

. Це безперервно при

але

не очікує.

f

$f$

0

$0$

X

$X$

f_{X}

$f_X$

- 1 / \log (x)

$-1/\log(x)$

0 < x < 1 / e

$0 \lt x \lt 1/e$

f_{X} (0) = 0

$f_X(0)=0$

0

$0$

1 / X

$1/X$

— качан

15

Коефіцієнти та обертання мають значення в основному з негативними випадковими змінними, тому я вважаю, що майже напевно. Тоді, якщо $X \ge 0$ - дискретна змінна, яка приймає значення нуля з позитивною ймовірністю, ми ділимо нуль на позитивну ймовірність, що пояснює, чому очікування $X$ $1/X$ не буде існувати.

Тепер подивіться на випадок безперервного розподілу, при випадкова величина з функцією густини . Будемо вважати, що і є безперервним (принаймні при нулі). Тоді є такий, що при . Очікуване значення задається $X \ge 0$ $f(x)$ $f(0)>0$ $f$ $\epsilon > 0$ $f(x) > \epsilon$ $0 \le x < \epsilon$ $1/X$ Тепер змінимо змінну інтеграції на , маємо

E \frac{1}{X} = \int_{0}^{\infty} \frac{1}{x} f (x) d x

$\DeclareMathOperator{\E}{\mathbb{E}} \E \frac1{X} = \int_0^\infty \frac1{x} f(x)\; dx$

u = 1 / x

$u=1/x$

, отримуючи

d u = - \frac{1}{x^{2}} d x

$du = -\frac1{x^2} \; dx$

Тепер, за припущенням

на

так

E \frac{1}{X} = - \int_{\infty}^{0} u f (\frac{1}{u}) (\frac{1}{u})^{2} d u = \int_{0}^{\infty} \frac{1}{u} f (\frac{1}{u}) d u

$\E \frac1{X} = -\int_{\infty}^0 u f(\frac1{u}) (\frac1{u})^2 \; du = \\ \int_0^\infty \frac1{u} f(\frac1{u}) \; du$

f (u) > ϵ

$f(u) > \epsilon$

[0, ϵ)

$[0,\epsilon)$

on

, використовуючи це, ми маємо

f (\frac{1}{u}) > 1 / ϵ

$f(\frac1{u}) > 1/\epsilon$

(1 / ϵ, \infty)

$(1/\epsilon, \infty)$

, що показує, що очікування не існує. Прикладом виконання цього припущення є експоненціальний розподіл зі швидкістю 1.

E \frac{1}{X} > ϵ \int_{1 / ϵ}^{\infty} \frac{1}{u} d u = \infty

$\E \frac1{X} > \epsilon \int_{1/\epsilon}^\infty \frac1{u}\; du =\infty$

$Z=Y/X$

E Z = E \frac{Y}{X} = E Y \cdot E \frac{1}{x}

$\E Z = \E\frac{Y}{X}=\E Y \cdot \E\frac1{x}$ so this pretty much reduces to the first case and there is not much new to say. What if they are dependent, with joint density factoring as

f (x, y) = f (x ∣ y) g (y)

$f(x,y) = f(x \mid y) g(y)$ Then we get (using same substitution as above)

E \frac{Y}{X} = \int_{0}^{\infty} y \int_{0}^{\infty} \frac{1}{x} f (x ∣ y) d x g (y) d y = \int_{0}^{\infty} y \int_{0}^{\infty} \frac{1}{u} f (\frac{1}{u} ∣ y) d u g (y) d y

$\E \frac{Y}{X} = \int_0^\infty y \int_0^\infty \frac1{x} f(x\mid y) \; dx \;g(y)\; dy = \\ \int_0^\infty y \int_0^\infty \frac1{u} f(\frac1{u}\mid y) \; du \; g(y) \; dy$ and we can reason as above on the inner integral. The result will be that if the conditional density (given

y

$y$ ) is positive and continuous at zero, for a set of

y

$y$ 's with positive marginal probability, the expectation will be infinite. I guess it will not be easy to find examples where the marginal expectation of

1 / X

$1/X$ is infinite, but the expectation of the ratio

Y / X

$Y/X$ is finite, unless there is a perfect correlation. It would be nice to see some such examples!

— kjetil b halvorsen
джерело