Наявність функції, що генерує момент, та дисперсії

Чи може розподіл з кінцевою середньою і нескінченною дисперсією мати функцію породження моменту? А як щодо розподілу з кінцевою середньою і кінцевою дисперсією, але нескінченними вищими моментами?

variance moments mgf

— Mgf
джерело

Підказка : Якщо mgf існує в інтервалі навколо нуля, скажімо для деякого , тоді розглянути розширення Тейлора та монотонність інтеграла для відкриття рішення. :)

(- t_{0}, t_{0})

$(-t_0,t_0)$

t_{0} > 0

$t_0 > 0$

e^{x}

$e^x$

— кардинал

Ігноруючи питання конвергенції (мислячи про mgf як лише про формальний ряд потужностей), що може бути mgf, якщо якийсь момент не існував?

— whuber

Кардинал, ви можете, будь ласка, надати нам кілька посилань щодо пропозицій, які ви надали?

Це питання дає хорошу можливість зібрати деякі факти щодо функцій, що генерують момент ( mgf ).

У відповіді нижче ми робимо наступне:

Покажіть, що якщо mgf є кінцевим принаймні для одного (строго) позитивного значення та одного негативного значення, то всі позитивні моменти є кінцевими (включаючи неінтегральні моменти). $X$
Доведіть, що умова в першому пункті вище еквівалентна розподілу має експоненціально обмежені хвости. Іншими словами, хвости падають принаймні так само швидко, як і експоненціальна випадкова величина (до постійної). $X$ $X$ $Z$
Надайте швидку примітку щодо характеристики розподілу за його mgf за умови, що він відповідає умові в пункті 1.
Вивчіть кілька прикладів та контрприкладів, щоб допомогти нашій інтуїції, зокрема, щоб показати, що ми не повинні читати зайвого значення у відсутності кінцевості мг.

Ця відповідь досить довга, за що я заздалегідь вибачаюся. Якщо це краще, наприклад, як допис у блозі чи деінде, будь ласка, надайте такі коментарі у коментарях.

Що говорить mgf про моменти?

Mgf випадкової величини визначається як . Зауважимо, що завжди існує, оскільки він є інтегралом негативної вимірюваної функції. Однак якщо не може бути кінцевим . Якщо це кінцеве (у потрібних місцях), то для всіх (не обов'язково ціле), абсолютні моменти (і, таким чином, також є скінченний). Це тема наступної пропозиції. $X \sim F$ $m(t) = \mathbb E e^{tX}$ $m(t)$ $p > 0$ $\mathbb E |X|^p < \infty$ $\mathbb E X^p$

Пропозиція : Якщо існує і такий, що і , то моменти всіх порядків існують і є кінцевими. $\newcommand{\tn}{t_{n}}\newcommand{\tp}{t_{p}}\tn < 0$ $\tp > 0$ $m(\tn) < \infty$ $m(\tp) < \infty$ $X$

Перш ніж зануритися в доказ, ось дві корисні леми.

Лема 1 : Припустимо, такі і існують. Тоді для будь-якого , . Доказ . Це випливає з опуклості та монотонності інтеграла. Для будь-якого такого існує такий, що . Але тоді Отже, за монотонністю інтеграла, . $\tn$ $\tp$ $t_0 \in [\tn,\tp]$ $m(t_0) < \infty$
$e^x$ $t_0$ $\theta \in [0,1]$ $t_0 = \theta \tn + (1-\theta) \tp$

е^{т_{0} Х} = е^{θ т_{н} Х + (1 - θ) т_{p} Х} \leq θ е^{т_{н} Х} + (1 - θ) е^{т_{p} Х} .

$e^{t_0 X} = e^{\theta \tn X + (1-\theta) \tp X} \leq \theta e^{\tn X} + (1-\theta) e^{\tp X} \>.$

E e^{t_{0} X} \leq θ E e^{t_{n} X} + (1 - θ) E e^{t_{p} X} < \infty

$\mathbb E e^{t_0 X} \leq \theta \mathbb E e^{\tn X} + (1-\theta) \mathbb E e^{\tp X} < \infty$

Отже, якщо mgf є кінцевим у будь-яких двох різних точках, він є кінцевим для всіх значень в інтервалі між цими точками.

Лемма 2 ( Вкладення просторів $L_p$ ): для , якщо , то . Доведення : у цій відповіді та пов'язаних коментарях наведено два підходи . $0 \leq q \leq p$ $\mathbb E |X|^p < \infty$ $\mathbb E |X|^q < \infty$

Це дає нам достатньо для продовження доведення твердження.

Доведення пропозиції . Якщо і існують так, як зазначено у пропозиції, то приймаючи , ми знаємо, що за першою і . Але, а права частина складається з негативних термінів, тому, зокрема, для будь-яких фіксованих Тепер, за припущенням . Монотонність інтегральних виходів . Отже, всі $\tn < 0$ $\tp > 0$ $t_0 = \min(-\tn,\tp) > 0$ $m(-t_0) < \infty$ $m(t_0) < \infty$

е^{- т_{0} Х} + е^{т_{0} Х} = 2 \sum_{н = 0}^{\infty} \frac{т_{0}^{2 н} Х^{2 н}}{(2 н)!},

$e^{-t_0 X} + e^{t_0 X} = 2 \sum_{n=0}^\infty \frac{t_0^{2n} X^{2n}}{(2n)!} \>,$

k

$k$

е^{- т_{0} Х} + е^{т_{0} Х} \geq 2 т_{0}^{2 к} Х^{2 к} / (2 к)! .

$e^{-t_0 X} + e^{t_0 X} \geq 2 t_0^{2k} X^{2k}/(2k)! \>.$

E e^{- t_{0} X} + E e^{t_{0} X} < \infty

$\mathbb E e^{-t_0 X} + \mathbb E e^{t_0 X} < \infty$

E X^{2 k} < \infty

$\mathbb E X^{2k} < \infty$ навіть моменти кінцеві. Лема 2 негайно дозволяє нам «заповнити прогалини» і зробити висновок, що всі моменти повинні бути кінцевими.

X

$X$

Знімок

Підсумок питання, що розглядається, полягає в тому, що якщо будь-який момент є нескінченним або не існує, ми можемо негайно зробити висновок, що mgf не є кінцевим у відкритому інтервалі, що містить початок. (Це лише контрастне твердження пропозиції.) $X$

Таким чином, вищенаведене положення забезпечує «правильну» умову, щоб сказати щось про моменти на основі його mgf. $X$

Експоненціально обмежені хвости та мг

Пропозиція : ФМГ звичайно у відкритому інтервалі , що містить початок , якщо і тільки якщо хвости є експоненціально обмежені , т для деяких і . $m(t)$ $(\tn,\tp)$ $F$ $\mathbb P( |X| > x) \leq C e^{-t_0 x}$ $C > 0$ $t_0 > 0$

Доказ . Ми розберемося з правим хвостом окремо. Лівий хвіст обробляється повністю аналогічно.

$(\Rightarrow)$ Припустимо, для деяких . Потім правий хвіст є експоненціально обмеженим ; іншими словами, існує і такий, що Щоб побачити це, зауважте, що для будь-якого , за нерівністю Маркова, Візьміть і щоб виконати цей напрямок доказування. $m(t_0) < \infty$ $t_0 > 0$ $F$ $C > 0$ $b > 0$

П (Х > х) \leq С е^{- б х} .

$\mathbb P(X > x) \leq C e^{-b x} \>.$

t > 0

$t > 0$

П (Х > х) = П (е^{т Х} > е^{т х}) \leq е^{- т х} Е е^{т Х} = м (т) е^{- т х} .

$\mathbb P(X > x) = \mathbb P(e^{tX} > e^{tx}) \leq e^{-tx} \mathbb E e^{t X} = m(t) e^{-t x} \>.$

C = m (t_{0})

$C = m(t_0)$

b = t_{0}

$b = t_0$

$(\Leftarrow)$ Припустимо, є і такі, що . Тоді для , де перша рівність випливає з a стандартний факт про очікування негативних випадкових величин . Виберіть будь-який такий, що ; то інтеграл з правого боку є кінцевим. $C >0$ $t_0 > 0$ $\mathbb P(X > x) \leq C e^{-t_0 x}$ $t > 0$

Е е^{т Х} = \int_{0}^{\infty} П (е^{т Х} > у) г у \leq 1 + \int_{1}^{\infty} П (е^{т Х} > у) г у \leq 1 + \int_{1}^{\infty} С у^{- т_{0} / т} г у,

$\mathbb E e^{t X} = \int_0^\infty \mathbb P( e^{t X} > y)\,\mathrm dy \leq 1 + \int_1^\infty \mathbb P( e^{t X} > y)\,\mathrm dy \leq 1 + \int_1^\infty C y^{-t_0/t} \, \mathrm dy \>,$

t

$t$

0 < t < t_{0}

$0 < t < t_0$

Це завершує доказ.

Примітка про унікальність розподілу з урахуванням його мг

Якщо mgf скінчен у відкритому інтервалі, що містить нуль, то пов'язаний розподіл характеризується його моментами , тобто це єдиний розподіл з моментами . Стандартний доказ короткий, коли можна мати під рукою деякі (відносно прості) факти про характерні функції . Деталі можна знайти в більшості сучасних імовірнісних текстів (наприклад, Біллінгслі чи Дюррет). У цій відповіді обговорюється пара пов'язаних питань . $\mu_n = \mathbb E X^n$

Приклади та контрприклади

( ) Розподіл логнормального : являє логнормальний , якщо для деякої нормальної випадкової величини . Тож з вірогідністю один. Оскільки для всіх , це одразу говорить нам, що для всіх . Отже, mgf є кінцевим на неонегативному піврядку . ( Примітка. Для встановлення цього факту ми використовували лише негативність , тому це справедливо для всіх негативних випадкових величин.) $X$ $X = e^Y$ $Y$ $X \geq 0$ $e^{-x} \leq 1$ $x \geq 0$ $m(t) = \mathbb E e^{t X} \leq 1$ $t < 0$ $(-\infty,0]$ $X$

Однак для всіх . Ми візьмемо стандартний лонормальний як канонічний випадок. Якщо , то . Змінюючи змінні, ми маємо Для і досить великого , маємо за межами, наведеними вище. Але, для будь-якого , і тому mgf нескінченний для всіх . $m(t) = \infty$ $t > 0$ $x > 0$ $e^{x} \geq 1 + x + \frac{1}{2} x^2 + \frac{1}{6} x^3$

Е е^{т Х} = (2 π)^{- 1 / 2} \int_{- \infty}^{\infty} е^{т е^{у} - у^{2} / 2} г у .

$\mathbb E e^{t X} = (2\pi)^{-1/2} \int_{-\infty}^\infty e^{t e^u - u^2/2} \,\mathrm d u \>.$

t > 0

$t > 0$

u

$u$

t e^{u} - u^{2} / 2 \geq t + t u

$t e^u - u^2/2 \geq t+tu$

\int_{К}^{\infty} е^{т + т у} г у = \infty

$\int_{K}^\infty e^{t + tu} \,\mathrm du = \infty$

K

$K$

t > 0

$t > 0$

З іншого боку, всі моменти лонормального розподілу є скінченними. Отже, існування mgf в інтервалі близько нуля не є необхідним для висновку вищенаведеної пропозиції .

( b ) Симетризований лонормальний : ми можемо отримати ще більш крайній випадок, "симетризуючи" лонормальний розподіл. Розглянемо щільність для така, що Не важко побачити у світлі попереднього прикладу, що mgf є скінченним лише при . Тим не менше, парні моменти точно такі ж, як у лонормальних, а непарні моменти - це нуль! Таким чином, mgf ніде не існує (окрім випадків, де він завжди існує), і все ж ми можемо гарантувати кінцеві моменти всіх замовлень. $f(x)$ $x \in \mathbb R$

f (х) = \frac{1}{2 \sqrt{2 π} | х |} е^{- \frac{1}{2} (журнал | х |)^{2}} .

$f(x) = \frac{1}{2\sqrt{2\pi}|x|} e^{-\frac{1}{2} (\log |x|)^2} \>.$

t = 0

$t = 0$

( c ) Кошти розподілу : Цей розподіл також має mgf, який нескінченний для всіх , але абсолютних моментів не визначено для . Результат для mgf випливає для оскільки 3/6 для і так Доказ для аналогічний. (Може бути , трохи менш добре відомо, що моменти для робити існують Коші. Дивіться цю відповідь $t \neq 0$ $\mathbb E|X|^p$ $p \geq 1$ $t > 0$ $e^x \geq x^3 / 6$ $x > 0$

Е е^{т Х} \geq \int_{1}^{\infty} \frac{т^{3} х^{3}}{6 π (1 + х^{2})} г х \geq \frac{т^{3}}{12 π} \int_{1}^{\infty} х г х = \infty .

$\mathbb E e^{tX} \geq \int_1^\infty \frac{t^3 x^3}{6\pi(1+x^2)} \,\mathrm dx \geq \frac{t^3}{12\pi} \int_1^\infty x \,\mathrm dx = \infty \>.$

t < 0

$t < 0$

0 < p < 1

$0 < p < 1$ .)

( d ) Розподіл напів-Коші : Якщо є (стандартним) Коші, викликнапів-Коші випадкова величина. Тоді з попереднього прикладу легко помітити, що для всіх ; все ж, є кінцевим для . $X$ $Y = |X|$ $\mathbb E Y^p = \infty$ $p \geq 1$ $\mathbb E e^{tY}$ $t \in (-\infty,0]$

— кардинальний
джерело

Дякуємо, що опублікували це - це напрочуд легко зрозуміти, враховуючи, наскільки це технічно - добре зроблено.

— Макрос

Чи знаєте ви якісь результати щодо мг у гільбертовому просторі?

— badatmath