Що таке функція генерування моменту (MGF)?

Чи можете ви пояснити це простим та легким прикладом?

Будь ласка, обмежтесь, використовуючи офіційні математичні позначення, наскільки це можливо.

Припустимо, що інтуїція без рівнянь не можлива, і все ж наполягаємо на тому, щоб збити математику до найважливішого, щоб зрозуміти, що відбувається: ми намагаємося отримати статистичні моменти , які після обов'язкового посилання на фізику , ми визначаємо як очікуване значення потужності випадкової величини. Для безперервної випадкової величини необроблений -й момент - LOTUS :$k$

$$\begin{align}\large \color{red}{\mathbb{E}\left[{X^k}\right]} &= \displaystyle\int_{-\infty}^{\infty}\color{blue}{X^k}\,\,\color{green}{\text{pdf}}\,\,\,dx\tag{1}\end{align}$$

Функція, що генерує момент , - це спосіб обійти цей інтеграл (Eq.1) , замість цього виконуючи:

$$M_X(t):=\mathbb E\big[e^{tX}\big],$$

$$\begin{align} \large \color{blue}{\mathbb{E}\left[e^{\,tX}\right]}&=\displaystyle \int_{-\infty}^{\infty}\color{blue}{e^{tX}}\,\color{green}{\text{pdf}}\, dx\tag{2}\end{align}$$

Чому? Тому що це простіше і є фантастичне властивість MGF , що можна побачити, розширивши ряд Маклорена з$\color{blue}{e^{\,tX}}$

$$e^{tX}=1+\frac{ X }{1!}\, t +\frac{ X^{2} }{2!}t^{2} +\frac{ X^{3} }{3!} t^{3} +\cdots$$

Приймаючи очікування обох сторін цього силового ряду:

$$\begin{align} M_X(t) &= \color{blue}{\mathbb{E}\left[e^{\,tX}\right]} \\[1.5ex] &=1 + \frac{\color{red}{\mathbb{E} \left[X\right]}}{1!} \, t \, + \frac{\color{red}{\mathbb{E} \left[X^2\right]}}{2!} \, t^2 \, + \frac{\color{red}{\mathbb{E} \left[X^3\right]}}{3!} \, t^3 \, + \cdots\tag{3} \end{align}$$

моменти з'являються "приземленими" на цій поліноміальній "лінії одягу", готової до вибивання простою диференціацією разів та оцінкою в нуль, як тільки ми проходимо через простішу інтеграцію (в еквіваленті (2)) лише один раз на всі моменти! Той факт, що це легша інтеграція, найбільш очевидний, коли pdf є експоненціальним.$k$

Для відновлення -го моменту:$k$

$$M_X^{(k)}(0)=\frac{d^k}{dt^k}M_X(t)\Bigr|_{t=0}$$

Той факт, що зрештою виникає необхідність розмежувати, робить це не вільним обідом - врешті-решт, це двостороннє перетворення Лапласа pdf із зміненим знаком у експоненті:

$$\mathcal L \{\text{pdf}(x)\}(s) =\int_{-\infty}^{\infty}e^{-sx}\text{pdf}(x) dx$$

такий, що

$$M_X(t)=\mathcal L\{\text{pdf}(x)\}(-s)\tag 4.$$

Це, по суті, дає нам дорогу фізиці до інтуїції. Перетворення Лапласа діє на і розкладає його на моменти. Схожість з перетворенням Фур'є неминуча : а FT відображає функцію нової функції на дійсній прямій, і Лапласа переводить функцію нової функції на комплексній площині. Перетворення Фур'є виражає функцію або сигнал у вигляді серії частот, тоді як перетворення Лапласа розв'язує функцію на її моменти . Насправді інший спосіб отримання моментів відбувається через перетворення Фур'є ( характерна функція ). Експоненціальний член у перетворенні Лапласа взагалі має вигляд с$\color{green}{\text{pdf}}$$e^{-st}$$s=\sigma + i\,\omega$ , відповідний реальний експонент і уявні sinusoidals і приносять ділянки , такі як це :

---

[ З посібника вченого та інженера з обробки сигналів Стівена В. Сміта ]

---

Тому функція розкладає - то в його «складових частот» , колиЗ ек. (4):$M_X(t)$$\text{pdf}$$\sigma=0.$

$$\begin{align}\require{cancel} M_X(t)&=\mathbb E\big[e^{-sX}\big]\\[2ex] &=\displaystyle \int_{-\infty}^{\infty}{e^{-sx}}\,\text{pdf}(x)\, dx\\[2ex] &=\displaystyle \int_{-\infty}^{\infty}{e^{-(\sigma+i\omega)x}}\,\text{pdf}(x)\, dx\\[2ex] &=\displaystyle \int_{-\infty}^{\infty}\cancel{e^{-\sigma x}}\,\color{red}{e^{-i\omega x}\,\text{pdf}(x)\, dx} \end{align}$$

що залишає нам неправильну інтегральну частину виразу червоного кольору, що відповідає перетворенню Фур'є у форматі pdf.

Загалом, інтуїція полюсів перетворення Лапласа функції полягала б у тому, що вони надають інформацію про експоненціальні (занепадуючі) та частотні компоненти функції (в цьому випадку pdf).

---

У відповідь на запитання під коментарями про перехід від до це абсолютно стратегічний хід: одне вираження не випливає з іншого. Ось аналогія: у нас є власний автомобіль, і ми можемо їхати в місто кожен раз, коли нам потрібно подбати про якусь справу (читайте, інтегруючи Eq незалежно від того, наскільки жорсткий кожен окремий момент) . Натомість ми можемо зробити щось зовсім інше: ми можемо доїхати до найближчої станції метро (прочитати, вирішити еквалайзер лише один раз), а звідти користуватися громадським транспортом, щоб дістатися до кожного місця, яке нам потрібно відвідати (прочитати, дістати будь-який похідне інтеграла в рівнянні для отримання будь-якого$X^k$$e^{tx}$$(1)$$(2)$$k$$(2)$$k$-це ми потребуємо, знаючи (завдяки рівнянню ), що всі моменти "ховаються" там і виділяються, оцінюючи ).$(3)$$0$

У найпростіших термінах це спосіб кодувати всі характеристики розподілу ймовірностей в одну коротку фразу. Наприклад, якщо я знаю, що MGF розподілу я можу дізнатися середнє значення цього розподілу, взявши перший термін розширення Тейлора : Якщо ви знаєте, що ви робите, це набагато швидше, ніж приймати очікування функції ймовірності.

$$M(t)=e^{t\mu+1/2\sigma^2t^2}$$ $$\frac d {dt}M(t)|_{t=0}=\mu+\sigma^2t|_{t=0}=\mu$$

Більше того, оскільки цей MGF кодує все про розподіл, якщо ви знаєте, як маніпулювати функцією, ви можете застосувати операції з усіма характеристиками розподілу одразу! Чому ми не завжди використовуємо MGF? По-перше, не у всіх ситуаціях MGF - це найпростіший інструмент. По-друге, MGF не завжди існує.

Вище мирянин

Припустимо, у вас є звичайний нормальний розподіл. Ви можете висловити все, що ви знаєте про нього, вказавши його PDF:

$$f(x)=\frac 1 {\sqrt{2\pi}}e^{-x^2/2}$$

Ви можете обчислити його момент, наприклад, середнє та стандартне відхилення, і використовувати його для перетворених змінних та функцій на випадкових нормалах тощо.

Ви можете вважати MGF звичайного розповсюдження як альтернативу PDF. Він містить однаковий обсяг інформації. Я вже показав, як отримати середнє значення.

Навіщо нам потрібен альтернативний спосіб? Як я писав, іноді це просто зручніше. Наприклад, спробуйте обчислити дисперсію стандартного нормального в PDF: Це не так складно, але набагато простіше це зробити з MGF :

$$\sigma^2=\int_{-\infty}^\infty x^2\frac 1 {\sqrt{2\pi}}e^{-x^2/2} dx=?$$ $M(t)=e^{t^2/2}$ $$\sigma^2=\frac {d^2} {dt^2}M(t)|_{t=0}=\frac d {dt} t |_{t=0}=1$$