Поширення помилки за допомогою серії Тейлора другого порядку

Я читаю текст "Математичної статистики та аналізу даних" Джона Райса. Йдеться про наближення очікуване значення і дисперсію випадкової величини . Ми можемо обчислити очікуване значення та дисперсію випадкової величини і знаємо відношення . Отже, можна наблизити очікувану величину та дисперсію за допомогою розширення серії Тейлора про . $Y$ $X$ $Y = g(X)$ $Y$ $g$ $\mu_X$

На сторінці 162 він перераховує 3 рівняння.

Очікуване значення за допомогою розширення серії Тейлора першого порядку. Це: . Про це пізніше у моєму запитанні йдеться як . $Y$ $\mu_Y \approx g(\mu_X)$ $E(Y_1)$
Дисперсія використанням розширення серії Тейлора першого порядку. Це: . Про це пізніше у моєму запитанні йдеться про . $Y$ $\sigma_Y^2 \approx \sigma_X^2 (g'(\mu_X))^2$ $Var(Y_1)$
Очікуване значення за допомогою розширення серії Тейлора другого порядку. Це . Про це пізніше у моєму запитанні йдеться як . $Y$ $\mu_Y \approx g(\mu_X) + \frac12 \sigma_X^2 g''(\mu_X)$ $E(Y_2)$

Зауважте, що для є два різних вирази, $Y$ оскільки ми використовуємо два різних порядки в розширенні серії Тейлора. Рівняння 1 і 2 відносяться до $Y_1 = g(X) \approx g(\mu_X) + (X-\mu_X)g'(\mu_X)$ . Рівняння 3 відноситься до $Y_2 = g(X) \approx g(\mu_X) + (X-\mu_X)g'(\mu_X) + \frac12 (X-\mu_X)^2 g''(\mu_X)$ .

Зауважимо, що рівняння для $Var(Y_2)$ конкретно не наводиться. Пізніше автор, як видається, використовує рівняння для дисперсії $Y_1$ (рівняння 2), коли насправді йдеться про очікувану величину $Y_2$ (рівняння 3). Здається, це означає, що $Var(Y_2) = Var(Y_1)$ .

Я спробував обчислити вручну , і я отримую дещо складний вираз. Ось моя робота (я зупинився, тому що наприкінці я отримую терміни в очікуванні): $Var(Y_2)$ $X^3$

\begin{aligned} V a r (Y_{2}) & = E [(g (μ_{X}) + (X - μ_{X}) a + \frac{1}{2} (X - μ_{X})^{2} b - g (μ_{X}) - \frac{1}{2} σ_{X}^{2} b)^{2}] \\ = E [((X - μ_{X}) a + {(\frac{1}{2} (X - μ_{X})^{2} - \frac{1}{2} σ_{X}^{2}) b)}^{2}] \\ = E [(c a + {(\frac{1}{2} c^{2} - \frac{1}{2} σ_{X}^{2}) b)}^{2}] \\ = E [c^{2} a^{2} + c a (c^{2} - σ_{X}^{2}) b + \frac{1}{4} (c^{2} - σ_{X}^{2})^{2} b^{2}] \\ = E [(X^{2} - 2 X μ_{X} + μ_{X}^{2}) a^{2} + (X - μ_{X}) a ((X^{2} - 2 X μ_{X} + μ_{X}^{2}) - σ_{X}^{2}) b \\ + \frac{1}{4} ((X^{2} - 2 X μ_{X} + μ_{X}^{2}) - σ_{X}^{2})^{2} b^{2}] \end{aligned}

$\begin{aligned} Var(Y_2) &= E[( g(\mu_X) + (X-\mu_X)a + \frac12 (X-\mu_X)^2 b - g(\mu_X) - \frac12 \sigma_X^2 b )^2] \\ &= E\left[((X-\mu_X)a + \left(\frac12 (X-\mu_X)^2 - \frac12 \sigma_X^2)b\right)^2\right] \\ &= E\left[(ca + \left(\frac12 c^2 - \frac12 \sigma_X^2)b\right)^2\right] \\ & = E[c^2 a^2 + ca(c^2 - \sigma_X^2)b + \frac14(c^2-\sigma_X^2)^2 b^2] \\ & = E[(X^2 - 2X \mu_X + \mu_X^2)a^2 + (X-\mu_X)a((X^2 - 2X\mu_X + \mu_X^2) - \sigma_X^2)b \\ & + \frac14((X^2 - 2X\mu_X + \mu_X^2)-\sigma_X^2)^2 b^2] \end{aligned}$

Зауважимо, що у наведених рівняннях , і . Що таке ? $a = g'(\mu_X)$ $b = g''(\mu_X)$ $c = X-\mu_X$ $Var(Y_2)$

Дякую.

self-study mathematical-statistics error

— jrand
джерело

Чому ви зупинилися на ? Оскільки наближення другого порядку є квадратичною функцією , її дисперсія, як правило, передбачає моменти до . Третій момент може дорівнювати нулю, але четвертий момент, безумовно, з’явиться і нічим не скасується.

X^{3}

$X^3$

X

$X$

X

$X$

2 \cdot 2 = 4

$2 \cdot 2 = 4$

— whuber

Припускаючи , ми можемо отримати приблизну дисперсію використовуючи розширення Тейлора другого порядку про таким чином: $Y=g(X)$ $Y$ $g(X)$ $\mu_X=\mathbf{E}[X]$

\begin{array}{rcl} V a r [Y] & = & V a r [g (X)] \\ \approx & V a r [g (μ_{X}) + g^{'} (μ_{X}) (X - μ_{X}) + \frac{1}{2} g^{″} (μ_{X}) (X - μ_{X})^{2}] \\ = & (g^{'} (μ_{X}))^{2} σ_{X}^{2} + \frac{1}{4} (g^{″} (μ_{X}))^{2} V a r [(X - μ_{X})^{2}] \\ + g^{'} (μ_{X}) g^{″} (μ_{X}) C o v [X - μ_{X}, (X - μ_{X})^{2}] \\ = & (g^{'} (μ_{X}))^{2} σ_{X}^{2} + \frac{1}{4} (g^{″} (μ_{X}))^{2} E [(X - μ_{X})^{4} - σ_{X}^{4}] \\ + g^{'} (μ_{X}) g^{″} (μ_{X}) (E (X^{3}) - 3 μ_{X} (σ_{X}^{2} + μ_{X}^{2}) + 2 μ_{X}^{3}) \\ = & (g^{'} (μ_{X}))^{2} σ_{X}^{2} \\ + \frac{1}{4} (g^{″} (μ_{X}))^{2} (E [X^{4}] - 4 μ_{X} E [X^{3}] + 6 μ_{X}^{2} (σ_{X}^{2} + μ_{X}^{2}) - 3 μ_{X}^{4} - σ_{X}^{4}) \\ + g^{'} (μ_{X}) g^{″} (μ_{X}) (E (X^{3}) - 3 μ_{X} (σ_{X}^{2} + μ_{X}^{2}) + 2 μ_{X}^{3}) \end{array}

$\begin{eqnarray*} \mathbf{Var}[Y] &=& \mathbf{Var}[g(X)]\\ &\approx& \mathbf{Var}[g(\mu_X)+g'(\mu_X)(X-\mu_X)+\frac{1}{2}g''(\mu_X)(X-\mu_X)^2]\\ &=& (g'(\mu_X))^2\sigma_{X}^{2}+\frac{1}{4}(g''(\mu_X))^2\mathbf{Var}[(X-\mu_X)^2]\\ & & +g'(\mu_X)g''(\mu_X)\mathbf{Cov}[X-\mu_X,(X-\mu_X)^2]\\ &=& (g'(\mu_X))^2\sigma_{X}^{2}+\frac{1}{4}(g''(\mu_X))^2\mathbf{E}[(X-\mu_X)^4-\sigma_{X}^{4}]\\ & & +g'(\mu_X)g''(\mu_X)\left(\mathbf{E}(X^3)-3\mu_X(\sigma_{X}^{2}+\mu_{X}^{2})+2\mu_{X}^{3}\right)\\ &=& (g'(\mu_X))^2\sigma_{X}^{2}\\ & & +\frac{1}{4}(g''(\mu_X))^2\left(\mathbf{E}[X^4]-4\mu_X\mathbf{E}[X^3]+6\mu_{X}^{2}(\sigma_{X}^{2}+\mu_{X}^{2})-3\mu_{X}^{4}-\sigma_{X}^{4}\right)\\ & & +g'(\mu_X)g''(\mu_X)\left(\mathbf{E}(X^3)-3\mu_X(\sigma_{X}^{2}+\mu_{X}^{2})+2\mu_{X}^{3}\right)\\ \end{eqnarray*}$

Як @whuber зазначив в коментарі, це можна очистити трохи за допомогою третіх і четвертих центральних моментів . Центральний момент визначається як . Зауважте, що . Використовуючи це нове позначення, ми маємо, що $X$ $\mu_k=\mathbf{E}[(X-\mu_X)^k]$ $\sigma_{X}^{2}=\mu_2$

V a r [Y] \approx (g^{'} (μ_{X}))^{2} σ_{X}^{2} + g^{'} (μ_{X}) g^{″} (μ_{X}) μ_{3} + \frac{1}{4} (g^{″} (μ_{X}))^{2} (μ_{4} - σ_{X}^{4})

$\mathbf{Var}[Y]\approx(g'(\mu_X))^2\sigma_{X}^{2}+g'(\mu_X)g''(\mu_X)\mu_3+\frac{1}{4}(g''(\mu_X))^2(\mu_4-\sigma_{X}^{4})$

— передбачаєтьсянормальним
джерело

Це правильний підхід, але ви не забули включити коваріацію між та ?

X - μ_{X}

$X-\mu_X$

(X - μ_{X})^{2}

$(X-\mu_X)^2$

— whuber

@whuber Так. Дякуємо, що вказали на це. Я скоро це відредагую.

— припускаєтьсянормальне

Ви можете врятувати собі певну неприємність, записавши відповідь у другому, третьому та четвертому центральних моментах, , та . Ви повинні отримати .

σ^{2}

$\sigma^2$

μ_{3}

$\mu_3$

μ_{4}

$\mu_4$

σ^{2} g^{'} (μ)^{2} + μ_{3} g^{'} (μ) g^{″} (μ) + \frac{1}{4} (μ_{4} - σ^{4}) g^{″} (μ)^{2}

$\sigma^2 g'(\mu )^2 + \mu_3 g'(\mu ) g''(\mu )+\frac{1}{4} \left(\mu_4-\sigma ^4\right) g''(\mu )^2$

— whuber

@jrand - Мої вибачення. Я не здогадувався, що ти це мав у своєму початковому дописі. Я, однак, не видаляю свою посаду, тому що потрібно було ввести певний час.

— припускаєтьсянормальне

@Max, whuber: Дякую за відповідь та пояснення.

— jrand