Варіант функції однієї випадкової величини

Скажімо, у нас є випадкова величина із відомою дисперсією та середнім значенням. Питання: яка дисперсія для деякої заданої функції f. Єдиний загальний метод, який мені відомий - це метод дельта, але він дає лише апроксимацію. Тепер мене цікавить , але було б також непогано знати деякі загальні методи. $X$ $f(X)$ $f(x)=\sqrt{x}$

Редагувати 29.12.2010
Я зробив деякі розрахунки за допомогою серії Тейлор, але я не впевнений, чи вони правильні, тому я буду радий, якщо хтось міг їх підтвердити .

Спочатку нам потрібно наблизити $E[f(X)]$
$E[f(X)] \approx E[f(\mu)+f'(\mu)(X-\mu)+\frac{1}{2}\cdot f''(\mu)(X-\mu)^2]=f(\mu)+\frac{1}{2}\cdot f''(\mu)\cdot Var[X]$

Тепер ми можемо наблизити $D^2 [f(X)]$
$E[(f(X)-E[f(X)])^2] \approx E[(f(\mu)+f'(\mu)(X-\mu)+\frac{1}{2}\cdot f''(\mu)(X-\mu)^2 -E[f(X)])^2]$

Використовуючи наближення $E[f(X)]$ ми знаємо, що $f(\mu)-Ef(x) \approx -\frac{1}{2}\cdot f''(\mu)\cdot Var[X]$

Використовуючи це, ми отримуємо:
$D^2[f(X)] \approx \frac{1}{4}\cdot f''(\mu)^2\cdot Var[X]^2-\frac{1}{2}\cdot f''(\mu)^2\cdot Var[X]^2 + f'(\mu)^2\cdot Var[X]+\frac{1}{4}f''(\mu)^2\cdot E[(X-\mu)^4] +\frac{1}{2}f'(\mu)f''(\mu)E[(X-\mu)^3]$
$D^2 [f(X)] \approx \frac{1}{4}\cdot f''(\mu)^2 \cdot [D^4 X-(D^2 X)^2]+f'(\mu)\cdot D^2 X +\frac{1}{2}f'(\mu)f''(\mu)D^3 X$

variance random-variable delta-method

— Томек Тарчинський
джерело

Для асимптотичних розподілів використовується метод Дельта. Ви не можете використовувати, коли у вас є лише одна випадкова величина.

— mpiktas

@mpiktas: Насправді я не знаю багато про метод Delta, я просто щось читав у Вікіпедії. Це цитата з wiki: "Метод delta використовує розширення Тейлора другого порядку для апроксимації дисперсії функції однієї або декількох випадкових змінних".

— Томек Тарчинський

здається вікіпедія має саме те , що ви хочете: en.wikipedia.org/wiki / ... . Я перечитаю свою відповідь, схоже, я недооцінив розширення Тейлора.

— mpiktas

Томек, якщо ви не погоджуєтесь із внесеними правками (не мною), ви завжди можете їх змінити знову, або відкотити їх, або просто вказати на відмінності та попросити роз'яснити.

— Glen_b -Встановіть Моніку

@Glen_b: Я погоджуюсь з ними E (X-mu) = 0 не означає, що E [(X-mu) ^ 3] = 0.

— Томек Тарчинський

Оновлення

Я недооцінив розширення Тейлора. Вони насправді працюють. Я припускав, що інтеграл решти члена може бути необмеженим, але при невеликій роботі можна показати, що це не так.

Розширення Тейлора працює для функцій у обмеженому замкнутому інтервалі. Для випадкових величин з кінцевою дисперсією Чебишев дає нерівність

P (| X - E X | > c) \leq \frac{V a r (X)}{c}

$P(|X-EX|>c)\le \frac{Var(X)}{c}$

Тож для будь-якого ми можемо знайти досить велику так що $\varepsilon>0$ $c$

P (X \in [E X - c, E X + c]) = P (| X - E X | \leq c) < 1 - ε

$P(X\in [EX-c,EX+c])=P(|X-EX|\le c)<1-\varepsilon$

Спочатку оцінимо . У нас є , де є функцією розподілу для . $Ef(X)$

\begin{aligned} E f (X) = \int_{| x - E X | \leq c} f (x) d F (x) + \int_{| x - E X | > c} f (x) d F (x) \end{aligned}

$\begin{align} Ef(X)=\int_{|x-EX|\le c}f(x)dF(x)+\int_{|x-EX|>c}f(x)dF(x) \end{align}$

F (x)

$F(x)$

X

$X$

Оскільки область першого інтеграла - інтервал який обмежений замкненим інтервалом, ми можемо застосувати розширення Тейлора: where , а рівність виконується для всіх . У розширенні Тейлора я взяв лише 4 терміни, але загалом ми можемо взяти стільки, скільки нам подобається, доки функція досить гладка. $[EX-c,EX+c]$

\begin{aligned} f (x) = f (E X) + f^{'} (E X) (x - E X) + \frac{f^{″} (E X)}{2} (x - E X)^{2} + \frac{f^{‴} (α)}{3} (x - E X)^{3} \end{aligned}

$\begin{align} f(x)=f(EX)+f'(EX)(x-EX)+\frac{f''(EX)}{2}(x-EX)^2+\frac{f'''(\alpha)}{3}(x-EX)^3 \end{align}$

α \in [E X - c, E X + c]

$\alpha\in [EX-c,EX+c]$

x \in [E X - c, E X + c]

$x\in[EX-c,EX+c]$

f

$f$

Підставивши цю формулу до попередньої, яку ми отримаємо

\begin{aligned} E f (X) & = \int_{| x - E X | \leq c} f (E X) + f^{'} (E X) (x - E X) + \frac{f^{″} (E X)}{2} (x - E X)^{2} d F (x) \\ + \int_{| x - E X | \leq c} \frac{f^{‴} (α)}{3} (x - E X)^{3} d F (x) + \int_{| x - E X | > c} f (x) d F (x) \end{aligned}

$\begin{align} Ef(X)&=\int_{|x-EX|\le c}f(EX)+f'(EX)(x-EX)+\frac{f''(EX)}{2}(x-EX)^2dF(x)\\\\ &+\int_{|x-EX|\le c}\frac{f'''(\alpha)}{3}(x-EX)^3dF(x) +\int_{|x-EX|>c}f(x)dF(x) \end{align}$ Тепер ми можемо збільшити область інтеграції, щоб отримати таку формулу

\begin{aligned} E f (X) & = f (E X) + \frac{f^{″} (E X)}{2} E (X - E X)^{2} + R_{3} \end{aligned}

$\begin{align} Ef(X)&=f(EX)+\frac{f''(EX)}{2}E(X-EX)^2+R_3\\\\ \end{align}$ where Тепер за певних моментів ми можемо показати, що другий член цього решти члена має величину який є малим. На жаль, перший член залишається, і тому якість наближення залежить від та поведінки третьої похідної у обмежених інтервалах. Таке наближення повинно найкраще працювати для випадкових змінних з .

\begin{aligned} R_{3} & = \frac{f^{‴} (α)}{3} E (X - E X)^{3} + \\ + \int_{| x - E X | > c} (f (E X) + f^{'} (E X) (x - E X) + \frac{f^{″} (E X)}{2} (x - E X)^{2} + f (X)) d F (x) \end{aligned}

$\begin{align} R_3&=\frac{f'''(\alpha)}{3}E(X-EX)^3+\\\\ &+\int_{|x-EX|>c}\left(f(EX)+f'(EX)(x-EX)+\frac{f''(EX)}{2}(x-EX)^2+f(X)\right)dF(x) \end{align}$

P (| X - E X | > c)

$P(|X-EX|>c)$

E (X - E X)^{3}

$E(X-EX)^3$

f

$f$

E (X - E X)^{3} = 0

$E(X-EX)^3=0$

Тепер для дисперсії ми можемо використати наближення Тейлора для , відняти формулу для і квадрат різниці. Потім $f(x)$ $Ef(x)$

$E(f(x)-Ef(x))^2=(f'(EX))^2Var(X)+T_3$

де включає моменти для . Ми можемо дійти до цієї формули також, використовуючи лише розширення Тейлора першого порядку, тобто використовуючи лише похідні першого та другого. Термін помилки був би аналогічним. $T_3$ $E(X-EX)^k$ $k=4,5,6$

Інший спосіб - розширити : $f^2(x)$

\begin{aligned} f^{2} (x) & = f^{2} (E X) + 2 f (E X) f^{'} (E X) (x - E X) \\ + [(f^{'} (E X))^{2} + f (E X) f^{″} (E X)] (X - E X)^{2} + \frac{(f^{2} (β))^{‴}}{3} (X - E X)^{3} \end{aligned}

$\begin{align} f^2(x)&=f^2(EX)+2f(EX)f'(EX)(x-EX)\\\\ &+[(f'(EX))^2+f(EX)f''(EX)](X-EX)^2+\frac{(f^2(\beta))'''}{3}(X-EX)^3 \end{align}$

Аналогічно отримуємо тоді де схожий на .

\begin{aligned} E f^{2} (x) = f^{2} (E X) + [(f^{'} (E X))^{2} + f (E X) f^{″} (E X)] V a r (X) + {\tilde{R}}_{3} \end{aligned}

$\begin{align*} Ef^2(x)=f^2(EX)+[(f'(EX))^2+f(EX)f''(EX)]Var(X)+\tilde{R}_3 \end{align*}$

{\tilde{R}}_{3}

$\tilde{R}_3$

R_{3}

$R_3$

Формула для дисперсії потім стає де мають лише треті моменти і вище.

\begin{aligned} V a r (f (X)) = [f^{'} (E X)]^{2} V a r (X) - \frac{[f^{″} (E X)]^{2}}{4} V a r^{2} (X) + {\tilde{T}}_{3} \end{aligned}

$\begin{align} Var(f(X))=[f'(EX)]^2Var(X)-\frac{[f''(EX)]^2}{4}Var^2(X)+\tilde{T}_3 \end{align}$

{\tilde{T}}_{3}

$\tilde{T}_3$

— mpiktas
джерело

Мені не потрібно знати точне значення дисперсії, наближення має працювати для мене.

— Томек Тарчинський

Дійсно, приблизна формула в ОП часто використовується в аналізі ризиків в економіці, фінансах та страхуванні.

E [f (X)]

$\mathbb{E}[f(X)]$

— Раскольников

@Raskolnikov, так, але це суперечить моїм невдоволеним застарілим знанням про розширення Тейлора. Очевидно, що слід враховувати залишок строку. Якщо випадкова величина обмежена, то проблем немає, оскільки поліноми наближають неперервні функції на обмеженому інтервалі рівномірно. Але ми маємо справу з необмеженими випадковими змінними. Звичайно, для випадкових норм можна сказати, що це ефективно обмежене, але все ж у загальному випадку можуть виникнути деякі неприємні сюрпризи, чи ні. Я виправлю свою відповідь, коли матиму чітку відповідь.

— mpiktas

@Tomek Tarczynski, третя похідна доволі швидко переходить до нуля для великого , але не обмежена біля нуля. Тож якщо ви вибрали рівномірний розподіл із підтримкою, близькою до нуля, термін, що залишився, може отримати велику кількість.

\sqrt{x}

$\sqrt{x}$

x

$x$

— mpiktas

Зауважте, що у вашому посиланні рівність приблизна. У цій відповіді всі рівняння точні. Крім того, для дисперсії зауважимо, що перша похідна оцінюється як , а не . Також я ніколи не заявляв, що це не буде працювати для , тільки що для приблизна формула може мати величезну помилку, якщо домен близький до нуля.

E X

$EX$

x

$x$

\sqrt{x}

$\sqrt{x}$

\sqrt{x}

$\sqrt{x}$

X

$X$

— mpiktas

Знати перші два моменти X (середній і дисперсійний) недостатньо, якщо функція f (x) довільна (нелінійна). Не тільки для обчислення дисперсії перетвореної змінної Y, але і для її середнього значення. Щоб побачити це - і, можливо, атакувати вашу проблему - ви можете припустити, що ваша трансформаційна функція має розширення Тейлора навколо середнього значення X і працює звідти.

— леонблой
джерело