Теорема центрального граничного значення для квадратних коренів сум iid випадкових величин

Заінтриговане запитанням на math.stackexchange і досліджуючи його емпірично, мені цікаво наступне твердження про квадратний корінь сум iid випадкових змінних.

Припустимо, є iid випадковими змінними з кінцевим ненульовим середнім та дисперсією та . Центральна гранична теорема говорить із збільшенням . $X_1, X_2, \ldots, X_n$ $\mu$ $\sigma^2$ $\displaystyle Y=\sum_{i=1}^n X_i$ $\displaystyle \dfrac{Y - n\mu}{\sqrt{n\sigma^2}} \ \xrightarrow{d}\ N(0,1)$ $n$

Якщо , чи можу я також сказати щось на зразок зі збільшенням ? $Z=\sqrt{|Y|}$ $\displaystyle \dfrac{Z - \sqrt{n |\mu|-\tfrac{\sigma^2}{4|\mu|}}}{\sqrt{\tfrac{\sigma^2}{4|\mu|}}}\ \xrightarrow{d}\ N(0,1)$ $n$

Наприклад, припустимо, що це Бернуллі із середнім та дисперсією , тоді є двочленним, і я можу імітувати це в R, скажімо, з : $X_i$ $p$ $p(1-p)$ $Y$ $p=\frac13$

set.seed(1)
cases <- 100000
n <- 1000
p <- 1/3
Y <- rbinom(cases, size=n, prob=p)
Z <- sqrt(abs(Y))

що дає приблизно сподіване середнє значення та дисперсію для $Z$

> c(mean(Z), sqrt(n*p - (1-p)/4))
[1] 18.25229 18.25285
> c(var(Z), (1-p)/4)
[1] 0.1680012 0.1666667

і QQ сюжет, який виглядає близько до Гауссана

qqnorm(Z)

normal-distribution central-limit-theorem sum

— Генрі
джерело

@MichaelM: Дякую за ці коментарі. Я починав з негативу , але вважав, що інтуїтивна асимптотична поведінка, яку ви описуєте, дозволила узагальнити більше розподілів. Мої сюрпризи: (а) дисперсія квадратного кореня суми, мабуть, тяжіє до постійної, не залежно від та (b) появи розподілу, який виглядає дуже близьким до Гаусса. Контрприклад буде вітатися, але коли я спробував інші випадки , які спочатку здавалися Негауссов, збільшуючи далі , здавалося, привести розподіл назад в результаті CLT типу.

X_{i}

$X_i$

n

$n$

n

$n$

— Генрі

Наслідок цього - середньоквадратичний квадрат (або середнє квадратичне значення) випадкових змінних iid, відповідне масштабування (помножити на як середнє арифметичне), також переходить до розподілу Гаусса за умови, що й момент базовий розподіл є кінцевим.

\sqrt{n}

$\sqrt{n}$

4

$4$

— Генрі

Лише короткий коментар: претензія є особливим випадком методу Дельта, див. Теорему 5.5.24 у книзі «Статистичні умовиводи» Казелла та Бергер.

— Майкл М

@Michael: Можливо, ви бачите щось, чого я зараз не маю, але я не думаю, що ця проблема вкладається в припущення класичного методу Дельта (наприклад, як зазначено в теоремі, яку ви посилаєте). Зауважте, що не конвергується в розподілі (нетривіально на ), і тому "застосування методу Дельта з " не відповідає необхідним вимогам. Однак, як показує відповідь С. Каттералла, вона дає корисну евристику, яка призводить до правильної відповіді.

Y

$Y$

R

$\mathbb R$

g (y) = \sqrt{| y |}

$g(y) = \sqrt{|y|}$

— кардинал

(Я вважаю, ви могли б адаптувати докази методу «Дельта» до подібних до вищезазначених випадків, щоб зробити суворішим вищезгаданий евристичний характер.)

— кардинал

Конвергенція до Гаусса - це справді загальне явище.

Припустимо, що - IID випадкові величини із середнім та дисперсією , і визначте суми . Зафіксуйте число . Звичайна теорема центрального граничного значення говорить нам, що як , де є стандартний звичайний PDF. Однак безперервність обмежувального cdf означає, що ми також маємо $X_1,X_2,X_3,...$ $\mu\gt 0$ $\sigma^2$ $Y_n=\sum_{i=1}^n X_i$ $\alpha$ $P(\frac{Y_n-n\mu}{\sigma\sqrt n}\leq \alpha)\to\Phi(\alpha)$ $n\to\infty$ $\Phi$

P (\frac{Y_{n} - n μ}{σ \sqrt{n}} \leq α + \frac{α^{2} σ^{2}}{4 μ σ \sqrt{n}}) \to Φ (α)

$P\Big(\frac{Y_n-n\mu}{\sigma\sqrt n}\leq \alpha+\frac{\alpha^2 \sigma^2}{4\mu\sigma\sqrt n}\Big)\to\Phi(\alpha)$ тому що додатковий член праворуч нерівності прагне до нуля. Впорядкування цього виразу веде до

P (Y_{n} \leq (\frac{α σ}{2 \sqrt{μ}} + \sqrt{n μ})^{2}) \to Φ (α)

$P\Big(Y_n\leq (\frac{\alpha\sigma}{2\sqrt \mu}+\sqrt{n\mu})^2\Big)\to\Phi(\alpha)$

Беручи квадратні корені і зазначаючи, що означає, що , отримуємо Іншими словами, . Цей результат демонструє конвергенцію з гауссом у межах як . $\mu\gt 0$ $P(Y_n\lt 0)\to 0$

P (\sqrt{| Y_{n} |} \leq \frac{α σ}{2 \sqrt{μ}} + \sqrt{n μ}) \to Φ (α)

$P\Big(\sqrt{|Y_n|}\leq \frac{\alpha\sigma}{2\sqrt \mu}+\sqrt{n\mu}\Big)\to\Phi(\alpha)$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ}}{σ / 2 \sqrt{μ}} \overset{d}{\to} N (0, 1)

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu}}{\sigma/{2\sqrt\mu}}\xrightarrow{d}N(0,1)$

n \to \infty

$n\to\infty$

Чи означає це, що є хорошим наближенням до для великих ? Що ж, ми можемо зробити краще, ніж це. Як зазначає @Henry, якщо припустити, що все є позитивним, ми можемо використовувати разом з та наближення , щоб отримати вдосконалене наближення як зазначено у запитанні вище. Зауважте також, що у нас ще є оскільки $\sqrt{n\mu}$ $E[\sqrt{|Y_n|}]$ $n$ $E[\sqrt{Y_n}]=\sqrt{E[Y_n]-\text{Var}(\sqrt{Y_n})}$ $E[Y_n]=n\mu$ $\text{Var}(\sqrt{Y_n})\approx \frac{\sigma^2}{4\mu}$ $E[\sqrt{|Y_n|}]\approx\sqrt{n\mu- \dfrac{\sigma^2}{4\mu}}$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ - \frac{σ^{2}}{4 μ}}}{σ / 2 \sqrt{μ}} \overset{d}{\to} N (0, 1)

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu-\frac{\sigma^2}{4\mu}}}{\sigma/{2\sqrt\mu}}\xrightarrow{d}N(0,1)$

\sqrt{n μ - \frac{σ^{2}}{4 μ}} - \sqrt{n μ} \to 0

$\sqrt{n\mu-\frac{\sigma^2}{4\mu}}-\sqrt{n\mu}\to 0$ як .

n \to \infty

$n\to\infty$

— S. Catterall Відновлення Моніки
джерело

Можливо, вам потрібно буде додати як щоб отримати мій результат

\sqrt{n μ} - \sqrt{n μ - \frac{σ^{2}}{4 μ}} \to 0

$\sqrt{n \mu}-\sqrt{n \mu-\tfrac{\sigma^2}{4\mu}} \to 0$

n \to \infty

${n \to \infty}$

— Генрі

@Henry Ви можете замінити на на будь-який постійний і це не змінить обмежувальний розподіл, але воно може змінити ступінь, до якої є хорошим наближенням до для конкретного великого . Як ви придумали ?

\sqrt{n μ}

$\sqrt{n\mu}$

\sqrt{n μ - k}

$\sqrt{n\mu-k}$

k

$k$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ - k}}{σ / 2 \sqrt{μ}}

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu-k}}{\sigma/{2\sqrt\mu}}$

N (0, 1)

$N(0,1)$

n

$n$

\sqrt{n μ - \frac{σ^{2}}{4 μ}}

$\sqrt{n \mu-\tfrac{\sigma^2}{4\mu}}$

— S. Catterall Відновити Моніку

Маємо тому . Припустимо, що все є позитивним, а знаменник пропонує , і поєднуючи ці ведучі до .

Var (Z) = E [Z^{2}] - (E [Z])^{2}

$\text{Var}(Z)=E[Z^2]-(E[Z])^2$

E [Z] = \sqrt{E [Z^{2}] - Var (Z)}

$E[Z]=\sqrt{E[Z^2]-\text{Var}(Z)}$

E [Z^{2}] = E [Y] = n μ

$E[Z^2]=E[Y]=n\mu$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ}}{σ / 2 \sqrt{μ}}

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu}}{\sigma/{2\sqrt\mu}}$

Var (Z) \approx \frac{σ^{2}}{4 μ}

$\text{Var}(Z) \approx \dfrac{\sigma^2}{4\mu}$

E [Z] \approx \sqrt{n μ - \frac{σ^{2}}{4 μ}}

$E[Z] \approx \sqrt{n\mu- \dfrac{\sigma^2}{4\mu}}$

— Генрі

Добре, спасибі, я намагався зараз висвітлити це у своїй відповіді.

— S. Catterall Відновити Моніку