Центральна гранична теорема проти закону великих чисел

14

Центральна межа теореми зазначає, що середнє значення iid змінних, як переходить до нескінченності, стає нормально розподіленим. $N$

Це викликає два питання:

Чи можемо ми вивести із цього закон великих чисел? Якщо закон великих чисел говорить, що середнє значення вибірки значення випадкової величини дорівнює справжньому середньому оскільки переходить до нескінченності, тоді здається, що ще сильніше сказати, що (як говорить центральна межа), що значення стає де - це стандартне відхилення. Чи справедливо тоді говорити, що центральна межа передбачає закон великої кількості? $\mu$ $N$ $\mathcal N(\mu, \sigma)$ $\sigma$
Чи застосовується центральна гранична теорема для лінійної комбінації змінних?

probability central-limit-theorem law-of-large-numbers

— user9097
джерело

5

Ваше твердження, що "центральна гранична теорема стверджує, що середнє значення iid змінних, як

переходить до нескінченності, стає нормально розподіленим", є невірним. Дивіться мою відповідь наце нещодавнє запитання,яке викликає подібні проблеми. Ще одна відповідь на це питання була опублікована, але незабаром після цього була видалена, і дискусія, що пішла після цього відповіді, також пішла, обговорювала і ці питання.

N

$N$

— Діліп Сарват

1

Чому середнє значення вибірки, що переходить у сукупність, означає

слабший результат, ніж середнє значення вибірки, що сходить до вибірки з розподілу

?

μ

$\mu$

N (μ, σ)

$\mathcal N(\mu, \sigma)$

— Діліп Сарват

@DilipSarwate Дякую за прапор, але ваш коментар - IMO досить розкриває помилки у питанні, і з’явились розумні відповіді.

10

ОП каже

Центральна межа теореми зазначає, що середнє значення iid змінних, як N переходить до нескінченності, стає нормально розподіленим.

Я візьму це означає , що це переконання в тому , що OP для однаково розподілених випадкових величин із середнім і стандартним відхиленням , інтегральною функцією розподілу з $X_i$ $\mu$ $\sigma$ $F_{Z_n}(a)$ переходить до функції кумулятивного розподілу, нормальної випадкової величини із середнімта стандартним відхиленням. Або ОП вважає незначними перестановками цієї формули, наприклад, розподілпереходить до розподілуабо розподілу

Z_{n} = \frac{1}{n} \sum_{i = 1}^{n} X_{i}

$Z_n = \frac{1}{n} \sum_{i=1}^n X_i$

N (μ, σ)

$\mathcal N(\mu,\sigma)$

μ

$\mu$

σ

$\sigma$

Z_{n} - μ

$Z_n - \mu$

N (0, σ)

$\mathcal N(0,\sigma)$

(Z_{n} - μ) / σ

$(Z_n - \mu)/\sigma$ переходить до розподілу

, стандартної нормальної випадкової величини. Зазначимо як приклад, що ці твердження означають, що

N (0, 1)

$\mathcal N(0,1)$

як

.

P {| Z_{n} - μ | > σ} = 1 - F_{Z_{n}} (μ + σ) + F_{Z_{n}} ((μ + σ)^{-}) \to 1 - Φ (1) + Φ (- 1) \approx 0.32

$P\{|Z_n - \mu| > \sigma\} = 1 - F_{Z_n}(\mu + \sigma) + F_{Z_n}((\mu + \sigma)^-) \to 1-\Phi(1)+\Phi(-1) \approx 0.32$

n \to \infty

$n \to \infty$

Програма продовжує говорити

Це викликає два питання:

Чи можемо ми вивести із цього закон великих чисел? Якщо закон великих чисел говорить про те, що середнє значення вибірки значення випадкової величини дорівнює справжньому середньому μ, оскільки N переходить до нескінченності, тоді здається, що ще сильніше сказати, що (як говорить центральна межа), що значення стає N ( μ, σ) де σ - стандартне відхилення.

$X_i$ $\mu$ $\epsilon > 0$

P {| Z_{n} - μ | > ϵ} \to 0 as n \to \infty .

$P\{|Z_n - \mu| > \epsilon\} \to 0 ~~ \text{as}~ n \to \infty.$

Отже, щоб відповісти на питання ОП,

$n \to \infty$ $P\{|Z_n-\mu| > \sigma\} \to 0.317\cdots$ $P\{|Z_n-\mu| > \sigma\} \to 0$
З правильного твердження теореми про центральну границю можна в кращому випадку вивести лише обмежену форму слабкого закону великих чисел, що застосовується до випадкових величин з кінцевим середнім і стандартним відхиленням. Але слабкий закон великих чисел також має місце для випадкових змінних, таких як випадкові величини Парето з кінцевими засобами, але нескінченним стандартним відхиленням.
Я не розумію, чому сказати, що середнє значення вибірки сходиться до нормальної випадкової величини з ненульовим стандартним відхиленням є більш сильним твердженням, ніж твердження, що середнє значення вибірки сходиться до середнього значення сукупності, яке є постійною (або випадковою змінною з нульовим стандартним відхиленням, якщо тобі подобається).

— Діліп Сарват
джерело

Цікаво, що людина, яка спростувала мою відповідь, виявила заперечення чи неправильність у тому, що я сказала.

— Діліп Сарват

7

$\bar X_n$ $n$ $\bar X_n$ $\bar X_{n+1}$ , казати. Отже, ні, конвергенція розподілу не означає закон великих чисел, якщо тільки у вас немає загального простору ймовірностей для всіх змінних.

— СтасК
джерело

(+1) Те, що ви говорите, є правдою, і дуже важливий момент. Трикутний масив дозволяє змінним у кожному "ряду" жити на різних просторах ймовірностей, ніж попередні рядки. З іншого боку, якщо говорити апріорі, що ми розглядаємо послідовність iid випадкових змінних, то, явно, вони повинні існувати на загальному базовому просторі, щоб поняття незалежності мало багато сенсу.

— кардинал

@cardinal: тож якщо я правильно розумію, у "простому" випадку, коли всі визначені в одному просторі, саме так центральність передбачає закон великої кількості? або ні?

— user9097

@ user9097 Оскільки ми зараз потрапляємо у сфери тонких деталей, про який закон про велику кількість йдеться? Слабкий закон чи сильний закон?

— Діліп Сарват

Цей пункт справедливий лише для сильного закону великої кількості , а не для слабкого закону

— kjetil b halvorsen

4

$\sqrt{n}(\bar{X}_n-EX)$ $\mathcal N(0, Var(X))$ $\bar{X}$ $n$ $X$

$X$ $Y$

\sqrt{n} (\frac{1}{n} \sum_{j = 1}^{n} (a X_{j} + Y_{j}) - E (a X + Y)) \to N (0, V a r (a X + Y))

$\sqrt{n}(\frac{1}{n}\sum_{j=1}^n(aX_j+Y_j) - E(aX+Y)) \to \mathcal N(0, Var(aX+Y))$

\sqrt{n} a ({\bar{X}}_{n} - E X) + \sqrt{n} ({\bar{Y}}_{n} - E Y) \to N (0, a^{2} V a r (X) + V a r (Y)) .

$\sqrt{n}a(\bar{X}_n- EX)+\sqrt{n}(\bar{Y}_n -EY) \to \mathcal N(0, a^2Var(X)+Var(Y)).$

Іншими словами, лінійна комбінація випадкових змінних не збігається з лінійною комбінацією нормалів за CLT, лише одна нормальна. Це має сенс, тому що лінійна комбінація випадкових змінних - це просто інша випадкова величина, до якої CLT може бути застосована безпосередньо.

— Даніель Джонсон
джерело

1

{\bar{X}}_{n} = \sum_{i = 1}^{n} w_{n i} X_{i}

$\bar X_n = \sum_{i=1}^n w_{ni} X_i$

w_{n i} = 1 / n

$w_{ni} = 1/n$

i = 1, \dots, n

$i = 1,\ldots,n$ природним питанням, яке можна задати, є те, що відбувається, коли ми замінимо ці "рівномірні" ваги на інші (більш довільні). Коли ми все-таки отримаємо CLT? CLT Ліндеберга може бути використаний для вирішення цього питання.

— кардинал

\sum_{j = 1}^{n} w_{n j} X_{j}

$\sum^n_{j=1}w_{nj}X_j$

w_{n j} = w_{j} / n

$w_{nj} = w_{j}/n$

w_{j}

$w_j$

w_{j}

$w_{j}$

w_{j} X

$w_jX$

w

$w$

n

$n$

1

E X = 0

$\mathbb E X = 0$

w_{j}

$w_j$

w_{1} = 1

$w_1 = 1$

w_{2} = 0

$w_2 = 0$

w_{j}

$w_j$

w_{j} = 0

$w_j = 0$

\sum_{i = 1}^{j} w_{i} / j \leq 1 / 4

$\sum_{i=1}^j w_i /j \leq 1/4$

\sum_{i = 1}^{j} w_{i} / j \geq 1 / 2

$\sum_{i=1}^j w_i /j \geq 1/2$

0

$0$

1

$1$

1 / 2

$1/2$

1 / 4

$1/4$

0

$0$

1

$1$