Щільність нормального розподілу по мірі збільшення розмірів

Питання, яке я хочу задати, таке: як змінюється частка вибірок в межах 1 SD середнього значення нормального розподілу зі збільшенням кількості змінних?

(Майже) всім відомо, що при 1-мірному нормальному розподілі 68% зразків можна знайти в межах 1 стандартного відхилення середнього значення. Як щодо розмірів 2, 3, 4, ...? Я знаю, що стає менше ... але на скільки (точно)? Було б зручно мати таблицю, на якій зображені цифри для 1, 2, 3 ... 10 розмірів, а також 1, 2, 3 ... 10 SD. Хтось може вказати на таку таблицю?

Трохи більше контексту - у мене є датчик, який забезпечує дані по 128 каналам. Кожен канал піддається (незалежному) електричному шуму. Коли я відчуваю об'єкт калібрування, я можу провести середню кількість вимірювань і отримати середнє значення по 128 каналам, а також 128 окремих стандартних відхилень.

Але ... якщо мова йде про індивідуальні миттєві показання, дані не реагують настільки, як 128 індивідуальних зчитувань, як на одне читання (до) 128-мінної величини вектора. Безумовно, це найкращий спосіб розглянути кілька критичних показань, які ми приймаємо (як правило, 4-6 із 128).

Хочеться відчути, що таке "нормальна" зміна і що "зовнішнє" в цьому векторному просторі. Я впевнений, що бачив таку таблицю, як описана нами, яка стосуватиметься подібної ситуації - хто-небудь може вказати на одну?

normal-distribution multivariate-analysis

— omatai
джерело

Будь ласка, чи можу я мати лише емпіричні відповіді - я не розумію більшості математичних позначень.

— оматай

Давайте візьмемо : кожен є нормальним $X = (X_1,\dots,X_d) \sim N(0,I)$ $X_i$ $N(0,1)$ і $X_i$ є незалежними - я думаю, що це ви маєте на увазі з більш високими розмірами.

Ви б сказали, що знаходиться в межах 1 sd середнього значення, коли (відстань між X та його середнім значенням менше 1). Тепер $X$ $||X|| < 1$ тому це відбувається з ймовірністю де $||X||^2 = X_1^2 +\cdots+X_d^2\sim \chi^2(d)$ $P( \xi < 1 )$ $\xi\sim\chi^2(d)$ . Ви можете знайти це в хороших чі квадратних столах ...

Ось кілька значень:

\begin{array}{ll} d & P (ξ < 1) \\ 1 & 0.68 \\ 2 & 0.39 \\ 3 & 0.20 \\ 4 & 0.090 \\ 5 & 0.037 \\ 6 & 0.014 \\ 7 & 0.0052 \\ 8 & 0.0018 \\ 9 & 0.00056 \\ 10 & 0.00017 \end{array}

$\begin{array}{ll} d& P(\xi < 1)\\ 1 & 0.68\\ 2 & 0.39 \\ 3 & 0.20 \\ 4 & 0.090 \\ 5 & 0.037 \\ 6 & 0.014 \\ 7 & 0.0052 \\ 8 & 0.0018\\ 9 & 0.00056\\ 10& 0.00017\\ \end{array}$

І за 2 сд:

\begin{array}{ll} d & P (ξ < 4) \\ 1 & 0.95 \\ 2 & 0.86 \\ 3 & 0.74 \\ 4 & 0.59 \\ 5 & 0.45 \\ 6 & 0.32 \\ 7 & 0.22 \\ 8 & 0.14 \\ 9 & 0.089 \\ 10 & 0.053 \end{array}

$\begin{array}{ll} d & P(\xi < 4)\\ 1 & 0.95\\ 2 & 0.86\\ 3 & 0.74\\ 4 & 0.59\\ 5 & 0.45\\ 6 & 0.32\\ 7 & 0.22\\ 8 & 0.14\\ 9 & 0.089\\ 10 & 0.053\\ \end{array}$

Ви можете отримати ці значення в R за допомогою комарів pchisq(1,df=1:10) , pchisq(4,df=1:10)і т.д.

Post Scriptum Як кардинал вказував у коментарях, можна оцінити асимптотичну поведінку цих ймовірностей. CDF змінної $\chi^2(d)$ де-неповна -функція, а класична.

F_{d} (x) = P (d / 2, x / 2) = \frac{γ (d / 2, x / 2)}{Γ (d / 2)}

$F_d(x) = P(d/2,x/2) = {\gamma(d/2, x/2) \over \Gamma(d/2)}$

γ (s, y) = \int_{0}^{y} t^{s - 1} e^{- t} d t

$\gamma(s,y) = \int_0^y t^{s-1} e^{-t} \mathrm d t$

γ

$\gamma$

Γ (s) = \int_{0}^{\infty} t^{s - 1} e^{- t} d t

$\Gamma(s) = \int_0^\infty t^{s-1} e^{-t} \mathrm d t$

Коли - ціле число, повторна інтеграція по частинах показує, що $s$ що є хвостом CDF розповсюдження Пуассона.

П (с, у) = е^{- у} \sum_{к = с}^{\infty} \frac{у^{к}}{к!},

$P(s,y) = e^{-y} \sum_{k=s}^\infty {y^k \over k!},$

Тепер ця сума переважає свій перший член (багато завдяки кардиналу): для великих. Ми можемо застосувати це, колиє парним: $P(s,y) \sim {y^s \over s!} e^{-y}$ $s$ $d$

П (ξ < х) = П (г / 2, х / 2) \sim \frac{1}{(г / 2)!} {(\frac{х}{2})}^{г / 2} е^{- х / 2} \sim \frac{1}{\sqrt{π г}} е^{\frac{1}{2} (г - х)} {(\frac{х}{г})}^{\frac{г}{2}} \sim \frac{1}{\sqrt{π}} е^{- \frac{1}{2} х} г^{- \frac{1}{2} г},

$P(\xi < x) = P(d/2,x/2) \sim {1 \over (d/2)!} \left({x\over 2}\right)^{d/2} e^{-x/2} \sim {1\over\sqrt{\pi d}}e^{{1\over 2}(d-x)} \left({x\over d}\right)^{d\over 2} \sim {1\over\sqrt\pi} e^{-{1\over 2}x} d^{-{1\over 2}d},$ для великих навіть

d

$d$ , передостанна еквівалентність за формулою Стірлінга. З цієї формули ми бачимо, що асимптотичний розпад відбувається дуже швидко

d

$d$ збільшити.

— Elvis
джерело

Welcome to our site, Elvis! Nice answer. (+1)

— whuber

(+1) Good answer. Here are a couple suggestions for your consideration: (1) It might help to make explicit what

ξ

$\xi$ is for clarity's sake, (2) briefly give an intuitive argument for the choice you've made for the meaning of "one standard deviation" in this context and why it is even well-defined in the first place, and (3) add a statement regarding the growth of this quantity as a function of

d

$d$ . (The OP asks for only "empirical" answers, but other readers might appreciate a small mathematical addendum.)

— cardinal

Thank you for your comments. I didn’t think this answer would receive much attention! It is true that this is a nice form of the curse of dimensionality... @cardinal concerning (3) I don’t know any asymptotic equivalent of the incomplete gamma function when the first parameters goes to infinity, the second being fixed, this is not easy! A rough majoration could be done, I may write that later.

— Elvis

Regarding (3), to avoid a computation, you can employ the following argument: Let

d

$d$ be even and such that

d = 2 k

$d = 2 k$ . Note that

Z_{i} = X_{2 i - 1}^{2} + X_{2 i}^{2}

$Z_i = X_{2i-1}^2 + X_{2i}^2$ is an

E x p (1 / 2)

$\mathrm{Exp}(1/2)$ random variable. So

‖ X ‖^{2} = \sum_{i = 1}^{k} Z_{i}

$\|X\|^2 = \sum_{i=1}^k Z_i$ . But, then

‖ X ‖^{2}

$\|X\|^2$ is just the time until the

k

$k$ th renewal of a Poisson process with rate 1/2. So

P (‖ X ‖^{2} < 1) = P (N_{1 / 2} (0, 1) \geq k) = e^{- 1 / 2} \sum_{x = k}^{\infty} 2^{- x} / x!

$\mathbb P(\|X\|^2 < 1 ) = \mathbb P( N_{1/2}(0,1) \geq k) = e^{-1/2} \sum_{x=k}^\infty 2^{-x}/x!$ . The tail of the Poisson is dominated by the leading term, so

P (‖ X ‖^{2} < 1) \sim e^{- 1 / 2} 2^{- k} / Γ (k + 1)

$\mathbb P(\|X\|^2 < 1) \sim e^{-1/2} 2^{-k} / \Gamma(k+1)$ as

d \to \infty

$d\to\infty$ (Again:

k = d / 2

$k = d/2$ ).

— cardinal

Part of the point of the foregoing comment is that we get an exact answer for all even

d

$d$ . Also, using Stirling's approximation, we get that

P (‖ X ‖^{2} < 1) \sim e^{- 1 / 2} 2^{- k} / Γ (k + 1) \sim e^{(d - 1) / 2} d^{- (d + 1) / 2} / \sqrt{π}

$\mathbb P(\|X\|^2 < 1 ) \sim e^{-1/2} 2^{-k} / \Gamma(k+1) \sim e^{(d-1)/2} d^{-(d+1)/2} / \sqrt{\pi}$ .

— cardinal