Як обчислити функцію щільності ймовірності максимуму вибірки IID рівномірних випадкових величин?

45

Дано випадкову величину

Y = max (X_{1}, X_{2}, \dots, X_{n})

$Y = \max(X_1, X_2, \ldots, X_n)$

де є єдиними змінними IID, як я обчислюю PDF-файл ? $X_i$ $Y$

pdf maximum

— Маскарпоне
джерело

4

Якщо це домашнє завдання, будь ласка, прочитайте FAQ та оновіть відповідне запитання відповідно.

— кардинал

Чи можна використовувати особу Вандермонде, щоб показати спільну функцію статистики 2 порядку, наприклад, F_y (r) * G_y (r)?

— ларі м’ятці

З цікавості, який курс охоплює подібну проблему? Це не те, з чим я стикався в курсі інженерної ймовірності.

— Олексій

@Alex Що стосується курсу статистики, який охоплює переутворення?

— SOFe

65

Цілком можливо, що це запитання є домашнім завданням, але мені здалося, що на це класичне елементарне питання ймовірності все-таки бракує повної відповіді через кілька місяців, тому я дам його тут.

З постановки проблеми ми хочемо розповсюдження

Y = max {X_{1}, . . ., X_{n}}

$Y = \max \{ X_1, ..., X_n \}$

де - iid . Ми знаємо, що тоді і тільки тоді, коли кожен елемент вибірки менший за . Тоді це, як зазначено в підказці @ varty, у поєднанні з тим, що незалежні, дозволяє нам зробити висновок $X_1, ..., X_n$ ${\rm Uniform}(a,b)$ $Y < x$ $x$ $X_i$

P (Y \leq x) = P (X_{1} \leq x, . . ., X_{n} \leq x) = \prod_{i = 1}^{n} P (X_{i} \leq x) = F_{X} (x)^{n}

$P(Y \leq x) = P(X_1 \leq x, ..., X_n \leq x) = \prod_{i=1}^{n} P(X_i \leq x) = F_{X}(x)^n$

де - CDF рівномірного розподілу . Тому CDF є $F_{X}(x)$ $Y$

F_{Y} (y) = P (Y \leq y) = {\begin{cases} 0 & y \leq a \\ {[(y - a) / (b - a)]}^{n} & y \in (a, b) \\ 1 & y \geq b \end{cases}

$F_{Y}(y) = P(Y \leq y) = \begin{cases} 0 & y \leq a \\ \phantom{} \left[ (y-a)/(b-a) \right]^n & y\in(a,b) \\ 1 & y \geq b \\ \end{cases}$

Оскільки має абсолютно неперервне розподіл, ми можемо отримати його щільність шляхом диференціювання CDF . Тому щільність дорівнює $Y$ $Y$

p_{Y} (y) = \frac{n (y - a)^{n - 1}}{(b - a)^{n}}

$p_{Y}(y) = \frac{n(y-a)^{n-1}}{(b-a)^{n}}$

У спеціальному випадку, коли , маємо, що , що є щільністю бета-розподілу з та , оскільки . $a=0,b=1$ $p_{Y}(y)=ny^{n-1}$ $\alpha=n$ $\beta=1$ ${\rm Beta}(n,1) = \frac{\Gamma(n+1)}{\Gamma(n)\Gamma(1)}=\frac{n!}{(n-1)!} = n$

Як зауваження, послідовність, яку ви отримуєте, якщо сортувати зразок у порядку зростання - - називається статистикою замовлень . Узагальненням цієї відповіді є те, що всі статистичні дані про замовлення розподіленого зразка мають розподіл Beta , як зазначено у відповіді @ bnaul. $X_{(1)}, ..., X_{(n)}$ ${\rm Uniform}(0,1)$

— Макрос
джерело

Це насправді було домашнім завданням для мене. Дякую за пояснення.

— Пол ПМ

я відчуваю , що я маю змогу взяти вашу думку тут і відповісти на це запитання , але я не бачу, як це зробити. Ви можете мені допомогти? чи можете ви порекомендувати підручник чи розділ, який розповідає про це загальне питання?

@PaulPM З цікавості, який курс охоплює подібну проблему? Це не те, з чим я стикався в курсі інженерної ймовірності.

— Олексій

6

Максимум вибірки - одна із статистичних даних про замовлення , зокрема статистика го порядку для вибірки . Загалом, обчислити розподіл статистики замовлень складно, як це описано у статті Вікіпедії; для деяких спеціальних дистрибутивів статистика замовлень добре відома (наприклад, для рівномірного розподілу, яка містить бета-статистику замовлень). $n$ $X_1,\dots,X_n$

EDIT: Стаття Вікіпедії про максимум та мінімум вибірки також корисна та більш конкретна для вашої проблеми.

— bnaul
джерело

5

Для розподілів з щільністю обчислення граничного розподілу статистики певного порядку є досить простим. Це ще простіше для "спеціальної" статистики замовлень на кшталт мінімальної та максимальної.

— кардинал

Я думаю, це залежить від того, що означає "обчислити" в оригінальному питанні. Безумовно, що це чисельно - це просто; Я трактував питання як запитання, як знайти рішення закритої форми, що в цілому непросте.

— bnaul

8

@bnaul: Нехай бути довільною функції розподілу і нехай бути IID вибірка з . Нехай - статистика го порядку. ТодіQED .

F (x) = P (X \leq x)

$F(x) = \mathbb P(X \leq x)$

X_{1}, \dots, X_{n}

$X_1,\ldots,X_n$

F

$F$

X_{(k)}

$\newcommand{Xk}{X_{(k)}}\Xk$

k

$k$

P (X_{(k)} \leq x) = \sum_{m = k}^{n} P (| {i : X_{i} \leq x} | = m) = \sum_{m = k}^{n} (\binom{n}{m}) F (x)^{m} (1 - F (x))^{n - m} .

$\mathbb P(\Xk \leq x) = \sum_{m=k}^n \mathbb P( |\{i: X_i \leq x\}| = m) = \sum_{m=k}^n {n \choose m} F(x)^m (1-F(x))^{n-m} \>.$

— кардинал

1

Можливо, спосіб зрозуміти відповідь кардиналів (враховуючи, що ви розумієте статистику порядку для уніформи) полягає в тому, що, оскільки cdfs є монотонними перетвореннями 1 на 1 однорідного cdf, ми завжди можемо виразити подію {X <a} в термінах рівномірної форми випадкова змінна (ось чому працює Монте Карло). Тож будь-який результат, заснований на рівномірному розподілі, легко узагальнить до інших випадкових змінних - просто застосуйте перетворення .

U = F_{X} (X)

$U=F_{X}(X)$

— ймовірністьілогічний

2

@probabilityislogic: Інтуїція хороша, хоча, здається, у вашому коментарі є на увазі постійні випадкові змінні. (Результат у моєму другому коментарі вище, наприклад, працює для довільної функції розподілу.)

— кардинал

1

Якщо є CDF , тоді Ви можете використовувати властивість iid і cdf рівномірної для обчислення . $F_{Y}(y)$ $Y$

F_{Y} (y) = Prob (y > X_{1}, y > X_{2}, . . ., y > X_{n})

$F_Y(y)=\text{Prob}(y>X_1,y>X_2,...,y>X_n)$

F_{Y} (y)

$F_Y(y)$

— варти
джерело

-3

Максимум набору випадкових змінних IID при належній нормованості, як правило, сходиться до одного з трьох типів крайніх значень. Це теорема Гнеденка, еквівалентність центральної граничної теореми для крайнощів. Конкретний тип залежить від хвостової поведінки розподілу населення. Знаючи це, ви можете використовувати обмежуючий розподіл, щоб наблизити розподіл до максимуму.

Оскільки рівномірний розподіл на [a, b] є предметом цього питання, Макрос дав точний розподіл на будь-який п і дуже приємну відповідь. Результат досить тривіальний. Для нормального розподілу хороша закрита форма неможлива, але належним чином нормалізована максимум для нормального сходиться до розподілу Гумбеля F (x) = exp (- e ). $^-$ $^x$

Для рівномірної нормалізації є (ba) -x / n і F (bax / n) = (1-x / [n (ba)]) $^n$ $^n$

яка сходиться до e . Тут зауважимо, що y = bax / n. і F (y) переходить до 1, так як y переходить до ba. Це справедливо для всіх 0 $^-$ $^x$ $^/$ $^($ $^b$ $^-$ $^a$ $^)$ $^n$

У цьому випадку легко порівняти точне значення з його асимптотичною межею.

— Майкл Черник
джерело

4

Щоб ця відповідь була практичною, вам потрібно детально встановити, як "належним чином нормалізувати" значення, а також вам потрібно надати певний спосіб оцінити, наскільки має бути велике перш ніж асимптотична формула стане надійним наближенням.

n

$n$

— whuber

@whuber Будь-хто може подивитися на теорему Гнеденка, щоб побачити нормалізацію. Не менш важливими є хвостові характеристики, які визначають, який із трьох типів застосовується. Теорема узагальнює стаціонарні стохастичні процеси. Тож кожен, хто хоче дізнатись нітчасті зернисті деталі, може подивитися книгу Leadbetter або мою кандидатську дисертацію. Коли n досить великий, важко відповісти на будь-яку форму асимптотики. Я думаю, що теорема Беррі-Ессена допомагає для центральної граничної теореми. Я не знаю, що можна порівняти з крайнощами.

— Майкл Черник