Орієнтовна статистика замовлень для звичайних випадкових величин

38

Чи відомі формули для статистики порядку певних випадкових розподілів? Зокрема, було б вдячно також статистика першого та останнього порядку звичайної випадкової величини, але більш загальна відповідь.

Редагувати: Для уточнення я шукаю формули наближення, які можна більш-менш явно оцінити, а не точний інтегральний вираз.

Наприклад, я бачив наступні два наближення для статистики першого порядку (тобто мінімум) нормального rv:

$e_{1:n} \geq \mu - \frac{n-1}{\sqrt{2n-1}}\sigma$

і

$e_{1:n} \approx \mu + \Phi^{-1} \left( \frac{1}{n+1} \right)\sigma$

Перший із них, при , дає приблизно що здається дико вільною межею. $n=200$ $e_{1:200} \geq \mu - 10\sigma$

Другий дає тоді як швидкий Монте-Карло дає , тож це не є поганим наближенням, але і не великим, і важливіше, що я не маю інтуїції щодо того, звідки вона походить. $e_{1:200} \approx \mu - 2.58\sigma$ $e_{1:200} \approx \mu - 2.75\sigma$

Будь-яка допомога?

— Кріс Тейлор
джерело

4

Якщо ви використовуєте R, перегляньте функцію точок .

— кардинал

1

@probabilityislogic дав добру інтуїцію для наближених списків. Було б корисно взагалі, якщо я дав би ще щось з альтернативної точки зору, чи ви задовольнили вашу цікавість з цього приводу?

— кардинал

31

Класична посилання - Ройстон (1982) [1], який містить алгоритми, що виходять за рамки явних формул. Він також цитує добре відому формулу Блом (1958): з . Ця формула дає множник -2,73 при . $E(r:n) \approx \mu + \Phi^{-1}(\frac{r-\alpha}{n-2\alpha+1})\sigma$ $\alpha=0.375$ $n=200, r=1$

[1]: Алгоритм AS 177: Очікувана статистика звичайних замовлень (точна і приблизна) JP Royston. Журнал Королівського статистичного товариства. Серія C (Прикладна статистика) Вип. 31, № 2 (1982), стор 161-165

— Аніко
джерело

21

$\newcommand{\Pr}{\mathrm{Pr}}\newcommand{\Beta}{\mathrm{Beta}}\newcommand{\Var}{\mathrm{Var}}$ Розподіл статистики i-го порядку будь-якого безперервного випадкового змінна з PDF задається сполукою "beta-F". Інтуїтивний спосіб думати про це розподілі, щоб розглянути статистику замовлення Ith в зразку . Тепер для того, щоб значення статистики i-го порядку випадкової величини було рівним нам потрібні 3 умови:

N

$N$

X

$X$

x

$x$

$i-1$ нижче , це має ймовірність для кожного спостереження, де - CDF випадкової величини X. $x$ $F_{X}(x)$ $F_X(x)=\Pr(X<x)$
$N-i$ Значення вище , це ймовірність $x$ $1-F_{X}(x)$
1 значення всередині нескінченно малого інтервалу , що містить , це має ймовірність , де є PDF випадкової величини $x$ $f_{X}(x)dx$ $f_{X}(x)dx=dF_{X}(x)=\Pr(x<X<x+dx)$ $X$

Є способи зробити цей вибір, тому у нас є: ${N \choose 1}{N-1 \choose i-1}$

f_{i} (x_{i}) = \frac{N!}{(i - 1)! (N - i)!} f_{X} (x_{i}) {[1 - F_{X} (x_{i})]}^{N - i} {[F_{X} (x_{i})]}^{i - 1} d x

$f_{i}(x_{i})=\frac{N!}{(i-1)!(N-i)!}f_{X}(x_{i})\left[1-F_{X}(x_{i})\right]^{N-i}\left[F_{X}(x_{i})\right]^{i-1}dx$

EDIT в своєму первісному дописі я зробив дуже погану спробу піти далі від цього пункту, і коментарі нижче відображають це. Я намагався виправити це нижче

Якщо ми візьмемо середнє значення цього pdf, отримаємо:

E (X_{i}) = \int_{- \infty}^{\infty} x_{i} f_{i} (x_{i}) d x_{i}

$E(X_{i})=\int_{-\infty}^{\infty} x_{i}f_{i}(x_{i})dx_{i}$

І в цьому інтегралі ми робимо наступну зміну змінної (з натяком на @ henry), і інтеграл стає: $p_{i}=F_{X}(x_{i})$

E (X_{i}) = \int_{0}^{1} F_{X}^{- 1} (p_{i}) B e t a (p_{i} | i, N - i + 1) d p_{i} = E_{B e t a (p_{i} | i, N - i + 1)} [F_{X}^{- 1} (p_{i})]

$E(X_{i})=\int_{0}^{1} F_{X}^{-1}(p_{i})\Beta(p_{i}|i,N-i+1)dp_{i}=E_{\Beta(p_{i}|i,N-i+1)}\left[F_{X}^{-1}(p_{i})\right]$

Отже, це очікуване значення зворотного CDF, яке можна добре наблизити за допомогою методу delta, щоб отримати:

E_{B e t a (p_{i} | i, N - i + 1)} [F_{X}^{- 1} (p_{i})] \approx F_{X}^{- 1} [E_{B e t a (p_{i} | i, N - i + 1)}] = F_{X}^{- 1} [\frac{i}{N + 1}]

$E_{\Beta(p_{i}|i,N-i+1)}\left[F_{X}^{-1}(p_{i})\right]\approx F_{X}^{-1}\left[E_{\Beta(p_{i}|i,N-i+1)}\right]=F_{X}^{-1}\left[\frac{i}{N+1}\right]$

Для кращого наближення ми можемо розширитись до 2-го порядку (просте позначення диференціації), зазначаючи, що друга похідна оберненого:

\frac{\partial^{2}}{\partial a^{2}} F_{X}^{- 1} (a) = - \frac{F_{X}^{^{″}} (F_{X}^{- 1} (a))}{{[F_{X}^{^{'}} (F_{X}^{- 1} (a))]}^{3}} = - \frac{f_{X}^{^{'}} (F_{X}^{- 1} (a))}{{[f_{X} (F_{X}^{- 1} (a))]}^{3}}

$\frac{\partial^{2}}{\partial a^{2}}F_{X}^{-1}(a)=-\frac{F_{X}^{''}(F_{X}^{-1}(a))}{\left[F_{X}^{'}(F_{X}^{-1}(a))\right]^{3}}=-\frac{f_{X}^{'}(F_{X}^{-1}(a))}{\left[f_{X}(F_{X}^{-1}(a))\right]^{3}}$

Нехай . Тоді ми маємо: $\nu_{i}=F_{X}^{-1}\left[\frac{i}{N+1}\right]$

E_{B e t a (p_{i} | i, N - i + 1)} [F_{X}^{- 1} (p_{i})] \approx F_{X}^{- 1} [ν_{i}] - \frac{{V a r}_{B e t a (p_{i} | i, N - i + 1)} [p_{i}]}{2} \frac{f_{X}^{^{'}} (ν_{i})}{{[f_{X} (ν_{i})]}^{3}}

$E_{\Beta(p_{i}|i,N-i+1)}\left[F_{X}^{-1}(p_{i})\right]\approx F_{X}^{-1}\left[\nu_{i}\right]-\frac{\Var_{\Beta(p_{i}|i,N-i+1)}\left[p_{i}\right]}{2}\frac{f_{X}^{'}(\nu_{i})}{\left[f_{X}(\nu_{i})\right]^{3}}$

= ν_{i} - \frac{(\frac{i}{N + 1}) (1 - \frac{i}{N + 1})}{2 (N + 2)} \frac{f_{X}^{^{'}} (ν_{i})}{{[f_{X} (ν_{i})]}^{3}}

$=\nu_{i}-\frac{\left(\frac{i}{N+1}\right)\left(1-\frac{i}{N+1}\right)}{2(N+2)}\frac{f_{X}^{'}(\nu_{i})}{\left[f_{X}(\nu_{i})\right]^{3}}$

Тепер, спеціалізуючись на звичайному випадку, у нас

f_{X} (x) = \frac{1}{σ} ϕ (\frac{x - μ}{σ}) \to f_{X}^{^{'}} (x) = - \frac{x - μ}{σ^{3}} ϕ (\frac{x - μ}{σ}) = - \frac{x - μ}{σ^{2}} f_{X} (x)

$f_{X}(x)=\frac{1}{\sigma}\phi(\frac{x-\mu}{\sigma})\rightarrow f_{X}^{'}(x)=-\frac{x-\mu}{\sigma^{3}}\phi(\frac{x-\mu}{\sigma})=-\frac{x-\mu}{\sigma^{2}}f_{X}(x)$

F_{X} (x) = Φ (\frac{x - μ}{σ}) ⟹ F_{X}^{- 1} (x) = μ + σ Φ^{- 1} (x)

$F_{X}(x)=\Phi(\frac{x-\mu}{\sigma})\implies F_{X}^{-1}(x)=\mu+\sigma\Phi^{-1}(x)$

Зверніть увагу, що І очікування приблизно стає: $f_{X}(\nu_{i})=\frac{1}{\sigma}\phi\left[\Phi^{-1}\left(\frac{i}{N+1}\right)\right]$

Е [х_{i}] \approx мк + σ Φ^{- 1} (\frac{i}{N + 1}) + \frac{(\frac{i}{N + 1}) (1 - \frac{i}{N + 1})}{2 (N + 2)} \frac{σ Φ^{- 1} (\frac{i}{N + 1})}{{[ϕ [Φ^{- 1} (\frac{i}{N + 1})]]}^{2}}

$E[x_{i}]\approx \mu+\sigma\Phi^{-1}\left(\frac{i}{N+1}\right)+\frac{\left(\frac{i}{N+1}\right)\left(1-\frac{i}{N+1}\right)}{2(N+2)}\frac{\sigma\Phi^{-1}\left(\frac{i}{N+1}\right)}{\left[\phi\left[\Phi^{-1}\left(\frac{i}{N+1}\right)\right]\right]^{2}}$

І, нарешті:

Е [х_{i}] \approx мк + σ Φ^{- 1} (\frac{i}{N + 1}) [1 + \frac{(\frac{i}{N + 1}) (1 - \frac{i}{N + 1})}{2 (N + 2) {[ϕ [Φ^{- 1} (\frac{i}{N + 1})]]}^{2}}]

$E[x_{i}]\approx \mu+\sigma\Phi^{-1}\left(\frac{i}{N+1}\right)\left[1+\frac{\left(\frac{i}{N+1}\right)\left(1-\frac{i}{N+1}\right)}{2(N+2)\left[\phi\left[\Phi^{-1}\left(\frac{i}{N+1}\right)\right]\right]^{2}}\right]$

Хоча як зауважив @whuber, це не буде точно в хвостах. Насправді я думаю, що це може бути і гірше, через косисть бета-версії з різними параметрами

— ймовірність вірогідна
джерело

1

"Максимальна оцінка вірогідності випадкової величини "? Не впевнений, що це, але я думаю, що ви (майже) розрахували режим .

— кардинал

1

Щось таємниче трапляється приблизно на дві третини шляху, коли раптом з'являються та без попередження чи визначення.

μ

$\mu$

σ

$\sigma$

— whuber

2

Я не маю на увазі "купувати", але мені також важко бачити, як кількість у дужках можна наблизити до від'ємного числа.

— кардинал

1

@probabilityislogic, хоча на рівні обчислення ви можете сказати, що в цьому випадку ми розглядаємо двовимірну функцію і просто максимізуємо одну змінну замість іншої, я думаю, що є причини математичні, статистичні та педагогічні, щоб не називати те, що ви Ви зробили "максимальну оцінку ймовірності". Їх занадто багато, щоб перерахувати в цьому просторі, але простий, який, на мою думку, є достатньо переконливим, це те, що ми використовуємо певну, приховану лексику в статистиці не просто так. Зміна цього на примху для однієї проблеми може призвести до непорозумінь (-ів) ... / ...

— кардинал

2

@probabilityislogic (+1) для переглянутої відповіді. Одна пропозиція, можливо, краще, ніж означає "означає". Минуло кілька секунд на кілька ліній, щоб зрозуміти, що ви не пред'являєте якоїсь заяви про конвергенцію.

\Rightarrow

$\Rightarrow$

\to

$\to$

— кардинал

13

Відповідь Аніко покладається на добре відому формулу Блома, яка передбачає вибір . Виявляється, ця формула сама по собі є лише наближенням точної відповіді завдяки Г. Ельфвінгу (1947), Асимптотичний розподіл ареалу в зразках з нормальної популяції , Biometrika, Vol. 34, стор 111-119. Формула Ельфвінга спрямована на мінімум і максимум вибірки, для якого правильний вибір альфа - . Формула Блом виходить, коли ми наближаємо до . $\alpha = 3/8$ $\pi/8$ $\pi$ $3$

Використовуючи формулу Ельфвінга, а не наближення Блома, ми отримуємо множник -2,744165. Це число ближче до точної відповіді Еріка П. (-2,746) та наближення Монте-Карло (-2,75), ніж наближення Блома (-2,73), при цьому легше здійснити, ніж точна формула.

— Хал М. Світкай
джерело

Не могли б ви надати трохи детальніше, як надходить через Elfving (1947)? Це не очевидно в статті.

α = π / 8

$\alpha=\pi/8$

— Антоній

1

Ентоні - я покладаюся на підручник "Математична статистика", автор "Семюел Вілкс". Вілі (1962). Вправа 8.21 на с. 249 говорить: "Якщо x_ (1), x_ (n) - найменший і найбільший статистичний порядок вибірки розміру n з безперервного cdf F (x) ... випадкова величина 2n * sqrt {[F (x_ ( 1))] [1-F (x_ (n))]} має обмеження розподілу як n -> нескінченність, із середнім pi / 2 та дисперсією 4- (pi ^ 2) / 4. " (Вибачте, я не знаю код розмітки!) Для симетричного розподілу F (x_ (1)) = 1-F (x_ (n)). Таким чином, F (x_ (n)) є приблизно pi / (4n), або x_ (n) приблизно F ^ (- 1) (pi / (4n)). Формула Блом використовує наближення 3 / (4n).

— Hal M. Switkay

Це нагадує мені сумнозвісний законопроект " ", який віднесений до законодавчого органу штату Індіана. (Хоча стаття у Вікіпедії говорить про те, що популярна версія історії не є точною.)

π = 3

$\pi=3$

— steveo'america

7

Залежно від того, що ви хочете зробити, ця відповідь може чи не допоможе - я отримав таку точну формулу з пакету статистики Maple .

with(Statistics):
X := OrderStatistic(Normal(0, 1), 1, n):
m := Mean(X):
m;

\int_{- \infty}^{\infty} 1 / 2 \frac{_т 0 н! \sqrt{2} е^{- 1 / 2 {_т 0}^{2}} {(1 / 2 - 1 / 2 е r f (1 / 2_т 0 \sqrt{2}))}^{- 1 + н}}{(- 1 + н)! \sqrt{π}} г_т 0

$\int _{-\infty }^{\infty }\!1/2\,{\frac {{\it \_t0}\,n!\,\sqrt {2}{ {\rm e}^{-1/2\,{{\it \_t0}}^{2}}} \left( 1/2-1/2\, {{\rm erf}\left(1/2\,{\it \_t0}\,\sqrt {2}\right)} \right) ^{-1+n}}{ \left( -1+n \right) !\,\sqrt {\pi }}}{d{\it \_t0}}$

Сам по собі це не дуже корисно (і його, ймовірно, можна отримати досить легко вручну, оскільки це мінімум з випадкових змінних), але це дозволяє швидко та дуже точно наблизити задані значення - набагато точніші, ніж Монте Карло: $n$ $n$

evalf(eval(m, n = 200));
evalf[25](eval(m, n = 200));

дає -2,746042447 і -2,746042447451154492412344 відповідно.

(Повне розкриття інформації - я підтримую цей пакет.)

— Ерік П.
джерело

1

@ProbabilityIsLogic вивів цей інтеграл для всієї статистики замовлень у першій половині своєї відповіді.

— whuber