Як ми можемо обмежити ймовірність того, що випадкова величина є максимальною?

$\newcommand{\P}{\mathbb{P}}$ Припустимо, у нас є незалежних випадкових змінних , , з кінцевими засобами та дисперсіями , , . Я шукаю обмеження без розподілу на ймовірність того, що будь-який більший за всі інші , . $N$ $X_1$ $\ldots$ $X_n$ $\mu_1 \leq \ldots \leq \mu_N$ $\sigma_1^2$ $\ldots$ $\sigma_N^2$ $X_i \neq X_N$ $X_j$ $j \neq i$

Іншими словами, якщо для простоти вважаємо, що розподіли $X_i$ є безперервними (такими, що $\P(X_i = X_j) = 0$ ), я шукаю межі на:

P (X_{i} = max_{j} X_{j}) .

$\P( X_i = \max_j X_j ) \enspace.$ Якщо

N = 2

$N=2$ , ми можемо використати нерівність Чебишева, щоб отримати:

P (X_{1} = max_{j} X_{j}) = P (X_{1} > X_{2}) \leq \frac{σ_{1}^{2} + σ_{2}^{2}}{σ_{1}^{2} + σ_{2}^{2} + (μ_{1} - μ_{2})^{2}} .

$\P(X_1 = \max_j X_j) = \P(X_1 > X_2) \leq \frac{\sigma_1^2 + \sigma_2^2}{\sigma_1^2 + \sigma_2^2 + (\mu_1 - \mu_2)^2} \enspace.$ Я хотів би знайти прості (не обов'язково щільно) оцінки для спільних

N

$N$ , але я не зміг знайти (естетичний) приємні результати для загального

N

$N$ .

Зверніть увагу, що змінні не вважаються iid. Будь-які пропозиції чи посилання на пов'язані роботи вітаються.

Оновлення: згадаймо, що припущення, $\mu_j \geq \mu_i$ . Тоді ми можемо скористатись вищезгаданим обмеженням, щоб дійти до:

P (X_{i} = max_{j} X_{j}) \leq min_{j > i} \frac{σ_{i}^{2} + σ_{j}^{2}}{σ_{i}^{2} + σ_{j}^{2} + (μ_{j} - μ_{i})^{2}} \leq \frac{σ_{i}^{2} + σ_{N}^{2}}{σ_{i}^{2} + σ_{N}^{2} + (μ_{N} - μ_{i})^{2}} .

$\P(X_i = \max_j X_j) \leq \min_{j > i} \frac{\sigma_i^2 + \sigma_j^2}{\sigma_i^2 + \sigma_j^2 + (\mu_j - \mu_i)^2} \leq \frac{\sigma_i^2 + \sigma_N^2}{\sigma_i^2 + \sigma_N^2 + (\mu_N - \mu_i)^2} \enspace.$ Це означає:

(μ_{N} - μ_{i}) P (X_{i} = max_{j} X_{j}) \leq (μ_{N} - μ_{i}) \frac{σ_{i}^{2} + σ_{N}^{2}}{σ_{i}^{2} + σ_{N}^{2} + (μ_{N} - μ_{i})^{2}} \leq \frac{1}{2} \sqrt{σ_{i}^{2} + σ_{N}^{2}} .

$( \mu_N - \mu_i ) \P( X_i = \max_j X_j ) \leq (\mu_N - \mu_i) \frac{\sigma_i^2 + \sigma_N^2}{\sigma_i^2 + \sigma_N^2 + (\mu_N - \mu_i)^2} \leq \frac{1}{2} \sqrt{ \sigma_i^2 + \sigma_N^2 } \enspace.$ Це, у свою чергу, означає:

\sum_{i = 1}^{N} μ_{i} P (X_{i} = max_{j} X_{j}) \geq μ_{N} - \frac{N}{2} \sqrt{\sum_{i = 1}^{N - 1} (σ_{i}^{2} + σ_{N}^{2})} .

$\sum_{i=1}^N \mu_i \P( X_i = \max_j X_j ) \geq \mu_N - \frac{N}{2} \sqrt{ \sum_{i=1}^{N-1} (\sigma_i^2 + \sigma_N^2) } \enspace.$ Я тепер цікаво , це пов'язано чи можна поліпшити що - то , що не залежить лінійно від

N

$N$ . Наприклад, чи відповідає наступне:

\sum_{i = 1}^{N} μ_{i} P (X_{i} = max_{j} X_{j}) \geq μ_{N} - \sqrt{\sum_{i = 1}^{N} σ_{i}^{2}} ?

$\sum_{i=1}^N \mu_i \P( X_i = \max_j X_j ) \geq \mu_N - \sqrt{ \sum_{i=1}^N \sigma_i^2 } \enspace?$ А якщо ні, то що може бути контрприкладом?

probability bounds maximum

— MLS
джерело

Ця оцінка може бути сильніше , якщо ви використовуєте індекс , який дає вам менше верхньої межі замість . Зауважте, що це значення залежить як від середнього, так і від дисперсії.

j

$j$

N

$N$

@MichaelChernick: Я не вірю, що це правильно. Припустимо, наприклад, у нас є три рівномірні розподіли на . Тоді, якщо я не помиляюся, , тоді як . Я не знаю, чи ти мав намір написати , але тоді той самий приклад показує, що він все ще не дійсний.

[0, 1]

$[0,1]$

P (X_{1} < max_{j} X_{j}) = 2 / 3

$P( X_1 < \max_j X_j ) = 2/3$

P (X_{1} < X_{2}) = P (X_{1} < X_{3}) = 1 / 2

$P(X_1 < X_2) = P(X_1 < X_3) = 1/2$

P (X_{i} > max_{j} X_{j})

$P( X_i > \max_j X_j )$

— MLS

@Michael: На жаль, це все ще не так. Події для фіксованого не є незалежними.

A_{j} = {X_{i} > X_{j}}

$A_j = \{X_i > X_j\}$

i

$i$

— кардинал

@cardinal: Крім усього іншого, це стосується багатозбройних бандитів. Якщо ви вибираєте руку, грунтуючись на попередніх нагородах, наскільки велика ймовірність того, що ви вибрали найкращу руку (це було б у позначенні вище), і чи можемо ми очікувані втрати для вибору суб -оптимальна рука?

P (X_{N} = max_{j} X_{j})

$P(X_N = \max_j X_j)$

— MLS

Перехрещений на MathOverflow: mathoverflow.net/questions/99313

— кардинал

Відповіді:

Можна скористатися багатоваріантною нерівністю Чебишева.

Випадок двох змінних

У випадку єдиної ситуації, проти , я потрапляю в ту ж ситуацію, що й коментар Йохена 4 листопада 2016 року $X_1$ $X_2$

1) Якщо то $\mu_1 < \mu_2$ $P(X_1>X_2) \leq (\sigma_1^2 + \sigma_2^2)/(\mu_1-\mu_2)^2$

(і мені цікаво також про ваше походження)

Виведення рівняння 1

використовуючи нову змінну $X_1-X_2$
перетворюючи його таким, що має середнє значення в нулі
приймаючи абсолютне значення
застосовуючи нерівність Чебишева

\begin{matrix} P (X_{1} > X_{2}) & = P (X_{1} - X_{2} > 0) \\ = P (X_{1} - X_{2} - (μ_{1} - μ_{2}) > - (μ_{1} - μ_{2})) \\ \leq P (| X_{1} - X_{2} - (μ_{1} - μ_{2}) | > μ_{2} - μ_{1}) \\ \leq \frac{σ_{(X_{1} - X_{2} - (μ_{1} - μ_{2}))}^{2}}{(μ_{2} - μ_{1})^{2}} = \frac{σ_{X_{1}}^{2} + σ_{X_{2}}^{2}}{(μ_{2} - μ_{1})^{2}} \end{matrix}

$\begin{array} \\ P \left( X_1 > X_2 \right) &= P \left( X_1 - X_2 > 0 \right)\\ &= P\left( X_1 - X_2 - (\mu_1 - \mu_2) > - (\mu_1 - \mu_2)\right) \\ &\leq P\left( \vert X_1 - X_2 - (\mu_1 - \mu_2) \vert > \mu_2 - \mu_1\right) \\ &\leq \frac{\sigma_{(X_1-X_2- (\mu_1 - \mu_2))}^2}{(\mu_2 - \mu_1)^2} = \frac{\sigma_{X_1}^2+\sigma_{X_2}^2}{(\mu_2 - \mu_1)^2}\\ \end{array}$

Багатовимірний кейс

Нерівність у рівнянні (1) можна змінити у багатовимірний випадок, застосувавши його до декількох перетворених змінних для кожного (зауважимо, що вони співвідносяться). $(X_n-X_i)$ $i<n$

Рішення цієї проблеми (багатоваріантне та співвіднесене) було описано І. Олькіним та Дж. В. Праттом. "Багатоваріантна нерівність Чебчечефа" в літописі математичної статистики, том 29 сторінок 226-234 http://projecteuclid.org/euclid.aoms/1177706720

Теорема примітки 2.3

$P(\vert y_i \vert \geq k_i \sigma_i \text{ for some } i) = P(\vert x_i \vert \geq 1 \text{ for some } i) \leq \frac{(\sqrt{u} + \sqrt{(pt-u)(p-1)})^2}{p^2}$

в якій кількість змінних, , і . $p$ $t=\sum k_i^{-2}$ $u=\sum \rho_{ij}/(k_ik_j)$

Теорема 3.6 передбачає більш жорстке обмеження, але його менш легко обчислити.

Редагувати

Більш чітку межу можна знайти, використовуючи багатоваріантну нерівність Кантеллі . Ця нерівність - це тип, який ви використовували раніше і надали вам межу яка є гостріше, ніж . $(\sigma_1^2 + \sigma_2^2)/(\sigma_1^2 + \sigma_2^2 + (\mu_1-\mu_2)^2)$ $(\sigma_1^2 + \sigma_2^2)/(\mu_1-\mu_2)^2$

Я не витрачав час на вивчення всієї статті, але все одно ви можете знайти тут рішення:

А. В. Маршалл та І. Олкін «Одностороння нерівність типу Чебишева» в аналах математичної статистики том 31 стор. 488-491 https://projecteuclid.org/euclid.aoms/1177705913

(пізніша примітка. Ця нерівність призначена для рівних кореляцій і недостатньої допомоги. Але все одно ваша проблема, щоб знайти найбільш гостру межу, дорівнює більш загальній, багатоваріантній нерівності Кантеллі. Я був би здивований, якщо рішення не існує)

— Секст Емпірік
джерело

Чи можете ви надати чітке твердження про багатоваріантність нерівності Чебишева?

— whuber

Я відредагував рішення, що забезпечує всю теорему.

— Секст Емпірік

-1

Я знайшов теорему, яка може вам допомогти, і спробую скоригувати її під свої потреби. Припустимо, у вас є:

e x p (t \cdot E (\underset{1 \leq i \leq n}{m a x} X_{i}))

$exp(t \cdot \mathbf{E}(\underset{1 \leq i \leq n}{max}X_{i}))$

Тоді за нерівністю Дженсена (оскільки exp (.) Є опуклою функцією), отримуємо:

e x p (t \cdot E (\underset{1 \leq i \leq n}{m a x} X_{i})) \leq E (e x p (t \cdot \underset{1 \leq i \leq n}{m a x} X_{i})) = E (\underset{1 \leq i \leq n}{m a x} e x p (t \cdot X_{i})) \leq \sum_{i = 1}^{n} E (e x p (t \cdot X_{i})

$exp(t \cdot \mathbf{E}(\underset{1 \leq i \leq n}{max}X_{i})) \leq \mathbf{E}(exp( t \cdot \underset{1 \leq i \leq n}{max}X_{i})) = \mathbf{E}( \underset{1 \leq i \leq n}{max} \text{ }exp( t \cdot X_{i})) \leq \sum_{i=1}^{n} \mathbf{E} (exp(t \cdot X_{i})$

Тепер для $exp(t \cdot X_{i}$ вам потрібно підключити будь-який момент, що генерує функцію вашої випадкової величини (оскільки це лише визначення mgf). Потім, після цього (і можливо спрощуючи свій термін), ви берете цей термін і приймаєте журнал і ділимо його на t, щоб отримати повідомлення про термін . Тоді ви можете вибрати t з деяким довільним значенням (найкраще, щоб термін був малим, щоб зв'язане було щільним). $X_{i}$ $\mathbf{E}(\underset{1 \leq i \leq n}{max}X_{i})$

Потім у вас є заява про очікуване значення максимуму за n rvs. Щоб отримати зараз твердження про ймовірність того, що максимум цих rv відхиляється від цього очікуваного значення, ви можете просто скористатися нерівністю Маркова (якщо припустити, що ваш rv є негативним) або іншим, більш конкретним rv, що стосується конкретного rv.

— Фабіан Фальк
джерело