Очікування суми K чисел без заміни

Дано чисел, де значення кожного числа різне, позначається як , а ймовірність вибору кожного числа відповідно . $n$ $v_1, v_2, ..., v_n$ $p_1, p_2, ..., p_n$

Тепер, якщо я вибираю числа на основі заданих ймовірностей, де , яке очікування суми цих чисел? Зауважте, що вибір не є заміною, так що номери не можуть включати повторювані номери. Я розумію, що якщо виділення відбувається із заміною, очікування суми чисел дорівнює , де $K$ $K \leq n$ $K$ $K$ $K$ $K \times E(V)$

E (V) = v_{1} \times p_{1} + v_{2} \times p_{2} + . . . + v_{n} \times p_{n} .

$E(V) = v_1 \times p_1 + v_2 \times p_2 + ... + v_n \times p_n.$

Крім того, як бути з очікуванням дисперсії цих чисел? $K$

Я аспірант CS, який працює над великою проблемою даних, і не маю жодної статистики. Я очікую, що хтось може дати мені формулу як відповідь. Однак якщо відповідь занадто складна, щоб описати її формулою, або потрібно залучити інтенсивні обчислення, приблизна відповідь цілком прийнятна.

Можна припустити, що тут досить велике, і ймовірність може сильно відрізнятися. На практиці значення цих ймовірностей надходять із журналу запитів, який записує низку запитів агрегації. Справа в тому, що частота кожного числа, що бере участь у запитах, може бути досить хиткою, тобто деякі рідко запитуються, а деякі запитуються дуже часто. Можна припустити, що розподіл ймовірностей - це нормальний розподіл, розподіл zipf або будь-які інші розумні альтернативи. $n$

Розподіл значень - лише суміжний підмножина будь-якого можливого розподілу. Іншими словами, якщо у вас є гістограма, яка представляє певний розподіл, усі числа, що беруть участь у цій проблемі, - це числа, що знаходяться в одному відрі.

З точки зору значення K, ви можете вважати, що воно завжди менше кількості часто запитуваних елементів.

probability

— SciPioneer
джерело

Очікування дисперсії суми буде різним без заміни; вам знадобиться кінцевий коефіцієнт корекції чисельності, якщо немає заміни. (Щоб зрозуміти це інтуїтивно, зауважте, що якщо K = n, дисперсія суми дорівнює нулю, тому що вона завжди буде однаковою кількістю; тому, коли K наближається до n, дисперсія суми буде меншою.)

— zbicyclist

Це питання може бути складнішим, ніж може виглядати. Розглянемо випадок і . Очікувана сума двох значень, проведених із заміною, становить що вдвічі більше очікуваної суми одного значення курсу; але очікувана сума двох значень, проведених без заміни, очевидно, є за винятком випадків, коли .

n = 2

$n=2$

(v_{1}, v_{2}) = (0, 1)

$(v_1,v_2)=(0,1)$

2 p_{2}

$2p_2$

v_{1} + v_{2} = 1 \neq 2 p_{2}

$v_1+v_2=1\ne 2p_2$

p_{1} = p_{2} = 1 / 2

$p_1=p_2=1/2$

— whuber

@zbicyclist Можливо, я чітко не заявив про проблему. У моєму сценарії, якщо K = N, то дисперсія цих чисел K буде дисперсією загальної сукупності, а не 0.

— SciPioneer

(1) Це не схоже на питання самостійного вивчення для мене: це, схоже, справжня прикладна проблема, ймовірно. (2) Наскільки великим може бути ? Точні рішення виглядають нездійсненними, за винятком випадків, коли всі підмножини можна перерахувати. (3) Якщо може бути набагато більшим, ніж , що виключає швидке перерахування, що ви можете сказати про ? Наприклад, чи можуть вони змінюватися чи всі вони будуть досить близькими до ? Це може спонукати зусилля, щоб знайти приблизні відповіді.

n

$n$

n

$n$

20

$20$

p_{i}

$p_i$

1 / n

$1/n$

— whuber

Дякуємо за правки Чим більше ви можете розповісти нам про , , та , тим краще. Наприклад, якщо то формули вибірки із заміною повинні бути хорошими наближеннями (оскільки дуже мало значень, якщо такі є, вибиралися б більше одного разу). Я вважаю, що найскладнішими є випадки, коли існує широкий діапазон значень так що ви не можете просто замінити більшість з нулів, а ще з для значної кількості - і .

N

$N$

K

$K$

v_{i}

$v_i$

p_{i}

$p_i$

K max (p_{i}) ≪ 1

$K\max(p_i)\ll 1$

p_{i}

$p_i$

p_{i} > 1 / K

$p_i\gt 1/K$

i

$i$

K \approx N / 2

$K\approx N/2$

— whuber

Це, мабуть, характер відповіді, яка, хоча й точна, напевно, не є такою корисною. Горвіц і Томпсон (1952) дають результати, які загалом висвітлюють цю ситуацію. Ці результати наведені з точки зору комбінаторних виразів, які можна очікувати.

Щоб дотримуватися їх позначень, а також краще відповідати більш широко використовуваним позначенням, дозвольте мені визначити деякі кількості. Нехай - кількість елементів у сукупності, а - розмір вибірки. $N$ $n$

Нехай , представляє елементів сукупності із заданими значеннями , та ймовірностями відбору . Для даної вибірки розміром нехай спостережувані значення у вибірці будуть . $u_i$ $i=1,...,N$ $N$ $V_i$ $i=1,...,N$ $p_1,...,p_N$ $n$ $v_1,..., v_n$

Бажаними є середнє значення та дисперсія загальної вибірки

\sum_{i = 1}^{n} v_{i} .

$\sum_{i=1}^n v_i.$

Як зазначалося в коментарях, ймовірність вибору конкретного зразка намальованого в такому порядку, становить де початкова ймовірність малювання задана , друга ймовірність малювання залежить від видалення з популяції тощо. Таким чином, кожна наступна одиниця, що витягується, призводить до нового розподілу ймовірностей для наступної одиниці (отже, вибору різних прописних літер, оскільки кожна представляє різний розподіл.) $s = \{u_i, u_j, ..., u_t\}$

Pr (s) = p_{i_{1}} p_{j_{2}} \dots p_{t_{n}},

$\textrm{Pr}(s) = p_{i_1}p_{j_2}\cdots p_{t_n},$

p_{i_{1}}

$p_{i_1}$

u_{i}

$u_i$

p_{i}

$p_i$

p_{j_{2}}

$p_{j_2}$

u_{j}

$u_j$

u_{i}

$u_i$

Є зразки розміром які містять від усієї сукупності. Зауважте, що це враховуєперестановки зразка.

S^{(i)} = n! (\binom{N - 1}{n - 1})

$S^{(i)} = n! \binom{N-1}{n-1}$

n

$n$

u_{i}

$u_i$

n!

$n!$

Нехай позначає конкретний зразок розміру який включає . Тоді ймовірність вибору елемента задається де підсумовування ведеться по безлічі розміру з всі можливі зразки розміру які містять . (Я трохи змінив позначення з паперу, оскільки мені це здалося заплутаним.) $s_n^{(i)}$ $n$ $u_i$ $u_i$

P (u_{i}) = \sum Pr (s_{n}^{(i)}),

$P(u_i) = \sum \textrm{Pr}(s_n^{(i)}),$

S^{(i)}

$S^{(i)}$

s_{n}^{(i)}

$s_n^{(i)}$

n

$n$

u_{i}

$u_i$

Аналогічно визначте , як кількість зразків , що містять як і . Тоді ми можемо визначити ймовірність вибірки, що містить як де підсумовування перевищує набір розміру з усіх можливих вибірок розміру , які містять і .

S^{(i j)} = n! (\binom{N - 2}{n - 2})

$S^{(ij)} = n! \binom{N-2}{n-2}$

u_{i}

$u_i$

u_{j}

$u_j$

P (u_{i} u_{j}) = \sum Pr (s_{n}^{(i j)}),

$\textrm{P}(u_i u_j) = \sum \textrm{Pr}(s_n^{(ij)}),$

S^{(i j)}

$S^{(ij)}$

s_{n}^{(i j)}

$s_n^{(ij)}$

n

$n$

u_{i}

$u_i$

u_{j}

$u_j$

Очікуване значення потім виводиться як

E (\sum_{i = 1}^{n} v_{i}) = \sum_{i = 1}^{N} P (u_{i}) V_{i} .

$E \left( \sum_{i=1}^n v_i \right) = \sum_{i=1}^N \textrm{P}(u_i) V_i.$

Хоча дисперсія не виведена явно в роботі, вона може бути отримана з очікувань го моменту та перехресні продукти $q$

E (\sum_{i = 1}^{n} v_{i}^{q}) = \sum_{i = 1}^{N} P (u_{i}) V_{i}^{q}

$E \left( \sum_{i=1}^n v_i^q \right) = \sum_{i=1}^N \textrm{P}(u_i) V_i^q$

E (\sum_{i \neq j}^{n} v_{i} v_{j}) = \sum_{i \neq j} P (u_{i} u_{j}) V_{i} V_{j} .

$E \left( \sum_{i \ne j}^n v_iv_j \right) = \sum_{i \ne j} \textrm{P}(u_i u_j) V_i V_j.$

Іншими словами, схоже, що для проведення цих обчислень потрібно було б пройти всі можливі підмножини. Можливо, це можна зробити для менших значень , хоча. $n$

Horvitz, DG та Thompson, DJ (1952) Узагальнення вибірки без заміни з кінцевої всесвіту. Журнал Американської статистичної асоціації 47 (260): 663-685.

— jvbraun
джерело