Чи змінюється розподіл ймовірностей урни, коли ви берете з неї без заміни в середньому?

Припустимо, у мене є урна, що містить N різних кольорів кульок, і кожен різний колір може з’являтися різну кількість разів (якщо є 10 червоних кульок, також не повинно бути 10 синіх кульок). Якщо ми знаємо точний вміст урни перед малюванням, ми можемо сформувати дискретний розподіл ймовірностей, який повідомляє нам про ймовірність малювання кожного кольору кулі. Мене цікавить, як змінюється розподіл після нанесення k кульок без заміни з урни в середньому. Я розумію, що, коли ми беремо з урни, ми можемо оновити розподіл на основі знань про те, що було вийнято, але те, що я хочу знати, це те, що ми очікували б форми розподілу після того, як ми видалимо k куль. Чи змінюється розподіл в середньому чи він залишається колишнім? Якщо він не залишиться таким же, чи можемо ми записати якусь формулу для того, як ми очікуємо, що новий розподіл буде виглядати в середньому після того, як буде зроблено k нічиї?

1. "Прямий розрахунок": Нехай в урні буде кульок кольорів. Зосередимось на ймовірності малювання одного конкретного кольору, скажімо, білого , на другому малюнку . Нехай кількість білих кульок буде . Нехай - колір кулі, отриманий на -му розіграші.$n$$m$$n_w$$X_i$$i$

   $$\begin{eqnarray} P(X_2=W)&=&P(X_2=W|X_1=W)P(X_1=W)+P(X_2=W|X_1=\overline{W})P(X_1=\overline{W})\\ &=&\frac{n_w-1}{n-1}\frac{n_w}{n}+\frac{n_w}{n-1}\frac{n-n_w}{n}\\ &=&\frac{n_w(n-n_w+n_w-1)}{n(n-1)}\\ &=&\frac{n_w}{n}\\ &=&P(X_1=W) \end{eqnarray}$$

   Звичайно, цей самий аргумент стосується будь-якого кольору на другому розіграші. Ми можемо застосовувати один і той же тип аргументів рекурсивно при розгляді наступних малюнків.

   [Можна, звичайно, виконати ще більш прямий розрахунок. Розгляньте перші як такі, що складаються з білих кульок та кульок (з вірогідністю, заданими гіпергеометричним розподілом), і виконайте відповідний обчислення до простого вище, але для малювання на кроці ; хтось отримує подібне спрощення та скасування, але це не особливо просвічує.]$k$$i$$k-i$$k+1$

2. Коротший аргумент: розгляньте мітки кульок випадковим чином цифрами , а потім намалюйте їх у позначеному порядку. Питання тепер стає "Чи ймовірність того, що дана мітка, , розміщена на білій кулі, така ж, як ймовірність розміщення мітки на білій кулі?"$1,2,...,n$$k$$1$

   Тепер ми бачимо, що відповідь повинна бути "так" за симетричністю етикетки. Аналогічно, за симетрією кульових кольорів не має значення, що ми сказали "білі", тому аргумент, що мітка та мітка мають однакову ймовірність, стосується будь-якого кольору. Отже, розподіл на -му розіграші такий же, як і для першого жеребкування, доки ми не маємо додаткової інформації з попередніх жеребкувань (тобто до тих пір, поки попередні намальовані кулі не видно).$k$$1$$k$

Єдина причина, по якій не зовсім очевидно, що розподіл залишається незмінним (за умови, що залишається хоча б одна куля), - це занадто багато інформації. Давайте викреслимо відволікаючий матеріал.

На хвилину проігноруйте колір кожної кульки. Зосередьтеся на одній кулі. Припустимо, кульки будуть збиратися випадковим чином (а не спостерігатись), і тоді буде витягнутий та спостережений й куля. Не має значення, в якому порядку відбувається вибір, тому ви можете також спостерігати за першим намальованим кулькою (а потім, якщо ви наполягаєте, видаліть ще куль). Розподіл очевидно не змінився, тому що на нього не буде впливати видалення інших куль.$k$$k+1$$k$$k$

Цей аргумент - хоча цілком справедливий - може змусити деяких людей почувати себе непросто. Наступний аналіз може бути сприйнятий як більш суворий, оскільки він не вимагає від нас ігнорувати порядок відбору.

Продовжуйте фокусуватись на своєму м'ячі. Це матиме певну ймовірність вибору як го кулі. Незважаючи на те, що легко обчислити, нам не потрібно знати його значення: важливо лише те, що воно повинно бути однаковим для кожного кулі (оскільки всі кулі є рівнозначними) і що це ненульове значення. Але якби він дорівнював нулю, жоден бал не мав би жодної ймовірності його вибору: так що поки щонайменше один куля залишиться .$p_k$$k+1$$p_k$$p_{k}\ne 0$

Знову зверніть увагу на кольори. За визначенням, ймовірність того, що буде обраний конкретний колір (після того, як кулі будуть випадковим чином вилучені), це сума шансів усіх оригіналів$C$$k$$C$-кольорові кульки, поділені на суму шансів усіх оригінальних кульок. Коли вони спочатку є$k_C$ кульки кольору $C$ і $n$ кулі загалом, це значення

Коли не залежить від , QED .$k\lt n$$k$

Нехай розподіл малювання однієї кулі - після того, як вже намалювали кульки без заміни - має категоричний розподіл враховуючи розподіл за такими категоричними розподілами .$k$$E(D_k)$$D_k$

Я думаю, ви запитуєте, чи є постійним.$E(D_k)$

Я думаю це. Припустимо, ви врешті-решт намалюєте всі кулі. Усі перестановки кульок однаково вірогідні. Імовірність малювання спочатку становить . Ви можете змінити свій вибір на однаково вірогідну перестановку, коли ваш перший обраний бал був обраний останнім, а ваш другий вибраний перший. Цей куля має очікування , яке повинно бути рівним через симетрію. За індукцією всі рівні.$E(D_0)$$E(D_1)$$E(D_0)$$E(D_i)$

"Очікуваний розподіл" не змінюється. Можна використати аргумент мартінгала! Я додам таку відповідь пізніше (зараз я подорожую).

Розподіл, що залежить від попередніх розіграшів (для пізніших розіграшів), змінюється лише тоді, коли ви насправді спостерігаєте за нічиями. Якщо ви намалюєте кулю з урни щільно закритою рукою, а потім викидаєте її, не дотримуючись її кольору (я ефективно використовував такий театр, як демонстрація класу), розподіл не змінюється. Цей факт має своє вираження: ймовірність стосується інформації, ймовірність - це інформаційне поняття.

Тому ймовірності змінюються лише тоді, коли ви отримуєте нову інформацію (тобто умовні ймовірності). Витягнення кулі та викидання його без спостереження не дає вам ніякої нової інформації, тому нічого нового не можна спричинити. Тож, коли ви вказуєте на фактичний набір інформації, він не змінився, тому умовний розподіл не може змінитися.

 EDIT

Зараз я не буду давати набагато більше деталей до цієї відповіді, лише додам одне посилання: Хосам М. Махмуд: "Моделі Urna Pólya" (Chapman & Hall), яка розглядає моделі урн, як та, що в цьому питанні, а також набагато більш узагальнену урну схеми, також використовуючи методи мартінгале для отримання граничних результатів. Але методи мартінгале не потрібні для запитання в цій публікації.