Що таке iid випадкові величини?

49

Як би ви могли пояснити iid (незалежний та однаково розподілений) нетехнічним людям?

random-variable intuition

— user333
джерело

55

Це означає «Незалежний і однаково розподілений».

Хороший приклад - послідовність кидків справедливої монети: монета не має пам’яті, тому всі кидки є «незалежними».

І кожен кидок - 50:50 (голови: хвости), тому монета є і залишається справедливою - розподіл, з якого черпається кожен кидок, так би мовити, є і залишається однаковим: "однаково розподілений".

Гарною відправною точкою буде сторінка Вікіпедії .

:: EDIT ::

Перейдіть за цим посиланням для подальшого вивчення концепції.

— фондж
джерело

11

Цікаво, якби приклад кидання монети помилково створював враження, що кожна подія повинна бути однозначною ...

— Майкл МакГоуан

1

Отже, чи не потрібно, щоб випадкові змінні IID мали бути вірогідними? якщо вони не є однозначними, то як можна пояснити "однаково розподілений"? Дякую заздалегідь ...

6

@Nalini "еквівалентний" не є синонімом "однаково розподілених". Якщо і є iid, це означає, що вони взяті з одного і того ж розподілу, а не те, що всі значення в цьому розподілі однаково вірогідні (подумайте, звичайний розподіл). і мали б однакове очікуване значення.

x

$x$

y

$y$

x

$x$

y

$y$

— Джейсон Морган

Якщо дві змінні є незалежними та нормально розподіленими, але мають різну середню величину та дисперсію, чи все-таки вони ідентичні?

— шпора

1

@spurra Я так не думаю .. вони просто незалежні

— користувач3595632

22

Нетехнічне пояснення:

Незалежність - це дуже загальне поняття. Кажуть, що дві події є незалежними, якщо виникнення однієї не дає вам жодної інформації щодо того, відбулася чи ні інша подія. Зокрема, на ймовірність того, що ми приписуємо другу подію, не впливає знання, що відбулася перша подія.

Приклад незалежних подій, можливо ідентично розподілених
Розгляньте, кидаючи дві різні монети одна за одною. Якщо припустити, що великий палець не надто втомився, коли він перевернув першу монету, доцільно припустити, що знаючи, що кидання першої монети призвело до головок, жодним чином не впливає на те, що ви вважаєте, що є ймовірність головок на другому киданні. Дві події , вважаються незалежними подіями.
${first coin toss resulted in Heads} and {second coin toss resulted in Heads}$
- Якщо ми знаємо або наполегливо наполягаємо на тому, що обидві монети мають різну ймовірність отримання результатів, тоді події не розподіляються однаково.
- Якщо ми знаємо або припускаємо, що обидві монети мають однакову ймовірність підйому до Голови, то вищезазначені події також розподіляються однаково, тобто вони мають однакову ймовірність . Але зауважте, що якщо , ймовірність Heads не дорівнює ймовірності Tails. Як зазначається в одному з коментарів, "ідентичний розподіл" не є "рівним імовірним". $p$ $p$ $p = \frac 12$
Приклад однаково розподілених незалежних подій
Розгляньте урну з двома кулями, однією чорною та однією білою. Ми добираємось до нього і витягуємо дві кульки одна за одною, вибираючи перший навмання (і це, звичайно, визначає колір наступного кулі). Таким чином, два однаково вірогідні результати експерименту: (Білий, Чорний) та (Чорний, Білий), і ми бачимо, що перша куля з однаковою ймовірністю буде Чорною або Білою, а також другий куля також однаковою мірою є Чорним або Білий. Іншими словами, події безумовно, розподіляються однаково, але вони безумовно ні
${first ball drawn is Black} and {second ball drawn is Black}$ $\{\text{first ball drawn is Black}\}~~\text{and}~~\{\text{second ball drawn is Black}\}$ самостійні події. Дійсно, якщо ми знаємо, що перша подія сталася, ми точно знаємо, що друга не може відбутися. Таким чином, хоча наша початкова оцінка ймовірності другої події становить , як тільки ми дізнаємося, що відбулася перша подія, ми найкраще переглянути свою оцінку щодо ймовірності другого намальованого буде чорним від до . $\frac 12$ $\frac 12$ $0$

— Діліп Сарват
джерело

"Як зазначалося в одному з коментарів," ідентичний розподіл "не є" однаково вірогідним "." Яка різниця? "однаково ймовірні" означає, що голови однаково вірогідні, як і хвости? Тоді як "однаково розподілений" означає, що кожна подія має однакову ймовірність керівників?

— Червоний горох

3

p \neq \frac{1}{2}

$p \ne \frac 12$

p

$p$

p

$p$

1 - p

$1-p$

2

n

$n$

\frac{1}{n}

$\frac 1n$

ОК, так ідентичний розподіл відноситься до всього розподілу ймовірностей, тоді як однакова ймовірність стосується частин цього розподілу ймовірностей. Я зараз розумію, дякую.

— Червоний горох

Я не впевнений, що останній приклад розподіляється однаково. Чи можна стверджувати, що " якщо дві події не є незалежними, вони не можуть бути від однакових розподілів"? Наприклад, у вашому прикладі я можу сказати, що другий жеребкування має різний розподіл через першу подію.

— jiggunjer

3

Випадкова величина є змінною, яка містить ймовірність усіх можливих подій у сценарії. Наприклад, давайте створимо випадкову змінну, яка відображає кількість голів у 100 кидках монет. Випадкова величина міститиме ймовірність отримання 1 голови, 2 голови, 3 голови ..... аж до 100 голів. Назвемо цю випадкову величину X .

Якщо у вас є дві випадкові величини, то вони є IID (незалежно однаково розподіленими), якщо:

Якщо вони незалежні . Як було пояснено вище, незалежність означає, що одна подія не дає ніякої інформації про іншу подію. Наприклад, якщо я отримаю 100 голів після 100 переворотів, ймовірність отримати голови або хвости в наступному перевороті однакові.
Якщо кожна випадкова величина ділиться однаковим розподілом . Наприклад, давайте візьмемо випадкову змінну зверху - X . Скажімо, X представляє Обаму, який повинен перевернути монету 100 разів. Тепер скажімо, що Y представляє священика, який збирається перевернути монету 100 разів. Якщо Обама і Священик перевертають монети з однаковою ймовірністю посадки на голови, то X і Y вважаються однаково розподіленими. Якщо ми відбираємо вибірки від священика чи Обами, то зразки вважаються однаково розподіленими.

Бічна примітка: Незалежність також означає, що ви можете помножити ймовірності. Скажімо, ймовірність головок p, тоді ймовірність отримання двох голів підряд p * p, або p ^ 2.

— thebajo
джерело

2

Що два залежні змінні можуть мати однаковий розподіл, можна показати на цьому прикладі:

Припустимо два послідовних експерименти, що включають кожні 100 кидків упередженої монети, де загальна кількість Голівки моделюється як випадкова величина X1 для першого експерименту та X2 для другого експерименту. X1 і X2 - біноміальні випадкові величини з параметрами 100 і p, де p зміщення монети.
Як такі, вони однаково розподілені. Однак вони не є незалежними, оскільки значення перших є досить інформативним про значення другого. Тобто, якщо результат першого експерименту становить 100 голов, це багато що говорить нам про зміщення монети, і тому дає нам багато нової інформації щодо розподілу X2.
Ще X2 і X1 однаково розподілені, оскільки вони отримані з однієї і тієї ж монети.

Істинно також те, що якщо 2 випадкових величини залежать, то задня частина X2, задана X1, ніколи не буде такою ж, як попередня для X2, і навпаки. У той час, коли X1 і X2 є незалежними, їх афіші дорівнюють своїм пріорам. Тому, коли дві змінні залежать, спостереження однієї з них призводить до переглянутої оцінки щодо розподілу другої. І все одно, і те, і інше, можуть бути з одного і того ж дистрибутиву, просто ми дізнаємось у процесі детальніше про природу цього розподілу. Таким чином, повертаючись до монети, кидає експерименти, спочатку за відсутності будь-якої інформації можна припустити, що X1 і X2 слідують за біноміальним розподілом з параметрами 100 і 0,5. Але спостерігаючи за 100 головами підряд, ми, безумовно, переглянемо нашу оцінку щодо параметра p, щоб зробити його досить близьким до 1.

— rf7
джерело

1

Сукупність декількох випадкових креслень з одного розподілу. Приклад витягування мармуру з мішка в 10000 разів і підрахунку разів витягування червоного мармуру.

— Калеб
джерело

1

Чи можете ви розширити, як це доповнює існуючі відповіді?

— mdewey

0

$X$ $\mu=3$ $\sigma^2=4$ $X \sim N(3 , 4)$

$Y$ $Y \sim N(3, 4)$ $X$ $Y$

Тим не менш, тотожне розподілення не обов'язково означає незалежність.

— S Джалал
джерело

8

Ви повинні мати на увазі цікавий набір "нетехнічних людей", коли ви покладаєтесь на технічні терміни, такі як "випадкова змінна", "нормальний розподіл", "pdf", "дисперсія" та "незалежність". Я б ризикну сказати, що це порожній набір.

— whuber

" тотожне розподілення не обов'язково означає незалежність ". Як залежність може впливати на дві однаково розподілені змінні? Мені здалося б, що залежність викликає неідентифікацію, але не вся неідентичність обумовлена залежністю .

— jiggunjer