Очікування коефіцієнта суми IID випадкових змінних (аркуш Кембриджського університету)

Я готуюсь до інтерв'ю, яке вимагає гідного знання базової ймовірності (принаймні, щоб пройти саме інтерв'ю). Я працюю в нижченаведеному аркуші зі своїх студентських днів як перегляд. Здебільшого це було досить просто, але я повністю заплутався у питанні 12.

http://www.trin.cam.ac.uk/dpk10/IA/exsheet2.pdf

Будь-яка допомога буде вдячна.

Редагувати: питання:

Припустимо, що є незалежними однаково розподіленими позитивними випадковими змінними з та . Нехай . Покажіть, що коли , і коли . $X_1, X_2, ...$ $\mathbb{E}(X_1) = \mu < \infty$ $\mathbb{E}(X_1^{-1}) < \infty$ $S_n = \sum_{i=1}^n X_i$ $\mathbb{E}(S_m/S_n) = m/n$ $m<=n$ $\mathbb{E}(S_m/S_n) = 1 + (m-n)\mu\mathbb{E}(S_n^{-1}))$ $m>=n$

Насправді в процесі введення цього тексту я вирішив другу частину.

Для , $m>=n$ $\mathbb{E}(S_m/S_n) = \mathbb{E}(X_1+ . . . +X_m)/\mathbb{E}(X_1+ . . . +X_n)$

$=\mathbb{E}(1 + (X_{n+1} + ... + X_m)/(X_1 + ... + X_n))$

а чисельник і знаменник наведеного вище співвідношення явно незалежні, тому:

$= 1 + \mathbb{E}(X_{n+1} + ... + X_m)\mathbb{E}(S_n^{-1})$

і ми отримуємо бажаний результат.

Я все ще застряг у першій частині.

probability self-study random-variable

— Spy_Lord
джерело

Важливо, щоб посади були самостійними. Відредагуйте це, щоб включити прочитану версію питання. Ми також просимо вказати, які підходи ви спробували, і який прогрес, якщо такий є, ви досягли: інакше у нас немає підстав оцінювати рівень, на якому писати відповіді.

— whuber

Оновлено за запитом.

— Spy_Lord

Хороша робота! Ось пропозиція до першої частини: коли ви додаєте однакових копій разом, схоже, сума матиме розподіл, очікування якого легко обчислити, використовуючи лише припущення про iid.

n

$n$

S_{m} / S_{n}

$S_m/S_n$

— whuber

Я ціную вашу пропозицію написати її; Я думаю, це було б корисним доповненням до нашого сайту.

— whuber

Гаразд Я думаю, що крок, який я спочатку вважав правильним, потім вирішив, що був неправильним, насправді добре! По суті, коли ви дістаєтесь до точки, коли у вас є це, за властивістю iid, тотожне Чи можете ви підтвердити, що це нормально? Якщо так, я напишу його після поспіху.

E ((n X_{1}) / (X_{1} + . . . + X_{n}))

$\mathbb{E}((nX_1)/(X_1+. . . + X_n))$

E ((X_{1} + . . . + X_{n}) / (X_{1} + . . . + X_{n})) = 1

$\mathbb{E}((X_1 + ... + X_n)/(X_1+. . . + X_n)) = 1$

— Spy_Lord

Відповіді:

Точковий додавання $n$ однакові копії $S_m/S_n$ дуже розумний! Але деякі з нас не такі розумні, тому приємно мати можливість «відкласти» Велику ідею до того етапу, коли більш очевидно, що робити. Не знаючи, з чого почати, мабуть, існує ряд підказок, що симетрія може бути справді важливою (додавання є симетричним, і ми маємо деякі підсумки, а iid змінні мають те саме очікування, тому, можливо, їх можна буде поміняти навколо або перейменувати корисними способами). Насправді найважчим у цьому питанні є те, як боротися з поділом, операція якого не симетрична. Як ми можемо використовувати симетрію підсумовування? З лінійності очікування ми маємо:

$\mathbb{E}(S_m/S_n) = \mathbb{E}\left(\frac{X_1 + ... + X_m}{X_1 + ... + X_n}\right) = \mathbb{E}\left(\frac{X_1}{X_1 + .... + X_n}\right) + ... + \mathbb{E}\left(\frac{X_m}{X_1 + .... + X_n}\right)$

Але потім з міркувань симетрії, враховуючи це $X_i$ є iid і $m \le n$ , усі умови праворуч однакові! Чому? Переключіть мітки на $X_i$ і $X_j$ для $i, j \le n$ . Два терміни у значенні перемикача знаменника, але після його переупорядкування все ще дорівнює $S_n$ , тоді як чисельник змінюється від $X_i$ до $X_j$ . Тому $\mathbb{E}(X_i/S_n) = \mathbb{E}(X_j/S_n)$ . Давайте напишемо $\mathbb{E}(X_i/S_n)=k$ для $1 \le i \le n$ і оскільки є $m$ такі терміни у нас є $\mathbb{E}(S_m/S_n) = mk$ .

Схоже, ніби $k=1/n$ що дало б правильний результат. Але як це довести? Ми знаємо

$k=\mathbb{E}\left(\frac{X_1}{X_1 + .... + X_n}\right)=\mathbb{E}\left(\frac{X_2}{X_1 + .... + X_n}\right)=...=\mathbb{E}\left(\frac{X_n}{X_1 + .... + X_n}\right)$

Лише на цьому етапі на мені надихнувся я, щоб отримати це разом, щоб отримати

$nk = \mathbb{E}\left(\frac{X_1}{X_1 + .... + X_n}\right) + \mathbb{E}\left(\frac{X_2}{X_1 + .... + X_n}\right) + ... + \mathbb{E}\left(\frac{X_n}{X_1 + .... + X_n}\right)$ $\implies nk = \mathbb{E}\left(\frac{X_1 + ... + X_n}{X_1 + .... + X_n}\right) = \mathbb{E}(1) = 1$

Що приємного в цьому методі, це те, що він зберігає єдність двох частин питання. Причина симетрії порушена і вимагає коригування, коли $m>n$ , полягає в тому, що умови праворуч після застосування лінійності очікування будуть двох типів, залежно від того $X_i$ у чисельнику лежить сума у знаменнику. (Як і раніше, я можу переключити мітки на $X_i$ і $X_j$ якщо обидва знаходяться в знаменнику, оскільки це просто змінює суму $S_n$ або якщо жодне з них не робить це, очевидно, не залишає суму незмінною, але якщо це так і не відбувається, то один із доданків у знаменнику не змінюється, і він більше не дорівнює $S_n$ .) Для $i \le n$ ми маємо $\mathbb{E}\left(\frac{X_i}{X_1 + .... + X_n}\right)=k$ і для $i>n$ ми маємо $\mathbb{E}\left(\frac{X_i}{X_1 + .... + X_n}\right)=r$ , сказати. Оскільки ми маємо $n$ попередніх термінів, і $m-n$ останнього,

$\mathbb{E}(S_m/S_n) = nk + (m-n)r = 1 + (m-n)r$

Тоді знаходження $r$ прямо, використовуючи незалежність $S_n^{-1}$ і $X_i$ для $i>n$ : $r=\mathbb{E}(X_i S_n^{-1})=\mathbb{E}(X_i) \mathbb{E}(S_n^{-1})=\mu \mathbb{E}(S_n^{-1})$

Тож однаковий «трюк» працює для обох частин, він просто передбачає розгляд двох випадків, якщо $m>n$ . Я підозрюю, що саме тому дві частини питання були подані в цьому порядку.

— Срібна рибка
джерело

Дуже приємний виклад вашої думки, що працює над питанням, і ви робите чіткий крок nk (мій сорт відповідей просто говорить "явно рівний"). Ура!

— Spy_Lord

Завдяки whuber за підказку для першої частини.

Розглянемо $nS_m/S_n$ для справи $m<=n$

Ми маємо $\mathbb{E}(nS_m/S_n) = \mathbb{E}((nX_1 + . . . + nX_m)/(X_1 + . . . + X_n))$

$= \mathbb{E}(nX_1/X_1 + . . . + X_n) + . . . + \mathbb{E}(nX_m/X_1 + . . . + X_n)$

а за властивістю iid це дорівнює:

$m\mathbb{E}((X_1+ . .+ X_n)/(X_1+ . . . + X_n)) = m$

Тому $\mathbb{E}(S_m/S_n) = m/n$ для $m<=n$

— Spy_Lord
джерело