Максимальний вірогідний оцінювач негативного біноміального розподілу

Питання таке:

Випадкова вибірка з n значень збирається з негативного біноміального розподілу з параметром k = 3.

Знайдіть максимальну оцінку ймовірності параметра π.

Знайдіть асимптотичну формулу для стандартної помилки цього оцінювача.

Поясніть, чому негативний біноміальний розподіл буде приблизно нормальним, якщо параметр k досить великий. Які параметри цього нормального наближення?

Моя робота полягала в наступному:
1. Я відчуваю, що це саме те, чого потрібно шукати, але я не впевнений, чи я тут точний, чи можу я скористатися цією інформацією надалі?

p (x) = (\binom{x - 1}{k - 1}) π^{k} (1 - π)^{x - k} L (π) = Π_{i}^{n} p (x_{n} | π) ℓ (π) = Σ_{i}^{n} \ln (p (x_{n} | π)) ℓ ‘ (π) = Σ_{i}^{n} \frac{k}{π} - \frac{(x - k)}{(1 - π)}

$p(x) = {x-1 \choose k-1}\pi^k(1-\pi)^{x-k}\\ L(\pi) = \Pi_i^n p(x_n|\pi)\\ \ell(\pi) = \Sigma_i^n\ln(p(x_n|\pi))\\ \ell`(\pi) = \Sigma_i^n\dfrac{k}{\pi}-\dfrac{(x-k)}{(1-\pi)}$

Думаю, що проситься далі. На завершальну частину я відчуваю, що мені потрібно замінити $\hat{\pi}$ на $\dfrac{k}{x}$
$ℓ ‘ ‘ (\hat{π}) = - \frac{k}{{\hat{π}}^{2}} + \frac{x}{(1 - \hat{π})^{2}} s e (\hat{π}) = \sqrt{- \frac{1}{ℓ ‘ ‘ (\hat{π})}} s e (\hat{π}) = \sqrt{\frac{{\hat{π}}^{2}}{k} - \frac{(1 - \hat{π})^{2}}{x}}$ $\ell``(\hat{\pi}) = -\dfrac{k}{\hat{\pi}^2} + \dfrac{x}{(1-\hat{\pi})^2}\\ se(\hat{\pi}) = \sqrt{-\dfrac{1}{\ell``(\hat{\pi})}}\\ se(\hat{\pi}) = \sqrt{\dfrac{\hat{\pi}^2}{k} - \dfrac{(1-\hat{\pi})^2}{x}}\\$
Я не дуже впевнений, як довести це, і все ще досліджую це. Будемо дуже вдячні за будь-які підказки чи корисні посилання. Я відчуваю, що це пов'язано або з тим, що негативний біноміальний розподіл можна розглядати як сукупність геометричних розподілів або зворотній біноміальний розподіл, але не знаю, як до нього наблизитися.

Будь-яка допомога взагалі буде дуже вдячна

self-study maximum-likelihood negative-binomial

— Syzorr
джерело

(1) Щоб знайти оцінку максимальної ймовірності , потрібно знайти, де функція вірогідності журналу досягає свого максимуму. Розрахунок балу (перша похідна функції вірогідності журналу відносно ) - це початок - яке значення це візьме на максимум? (І пам’ятайте, що вам не потрібно оцінювати .)

\hat{π}

$\hat \pi$

π

$\pi$

k

$k$

— Scortchi - Відновіть Моніку

Я забув додати похідну log-правдоподібності = 0 для того, щоб з'ясувати максимум. Якщо я зрозумів це правильно (працюю над ним ще з моменту публікації), у мене є

\frac{k}{π} - \frac{Σ_{i = 0}^{n} (x_{i} - k)}{(1 - π)} = 0

$\dfrac{k}{\pi}-\dfrac{\Sigma_{i=0}^n(x_i-k)}{(1-\pi)} = 0$

— Сизорр

Будьте уважні:Також зауважте, що

\sum_{i = 1}^{n} \frac{k}{π} - \sum_{i = 1}^{n} \frac{(x_{i} - k)}{(1 - π)} = ?

$\sum_{i=1}^n \frac{k}{\pi} - \sum_{i=1}^n{\frac{(x_i-k)}{(1-\pi)}} = \ ?$

i

$i$

— починаю з

У (2) рідко буває так, що зворотна різниця - це різниця зворотних. Ця помилка сильно впливає на вашу остаточну формулу .

s e (\hat{π})

$se(\hat\pi)$

— whuber

$p(x) = {x_i-1 \choose k-1}\pi^k(1-\pi)^{x_i-k}$

$L(\pi;x_i) = \prod_{i=1}^{n}{x_i-1 \choose k-1}\pi^k(1-\pi)^{x_i-k}\\$

$\ell(\pi;x_i) = \sum_{i=1}^{n}[log{x_i-1 \choose k-1}+klog(\pi)+(x_i-k)log(1-\pi)]\\ \frac{d\ell(\pi;x_i)}{d\pi} = \sum_{i=1}^{n}[\dfrac{k}{\pi}-\dfrac{(x_i-k)}{(1-\pi)}]$

Встановіть це на нуль,

$\frac{nk}{\pi}=\frac{\sum_{i=1}^nx_i-nk}{1-\pi}$

$\therefore$ $\hat\pi=\frac{nk}{\sum_{i=1}^nx}$

Для другої частини потрібно використовувати теорему, що , - тут інформація про рибалки. Тому стандартне відхилення буде . Або ви називаєте це стандартною помилкою, оскільки тут ви використовуєте CLT. $\sqrt{n}(\hat\theta-\theta) \overset{D}{\rightarrow}N(0,\frac{1}{I(\theta)})$ $I(\theta)$ $\hat\theta$ $[nI(\theta)]^{-1/2}$

Тому нам потрібно обчислити інформацію Фішера для негативного біноміального розподілу.

$\frac{\partial^2 \log(P(x;\pi))}{\partial\pi^2}=-\frac{k}{\pi^2}-\frac{x-k}{(1-\pi)^2}$

$I(\theta)=-E(-\frac{k}{\pi^2}-\frac{x-k}{(1-\pi)^2})=\frac{k}{\pi^2}+\frac{k(1-\pi)}{(1-\pi)^2\pi}$

Примітка: для від'ємного двочлена pmf $E(x) =\frac{k}{\pi}$

Тому стандартна помилка для є $\hat \pi$ $[n(\frac{k}{\pi^2}+\frac{k(1-\pi)}{(1-\pi)^2\pi})]^{-1/2}$

Спростіть, ми отримаємо $se(\pi)=\sqrt{\dfrac{\pi^2(\pi-1)}{kn}}$

Геометричний розподіл - це особливий випадок негативного біноміального розподілу, коли k = 1. Примітка - геометричний розподіл $\pi(1-\pi)^{x-1}$

Тому негативну біноміальну змінну можна записати як суму k незалежних, однаково розподілених (геометричних) випадкових величин.

Таким чином, за CLT негативний біноміальний розподіл буде приблизно нормальним, якщо параметр k досить великий

— Глибока Північ
джерело

Будь ласка, прочитайте Про які теми я можу тут запитати? з питань самостійного вивчення: замість того, щоб робити домашні завдання людей для них, ми намагаємось допомогти їм зробити це самостійно.

— Scortchi

Ви дійсно повинні розглянути розмір вибірки при обчисленні ОМП. Можливо, ви плутаєте виклад незалежних спостережень, кожне з яких немає. випробувань, необхідних для досягнення відмов ( ), з урахуванням єдиного спостереження "немає". випробувань, необхідних для досягнення відмов ( ). Перший дає ймовірність ; останній, .

n

$n$

n

$n$

k

$k$

x_{1}, x_{2}, \dots, x_{n}

$x_1, x_2, \ldots, x_n$

k

$k$

n

$n$

\sum_{i = 1}^{n} π^{(} 1 - π)^{x_{i} - k}

$\sum_{i=1}^n{\pi^(1-\pi)^{x_i-k}}$

π^{k} (1 - π)^{n - k}

$\pi^k(1-\pi)^{n-k}$

— Scortchi

Ви маєте рацію, я завжди плутаю цю частину. Дуже дякую. Я також задаю багато питань на цій дошці, але я дуже сподіваюся, що люди можуть дати мені дуже детальну відповідь, то я можу це вивчити самостійно, крок за кроком.

— Глибокий Північ

Так. Я розумію, чому правило проти надання занадто багато деталей, але ця відповідь у поєднанні з моїми власними записками з лекції дозволили мені зв'язати багато вільних кінців разом. Я маю намір сьогодні про це поговорити зі своїм лектором, щоб я міг отримати від нього роз'яснення. Зараз тут п’ятниця. Призначення до понеділка, як зазначено вище. Ми дізналися про це в середу і маємо лише окремий приклад, використовуючи біноміальне розподіл. Дуже дякую за деталі.

— Сизорр

У вашій роботі є деякі недоліки, тому що я (θ) = E [] не -E [] (що бентежить мене, поки я не пішов шукати використовувані вами рівняння) Врешті-решт, у результаті закінчилося

s e (π) = \sqrt{\frac{π^{2} (π - 1)}{k n}}

$se(\pi)=\sqrt{\dfrac{\pi^2(\pi-1)}{kn}}$

— Syzorr