Яка логіка методу моментів?

Чому в «Методі моментів» ми прирівнюємо вибіркові моменти до моментів популяції для пошуку оцінювача точки?

Де логіка цього лежить?

intuition method-of-moments

Було б добре, якби у нас в громаді був фізик, який би вирішив цю проблему.

— mugen

@mugen, я не бачу ніякого відношення до фізики.

— Аксакал

@Aksakal вони також використовують моменти функцій у фізиці, і це завжди приємно, коли хтось робить паралель для кращої інтерпретації.

— муген

Як згадується у цій відповіді , закон великої кількості дає виправдання (хоч і асимптотичне) для визначення моменту популяції за моментом вибірки, в результаті чого (часто) є простими, послідовними оцінками

— Glen_b -Встановити Моніку

Хіба не вся ідея полягає у поданні параметрів, використовуючи моменти? Як якщо ви спробуєте оцінити параметр розподілу Пуассона, знайшовши середній (перший момент), ви можете використовувати його як оцінювач для лямбда параметра.

— denis631

Відповіді:

Зразок, що складається з реалізацій з однакових і незалежно розподілених випадкових величин, є ергодичним. У такому випадку "вибіркові моменти" є послідовними оцінками теоретичних моментів загального розподілу, якщо теоретичні моменти існують і є кінцевими. $n$

Це означає що

\begin{matrix} (1) & {\hat{μ}}_{k} (n) = μ_{k} (θ) + e_{k} (n), e_{k} (n) \overset{p}{\to} 0 \end{matrix}

$\hat \mu_k(n) = \mu_k(\theta) + e_k(n), \;\;\; e_k(n) \xrightarrow{p} 0 \tag{1}$

Отже, прирівнюючи теоретичний момент до відповідного моменту вибірки, який ми маємо

{\hat{μ}}_{k} (n) = μ_{k} (θ) \Rightarrow \hat{θ} (n) = μ_{k}^{- 1} ({\hat{μ}}_{k} (n)) = μ_{k}^{- 1} [μ_{k} (θ) + e_{k} (n)]

$\hat \mu_k(n) = \mu_k(\theta) \Rightarrow \hat \theta(n) = \mu_k^{-1}(\hat \mu_k(n)) = \mu_k^{-1}[\mu_k(\theta) + e_k(n)]$

Отже ( не залежить від ) $\mu_k$ $n$

plim \hat{θ} (n) = plim [μ_{k}^{- 1} (μ_{k} (θ) + e_{k})] = μ_{k}^{- 1} (μ_{k} (θ) + plim e_{k} (n))

$\text{plim} \hat \theta(n) = \text{plim}\big[\mu_k^{-1}(\mu_k(\theta) + e_k)\big] = \mu_k^{-1}\big(\mu_k(\theta) + \text{plim}e_k(n)\big)$

= μ_{k}^{- 1} (μ_{k} (θ) + 0) = μ_{k}^{- 1} μ_{k} (θ) = θ

$=\mu_k^{-1}\big(\mu_k(\theta) + 0\big) = \mu_k^{-1}\mu_k(\theta) = \theta$

Тож ми робимо це тому, що отримуємо послідовні оцінки невідомих параметрів.

— Алекос Пападопулос
джерело

що означає "плім"? Я не знайомий з "p" в

e_{k} (n) \overset{p}{\to} 0

$e_k(n) \xrightarrow{p} 0$

— користувач 31466

@leaf межа ймовірності

— Алекос Пападопулос

Що буде, якби це був регулярний ліміт замість межі ймовірності?

— користувач 31466

Це сказало б нам, що оцінювач стає константою, а не те, що він схильний імовірнісно до одиниці. Можливо, вам слід знайти способи зближення випадкових величин, у wikipedia є гідне вступ, en.wikipedia.org/wiki/Convergence_of_random_variables

— Alecos Papadopoulos

@AlecosPapadopoulos Погодився. Тоді мені цікаво, чи є сенс ставити щось просте на кшталт "... і за певних умов на "?

μ_{k}

$\mu_k$

— Джером Баум

Економетрики називають це "принципом аналогії". Ви обчислюєте середнє значення населення як очікувану величину щодо розподілу населення; ви обчислюєте оцінювач як очікуване значення щодо розподілу вибірки, і воно виявляється середнім зразком. У вас є уніфікований вираз до якого ви підключаєте або сукупність , скажімо, або зразок , так що є купою дельти -функції та інтеграл (Lebesgue) відносно

T (F) = \int t (x) d F (x)

$T(F) = \int t(x) \, {\rm d}F(x)$

F (x)

$F(x)$

F (x) = \int_{\infty}^{x} \frac{1}{\sqrt{2 π σ^{2}}} \exp [- \frac{(u - μ)^{2}}{2 σ^{2}}] d u

$F(x) = \int_{\infty}^x \frac1{\sqrt{2\pi\sigma^2}} \exp\bigl[ - \frac{(u-\mu)^2}{2\sigma^2} \bigr] \, {\rm d}u$

F_{n} (x) = \frac{1}{n} \sum_{i = 1}^{n} 1 {x_{i} \leq x}

$F_n(x) = \frac 1n \sum_{i=1}^n 1\{ x_i \le x \}$

d F_{n} (x)

${\rm d}F_n(x)$

d F_{n} (x)

${\rm d}F_n(x)$ - сума вибірки . Якщо ваш функціональний є (слабо) диференційованим, і у відповідному значенні переходить до , то легко встановити, що оцінка послідовна, хоча, звичайно, потрібно більше хупла для отримати скажімо, асимптотичну нормальність.

\frac{1}{n} \sum_{i = 1}^{n} t (x_{i})

$\frac1n \sum_{i=1}^n t(x_i)$

T (\cdot)

$T(\cdot)$

F_{n} (x)

$F_n(x)$

F (x)

$F(x)$

— СтасК
джерело

Я не чув цього, що називається "принципом аналогії", але справді це часто застосовуваний шаблон економетричного аналізу: підключайте оцінювач вибірки, коли потрібен параметр сукупності, але невідомий.

— Аксакал

@Aksakal: "підключіть оцінювач вибірки, коли потрібен параметр сукупності, але невідомий." Чи не такий підхід називають просто статистикою?

— user603

@ user603: Ні, ні. Існують й інші альтернативні підходи, і плагінні оцінки можуть бути поганими.

— kjetil b halvorsen