Теорема Пол Річард Халмош-Savage каже , що для домінували статистичної моделі статистика достатньо, якщо (і тільки якщо) для всіх існує мірна версія похідної Нікодима Радона де є привілейований міра така , що для і .$(\Omega, \mathscr A, \mathscr P)$$T: (\Omega, \mathscr A, \mathscr P)\to(\Omega', \mathscr A')$$\{P \in \mathscr{P} \}$$T$$\frac{dP}{dP*}$$dP*$$P*=\sum_{i=1}^\infty P_i c_i$$c_i >0, \sum _{i=1}^\infty c_i =1$$P_i \in \mathscr P$

Я намагався зрозуміти, чому теорема є правдивою, але мені це не вдалося, тому моє питання полягає в тому, чи існує інтуїтивний спосіб зрозуміти теорему.

Технічна лема

Я не впевнений, наскільки це інтуїтивно, але основний технічний результат, що лежить в основі вашої заяви теореми Халмоса-Дика, полягає в наступному:

Лема Нехай - -кінцева міра на . Припустимо, що - це сукупність заходів щодо таких, що для кожного , . Тоді існує послідовність негативних чисел та послідовність елементів , така, що і для кожного .$\mu$$\sigma$$(S, \mathcal{A})$$\aleph$$(S, \mathcal{A})$$\nu \in \aleph$$\nu \ll \mu$$\{c_i\}_{i=1}^\infty$$\aleph$$\{\nu_i\}_{i=1}^\infty$$\sum_{i=1}^\infty c_i = 1$$\nu \ll \sum_{i=1}^\infty c_i \nu_i$$\nu \in \aleph$

Це взято дослівно з теореми A.78 в « Теорії статистики» Шервіша (1995) . У цьому він пов'язує це з Тестуючими статистичними гіпотезами Лемана (1986) ( посилання на третє видання ), де результат приписується самим Халмосу та Савадже (див. Лему 7). Ще одним хорошим посиланням є математична статистика Шао (друге видання, 2003 р.) , Де відповідними результатами є лема 2.1 та теорема 2.2.

У наведеній вище леммі сказано, що якщо ви починаєте із сімейства заходів, де домінує -кінцева міра, то насправді ви можете замінити домінуючу міру на обчислювану опуклу комбінацію заходів зсередини сім'ї. Шервіш пише перед викладом теореми A.78,$\sigma$

"У статистичних додатках ми часто матимемо клас заходів, кожен з яких абсолютно безперервний щодо одного -кінцевого міри. Було б добре, якби один домінуючий захід був у початковому класі або міг бути побудований з клас. Наступна теорема вирішує цю проблему ".$\sigma$

Конкретний приклад

Припустимо, ми беремо вимірювання величини яку, як ми вважаємо, розподілено рівномірно на проміжку для деякого невідомого . У цій статистичній задачі ми неявно розглядаємо множину мірок ймовірності Бореля на що складається з рівномірних розподілів на всіх інтервалах форми . Тобто, якщо позначає міру Лебега, а для , позначає розподілу (тобто, $X$$[0, \theta]$$\theta > 0$$\mathcal{P}$$\mathbb{R}$$[0, \theta]$$\lambda$$\theta > 0$$P_\theta$$\operatorname{Uniform}([0, \theta])$

$$P_\theta(A) = \frac{1}{\theta} \lambda(A \cap [0, \theta]) = \int_A \frac{1}{\theta} \mathbf{1}_{[0, \theta]}(x) \, dx$$ A ⊆ R P = { P θ : θ > 0 } . Х для кожного Borel ), тоді у нас просто є Це безліч розподілів кандидатів для нашого виміру .$A \subseteq \mathbb{R}$ $$\mathcal{P} = \{P_\theta : \theta > 0\}.$$ $X$

У сім'ї чітко переважає міра Лебега (що є -фініт), тому лема вище (з ) гарантує існування послідовності негативних чисел, що підсумовують і послідовність рівномірних розподілів у така що для кожного . У цьому прикладі ми можемо чітко побудувати такі послідовності!$\mathcal{P}$$\lambda$$\sigma$$\aleph = \mathcal{P}$$\{c_i\}_{i=1}^\infty$$1$$\{Q_i\}_{i=1}^\infty$$\mathcal{P}$

$$P_\theta \ll \sum_{i=1}^\infty c_i Q_i$$ $\theta > 0$

По-перше, нехай є перерахуванням позитивних раціональних чисел ( це можна зробити явно ), і нехай для кожного . Далі, нехай , так що . Я стверджую, що це поєднання і працює.$(\theta_i)_{i=1}^\infty$ Q i = P θ i$Q_i = P_{\theta_i}$$i$$c_i = 2^{-i}$$\sum_{i=1}^\infty c_i = 1$$\{c_i\}_{i=1}^\infty$$\{Q_i\}_{i=1}^\infty$

Щоб побачити це, виправте і нехай є підмножиною Бореля таким, що . Нам потрібно показати, що . Оскільки і кожна невід'ємна, то для кожного . Більше того, оскільки кожен позитивний, то випливає, що для кожного . Тобто, для всіх нас Оскільки кожен$\theta > 0$$A$$\mathbb{R}$$\sum_{i=1}^\infty c_i Q_i(A) = 0$$P_\theta(A) = 0$$\sum_{i=1}^\infty c_i Q_i(A) = 0$$c_i Q_i(A) = 0$$i$$c_i$$Q_i(A) = 0$$i$$i$

$$Q_i(A) = P_{\theta_i}(A) = \frac{1}{\theta_i} \lambda(A \cap [0, \theta_i]) = 0.$$ $\theta_i$є позитивним, звідси випливає, що для кожного .$\lambda(A \cap [0, \theta_i]) = 0$$i$

Тепер виберіть підпорядкованість з яка згори переходить до (це можна зробити оскільки щільний в ). Тоді як , тому за неперервністю вимірювання робимо висновок, що і так . Це доводить претензію.$\{\theta_{i_k}\}_{k=1}^\infty$$\{\theta_i\}_{i=1}^\infty$$\theta$$\mathbb{Q}$$\mathbb{R}$$A \cap [0, \theta_{\theta_{i_k}}] \downarrow A \cap [0, \theta]$$k \to \infty$

$$\lambda(A \cap [0, \theta]) = \lim_{k \to \infty} \lambda(A \cap [0, \theta_{i_k}]) = 0,$$ $P_\theta(A) = 0$

Таким чином, у цьому прикладі нам вдалося чітко побудувати відлічувану опуклу комбінацію імовірнісних заходів з нашої домінуючої сім’ї, яка все ще домінує над усією родиною. Наведена вище лема гарантує, що це можна зробити для будь-якої сім'ї, де домінує (принаймні до тих пір, поки домінуючим заходом є -кінцевий).$\sigma$

Теорема Халмоса-Дикуна

Отже, тепер до теореми Халмоса-Дика (для якої я буду використовувати дещо інше позначення, ніж у питанні через особисті переваги). Враховуючи теорему Халмоса-Дикого, теорема факторизації Фішера-Неймана є лише одним із застосувань леми Дуба-Дінкіна та ланцюгового правила для похідних Радона-Нікодима!

Теорема Халмоса-Дикуна. Нехай є домінуючою статистичною моделлю (мається на увазі, що - це набір імовірнісних заходів на і є -нескірчена міра на така, що для всіх ). Нехай є вимірюваною функцією, де є стандартним Borel простір. Тоді такі еквіваленти:$(\mathcal{X}, \mathcal{B}, \mathcal{P})$$\mathcal{P}$$\mathcal{B}$$\sigma$$\mu$$\mathcal{B}$$P \ll \mu$$P \in \mathcal{P}$$T : (\mathcal{X}, \mathcal{B}) \to (\mathcal{T}, \mathcal{C})$$(T, \mathcal{C})$

1. $T$ достатньо для (мається на увазі, що ядро ​​ймовірності таким, що - версія для всіх і ).$\mathcal{P}$$r : \mathcal{B} \times \mathcal{T} \to [0, 1]$$r(B, T)$$P(B \mid T)$$B \in \mathcal{B}$$P \in \mathcal{P}$
2. Існує послідовність негативних чисел, така що і послідовність вимірювань ймовірності в таким, що для всіх , де , і для кожного існує мірна версія .$\{c_i\}_{i=1}^\infty$$\sum_{i=1}^\infty c_i = 1$$\{P_i\}_{i=1}^\infty$$\mathcal{P}$$P \ll P^*$$P \in \mathcal{P}$$P^* = \sum_{i=1}^\infty c_i P_i$$P \in \mathcal{P}$$T$$dP/dP^*$

Доказ. Згідно з наведеною вище лемою, ми можемо негайно замінити на на деяку послідовність неотримані числа, такі, що і послідовність вірогідних мір в .$\mu$$P^* = \sum_{i=1}^\infty c_i P_i$$\{c_i\}_{i=1}^\infty$$\sum_{i=1}^\infty c_i = 1$$\{P_i\}_{i=1}^\infty$$\mathcal{P}$

(1. означає 2.) Припустимо, достатня. Тоді ми мусимо показати, що існують міримі версії для всіх . Нехай - ядро ​​ймовірності у твердженні теореми. Для кожного та маємо Отже, - це версія для всіх .$T$$T$$dP/dP^*$$P \in \mathcal{P}$$r$$A \in \sigma(T)$$B \in \mathcal{B}$

$$\begin{aligned} P^*(A \cap B) &= \sum_{i=1}^\infty c_i P_i(A \cap B) \\ &= \sum_{i=1}^\infty c_i \int_A P_i(B \mid T) \, dP_i \\ &= \sum_{i=1}^\infty c_i \int_A r(B, T) \, dP_i \\ &= \int_A r(B, T) \, dP^*. \end{aligned}$$ $r(B, T)$$P^*(B \mid T)$$B \in \mathcal{B}$

Для кожного нехай позначає версію похідної Радона-Нікодима на вимірюваному просторі (так, зокрема, є мірний). Тоді для всіх та маємо Таким чином, фактично є$P \in \mathcal{P}$$f_P$$dP/dP^*$$(\mathcal{X}, \sigma(T))$$f_P$$T$$B \in \mathcal{B}$$P \in \mathcal{P}$

$$\begin{aligned} P(B) &= \int_{\mathcal{X}} P(B \mid T) \, dP \\ &= \int_{\mathcal{X}} r(B, T) \, dP \\ &= \int_{\mathcal{X}} r(B, T) f_P \, dP^* \\ &= \int_{\mathcal{X}} P^*(B \mid T) f_P \, dP^* \\ &= \int_{\mathcal{X}} E_{P^*}[\mathbf{1}_B f_P \mid T] \, dP^* \\ &= \int_B f_P \, dP^*. \end{aligned}$$ $f_P$$T$-мірна версія on . Це доводить, що перша умова теореми передбачає другу.$dP/dP^*$$(\mathcal{X}, \mathcal{B})$

(2 означає : 1.) Припустимо , що можна вибрати -ізмерімое версії з для кожного . Для кожного нехай позначає певну версію (наприклад, - така функція, що - версія ). Оскільки є стандартним простором Бореля, ми можемо вибрати таким чином, що робить його ядром ймовірності (див., Наприклад, теорему B.32 у Теорії статистики Шервіша (1995)). Покажемо, що$T$$f_P$$dP/dP^*$$P \in \mathcal{P}$$B \in \mathcal{B}$$r(B, t)$$P^*(B \mid T = t)$$r(B, t)$$r(B, T)$$P^*(B \mid T)$$(T, \mathcal{C})$$r$$r(B, T)$- це версія для будь-якого та будь-якого . Таким чином, нехай задаються і . Тоді для всіх ми маємо Це показує, що є версією для будь-якого та будь-якого , і доказом є зроблено.$P(B \mid T)$$P \in \mathcal{P}$$B \in \mathcal{B}$$A \in \sigma(T)$$B \in \mathcal{B}$$P \in \mathcal{P}$

$$\begin{aligned} P(A \cap B) &= \int_A \mathbf{1}_B f_P \, dP^* \\ &= \int_A E_{P^*}[\mathbf{1}_B f_P \mid T] \, dP^* \\ &= \int_A P^*(B \mid T) f_P \, dP^* \\ &= \int_A r(B, T) f_P \, dP^* \\ &= \int_A r(B, T) \, dP. \end{aligned}$$ $r(B, T)$$P(B \mid T)$$P \in \mathcal{P}$$B \in \mathcal{B}$

Підсумок Важливим технічним результатом, що лежить в основі теореми Халмоса-Савджа, представленої тут, є той факт, що домінуюча сім'я ймовірнісних заходів насправді домінує за рахунковою опуклою комбінацією ймовірнісних заходів з цієї сім'ї. Враховуючи цей результат, решта теореми Халмоса-Савджа є здебільшого лише маніпуляціями з основними властивостями похідних Радона-Нікодима та умовними очікуваннями.