Інтуїція для умовного очікування

Нехай - простір ймовірностей, заданий випадковою змінною і -algebra ми можемо побудувати нову випадкову змінну , що є умовним очікуванням.( Ω , F , μ ) ξ : Ω → R σ G ⊆ F E [ ξ | G$(\Omega,\mathscr{F},\mu)$$\xi:\Omega \to \mathbb{R}$$\sigma$$\mathscr{G}\subseteq \mathscr{F}$$E[\xi|\mathscr{G}]$

Яка саме інтуїція думати про ? Я розумію інтуїцію щодо наступного:$E[\xi|\mathscr{G}]$

(i) де - подія (з позитивною ймовірністю).E [ ξ | А ] $E[\xi|A]$$A$

(ii) де - дискретна випадкова величина.E [ ξ | η ] $E[\xi|\eta]$$\eta$

Але я не можу уявити . Я розумію математику, і я розумію, що вона визначена таким чином, щоб узагальнити простіші випадки, які ми можемо уявити. Але тим не менше я не вважаю такий спосіб мислення корисним. Він залишається для мене загадковим об’єктом.$E[\xi|\mathscr{G}]$

Наприклад, нехай - подія з . Формують -алгебри , один породжений . Тоді було б дорівнює якщо , і дорівнює , якщо . Іншими словами, якщо , і якщо .A μ ( A ) > 0 σ G = { ∅ , A , A c , Ω } A E [ ξ | G ] ( ω ) $A$$\mu(A)>0$$\sigma$$\mathscr{G} = \{ \emptyset, A, A^c, \Omega\}$$A$$E[\xi|\mathscr{G}](\omega)$μ ( A ) ∫Aξω∈A$\frac{1}{\mu(A)} \int_A \xi$$\omega \in A$μ ( A c ) ∫Acξω∉AE[ξ| G](ω)=E[ξ| A]ω∈AE[ξ| G](ω)=E[ξ| Ac]ω∈A$\frac{1}{\mu(A^c)} \int_{A^c} \xi$$\omega \not \in A$$E[\xi|\mathscr{G}](\omega) = E[\xi|A]$$\omega\in A$$E[\xi|\mathscr{G}](\omega) = E[\xi|A^c]$$\omega \in A^c$

Частина, яка заплутує, полягає в тому, що , то чому ми не просто пишемо ? Чому ми замінюємо на залежно від того, чи ні , але не дозволено замінювати на ?ω ∈ Ω E [ ξ | G ] ( ω ) = E [ ξ | Ω ] = E [ ξ ] E [ ξ | G ] E [ ξ | A  або  A c ] ω ∈ A E [ ξ | G$\omega \in \Omega$$E[\xi|\mathscr{G}](\omega) = E[\xi|\Omega] = E[\xi]$$E[\xi|\mathscr{G}]$$E[\xi| A\text{ or } A^c]$$\omega\in A$$E[\xi|\mathscr{G}]$$E[\xi]$

Примітка. Відповідаючи на це питання, не пояснюйте це, використовуючи суворе визначення умовного очікування. Я розумію, що. Що я хочу зрозуміти, це те, що умовне очікування повинно бути обчислене і чому ми відкидаємо одне замість іншого.

Один із способів думати про умовне подання - це проекція на -algebra .σ $\sigma$$\mathscr{G}$

( від Вікісховища )

Це насправді суворо вірно, якщо говорити про випадкові змінні, що інтегруються в квадрат; у цьому випадку E [ ξ | G ] насправді ортогональна проекція випадкової величини £ , на підпростір L 2 ( Ом ) , що складається з випадкових величин , вимірюваних щодо G . Насправді це навіть виявляється правдою в деякому сенсі для L 1 випадкових змінних через наближення до L 2 випадкових змінних.$\mathbb{E}[\xi|\mathscr{G}]$$\xi$$L^2(\Omega)$$\mathscr{G}$$L^1$$L^2$

(Див. Коментарі для довідок.)

Якщо розглянути σ - алгебри як такі, що представляють багато інформації, яку ми маємо (інтерпретація, яка є de rigueur в теорії стохастичних процесів), то більші σ - алгебри означають більше можливих подій і, таким чином, більше інформації про можливі результати, тоді як менші σ - алгебри означають менше можливих подій і, таким чином, менше інформації про можливі результати.$\sigma-$$\sigma-$$\sigma-$

Тому, проектуючи F вимірного випадкової величини £ , на менший сг - алгебра G означає приймати наше краще припущення для значення £ , враховуючи більш обмежену інформацію , доступну з G .$\mathscr{F}$$\xi$$\sigma-$$\mathscr{G}$$\xi$$\mathscr{G}$

Іншими словами, дається лише інформація з G , а не вся інформація з F , E [ ξ | G ] в суворому сенсі - найкраща здогадка про те, що таке випадкова величина ξ .$\mathscr{G}$$\mathscr{F}$$\mathbb{E}[\xi|\mathscr{G}]$$\xi$

Що стосується вашого прикладу, я думаю, що ви можете заплутати випадкові величини та їх значення. Випадкова величина X - це функція , домен якої - простір подій; це не число. Іншими словами, X : Ω → R , X ∈ { f | F : Ом → R } , тоді як для зі ∈ П , X ( ω ) ∈ R .$X$$X: \Omega \to \mathbb{R}$$X \in \{f\ |\ f: \Omega \to \mathbb{R} \}$$\omega \in \Omega$$X(\omega)\in\mathbb{R}$

Позначення умовного очікування, на мою думку, насправді погано, оскільки це сама випадкова величина, тобто також функція . Навпаки, (регулярне) очікування випадкової величини - це число . Умовне очікування випадкової величини - це зовсім інша величина від очікування тієї ж випадкової величини, тобто E [ ξ | G ] навіть не "перевіряє тип" з E [ ξ ] .$\mathbb{E}[\xi|\mathscr{G}]$$\mathbb{E}[\xi]$

Іншими словами, використання символу Е для позначення як звичайних, так і умовних очікувань є дуже великим зловживанням позначенням, що призводить до багато непотрібної плутанини.$\mathbb{E}$

Враховуючи це, зауважте, що E [ ξ | G ] ( ω ) - це число (значення випадкової величини E [ ξ | G ], оцінене за значенням ω ), але E [ ξ | Ω ] - випадкова величина, але вона виявляється постійною випадковою змінною (тобто тривіально виродженою), оскільки σ -алгебра, породжена Ω , { ∅ , Ω $\mathbb{E}[\xi|\mathscr{G}](\omega)$$\mathbb{E}[\xi|\mathscr{G}]$$\omega$$\mathbb{E}[\xi|\Omega]$$\sigma$$\Omega$$\{ \emptyset, \Omega\}$є тривіальним / виродженим, а технічно кажучи постійним значенням цієї постійної випадкової величини, є E [ ξ ] , де тут E позначає регулярне очікування і, отже, число, а не умовне очікування і, таким чином, не випадкова величина.$\mathbb{E}[\xi]$$\mathbb{E}$

Крім того, вам здається, що ви заплуталися в тому, що позначення E [ ξ | A ] означає; технічно кажучи, умову можна задати лише на σ - алгебри, а не на окремі події, оскільки ймовірнісні заходи визначаються лише на повних σ - алгебрах, а не на окремих подіях. Таким чином, E [ ξ | A ] - просто (ледача) скорочення для E [ ξ | σ ( A ) ] , де σ ( A ) означає σ $\mathbb{E}[\xi|A]$$\sigma-$$\sigma-$$\mathbb{E}[\xi|A]$$\mathbb{E}[\xi|\sigma(A)]$$\sigma(A)$$\sigma-$алгебра, породжена подією A , яка дорівнює { ∅ , A , A c , Ω } . Зауважимо, що σ ( A ) = G = σ ( A c ) ; іншими словами, E [ ξ | A ] , E [ ξ | G ] , і E [ ξ | A c ] - всі різні способи позначення саме того самого об'єкта .$A$$\{ \emptyset, A, A^c, \Omega\}$$\sigma(A) = \mathscr{G} = \sigma(A^c)$$\mathbb{E}[\xi|A]$$\mathbb{E}[\xi|\mathscr{G}]$$\mathbb{E}[\xi|A^c]$

Насамкінець просто хочу додати, що інтуїтивне пояснення, яке я дав вище, пояснює, чому постійне значення випадкової величини E [ ξ | Ω ] = E [ ξ | σ ( Ω ) ] = E [ ξ | { ∅ , Ω } ] тільки число E [ ξ ] - σ - алгебра { ∅ , Ω $\mathbb{E}[\xi|\Omega]=\mathbb{E}[\xi|\sigma(\Omega)]= \mathbb{E}[\xi| \{ \emptyset, \Omega\}]$$\mathbb{E}[\xi]$$\sigma-$$\{ \emptyset, \Omega\}$являє собою найменший можливий обсяг інформації, який ми могли б мати, фактично не має жодної інформації, тому за цієї крайньої обставини найкращою здогадкою, яку ми могли б мати, для якої випадкової величини ξ є постійна випадкова величина, постійне значення якої E [ ξ ] .$\xi$$\mathbb{E}[\xi]$

Зверніть увагу , що всі постійні випадкові величини L 2 випадкові величини, і всі вони вимірні щодо тривіального сг - алгебри { ∅ , Ом } , так що на насправді ми маємо , що константа випадкових Е [ ξ ] є ортогональною проекцією £ , на підпростір L 2 ( Ω ), що складається з випадкових величин, що вимірюються відносно { ∅ , Ω } , як було заявлено.$L^2$$\sigma$$\{\emptyset, \Omega\}$$\mathbb{E}[\xi]$$\xi$$L^2(\Omega)$$\{\emptyset, \Omega\}$

Я спробую розробити те, що запропонував Вільям.

Нехай Ω - пробний простір кидання монети вдвічі. Визначте пробіг. вар. ξ - число. голів, які трапляються в експерименті. Ясно, що E [ ξ ] = 1 . Один із способів мислення того, що 1 , як очікування. значення, являє собою як найкращу оцінку для ξ . Якби нам довелося здогадуватися про те, яке значення буде брати ξ , ми б здогадалися 1 . Це тому, що E [ ( ξ - 1 ) 2 ] ≤ E [ ( ξ - a ) $\Omega$$\xi$$E[\xi] = 1$$1$$\xi$$\xi$$1$] для будь-якого реального числа a .$E[(\xi - 1)^2] \leq E[(\xi - a)^2]$$a$

Позначимо через A = { H T , H H } як випадок, коли перший результат - голова. Нехай G = { ∅ , A , A c , Ω } - σ -alg. род. на A . Ми вважаємо, що G представляє те, що ми знаємо після першого кидання. Після першого жеребкування не виникало ні головок, ні голів. Отже, ми знаходимося або у випадку A, або A c після першого жеребкування.$A = \{ HT, HH \}$$\mathscr{G} = \{ \emptyset, A, A^c, \Omega\}$$\sigma$$A$$\mathscr{G}$$A$$A^c$

Якщо ми знаходимось у випадку A , то найкращою можливою оцінкою для ξ буде E [ ξ | A ] = 1,5 , і якщо ми знаходимось у випадку A c , то найкращою оцінкою для ξ було б E [ ξ | A c ] = 0,5 .$A$$\xi$$E[\xi|A] = 1.5$$A^c$$\xi$$E[\xi|A^c] = 0.5$

Тепер визначимо пробіг. вар. η ( ш ) , щоб бути або 1,5 або 0,5 в залежності від наявності або відсутності ш ∈ . Цей біг. вар. η , є кращим наближенням, ніж 1 = E [ ξ ], оскільки E [ ( ξ - η ) 2 ] ≤ E [ ( ξ - 1 ) 2 ] .$\eta(\omega)$$1.5$$0.5$$\omega\in A$$\eta$$1 = E[\xi]$$E[(\xi - \eta)^2] \leq E[(\xi -1)^2]$

Що η робить, це дає відповідь на питання: яка найкраща оцінка ξ після першого жеребкування? Так як ми не знаємо , інформацію після першого кидку, η буде залежати від А . Як тільки нам відкривається подія G , після першого жеребкування визначається значення η і забезпечує найкращу можливу оцінку для ξ . $\eta$$\xi$$\eta$$A$$\mathscr{G}$$\eta$$\xi$

Проблема з використанням ξ як власної оцінки, тобто 0 = E [ ( ξ - ξ ) 2 ] ≤ E [ ( ξ - η ) 2 ] полягає в наступному. ξ недостатньо чітко визначений після першого жеребкування. Скажімо, результат експерименту - це ω, перший результат - голова, ми знаходимось у випадку А , але що таке ξ ( ω ) = ? Ми не знаємо лише з першого жеребкування, що це значення для нас неоднозначне, і так $\xi$$0=E[(\xi - \xi)^2] \leq E[(\xi - \eta)^2]$$\xi$$\omega$$A$$\xi(\omega)=?$$\xi$недостатньо чітко визначений. Більш формально ми говоримо, що ξ не є G- вимірюваним, тобто його значення не є чітко визначеним після першого кидання. Таким чином, η - найкраща оцінка ξ після першого жеребкування.$\xi$$\mathscr{G}$$\eta$$\xi$

Можливо, хтось тут може придумати більш складний приклад, використовуючи пробний простір [ 0 , 1 ] , причому ξ ( ω ) = ω , G - деяка нетривіальна σ -алгебра.$[0,1]$$\xi (\omega) = \omega$$\mathscr{G}$$\sigma$

Хоча ви просите не використовувати формальне визначення, я вважаю, що формальне визначення, мабуть, є найкращим способом його пояснення.

Вікіпедія - умовне очікування :

Тоді умовне очікування X, заданого Н , позначене як E ( X ∣ H ) - це будь-яка Н- вимірювана функція ( Ω → R n ), яка задовольняє:$\displaystyle \scriptstyle {\mathcal {H}}$$\displaystyle \scriptstyle \operatorname {E} (X\mid {\mathcal {H}})$$\displaystyle \scriptstyle {\mathcal {H}}$$\displaystyle \scriptstyle \Omega \to \mathbb {R} ^{n}$

$\displaystyle \int _{H}\operatorname {E} (X\mid {\mathcal {H}})\;dP=\int _{H}X\;dP\qquad {\text{for each}}\quad H\in {\mathcal {H}}$

По-перше, це Н- мірна функція. По- друге, повинен відповідати очікуванням по кожній вимірної (суб) безлічі в H . Отже, для події A алгебра сигми дорівнює { A , A C , ∅ , Ω } , тому чітко вона встановлюється так, як ви вказали у своєму запитанні для ω ∈ A / A c . Аналогічно для будь-якої дискретної випадкової змінної (та їх комбінацій) ми перераховуємо всі примітивні події та присвоюємо очікування, враховуючи цю примітивну подію.$\displaystyle \scriptstyle {\mathcal {H}}$$\displaystyle \scriptstyle {\mathcal {H}}$$\{A,A^C,\emptyset, \Omega\}$$\omega \in A/A^c$

Тепер розглянемо підкидання монети нескінченне число разів, де на кожному кидку я, ви отримаєте +1 / +2 я , якщо ваша монета хвостами , то ваш загальний виграш X = Е ∞ я = 1$1/2^i$2 i ciдеci= 1 для хвостів і 0 для голів. Тоді X - реальна випадкова величина на[0,1]. Після п кидків монети, ви знаєтезначення X в точності1/2п, наприкладпісля2 монети підкидає вона знаходиться в [0,1 / 4], [1 / 4,1 / 2], [1 / 2,3 / 4] або [3 / 4,1] - після кожного кидання монети ваша асоційована алгебра сигми стає все тонкішою і тонкішою, і аналогічно умовне очікування X стає все більш точним.$X=\sum _{i=1}^\infty \frac{1}{2^i}c_i$$c_i$$[0,1]$$1/2^n$

Сподіваємось, цей приклад реальної цінної випадкової величини з послідовністю сигма-алгебр, що стає все тонкішою та тоншою (Фільтрація), відволікає вас від інтуїції, з якою ви звикли до подій, до якої ви звикли, та уточнює її призначення.