11

Скажіть, що - неперервна випадкова величина, а - дискретна. $Y$ $X$

Pr (X = x | Y = y) = \frac{Pr (X = x) Pr (Y = y | X = x)}{Pr (Y = y)}

$\Pr(X=x|Y=y) = \frac{\Pr(X=x)\Pr(Y=y|X=x)}{\Pr(Y=y)}$

Як ми знаємо, оскільки - неперервна випадкова величина. І виходячи з цього, я маю намір зробити висновок, що ймовірність не визначена. $\Pr(Y=y) = 0$ $Y$ $\Pr(X=x|Y=y)$

Однак Вікіпедія стверджує, що насправді це визначено так:

Pr (X = x | Y = y) = \frac{Pr (X = x) f_{Y | X = x} (y)}{f_{Y} (y)}

$\Pr(X=x|Y=y) = \frac{\Pr(X=x) f_{Y|X=x}(y)}{f_Y(y)}$

Питання: Будь-яка ідея, як Вікіпедії вдалося визначити цю ймовірність?

Моя спроба

Ось моя спроба, щоб досягти цього результату у Вікіпедії в межах обмежень:

\begin{aligned} Pr (X = x | Y = y) & = \frac{Pr (X = x) Pr (Y = y | X = x)}{Pr (Y = y)} \\ = lim_{d \to 0} \frac{Pr (X = x) (d \times f_{Y | X = x} (y))}{(d \times f_{Y} (y))} \\ = lim_{d \to 0} \frac{Pr (X = x) (d \times f_{Y | X = x} (y))}{(d \times f_{Y} (y))} \\ = \frac{Pr (X = x) f_{Y | X = x} (y)}{f_{Y} (y)} \end{aligned}

$\begin{split}\require{cancel} \Pr(X=x|Y=y) &= \frac{\Pr(X=x)\Pr(Y=y|X=x)}{\Pr(Y=y)}\\ &= \lim_{d \rightarrow 0}\frac{\Pr(X=x) \big(d \times f_{Y|X=x}(y)\big)}{\big(d \times f_Y(y)\big)}\\ &= \lim_{d \rightarrow 0}\frac{\Pr(X=x) \big(\cancel{d} \times f_{Y|X=x}(y)\big)}{\big(\cancel{d} \times f_Y(y)\big)}\\ &= \frac{\Pr(X=x) f_{Y|X=x}(y)}{f_Y(y)}\\ \end{split}$

Тепер схоже, визначається як , що відповідає що стверджує Вікіпедія. $\Pr(X=x|Y=y)$ $\frac{\Pr(X=x) f_{Y|X=x}(y)}{f_Y(y)}$

Так це зробила Вікіпедія?

Але я все ще відчуваю, що я тут зловживаю численням. Тому я вважаю, що не визначено, але в межах максимальної наближеності ми визначаємо і , але не прямо, тоді визначається . $\Pr(X=x|Y=y)$ $\Pr(Y=y)$ $\Pr(Y=y|X=x)$ $\Pr(X=x|Y=y)$

Але я багато в чому не впевнений у багатьох речах, у тому числі в тому, що я там робив, і я відчуваю, що, можливо, навіть не повністю розумію сенс того, що робив.

conditional-probability pdf

— печерний чоловік
джерело

1

Дійсно, Pr (X = x) = 0, але щільність X у xf (x) може не дорівнювати 0. Чи не слід використовувати мітку "самонавчання" ??

— Lil'Lobster

2

@Lil Наскільки я знаю, тег "самонавчання" є при вирішенні домашніх завдань. Я цього не роблю.

— печерник

1

Сторінка Вікіпедії насправді посилається на виведення: en.wikipedia.org/wiki/Bayes'_theorem#Derivation

— Іцен де Бур

3

Я боюся, що ваше походження не має математичного обгрунтування як для всіх коли безперервний.

P (Y = y) = 0

$\mathbb{P}(Y=y)=0$

y \in Y

$y\in\mathcal{Y}$

Y

$Y$

— Сіань

10

Умовний розподіл ймовірностей , , формально визначається як рішення рівняння , де позначає - алгебра , пов'язана з розподілом . Одне з таких рішень надається формулою Байєса (1763), як зазначено у Вікіпедії : $\mathbb{P}(X=x|Y=y)$ $x\in\mathcal{X}$ $y\in\mathcal{Y}$

P (X = x, Y \in A) = \int_{A} P (X = x | Y = y) f_{Y} (y) d y \forall A \in σ (Y)

$\mathbb{P}(X=x,Y\in A)=\int_{A}\mathbb{P}(X=x|Y=y)f_Y(y)\text{d}y\quad\forall A\in\sigma(\mathcal{Y})$

σ (Y)

$\sigma(\mathcal{Y})$

σ

$\sigma$

Y

$Y$

P (X = x | Y = y) = \frac{P (X = x) f_{Y | X = x} (y)}{f_{Y} (y)} \forall x \in X, y \in Y

$\mathbb{P}(X=x|Y=y) = \dfrac{\mathbb{P}(X=x) f_{Y|X=x}(y)}{f_Y(y)}\qquad\forall x\in\mathcal{X},\ y\in\mathcal{Y}$ хоча версії, які довільно визначені на мірі нульового набору в , також є дійсними.

σ (Y)

$\sigma(\mathcal{Y})$

Поняття умовної ймовірності стосовно ізольованої гіпотези, ймовірність якої дорівнює 0, є неприпустимою. Бо ми можемо отримати розподіл вірогідності [широти] на меридіановому колі, лише якщо розглядати це коло як елемент розкладу всієї сферичної поверхні на меридіанні кола із заданими полюсами - Андрій Колмогоров

Як показано парадоксом Бореля-Колмогорова , враховуючи певне значення потенційно прийняте , умовний розподіл ймовірностей не має точного значення, не тільки тому, що подія є мірою нульовою, але також тому, що ця подія може бути інтерпретована як вимірювана проти нескінченного діапазону -алгебр. $y_0$ $Y$ $\mathbb{P}(X=x|Y=y_0)$ $\{\omega;\,Y(\omega)=y_0\}$ $\sigma$

Примітка. Ось ще більш офіційне вступ, взяти з огляду теорії ймовірностей у блозі Террі Тао :

Визначення 9 (дезінтеграції) Нехай є випадковою величиною з відстані . Дезінтеграції від лежачої в основі вибіркового простору щодо являє собою підмножина з повної міри в (таким чином майже напевно) разом із призначенням міри ймовірності на підпросторі з для кожного , що вимірюється в тому сенсі, що карта $Y$ $R$ $(R', (\mu_y)_{y \in R'})$ $\Omega$ $Y$ $R'$ $R$ $\mu_Y$ $Y \in R'$ ${\bf P}(|Y=y)$ $\Omega_y := \{ \omega \in \Omega: Y(\omega)=y\}$ $\Omega$ $y \in R$ $y \mapsto {\bf P}(F|Y=y)$ вимірюється для кожної події , і така, що для всіх таких подій, де - (майже достовірно визначена) випадкова величина, визначена рівній коли . $F$
$P (F) = E P (F | Y)$ $\displaystyle {\bf P}(F) = {\bf E} {\bf P}(F|Y)$ ${\bf P}(F|Y)$ ${\bf P}(F|Y=y)$ $Y=y$
Враховуючи таку дезінтеграцію, ми можемо подію для будь-якого , замінивши на підпростір (з індукованою -алгебра), але замінивши базову міру ймовірності з . Таким чином, ми можемо умовити (безумовні) події та випадкові змінні до цієї події для створення умовних подій та випадкових змінних на умовному просторі, що спричинить умовні ймовірності $Y=y$ $y \in R'$ $\Omega$ $\Omega_y$ $\sigma$ ${\bf P}$ ${\bf P}(|Y=y)$ $F$ $X$ $(F|Y=y)$ $(X|Y=y)$ ${\bf P}(F|Y=y)$ (що відповідає існуючим позначенням цього виразу) та умовні очікування (припускаючи абсолютну інтегральність у цьому умовному просторі). Тоді ми встановлюємо як (майже достовірно визначена) випадкова величина, визначена рівній коли . ${\bf E}(X|Y=y)$ ${\bf E}(X|Y)$ ${\bf E}(X|Y=y)$ $Y=y$

— Сіань
джерело

1

Вже поставив +1, але ... можливо, це нітрозування, але хіба не було б більш точним позначити теорему Байєса як формулу Байєса / Лапласа ..?

— Тім

2

@Tim: дякую, але я не хочу звучати занадто шовіністично! І факт полягає в тому, що формула Баєса для дискретної (біноміальної) і безперервної (бета) фігурує в папері Байєса (1763). Звичайно, Лаплас встановив результат у набагато ширшій загальності.

X

$X$

Y

$Y$

— Сіань

4

Я дам ескіз того, як шматочки можуть поєднуватися разом, коли безперервний, а - дискретний. $Y$ $X$

Змішана щільність суглоба:

f_{X Y} (x, y)

$f_{XY}(x,y)$

Гранична щільність та ймовірність:

f_{Y} (y) = \sum_{x \in X} f_{X Y} (x, y)

$f_Y(y) = \sum_{x \in X} f_{XY}(x, y)$

P (X = x) = \int f_{X Y} (x, y) d y

$P(X = x) = \int f_{XY}(x, y) \;dy$

Умовна щільність та ймовірність:

f_{Y ∣ X} (y ∣ X = x) = \frac{f_{X Y} (x, y)}{P (X = x)}

$f_{Y\mid X}(y \mid X = x) = \frac{f_{XY}(x, y)}{P(X=x)}$

P (X = x ∣ Y = y) = \frac{f_{X Y} (x, y)}{f_{Y} (y)}

$P(X=x \mid Y = y) = \frac{f_{XY}(x, y)}{f_Y(y)}$

Правило Байєса:

f_{Y ∣ X} (y ∣ X = x) = \frac{P (X = x ∣ Y = y) f_{Y} (y)}{P (X = x)}

$f_{Y\mid X}(y \mid X = x) = \frac{P(X=x \mid Y = y) f_Y(y)}{P(X=x)}$

P (X = x ∣ Y = y) = \frac{f_{Y ∣ X} (y ∣ X = x) P (X = x)}{f_{Y} (y)}

$P(X=x \mid Y = y) = \frac{f_{Y\mid X}(y \mid X = x)P(X=x)}{f_Y(y)}$

Звичайно, сучасний, суворий спосіб боротьби з вірогідністю - через теорію мір. Для визначення прециклічного ознайомлення див. Відповідь Сіань.

— Меттью Ганн
джерело

2

Зауважте, що у статті Вікіпедії фактично використовується таке визначення: Тобто це трактує результат як щільність, а не ймовірність, як у вас це є. Тому я б сказав, що ви праві, що не визначено, коли є безперервним і дискретним, тому ми замість цього розглянемо лише щільності ймовірності над у цьому випадку.

f_{X} (x | Y = y) = \frac{P (Y = y | X = x) f_{X} (x)}{p (Y = y)}

$f_X(x|Y=y) = \frac{P(Y=y|X=x)f_X(x)}{p(Y=y)}$

P (X = x | Y = y)

$P(X=x|Y=y)$

X

$X$

Y

$Y$

X

$X$

Редагувати: Через плутанину щодо нотації (див. Коментарі) вище, насправді, це стосується протилежної ситуації до того, про що просили печер.

— Рубен ван Берген
джерело

Як визначається

Моя спроба