Чи можуть повні умови визначати спільний розподіл?

Я чув, що всі повні умови (як це використовується у відборі Гіббса) можуть визначати спільний розподіл. Але я не розумію, чому і як. Або я неправильно почув? Дякую!

distributions

— Тім
джерело

Це, здавалося б, просте питання глибше, ніж здається, веде нас до теореми Хеммерслі-Кліффорда. Той факт, що ми можемо відновити спільний розподіл з повних умов - це те, що робить можливим вибірки Гіббса. Це може розглядатися як дивовижний результат, якщо ми пам’ятаємо, що маргінали не визначають спільний розподіл.

Подивимося, що станеться, якщо обчислити формально відомі визначення спільної, умовної та граничної щільності. Оскільки нас є і ми можемо офіційно відновити щільність суглоба з повних умов, створюючи

f_{X, Y} (x, y) = f_{X ∣ Y} (x ∣ y) f_{Y} (y) = f_{Y ∣ X} (y ∣ x) f_{X} (x),

$f_{X,Y}(x,y)=f_{X\mid Y}(x\mid y)\,f_Y(y)=f_{Y\mid X}(y\mid x)\,f_X(x) \, ,$

\int \frac{f_{Y ∣ X} (y ∣ x)}{f_{X ∣ Y} (x ∣ y)} d y = \int \frac{f_{Y} (y)}{f_{X} (x)} d y = \frac{1}{f_{X} (x)},

$\int \frac{f_{Y\mid X}(y\mid x)}{f_{X\mid Y}(x\mid y)}dy = \int \frac{f_Y(y)}{f_X(x)}dy = \frac{1}{f_X(x)} \, ,$

f_{X, Y} (x, y) = \frac{f_{Y ∣ X} (y ∣ x)}{\int f_{Y ∣ X} (y ∣ x) / f_{X ∣ Y} (x ∣ y) d y} . (*)

$f_{X,Y}(x,y) = \frac{f_{Y\mid X}(y\mid x)}{\int f_{Y\mid X}(y\mid x)/f_{X\mid Y}(x\mid y)\,dy} \, . \qquad (*)$

Проблема цього формального обчислення полягає в тому, що він передбачає, що всі об'єкти, що беруть участь, існують.

Наприклад, розглянемо, що станеться, якщо нам дано, що Звідси випливає, що , а інтеграл у знаменнику розходиться.

X ∣ Y = y \sim Exp (y) and Y ∣ X = x \sim Exp (x) .

$X\mid Y=y\sim\text{Exp}(y) \qquad \text{and} \qquad Y\mid X=x\sim\text{Exp}(x) \, .$

f_{Y ∣ X} (y ∣ x) / f_{X ∣ Y} (x ∣ y) = x / y

$f_{Y\mid X}(y\mid x)/f_{X\mid Y}(x\mid y) = x /y$

(*)

$(*)$

Щоб гарантувати, що ми можемо відновити щільність з'єднання з повних умов, використовуючи нам потрібні умови сумісності, обговорені в цій роботі: $(*)$

"Сумісні умовні розподіли", Баррі К. Арнольд та С. Джеймс Прес, Журнал Американської статистичної асоціації, Vol. 84, № 405 (1989), стор 152-156.

Нарешті, прочитайте дискусію про теорему Хеммерслі-Кліффорда у книзі Роберта та Казелли

— Дзен
джерело

Чи можете ви пояснити, що означає "інтеграл .... існує"? Тут, здається, є два різні питання, а саме. (i) чи існує інтеграл ? та (ii) якщо інтеграл існує, чи є його значення ? Або ви говорите , що всякий раз , коли і мають умовні щільності , такі , що існує , то повинно бути так, що значення інтеграла дорівнює ?

\int \frac{f_{Y ∣ X} (y ∣ x)}{f_{X ∣ Y} (x ∣ y)} d y

$\int \frac{f_{Y\mid X}(y\mid x)}{f_{X\mid Y}(x\mid y)}dy$

\frac{1}{f_{X} (x)}

$\frac{1}{f_X(x)}$

X

$X$

Y

$Y$

\int \frac{f_{Y ∣ X} (y ∣ x)}{f_{X ∣ Y} (x ∣ y)} d y

$\int \frac{f_{Y\mid X}(y\mid x)}{f_{X\mid Y}(x\mid y)}dy$

\frac{1}{f_{X} (x)}

$\frac{1}{f_X(x)}$

— Діліп Сарват

Дякую, @Zen! і можуть визначати , а і також можуть визначати . (1) Який надає більше інформації, чи ? (2) Хто з них надає менш зайву / перекриваючу інформацію з , або ? (3) Чи не з та одна з них вже надає інформацію іншої (у чому я сумніваюся, бо це означатиме, що одне веде до іншого)? Я думаю, що це "перехрестя" між інформацією та

f_{Y}

$f_Y$

f_{X | Y}

$f_{X|Y}$

f_{X, Y}

$f_{X,Y}$

f_{Y | X}

$f_{Y|X}$

f_{X | Y}

$f_{X|Y}$

f_{X, Y}

$f_{X,Y}$

f_{Y}

$f_Y$

f_{Y | X}

$f_{Y|X}$

f_{X | Y}

$f_{X|Y}$

f_{Y}

$f_Y$

f_{Y | X}

$f_{Y|X}$

f_{Y}

$f_Y$

f_{Y | X}

$f_{Y|X}$

f_{Y}

$f_Y$

f_{Y | X}

$f_{Y|X}$ , який разом з визначає .

f_{X | Y}

$f_{X|Y}$

f_{X, Y}

$f_{X,Y}$

— Тім

Привіт @Tim представляє вам невизначеність щодо , в той час як представляє вашу невизначеність щодо , враховуючи , що ви знаєте значення . "Який містить більше інформації?" питання непросте. Якщо і сумісні (у значенні Арнольда і Прес), то вони визначають через .

f_{Y}

$f_Y$

Y

$Y$

f_{Y ∣ X}

$f_{Y\mid X}$

Y

$Y$

X

$X$

f_{X ∣ Y}

$f_{X\mid Y}$

f_{Y ∣ X}

$f_{Y\mid X}$

f_{X, Y}

$f_{X,Y}$

(*)

$(*)$

— Дзен

Зараз я борюся з тією ж проблемою. Мене трохи бентежить потреба в сумісних умовних розподілах, оскільки вони ніколи не згадуються в жодних (принаймні тих, які я прочитав) вступів до вибірки Гіббса. Або потреба у сумісних умовних розподілах має місце лише у тому випадку, якщо намагається офіційно відновити спільні розподіли, наприклад, за допомогою (*). -> не наближення спільного розподілу за допомогою вибірки Гіббса?

— sklingel

У звичайній установці вибірки Гіббса, застосованій до статистичної задачі, ви припускаєте, що спільна ймовірність (задній) розподіл існує, отже, повні умови, отримані з цього спільного розподілу, сумісні. Поза цим випадком вибірки Гіббса безглузді.

— Сіань