Яке інтуїтивне значення має підключення випадкової змінної до власного pdf чи cdf?

Pdf зазвичай записується як , де малий трактується як реалізація або результат випадкової величини яка має цей pdf. Аналогічно, cdf записується як , що має значення . Однак, за деяких обставин, таких як визначення функції рахунку та це виведення, що cdf рівномірно розподілений , виявляється, що випадкова величина підключається до власного pdf / cdf; тим самим ми отримуємо нову випадкову змінну або $f(x|\theta)$ $x$ $X$ $F_X(x)$ $P(X<x)$ $X$ $Y=f(X|\theta)$ $Z=F_X(X)$ . Я не думаю, що ми можемо більше називати це PDF або cdf, оскільки це сама випадкова змінна, і в останньому випадку "інтерпретація" здається мені нісенітницею. $F_X(X)=P(X<X)$

Крім того, в останньому випадку вище, я не впевнений, що розумію твердження "cdf випадкової змінної слід за рівномірним розподілом". Cdf є функцією, а не випадковою змінною, тому не має розподілу. Швидше за все, рівномірний розподіл - це випадкова змінна, трансформована за допомогою функції, яка представляє власний cdf, але я не бачу, чому це перетворення має сенс. Те саме стосується функції рахунку, де ми підключаємо випадкову змінну до функції, яка представляє її власну ймовірність журналу.

Я тижнями закручував мозок, намагаючись знайти інтуїтивно зрозумілий сенс цих перетворень, але я застряг. Будь-яке розуміння буде дуже вдячне!

— май
джерело

Позначення можуть вас бентежити. Наприклад, , в точності , як сенс , як застосування якої - або вимірної функції на буде. Для правильної інтерпретації вам потрібно буде чітко зрозуміти, що таке випадкова величина . Для будь-якої випадкової змінної функція для явно є випадковою змінною і тому має розподіл(Зверніть увагу на два різних значення символу " " у " .") є рівномірним тоді і лише тоді, коли має постійний розподіл.

F_{X} (X)

$F_X(X)$

X

$X$

X : Ω \to R,

$X:\Omega\to\mathbb{R},$

Y : ω \to F_{X} (X (ω))

$Y:\omega\to F_X(X(\omega))$

ω \in Ω

$\omega\in\Omega$

F_{Y} .

$F_Y.$

X

$X$

F_{X} (X)

$F_X(X)$

F_{Y}

$F_Y$

X

$X$

— whuber

Це насправді не теоретико-мірне питання: щоб зрозуміти це, ви можете сміливо ігнорувати всі посилання на "вимірюваність". Ви можете отримати користь від вивчення трохи теорії наборів на початку своєї випускної кар'єри: саме там більшість людей дізнаються, що насправді означає ця основна (і всюдисуща) математична термінологія та позначення, тому краще не відкладати її на вивченні.

— whuber

Можливо, слово про те, чому варто робити таке божевільне: вставляючи RV у власну щільність !!?! Один приклад: скажіть, що ви хочете оцінити щільність X, тоді ви можете виміряти, наскільки ви хороші, інтегруючи по але це "несправедливо": ви ніколи не досягнете хорошого наближення, коли у вас немає багато прикладів даних (тобто справжня щільність невелика). Отже, «справедливою» оцінкою було б зважити термін за справжньою щільністю. Це більш-менш ефект від введення РВ у власну густину ...

f (x) - f_{X} (x)

$f(x)-f_X(x)$

— Фабіан Вернер,

Дивіться також stats.stackexchange.com/questions/324768/…

— Fabian Werner

Відповіді:

Як ви кажете, будь-яка (вимірювана) функція випадкової змінної сама по собі є випадковою змінною. Простіше просто придумати $f(x)$ і $F(x)$ як "будь-яка стара функція". Вони просто мають деякі приємні властивості. Наприклад, якщо $X$ є стандартним експоненціальним RV, тоді в випадковій змінній немає нічого особливо дивного

Y = 1 - e^{- X}

$Y = 1 - e^{-X}$ Просто так буває так

Y = F_{X} (X)

$Y=F_X(X)$ . Справа в тому, що

Y

$Y$ має рівномірний розподіл (враховуючи це

X

$X$ є безперервним RV) можна побачити для загального випадку, отримавши CDF of

Y

$Y$ .

\begin{aligned} F_{Y} (y) & = P (Y \leq y) \\ = P (F_{X} (X) \leq y) \\ = P (X \leq F_{X}^{- 1} (y)) \\ = F_{X} (F_{X}^{- 1} (y)) \\ = y \end{aligned}

$\begin{align*} F_Y(y) &= P(Y \leq y) \\ &= P(F_X(X) \leq y) \\ &= P(X \leq F^{-1}_X(y)) \\ &= F_X(F^{-1}_X(y)) \\ &= y \end{align*}$

Який явно CDF a $U(0,1)$ випадкова величина. Примітка. Ця версія доказу передбачає це $F_X(x)$ суворо зростає та безперервно, але показувати більш загальну версію не так вже й важче.

— крюмсей
джерело

Ваш висновок є невірним для більшості строго зростаючих

F_{X}

$F_X$ : ти припустив

F_{X} \circ F_{X}^{- 1}

$F_X\circ F_X^{-1}$ є ідентичність - але це не завжди так.

— whuber

Так дякую. Випадкова величина

X

$X$ явно має бути безперервним. Я зараз щось пропускаю?

— кнрумсей

F_{X}

$F_X$ не потрібно бути біективними. Візьмемо, наприклад, випадок, де

X

$X$ сама має рівномірний розподіл! Закриття образу

F_{X}

$F_X$ має бути весь інтервал

[0, 1] .

$[0,1].$ Це по суті визначення безперервного розподілу.

— whuber

Перетворення випадкової величини $X$ вимірюваною функцією $T:\mathcal{X}\longrightarrow\mathcal{Y}$ - ще одна випадкова величина $Y=T(X)$ який розподіл задається зворотним перетворенням ймовірності

П (Y \in А) = П (Х \in {х; Т (х) \in А}) \overset{деф}{=} П (Х \in Т^{- 1} (А))

$\mathbb{P}(Y\in A) = \mathbb{P}(X\in\{x;\,T(x)\in A\})\stackrel{\text{def}}{=} \mathbb{P}(X\in T^{-1}(A))$ для всіх наборів

A

$A$ такий як

{x; T (x) \in A}

$\{x;\,T(x)\in A\}$ вимірюється при розподілі

X

$X$ .

Ця властивість застосовується до особливого випадку, коли $F_X:\mathcal{X}\longrightarrow[0,1]$ є cdf випадкової величини $X$ : $Y=F_X(X)$ є новою випадковою змінною, що приймає її в $[0,1]$ . Як це відбувається, $Y$ поширюється як Уніформа $\mathcal{U}([0,1])$ коли $F_X$ є безперервним. (Якщо $F_X$ переривчастий, діапазон $Y=F_X(X)$ більше не $[0,1]$ . Що завжди так, коли $U$ є Уніформою $\mathcal{U}([0,1])$ , тоді $F_X^{-}(U)$ має таке ж розподіл, як і $X$ , де $F_X^{-}$ позначає узагальнену інверсію $F_X$ . Це формальний спосіб (а) зрозуміти випадкові змінні як вимірювані перетворення фундаментальних $\omega\in\Omega$ з тих пір $X(\omega)=F_X^{-}(\omega)$ - випадкова величина з cdf $F_X$ та (b) генерувати випадкові змінні із заданого розподілу за допомогою cdf $F_X$ .)

Щоб зрозуміти парадокс Росії $\mathbb{P}(X\le X)$ , візьміть представництво

Ж_{Х} (х) = П (Х \leq х) = \int_{0}^{х} г Ж_{Х} (х) = \int_{0}^{х} f_{Х} (х) г λ (х)

$F_X(x)=\mathbb{P}(X\le x)=\int_0^x \text{d}F_X(x) = \int_0^x f_X(x)\,\text{d}\lambda(x)$ якщо

d λ

$\text{d}\lambda$ є домінуючим заходом і

f_{X}

$f_X$ відповідна щільність. Тоді

F_{X} (X) = \int_{0}^{X} d F_{X} (x) = \int_{0}^{X} f_{X} (x) d λ (x)

$F_X(X)=\int_0^X \text{d}F_X(x) = \int_0^X f_X(x)\,\text{d}\lambda(x)$ є випадковою змінною, оскільки верхня межа інтеграла є випадковою. (Це єдина випадкова частина виразу.) Явне протиріччя в

P (X \leq X)

$\mathbb{P}(X\le X)$ пояснюється плутаниною в позначеннях. Щоб правильно визначитись, потрібні дві незалежні версії випадкової величини

X

$X$ ,

X_{1}

$X_1$ і

X_{2}

$X_2$ , в цьому випадку випадкова величина

F_{X} (X_{1})

$F_X(X_1)$ визначається через

F_{X} (X_{1}) = P^{X_{2}} (X_{2} \leq X_{1})

$F_X(X_1)=\mathbb{P}^{X_2}(X_2\le X_1)$ ймовірність, що обчислюється для розподілу

X_{2}

$X_2$ .

Це ж зауваження стосується перетворення по щільності (pdf), $f_X(X)$ , яка є новою випадковою змінною, за винятком того, що вона не має фіксованого розподілу, коли $f_X$ варіюється. Тим не менш, це корисно для статистичних цілей, коли розглядається, наприклад, коефіцієнт ймовірності $f_X(X|\hat{\theta}(X))/f_X(X|\theta_0)$ який 2 х логарифм приблизно a $\chi^2$ випадкова величина за деяких умов.

І те саме стосується функції рахунку

\frac{\partial \log f_{X} (X | θ)}{\partial θ}

$\dfrac{\partial \log f_X(X|\theta)}{\partial \theta}$ яка є випадковою змінною, такою, що її очікування дорівнює нулю, якщо взяти за справжнє значення параметра

θ

$\theta$ , тобто

E_{θ_{0}} [\frac{\partial \log f_{X} (X | θ_{0})}{\partial θ}] = \int \frac{\partial \log f_{X} (x | θ_{0})}{\partial θ} f_{X} (x | θ_{0}) d λ (x) = 0

$\mathbb{E}_{\theta_0}\left[ \dfrac{\partial \log f_X(X|\theta_0)}{\partial \theta}\right]=\int \dfrac{\partial \log f_X(x|\theta_0)}{\partial \theta}f_X(x|\theta_0)\,\text{d}\lambda(x)=0$

[Відповідь набрана, коли @whuber та @knrumsey набирали відповіді!]

— Сіань
джерело

Чи можете ви пояснити словами, яке значення / тлумачення твердження

F_{X} (X_{1}) = P (X_{2} \leq X_{1})

$F_X(X_1)=P(X_2 \leq X_1)$ ? Мені все ще здається, що говорити "cdf rv має рівномірний розподіл" не має сенсу.

— травень

Cdf р.в.

F_{X}

$F_X$ не те саме, що перетворення rv

X

$X$ cdf цього rv, а саме

F_{X} (X)

$F_X(X)$ .

— Сіань

Так, я згоден, що це не одне і те ж. У першому випадку це не rv, тоді як у другому випадку це rv Чи я правильно?

— травень

Так, що стосується різних значень

X

$X$ в

F_{X} (X)

$F_X(X)$

— Сіань

Чи можете ви пояснити, що ви маєте на увазі під "очікуванням, що дорівнює нулю, якщо прийняти за справжнє значення параметра

θ

$\theta$ ? Начебто

θ

$\theta$ тут розглядається як змінна. Що змінюється, якщо

θ

$\theta$ не в його "справжньому значенні"?

— май