Чи є CDF більш фундаментальними, ніж PDF-файли?

Мій стат проф, в основному сказав, що якщо дати одне з наступних трьох, ви можете знайти інші два:

Функція накопичувального розподілу
Момент, що генерує функцію
Функція щільності ймовірності

Але мій професор економетрики сказав, що CDF є більш фундаментальними, ніж PDF-файли, оскільки є приклади, де можна мати CDF, але PDF не визначений.

Чи є CDF більш фундаментальними, ніж PDF-файли? Як я можу дізнатись, чи можна отримати PDF або MGF з CDF?

— Стен Шунпік
джерело

Це якийсь конкурс фундаментальності? У нас є колегія суддів знаменитостей? Усі ці три поняття можна використовувати для визначення міри на просторі

. Однак для даного CDF MGF та PDF можуть не існувати, оскільки PDF визначається як похідне CDF, а MGF визначається як

, і ця інтегральна потреба не існує. Однак це не означає, що будь-яке з цих понять є менш фундаментальним. Fundamental - приємний прикметник, який не має математичного визначення. Це синонім важливого.

R^{d}

$\mathbb{R}^d$

\int_{R} \exp (t x) d F (x)

$\int_{\mathbb{R}}\exp(tx)dF(x)$

— mpiktas

@mpiktas: Кожен розподіл ймовірностей на (підмножині)

має CDF, і він однозначно визначає розподіл. Однак, не всі розподіли ймовірностей мають PDF або MGF (але всі вони мають характерну функцію ).

R^{n}

$\mathbb R^n$

— Ільмарі Каронен

@mpiktas Ви можете зробити це з

на

. Тоді

не визначено. Проте мені абсолютно зрозуміло, чому професор використав вираз "більш фундаментальний". Прикметник може не мати чітко визначеного математичного значення, але так що? Я говорю (деякі ) Англійська мова. Кожен PDF, який нам відомий, має основний CDF. Тут "underlying" має гарну асоціацію з "фундаментальною". Навпаки не вірно

A = {R, \emptyset}

$\mathcal A=\{\mathbb R,\varnothing\}$

R

$\mathbb R$

P ((- \infty, x])

$P((-\infty,x])$

— drhab

@drhab, природно, я говорив про похідну Радон-Нікодим :) Я занадто досконало розумію, що мав на увазі професор, але на мою думку небезпечно використовувати такі вирази зі студентами, бо тоді замість того, щоб намагатися зрозуміти різницю між Математичні концепції намагаються класифікувати їх за принципами, що є принципово неправильним. Каламбур призначений.

— mpiktas

@mpiktas: звичайно, немає точного визначення поняття "фундаментальний". Але є велика середина між "суворо визначеними" та "абсолютно безглуздими". У самій нашій математиці, звичайно, все зрештою повинно бути цілком суворим, тому ми дуже звикли плескати все, що ні. Але коли ми говоримо і думаємо про математику, у нас є суб'єктивні, але значущі поняття, такі як "основні", "загальні" тощо, як і всі інші; і це нормально.

— PLL

Відповіді:

Кожен розподіл ймовірностей на (підмножині) має кумулятивну функцію розподілу , і він однозначно визначає розподіл. Отже, в цьому сенсі CDF насправді настільки ж фундаментальний, як і сам розподіл. $\mathbb R^n$

Однак функція щільності ймовірності існує лише для (абсолютно) постійних розподілів ймовірностей . Найпростішим прикладом розподілу, якому бракує PDF, є будь-який дискретний розподіл ймовірності , такий як розподіл випадкової величини, яка приймає лише цілі значення.

Звичайно, такі дискретні розподіли ймовірностей замість цього можуть характеризуватися функцією маси ймовірностей , але є також розподіли, у яких немає ні PDF, ні PMF, таких як будь-яка суміш безперервного та дискретного розподілу:

^{(Діаграма безсоромно викрадена з відповіді Glen_b на пов’язане питання.)}

Існують навіть сингулярні розподіли ймовірностей , такі як розподіл Кантора , які неможливо описати навіть комбінацією PDF та PMF. Однак такі розподіли все ще мають чітко визначений CDF. Наприклад, ось CDF розповсюдження Кантора, який також іноді називають "Чортовою сходами":

^{( Зображення з Вікісховища користувачів Теона і Amirki , що використовується під CC-BY-SA 3.0 ліцензії.)}

CDF, відомий як функція Кантора , є безперервним, але не абсолютно безперервним. Насправді він є постійним скрізь, за винятком набору Кантора з нульовою мірою Лебега, але який все ще містить нескінченно багато точок. Таким чином, вся маса ймовірностей розподілу Кантора зосереджена на цьому зникаючому малому підмножині прямої чисельної лінії, але кожна точка множини все одно окремо має нульову ймовірність.

Існують також розподіли ймовірностей, які не мають функції генерування моментів . Напевно, найвідоміший приклад - розподіл Коші , жировий розподіл, який не має чітко визначених моментів порядку 1 або вище (таким чином, зокрема, не має чітко визначеної середньої чи дисперсії!).

$\mathbb R^n$

— Ільмарі Каронен
джерело

Ви говорите, що кожен дистрибутив має CDF, але не кожен має PDF, але насправді є дистрибутиви, які мають PDF-файли та не мають CDF-файлів закритої форми, наприклад, багатоваріантні нормальні.

— Тім

@Tim: Це правда, але лише з класифікатором "закритої форми"; CDF все ще існує, навіть якщо ми не можемо записати його у закритому вигляді. І в будь-якому випадку, визначення " виразу закритої форми " є, як відомо, нечітким; за деякими суворими визначеннями, навіть однофакторний нормальний розподіл не має CDF закритої форми, але якщо ви вважаєте, що функція помилки є закритою формою, вона є.

— Ільмарі Каронен

@Tim Це не зустрічний приклад. Це довільна властивість, яку ви вибрали як важливу / фундаментальну для вас. Для мене властивість "існує" важливіше, ніж "має закриту форму". Тим більше, що "завжди існує" проти "іноді може не мати закритої форми, як і будь-яка функція".

— Арк-кун

[0, 1] \subset R

$[0,1] \subset \Bbb{R}$

@ Ark-kun Я тут граю прихильників чортів, оскільки є випадки, коли PDF - це щось більше "безпосередньо доступне", ніж CDF. Мені подобається ця відповідь (+1), але ІМХО, це те, що також можна було б згадати.

— Тім

Я вважаю, що ваш професор з економетрики щось думав у наступних напрямках.

$F$ $[0, 1]$

F (x) = \frac{1}{2} x for x < \frac{1}{2}

$F(x) = \frac{1}{2}x \ \text{for} \ x < \frac{1}{2}$

F (x) = \frac{1}{2} x + \frac{1}{2} for x \geq \frac{1}{2}

$F(x) = \frac{1}{2}x + \frac{1}{2} \ \text{for} \ x \geq \frac{1}{2}$

$[0, 1]$

P ({\frac{1}{2}}) = \frac{1}{2}

$P\left(\left\{\frac{1}{2}\right\}\right) = \frac{1}{2}$

$f$

За визначенням PDF, ми повинні мати

\int_{0}^{x} f (t) d t = F (x) - F (0) = \frac{1}{4} x

$\int_0^x f(t) dt = F(x) - F(0) = \frac{1}{4}x$

$0 < x < \frac{1}{2}$

f (x) = \frac{1}{4} for x < \frac{1}{2}

$f(x) = \frac{1}{4} \ \text{for} \ x < \frac{1}{2}$

$x > \frac{1}{2}$

f (x) = \frac{1}{4} for x > \frac{1}{2}

$f(x) = \frac{1}{4} \ \text{for} \ x > \frac{1}{2}$

$f$ $f\left(\frac{1}{2}\right)$ $f\left(\frac{1}{2}\right)$

P ({\frac{1}{2}}) = \frac{1}{2}

$P\left(\left\{\frac{1}{2}\right\}\right) = \frac{1}{2}$

нам знадобиться

\int_{\frac{1}{2} - ϵ}^{\frac{1}{2} + ϵ} f (t) d t > \frac{1}{2}

$\int_{\frac{1}{2} - \epsilon}^{\frac{1}{2} + \epsilon} f(t) dt > \frac{1}{2}$

$\frac{1}{2}$

\int_{\frac{1}{2} - ϵ}^{\frac{1}{2} + ϵ} f (t) d t = \int_{\frac{1}{2} - ϵ}^{\frac{1}{2} + ϵ} \frac{1}{4} d t = \frac{1}{2} ϵ

$\int_{\frac{1}{2} - \epsilon}^{\frac{1}{2} + \epsilon} f(t) dt = \int_{\frac{1}{2} - \epsilon}^{\frac{1}{2} + \epsilon} \frac{1}{4} dt = \frac{1}{2} \epsilon$

$f$

Ви можете відновити дух PDF, але ви повинні використовувати більш складні математичні об'єкти, або міру, або розподіл .

— Метью Друрі
джерело

\frac{1}{2} δ (x - \frac{1}{2})

$\frac{1}{2} \delta \left(x-\frac{1}{2}\right)$

δ (x)

$\delta(x)$

x = 0

$x=0$

\int_{- \infty}^{+ \infty} δ (x) d x = 1

$\int\limits_{-\infty}^{+\infty} \delta(x) \,\mathrm{d}x = 1$

L^{1}

$L^1$

@IwillnotexistIdonotexist Що сказав Whuber, це те, на що я натякав в останньому рядку. Я вжив слово "розподіл".

— Меттью Друрі

1 / 2

$1/2$

1 / 2

$1/2$

Ілмарі дає хорошу відповідь з теоретичної точки зору. Однак можна також запитати, для яких цілей щільність (pdf) та функція розподілу (pdf) служать для практичних обчислень. Це могло б з’ясувати, для яких ситуацій одна безпосередньо корисна, ніж інша.

$\mathbb{R}$ $(-\infty,x]$ $-$ $-$

Однак щільність є важливою для статистики, оскільки ймовірність визначається з точки зору щільності. Таким чином, якщо ми хочемо обчислити максимальну оцінку ймовірності, нам безпосередньо потрібна щільність.

Якщо ми звернемось до порівняння емпіричного та теоретичного розподілу, обидва можуть бути корисними, але такі методи, як pp- та qq-графіки на основі функції розподілу, часто є переважними.

$\mathbb{R}^d$ $d \geq 2$

— NRH
джерело