Чому існує функція щільності розподілу бета-версії -1?

Бета-розподіл з’являється під двома параметрами (або тут )

\begin{matrix} (1) & f (x) \propto x^{α} (1 - x)^{β} \end{matrix}

$f(x) \propto x^{\alpha} (1-x)^{\beta} \tag{1}$

або той, який, здається, використовується частіше

\begin{matrix} (2) & f (x) \propto x^{α - 1} (1 - x)^{β - 1} \end{matrix}

$f(x) \propto x^{\alpha-1} (1-x)^{\beta-1} \tag{2}$

Але чому саме там є " " у другій формулі? $-1$

Перша рецептура, інтуїтивно зрозуміло , безпосередньо відповідає біноміального розподілу

\begin{matrix} (3) & g (k) \propto p^{k} (1 - p)^{n - k} \end{matrix}

$g(k) \propto p^k (1-p)^{n-k} \tag{3}$

але «видно» з точки зору «s $p$ . Це особливо зрозуміло в бета-біноміальній моделі, де може бути зрозуміла як попередня кількість успіхів, а - попередня кількість відмов. $\alpha$ $\beta$

То чому саме друга форма набула популярності і що обґрунтовує її? Які наслідки використання будь-якої параметризації (наприклад, для зв'язку з біноміальним розподілом)?

Було б чудово, якби хтось міг би додатково вказати на джерела такого вибору та вихідні аргументи для цього, але це не є для мене необхідністю.

— Тім
джерело

У цій відповіді натякається глибока причина : дорівнює відносно міри . Це зводить ваше запитання до " чому саме цей захід "? Визнаючи, що цей захід є пропонує" правильний "спосіб зрозуміти ці розподіли полягає в застосуванні логістичної трансформації: терміни " " потім зникнуть.

f

$f$

x^{α} (1 - x)^{β}

$x^\alpha(1-x)^\beta$

d μ = d x / ((x (1 - x))

$d\mu=dx/((x(1-x))$

d μ = d (\log (\frac{x}{1 - x}))

$d\mu=d\left(\log\left(\frac{x}{1-x}\right)\right)$

- 1

$-1$

— whuber

Я думаю, що справжньою причиною цього сталося є історична - тому що саме таким чином виявляється в бета-функції, за якою розподілено ім'я. Що стосується того , чому у влади це , я вважаю, що це в кінцевому рахунку буде пов'язане з причиною, яку згадує Бубер (хоча історично це не має нічого спільного з мірою або навіть ймовірністю).

- 1

$-1$

— Glen_b -Встановити Моніку

@Glen_b Це більш ніж історично: є глибокі причини. Вони пов'язані з інтимним зв'язком між функціями Beta і Gamma, зводячи питання до того, чому показник у є а не . Це тому, що - сума Гаусса . Еквівалентно, що "правильно" розглядати як інтеграл мультиплікативного гомоморфізму разів адитивного символу проти міри Хаар на мультиплікативній групі .

Γ (s) = \int_{0}^{\infty} t^{s - 1} e^{- t} d t

$\Gamma(s)=\int_0^\infty t^{s-1}e^{-t}dt$

s - 1

$s-1$

s

$s$

Γ

$\Gamma$

Γ

$\Gamma$

t \to t^{s}

$t\to t^s$

t \to e^{- t}

$t\to e^{-t}$

d t / t

$dt/t$

R^{\times}

$\mathbb{R}^{\times}$

— качан

@wh Це є вагомою причиною того, що гамма-функцію слід обирати саме таким (і я вже припускав, що така причина існувала вище, і я приймаю певну форму міркування, схожу на це - але обов'язково з різним формалізмом - увійшов у вибір Ейлера); відповідно важкі причини трапляються з щільністю; але це не встановлює, що це насправді було причиною вибору (чому форма була обрана такою, якою вона була), тільки що це вагома причина для цього. Форма функції гамми ...

— ctd

ctd ... одне може легко бути достатньою підставою вибрати таку форму за щільністю, а для інших наслідувати її. [Часто вибір робиться з більш простих причин, з тих, яких ми можемо визначити згодом, і тоді часто потрібні вагомі причини робити все інше. Чи знаємо ми , що саме тому він був спочатку вибраний] - ви чітко пояснити , що є причина , чому ми повинні вибрати щільність бути так, а не чому це є таким чином. Це включає в себе послідовність людей, які роблять вибір (використовувати його таким чином і наслідувати приклад), та їх причини в той момент, який вони обрали.

— Glen_b -Встановити Моніку

Відповіді:

Це історія про ступінь свободи та статистичні параметри і чому приємно, що вони мають прямий простий зв'язок.

Історично склалося, що терміни " " з'явилися в дослідженнях функції Бета Ейлера. Він використовував цю параметризацію до 1763 року, так само і Адрієн-Марі Легендр: їх використання встановило наступну математичну конвенцію. Ця робота анулює всі відомі статистичні програми. $-1$

Сучасна математична теорія дає достатньо свідчень, завдяки багатству застосувань в аналізі, теорії чисел та геометрії, що терміни " " насправді мають певне значення. Деякі з цих причин я промальовував у коментарях до цього питання. $-1$

Більш цікавим є те, якою повинна бути "правильна" статистична параметризація. Це не так однозначно, і це не повинно бути таким же, як математичне умовлення. Існує величезна мережа поширених, добре відомих, взаємопов'язаних сімей розподілу ймовірностей. Таким чином, конвенції, які використовуються для імені (тобто параметризації) однієї сім'ї, зазвичай мають на увазі споріднені конвенції для імені споріднених сімей. Змініть одну параметризацію, і ви захочете змінити їх усі. Тому ми можемо розглянути ці стосунки для підказки.

Мало хто погодився б із тим, що найважливіші сім'ї розподілу походять із сім'ї Нормальних. Нагадаємо, що випадкова величина як кажуть, "нормально розподілена", коли має щільність ймовірності пропорційну . Коли і , як кажуть, має стандартне нормальне розподіл. $X$ $(X-\mu)/\sigma$ $f(x)$ $\exp(-x^2/2)$ $\sigma=1$ $\mu=0$ $X$

Багато наборів даних вивчаються за допомогою відносно простої статистики, що включає раціональні комбінації даних та низькі потужності (зазвичай квадрати). Коли ці дані моделюються як випадкові вибірки з нормального розподілу - так що кожен розглядається як реалізація нормальної змінної , всі мають спільний розподіл і є незалежними - розподіли цих статистичних даних визначаються що нормальне розподіл. Ті, що найчастіше виникають на практиці, це $x_1, x_2, \ldots, x_n$ $x_i$ $X_i$ $X_i$

$t_\nu$ , Студентське розподіл $t$ з "ступенів свободи" . Це розподіл статистики ім'я де моделює середнє значення даних і - це стандартна похибка середнього значення. Ділення на показує, що повинно бути або більше, звідки - ціле число $\nu = n-1$
$t = \frac{\bar{X}}{se (X)}$ $t = \frac{\bar X}{\operatorname{se}(X)}$ $\bar X = (X_1 + X_2 + \cdots + X_n)/n$ $\operatorname{se}(X) = (1/\sqrt{n})\sqrt{(X_1^2+X_2^2 + \cdots + X_n^2)/(n-1) - \bar X^2}$ $n-1$ $n$ $2$ $\nu$ $1$ або більше. Формула, хоча і, мабуть, трохи складна, є квадратним коренем раціональної функції даних другого ступеня: вона відносно проста.
$\chi^2_\nu$ , розподіл (chi-квадрат) $\chi^2$ з "ступенем свободи" (df). Це розподіл суми квадратів незалежних стандартних звичайних змінних. Таким чином, розподіл середнього квадрату цих змінних буде розподілом масштабованим на : я буду називати це "нормалізованим" розподілом. $\nu$ $\nu$ $\chi^2$ $1/\nu$ $\chi^2$
$F_{\nu_1, \nu_2}$ , розподіл відносини з параметрами являє собою відношення двох незалежних нормалізується розподілів з і ступенів свободи. $F$ $(\nu_1, \nu_2)$ $\chi^2$ $\nu_1$ $\nu_2$

Математичні розрахунки показують, що всі три ці розподіли мають щільність. Важливо, що щільність розподілу пропорційна інтегралу в інтегральному визначенні Ейлера функції Гамма ( ). Порівняємо їх: $\chi^2_\nu$ $\Gamma$

f_{χ_{ν}^{2}} (2 x) \propto x^{ν / 2 - 1} e^{- x}; f_{Γ (ν)} (x) \propto x^{ν - 1} e^{- x} .

$f_{\chi^2_\nu}(2x) \propto x^{\nu/2 - 1}e^{-x};\quad f_{\Gamma(\nu)}(x) \propto x^{\nu-1}e^{-x}.$

Це показує, що двічі змінна має розподіл Gamma з параметром . Коефіцієнт половини є досить набридливим, але віднімання зробить відносини набагато гіршими. Це вже дає переконливу відповідь на питання: якщо ми хочемо, щоб параметр розподілу підрахував кількість квадратних нормальних змінних, які його виробляють (до коефіцієнта ), то показник у його щільності функція повинна бути однією меншою, ніж половина від кількості. $\chi^2_\nu$ $\nu/2$ $1$ $\chi^2$ $1/2$

Чому коефіцієнт менш клопітний, ніж різниця ? Причина полягає в тому, що фактор залишатиметься послідовним, коли ми додаємо речі. Якщо сума квадратів незалежних стандартних норм пропорційна розподілу гамми з параметром (разів на деякий коефіцієнт), то сума квадратів незалежних стандартних норм пропорційна гамма-розподілу з параметром (в рази однаковий коефіцієнт) , звідки сума квадратів усіх змінних пропорційна розподілу Gamma з параметром (все одно разів однаковий коефіцієнт). $1/2$ $1$ $n$ $n$ $m$ $m$ $n+m$ $m+n$ Той факт, що додавання параметрів настільки тісно імітує додавання рахунків, є дуже корисним.

Якби ми, мабуть, видалили цей примхливий " " з математичних формул, ці приємні стосунки стали б складнішими. Наприклад, якщо ми змінили параметризацію гамма-розподілів на фактичну потужність у формулі, так що розподіл буде пов'язане з розподілом "Gamma " (оскільки потужність в його PDF дорівнює ), тоді суму трьох слід було б назвати розподілом "Gamma ". Коротше кажучи, тісний адитивний зв'язок між ступенями свободи та параметром у розподілах Gamma був би втрачений шляхом вилучення $-1$ $x$ $\chi^2_1$ $(0)$ $x$ $1-1=0$ $\chi^2_1$ $(2)$ $-1$ з формули та поглинаючи її в параметрі.

Аналогічно функція ймовірності розподілу відношення тісно пов'язана з розподілами Beta. Дійсно, коли має розподіл відношення , розподіл має Beta . Функція його щільності пропорційна $F$ $Y$ $F$ $Z=\nu_1 Y/(\nu_1 Y + \nu_2)$ $(\nu_1/2, \nu_2/2)$

f_{Z} (z) \propto z^{ν_{1} / 2 - 1} (1 - z)^{ν_{2} / 2 - 1} .

$f_Z(z) \propto z^{\nu_1/2 - 1}(1-z)^{\nu_2/2-1}.$

Крім того, якщо взяти ці ідеї повним колом - квадрат розподілу Стьюдента з df має розподіл відношення з параметрами . Ще раз видно, що дотримання звичайної параметризації підтримує чітку взаємозв'язок з основними підрахунками, що сприяють рівню свободи. $t$ $\nu$ $F$ $(1,\nu)$

Зі статистичної точки зору, найприроднішим і найпростішим було б використовувати варіацію звичайних математичних параметризацій розподілів та Beta: ми повинні вважати за краще називати розподіл " розподіл ", а розподіл Beta слід назвати" Beta ". Насправді ми вже зробили це: саме тому ми продовжуємо використовувати назви "Chi-квадрат" та " Ratio", а не "Gamma" та "Beta". Незважаючи на це, ні в якому разі ми не хотіли б зняти " $\Gamma$ $\Gamma(\alpha)$ $\Gamma(2\alpha)$ $(\alpha, \beta)$ $(2\alpha, 2\beta)$ $F$ $-1$ "терміни, які відображаються в математичних формулах для їх щільності. Якби ми це зробили, ми втратили б прямий зв'язок між параметрами в густинах і числом даних, з якими вони пов'язані: ми завжди були б відключені на одне.

— дзижчати
джерело

Дякуємо за вашу відповідь (я вже + 1д). У мене є лише невелике подальше запитання: можливо, мені щось не вистачає, але хіба ми не жертвуємо прямим зв’язком з двочленним, використовуючи параметризацію -1?

— Тім

Я не впевнений, про яке "пряме відношення до двочленного" ви маєте на увазі, Тіме. Наприклад, коли бета розподіл використовується в якості кон'югату перед для зразка Біном, ясно параметри є точно правильними для використання: додати (НЕ ) до числа успіхів і (не ) до кількості відмов.

(a, b)

$(a,b)$

a

$a$

a - 1

$a-1$

b

$b$

b - 1

$b-1$

— whuber

Позначення вводить вас в оману. Існує «прихований » у формулі , так як в , і має бути більше , ніж (друга ланка ви вказали в своєму питанні каже , що це явно). "и і » S в двох формулах не самі і ті ж параметри; вони мають різний діапазон: в , і в , . Ці діапазони для та $-1$ $(1)$ $(1)$ $\alpha$ $\beta$ $-1$ $\alpha$ $\beta$ $(1)$ $\alpha,\beta>-1$ $(2)$ $\alpha,\beta>0$ $\alpha$ $\beta$ необхідно гарантувати, що інтеграл щільності не розходиться. Щоб побачити це, розгляньте в випадок (або менше) і , а потім спробуйте інтегрувати (ядро) щільності між і . Рівно спробуйте те ж саме в для (або менше) і . $(1)$ $\alpha=-1$ $\beta=0$ $0$ $1$ $(2)$ $\alpha=0$ $\beta=1$

— Дзен
джерело

Питання діапазону визначення та схоже, відходить, коли інтеграл трактується, як це робив Поххеммер у 1890 р., Як специфічний контурний інтеграл. У цьому випадку його можна прирівняти до виразу, який визначає аналітичну функцію для всіх значень та включаючи всі складні. Це підсвічує стурбованість питанням: чому саме була прийнята ця конкретна параметризація, враховуючи, що існує багато інших можливих параметризацій, які, здається, можуть служити однаково добре?

α

$\alpha$

β

$\beta$

α

$\alpha$

β

$\beta$

— whuber

Мені сумніви в ОП здаються набагато основнішими. Він якось плутається з приводу «-1» у (2), але не в (1) (неправда, звичайно). Здається, що ваш коментар відповідає на інше запитання (набагато цікавіше, до речі).

— Дзен

Дякую за ваші зусилля та відповідь, але це все ще не відповідає моїй головній стурбованості: чому було обрано -1? Виходячи з вашої логіки, в основному можна вибрати будь-яке значення, змінюючи довільну нижню межу на щось інше. Я не можу зрозуміти, чому -1 або 0 може бути кращою або гіршою нижньою межею для значень параметрів, окрім того, що 0 є "естетично" приємнішим. З іншого боку, Beta (0, 0) було б непоганим "за замовчуванням" для рівномірного розподілу при використанні першої форми. Так, це дуже суб'єктивні зауваження, але це мій головний пункт: чи є якісь необов’язкові причини такого вибору?

— Тім

Дзен, я згоден, виникло питання, як інтерпретувати оригінальний пост. Дякую, Тіме, за роз'яснення.

— whuber

Привіт, Тіме! Я не бачу жодної остаточної причини, хоча це робить більш прямим зв'язок з тим, що для , якщо і є незалежними, тоді є , а щільність пропорційна . Але тоді ви можете поставити під сумнів параметризацію розподілу гамми ...

α, β > 0

$\alpha,\beta>0$

U \sim G a m m a (α, 1)

$U\sim\mathrm{Gamma}(\alpha,1)$

V \sim G a m m a (β, 1)

$V\sim\mathrm{Gamma}(\beta,1)$

X = U / (U + V)

$X=U/(U+V)$

B e t a (α, β)

$\mathrm{Beta}(\alpha,\beta)$

X

$X$

x^{α - 1} (1 - x)^{β - 1}

$x^{\alpha-1}(1-x)^{\beta-1}$

— Дзен

Для мене існування -1 в експоненті пов'язане з розвитком функції Гамма. Мотивація функції Гамма полягає у пошуку плавної кривої для з'єднання точок факторного. Так як не можна обчислитибезпосередньо, якщо не ціле число, ідея полягала в тому, щоб знайти функцію для будь-якого яка задовольняє відношення рецидивів, визначене факторіалом, а саме $x!$ $x!$ $x$ $x \geq 0$

$f(1)=1\\ f(x+1)=x \cdot f(x).$

Розв’язання було за допомогою зближення інтеграла. Для функції, визначеної як

$f(x+1) = \displaystyle\int_{0}^{\infty} t^{x}e^{-x} dt,$

інтеграція по частинах забезпечує наступне:

$\begin{align} f(x+1) & = \displaystyle\int_{0}^{\infty} t^{x}e^{-x} dt \\ & = \Big[-t^{x}e^{-x} \Big]^{\infty}_{0} + \displaystyle\int_{0}^{\infty} x\cdot t^{x-1}e^{-x} dt \\ &= \lim_{x \to \infty} (-t^{x}e^{-x}) - 0 \cdot e^{-0} + x\cdot \displaystyle\int_{0}^{\infty} t^{x-1}e^{-x} dt \\ &= 0 - 0 + x\cdot \displaystyle\int_{0}^{\infty} t^{x-1}e^{-x} dt \\ &= x \cdot f(x) . \end{align}$

Отже, наведена вище функція задовольняє цю властивість, а -1 в експоненті випливає з процедури інтегрування частинами. Дивіться статтю Wikipedia https://en.wikipedia.org/wiki/Gamma_function .

Редагувати: прошу вибачення, якщо моя публікація не повністю зрозуміла; Я просто намагаюся зазначити, що, на мою думку, існування -1 у бета-розподілі походить від узагальнення факторіалу за допомогою функції Гамма. Існує дві умови: і . У нас є, тому вона задовольняє. Крім того, у нас є . Що стосується бета-розподілу з параметрами , то узагальнення коефіцієнта двочлену є $f(1)=1$ $f(x+1)=x \cdot f(x)$ $\Gamma(x) = (x-1)!$ $\Gamma(x+1) = x \cdot \Gamma(x) = x \cdot (x-1)! = x!$ $\Gamma(1) = (1-1)! = 0! = 1$ $\alpha, \beta$ $\dfrac{\Gamma(\alpha + \beta)}{\Gamma(\alpha) \cdot \Gamma(\beta)} = \dfrac{(\alpha + \beta - 1)!}{(\alpha-1)! \cdot (\beta-1)!}$ . Там у знаменнику є -1 для обох параметрів.

— aatr
джерело

Це не має сенсу, оскільки функція повторення, яку задовольняє факториал, - це не те, про що ви заявляєте:

(x + 1)! \neq x \cdot x! .

$(x+1)! \ne x \cdot x!.$

— whuber

Функція задовольняє відношення рецидиву, - це Gamma: . Ось як це визначено.

f (x)

$f(x)$

Γ (x + 1) = x \cdot Γ (x)

$\Gamma(x+1) = x \cdot \Gamma(x)$

— aatr

Так: але ваша заявлена мотивація заснована на факторіальній функції, а не на Гаммі.

— whuber

Важливо нагадати про співвідношення Гамми та факторіалу:.

Γ (x) = (x - 1)!

$\Gamma(x) = (x-1)!$

— aatr

На жаль, це кругова логіка: ви починаєте з факторіалу, характеризуєте Гамму як інтерполяцію її, а потім робите висновок, що тому -1. Насправді ваша публікація демонструє -1 так, ніби вона помилково випала, плутаючи Гамму з факторською. Мало хто знайде це або освітлююче, або переконливе.

— whuber