Чому саме бета-регресія не може мати справу з 0 і 1 у змінній відповіді?

Бета-регресія (тобто GLM з бета-розподілом і, як правило, функцією посилання logit) часто рекомендується мати справу з змінною, яка залежить від відповіді, приймаючи значення між 0 і 1, такі як дроби, коефіцієнти або ймовірності: Регресія для результату (відношення або частка) між 0 і 1 .

Однак завжди стверджується, що бета-регресію не можна використовувати, як тільки змінна відповіді дорівнює 0 або 1 хоча б один раз. Якщо це так, потрібно використовувати або бета-модель з надутою бетоном, або здійснити певну трансформацію відповіді тощо. Бета-регресія даних про пропорції, включаючи 1 і 0 .

Моє запитання: яке властивість розподілу бета-версії запобігає бета-регресії мати справу з точними 0 і 1 та чому?

Я здогадуюсь, що і не підтримують бета-розподіл. Але для всіх параметрів форми і , як нуль і один перебувають в підтримці бета - розподілу, це тільки для невеликих параметрів форми , що розподіл звертається в нескінченність в одній або обох сторін. І, можливо, вибіркові дані такі, що та забезпечують найкращу відповідність, виявилися б вище . $0$ $1$ $\alpha>1$ $\beta>1$ $\alpha$ $\beta$ $1$

Чи означає це , що в деяких випадках один може фактично використовувати бета регресу навіть з нулями / з них?

Звичайно, навіть якщо 0 і 1 підтримують бета-розподіл, ймовірність спостерігати рівно 0 або 1 дорівнює нулю. Але така ймовірність спостерігати будь-який інший заданий набір значень, тому це не може бути проблемою, чи не так? (См. Цей коментар від @Glen_b).

$\hskip{8em}$

У контексті бета-регресії розподіл бета параметризується по-різному, але при він все одно повинен бути чітко визначений на для всіх . $\phi=\alpha+\beta>2$ $[0,1]$ $\mu$

— Амеба каже Відновити Моніку
джерело

Цікаве запитання! У мене немає жодної відповіді, окрім пунктів, які вже висловив Кевін Райт. Я думаю, що точні нулі та ймовірності є патологічними випадками (як, наприклад, при логістичній регресії), тому вони не такі цікаві, оскільки вони не повинні відбуватися.

— Тім

@ Тім Ну, я , якщо вони повинні або не повинні відбуватися не знаю, але вони дійсно трапляються досить часто, інакше люди не будуть задавати питання про те , як мати справу з 0 і 1 в бета - регресії, не писав би документи про 0- і-1 завищені бета-моделі тощо. Я все одно сподіваюся на більш детальну відповідь, ніж Кевіна. Принаймні слід пояснити, як виникають ці терміни в імовірності журналу.

— амеба каже: Відновіть Моніку

Оновлення: це, мабуть, тому, що якщо в підтримці знаходяться 0 і 1, то PDF у цих точках дорівнює нулю, тобто ймовірність дотримання цих значень дорівнює нулю. Я все одно хотів би побачити відповідь, яка це ретельно пояснює.

— Амеба каже: Відновити Моніку

Отже, який розподіл слід використовувати тоді, коли змінна відповіді приймає значення у, скажімо,

[0, \infty)

$[0, \infty)$

— Збентежений

Відповіді:

Тому що ймовірність логгінгу містить як і , які не обмежуються, коли або . Дивіться рівняння (4) Смітсона та Веркуйлена, " Кращий віджимач лимона? Максимально-ймовірний регрес із бета-розподіленими залежними змінними " (пряме посилання на PDF ). $\log(x)$ $\log(1-x)$ $x=0$ $x=1$

— Кевін Райт
джерело

Спасибі. Ось пряме посилання PDF на папір . Я бачу, що рівняння (4) вийде з ладу, як тільки

або

, але я все ще не розумію, чому це відбувається в загальній схемі речей.

y_{i} = 0

$y_i=0$

y_{i} = 1

$y_i=1$

— Амеба каже, що повернеться до Моніки

(+1) Амеба, просто подивіться на pdf: для кожного бета-розподілу щільність у

та

або

. У будь-якому випадку ймовірність журналу не буде визначеною. Еквівалентно, щойно є одна відповідь

або

, усі значення ймовірності можуть бути лише нульовими, нескінченними або невизначеними, і буде нетривіальний набір параметрів Бета, для яких реалізується мінімальне значення ймовірності. Таким чином, практичний розрахунок виключається і модель не може бути ідентифікованою (у суворому розумінні).

0

$0$

1

$1$

0

$0$

+ \infty

$+\infty$

0

$0$

1

$1$

— качан

Разом із коментарем @ whuber (якого я до цього часу не помічав), це відповідає на питання. Основний момент полягає в тому, що для значень параметрів, про які я запитував,

мають нульову ймовірність.

0

$0$

1

$1$

— амеба каже: Відновіть Моніку

@whuber Причиною, що я заплутався, є те, що існує 0 ймовірностей, щоб спостерігати

але також існує нуль ймовірності спостерігати, скажімо,

( для конкретності візьмемо бета з

). Тим не менше,

відповідає моделі, але

- ні, і це тому, що ймовірність спостерігати

не дорівнює нулю, але ймовірність спостерігати

- це ...

0

$0$

0.5

$0.5$

α = β = 2

$\alpha=\beta=2$

0.5

$0.5$

0

$0$

0.5

$0.5$

0

$0$

— говорить амеба Reinstate Monica

@amoeba Ймовірність залежить від щільності ймовірності , а не від самої ймовірності. Іноді цього можна уникнути, розглядаючи кожне спостереження, щоб включити ймовірність невеликого, але скінченного (не нескінченно малого) інтервалу (визначається, наприклад , точністю вимірювання), або шляхом згортання бета-розподілів з дуже вузьким гауссовим ( що виключає нульову і нескінченну щільність).

— whuber

$log(x)$ $log(1-x)$

$p$ $N$

Як результат, в моєму розумінні бета-регресії 0 і 1 інтуїтивно відповідатимуть (нескінченним) впевненим результатам.

— meduz
джерело