Чи можу я використовувати алгоритми glm, щоб зробити багаточленну логістичну регресію?

14

Я використовую spotfire (S ++) для статистичного аналізу в своєму проекті, і мені потрібно виконати багаточленну логістичну регресію для великого набору даних. Я знаю, що найкращий алгоритм був би mlogit, але він, на жаль, недоступний у s ++. Однак у мене є можливість використовувати алгоритм glm для цієї регресії. Я хочу уточнити дві речі тут:

1. Чи правильно я розумію, що glm також можна використовувати для запуску багаточленної логістичної регресії?

Якщо відповідь на попереднє питання так, то які параметри слід використовувати в glm algo?

Спасибі,

generalized-linear-model logistic

— Рагвендра
джерело

9

Так, за допомогою Poisson GLM (лінійна модель журналу) ви можете підходити до мультиноміальних моделей. Отже, багаточленні логістичні чи лінійні моделі Пуассона є рівнозначними.

Вам потрібно побачити випадкові підрахунки як випадкові змінні Пуассона із засобами і вказати наступну нижче лінійно-лінійну модель $y_{ij}$ $μ_{ij}$

$\log(μ_{ij}) = o + p_i + c_j + x_iβ_j$

Для отримання багаточленної моделі logit параметри:

Параметр для кожного багаточленного спостереження, наприклад індивіди або група. Це забезпечує точне відтворення мультиноміальних знаменників і фактично встановлює еквівалентність Пуассонової та мультиноміальної моделі. Вони зафіксовані в мультиноміальній ймовірності, але випадкові в імовірності Пуассона. $p_i$

Параметр для кожної категорії відповідей. Таким чином, підрахунок може бути різним для кожної категорії відповідей, і поля можуть бути неоднаковими. $c_j$

Те, що вас насправді цікавить, - це умови взаємодії які представляють ефекти на шанси відповіді . $x_iβ_j$ $x_i$ $j$

Коефіцієнти журналу можна просто обчислити за допомогою . Імовірно, що спостереження i потрапить у категорію відповідей j відносно категорії відповіді . $\log(μ_{ij}/μ_{ik}) = (c_j-c_k) +x_i(β_j-β_k)$ $k$

Тоді параметри в мультиноміальній моделі logit (позначені латинськими літерами) можуть бути отримані як різниці між параметрами у відповідній лінійно-лінійній моделі, тобто та . $a_j = α_j-α_k$ $b_j = β_j-β_k$

— Момо
джерело

Дякую Момо. Це справді корисно. Моє програмне забезпечення надає мені можливість вибору сім'ї як "можливість", а посилання як "журнал" під час роботи з алогоритмом GLM. Тому я думаю, що саме тут потрібно те, що потрібно.

— Рагвендра

7

Так, ви можете, і насправді це саме те, що R пакет GLMNET робить для багаточленної логістичної регресії. Запис функції вірогідності журналу як:

L o g L = \sum_{i} \sum_{c} n_{i c} \log (p_{i c})

$LogL=\sum_i\sum_cn_{ic}\log(p_{ic})$

$i$ $c$ $n_{ic}$ $i$ $c$ $n_{ic}=1$

p_{i c} = \frac{\exp (x_{i}^{T} β_{c})}{\sum_{c^{'}} \exp (x_{i}^{T} β_{c^{'}})}

$p_{ic}=\frac{\exp\left(x_{i}^T\beta_{c}\right)}{\sum_{c'}\exp\left(x_{i}^T\beta_{c'}\right)}$

$(\beta_1,\dots,\beta_{C})$

p_{i c} = \frac{\exp (x_{i}^{T} β_{c})}{\exp (x_{i}^{T} β_{c}) + A} where \frac{\partial A}{\partial β_{c}} = 0

$p_{ic}=\frac{\exp\left(x_{i}^T\beta_{c}\right)}{\exp\left(x_{i}^T\beta_{c}\right)+A}\text{ where }\frac{\partial A}{\partial \beta_c}=0$

p_{i c^{'}} = \frac{B}{\exp (x_{i}^{T} β_{c}) + A} where \frac{\partial B}{\partial β_{c}} = 0

$p_{ic'}=\frac{B}{\exp\left(x_{i}^T\beta_{c}\right)+A}\text{ where }\frac{\partial B}{\partial \beta_c}=0$

$\beta_c$ $W_{ii,c}=n_{ic}p_{ic}(1-p_{ic})$ $(X^TWX)^{-1}X^TWY$

— ймовірністьіслогічна
джерело

W

$W$

k

$k$

β

$\beta$

p

$p$

X

$X$

p k

$pk$

p

$p$