Експонентний коефіцієнт логістичної регресії відрізняється від коефіцієнта шансів

Як я розумію, показник бета-експоненції від логістичної регресії є коефіцієнтом шансів цієї змінної для залежної змінної, що цікавить. Однак значення не відповідає розрахованому вручну коефіцієнту шансів. Моя модель передбачає затримку (міру недоїдання), використовуючи, серед інших показників, страхування.

// Odds ratio from LR, being done in stata
logit stunting insurance age ... etc. 
or_insurance = exp(beta_value_insurance)

// Odds ratio, manually calculated
odds_stunted_insured = num_stunted_ins/num_not_stunted_ins
odds_stunted_unins = num_stunted_unins/num_not_stunted_unins
odds_ratio = odds_stunted_ins/odds_stunted_unins

У чому концептуальна причина цих цінностей відрізняється? Контроль за іншими факторами регресії? Просто хочу вміти пояснити невідповідність.

— мікрофон
джерело

Чи додаєте ви додаткові прогнози до моделі логістичної регресії? Коефіцієнт шансів, розрахований вручну, буде відповідати лише коефіцієнту шансів, який ви вийдете з логістичної регресії, якщо ви не включите інших прогнозів.

— Макрос

Це я зрозумів, але хотів підтвердження. Це тому, що в результаті регресу облік зміни в інших прогнозах?

— Майк

Так, @mike Якщо припустити, що модель вказана правильно, ви можете інтерпретувати її як коефіцієнт шансів, коли всі інші прогнози всі виправлені.

— Макрос

@Macro: чи не проти повторити коментар як відповідь?

— jrennie

Відповіді:

Якщо ви тільки вкладаєте цього самотнього прогноктора в модель, тоді коефіцієнт шансів між предиктором і відповіддю буде точно рівний експоненційному коефіцієнту регресії . Я не думаю, що виведення цього результату присутнє на сайті, тому я скористаюся цією можливістю, щоб надати його.

Розглянемо бінарний результат та одинарний бінарний предиктор : $Y$ $X$

\begin{array}{ccc} Y = 1 & Y = 0 \\ Х = 1 & p_{11} & p_{10} \\ Х = 0 & p_{01} & p_{00} \end{array}

$\begin{array}{c|cc} \phantom{} & Y = 1 & Y = 0 \\ \hline X=1 & p_{11} & p_{10} \\ X=0 & p_{01} & p_{00} \\ \end{array}$

Тоді одним із способів обчислити коефіцієнт шансів між та є $X_i$ $Y_i$

О R = \frac{p_{11} p_{00}}{p_{01} p_{10}}

${\rm OR} = \frac{ p_{11} p_{00} }{p_{01} p_{10}}$

$p_{ij} = P(Y = i | X = j) \cdot P(X = j)$ $X$ $Y|X$

О R = \frac{П (Y = 1 | Х = 1)}{П (Y = 0 | Х = 1)} \cdot \frac{П (Y = 0 | Х = 0)}{П (Y = 1 | Х = 0)}

${\rm OR} = \frac{ P(Y = 1| X = 1) }{P(Y = 0 | X = 1)} \cdot \frac{ P(Y = 0 | X = 0) }{ P(Y = 1 | X = 0)}$

При логістичній регресії ви моделюєте ці ймовірності безпосередньо:

журнал (\frac{П (Y_{i} = 1 | Х_{i})}{П (Y_{i} = 0 | Х_{i})}) = β_{0} + β_{1} Х_{i}

$\log \left( \frac{ P(Y_i = 1|X_i) }{ P(Y_i = 0|X_i) } \right) = \beta_0 + \beta_1 X_i$

Отже ми можемо обчислити ці умовні ймовірності безпосередньо з моделі. Перше співвідношення в виразі для вище: ${\rm OR}$

\frac{П (Y_{i} = 1 | Х_{i} = 1)}{П (Y_{i} = 0 | Х_{i} = 1)} = \frac{(\frac{1}{1 + е^{- (β_{0} + β_{1})}})}{(\frac{е^{- (β_{0} + β_{1})}}{1 + е^{- (β_{0} + β_{1})}})} = \frac{1}{е^{- (β_{0} + β_{1})}} = е^{(β_{0} + β_{1})}

$\frac{ P(Y_i = 1| X_i = 1) }{P(Y_i = 0 | X_i = 1)} = \frac{ \left( \frac{1}{1 + e^{-(\beta_0+\beta_1)}} \right) } {\left( \frac{e^{-(\beta_0+\beta_1)}}{1 + e^{-(\beta_0+\beta_1)}}\right)} = \frac{1}{e^{-(\beta_0+\beta_1)}} = e^{(\beta_0+\beta_1)}$

а друге:

\frac{П (Y_{i} = 0 | Х_{i} = 0)}{П (Y_{i} = 1 | Х_{i} = 0)} = \frac{(\frac{е^{- β_{0}}}{1 + е^{- β_{0}}})}{(\frac{1}{1 + е^{- β_{0}}})} = е^{- β_{0}}

$\frac{ P(Y_i = 0| X_i = 0) }{P(Y_i = 1 | X_i = 0)} = \frac{ \left( \frac{e^{-\beta_0}}{1 + e^{-\beta_0}} \right) } { \left( \frac{1}{1 + e^{-\beta_0}} \right) } = e^{-\beta_0}$

${\rm OR} = e^{(\beta_0+\beta_1)} \cdot e^{-\beta_0} = e^{\beta_1}$

$Z_1, ..., Z_p$

\frac{П (Y = 1 | Х = 1, Z_{1}, . . ., Z_{p})}{П (Y = 0 | Х = 1, Z_{1}, . . ., Z_{p})} \cdot \frac{П (Y = 0 | Х = 0, Z_{1}, . . ., Z_{p})}{П (Y = 1 | Х = 0, Z_{1}, . . ., Z_{p})}

$\frac{ P(Y = 1| X = 1, Z_1, ..., Z_p) }{P(Y = 0 | X = 1, Z_1, ..., Z_p)} \cdot \frac{ P(Y = 0 | X = 0, Z_1, ..., Z_p) }{ P(Y = 1 | X = 0, Z_1, ..., Z_p)}$

тому коефіцієнт шансів залежить від значень інших предикторів у моделі та, як правило, не рівний

\frac{П (Y = 1 | Х = 1)}{П (Y = 0 | Х = 1)} \cdot \frac{П (Y = 0 | Х = 0)}{П (Y = 1 | Х = 0)}

$\frac{ P(Y = 1| X = 1) }{P(Y = 0 | X = 1)} \cdot \frac{ P(Y = 0 | X = 0) }{ P(Y = 1 | X = 0)}$

Тож не дивно, що ви спостерігаєте невідповідність коефіцієнта експоненції та спостережуваного коефіцієнта шансів.

$\beta$

— Макрос
джерело

Вау, дякую, що знайшли час, щоб написати таке повне пояснення.

— Майк

@Macro Я виявив, що "значення p менше ніж 0,05" і "95% ДІ не включає 1" не відповідають послідовності логістичної регресії (я використовував SAS). Чи пов’язане це явище з вашим поясненням?

— користувач67275

$\exp(\beta)$

$\mu$ у вашій моделі, але також є проблеми, якщо справжня залежність змінюється в різних рівнях іншого коваріату, але термін взаємодії, наприклад, не включений. логістичної регресійної моделі, ми можемо задати питання, коли будуть залежати коефіцієнти шансів на основі моделі та граничні коефіцієнти, і яким слід віддати перевагу, коли вони роблять?

$0/1$ $r\ne0$ $\exp(\beta)$

Якщо граничні АБО та АБО на основі моделі відрізняються, слід використовувати / інтерпретувати версію на основі моделі. Причина полягає в тому, що гранична АБО не враховує заплутаність серед ваших коваріатів, тоді як модель це робить. Це явище пов'язане з парадоксом Сімпсона , який ви можете захотіти прочитати про (SEP також має хороший вхід , є обговорення резюме тут: Basic-simpson's-парадокс , і ви можете знайти на анкетному Сімпсон парадокс тега). Для простоти та практичності ви можете просто використовувати лише модель на основі АБО, оскільки вона буде або явно кращою, або однаковою.

— gung - Відновити Моніку
джерело