Чи має сенс використовувати логістичну регресію з двійковим результатом та прогноктором?

У мене є двійкова змінна результат {0,1} і змінна прогноза {0,1}. Мої думки полягають у тому, що не має сенсу займатися логістикою, якщо я не включаю інші змінні та не підраховую коефіцієнт шансів.

З одним двійковим предиктором, чи не обчислить вірогідність, достатня проти коефіцієнта шансів?

У цьому випадку ви можете згорнути свої дані до де S i j - кількість екземплярів для x = i і y = j з i , j ∈ { 0 , 1 } . Припустимо, загалом є n спостережень.

$$\begin{array}{c|cc} X \backslash Y & 0 & 1 \\ \hline 0 & S_{00} & S_{01} \\ 1 & S_{10} & S_{11} \end{array}$$ $S_{ij}$$x = i$$y =j$$i,j \in \{0,1\}$$n$

Якщо ми вписуємося модель (де г наша функція зв'язку) , ми знайдемо , що & beta ; 0 є логит пропорції успіхів при ї я = 0 і & beta ; 0 + β 1 являє собою логит пропорції успіхів при$p_i = g^{-1}(x_i^T \beta) = g^{-1}(\beta_0 + \beta_1 1_{x_i = 1})$$g$$\hat \beta_0$$x_i = 0$$\hat \beta_0 + \hat \beta_1$ . Іншими словами, β 0 = г ( S $x_i = 1$ і β 0+ β 1=г(S

$$\hat \beta_0 = g\left(\frac{S_{01}}{S_{00} + S_{01}}\right)$$ $$\hat \beta_0 + \hat \beta_1 = g\left(\frac{S_{11}}{S_{10} + S_{11}}\right).$$

Давайте перевіримо це R.

n <- 54
set.seed(123)
x <- rbinom(n, 1, .4)
y <- rbinom(n, 1, .6)

tbl <- table(x=x,y=y)

mod <- glm(y ~ x, family=binomial())

# all the same at 0.5757576
binomial()$linkinv( mod$coef[1])
mean(y[x == 0])
tbl[1,2] / sum(tbl[1,])

# all the same at 0.5714286
binomial()$linkinv( mod$coef[1] + mod$coef[2])
mean(y[x == 1])
tbl[2,2] / sum(tbl[2,])

Тож коефіцієнти логістичної регресії - це саме перетворення пропорцій, що виходять із таблиці.

Підсумок полягає в тому, що ми, безумовно, можемо проаналізувати цей набір даних за допомогою логістичної регресії, якщо у нас є дані, що надходять із серії випадкових змінних Бернуллі, але, виявляється, вони не відрізняються від прямого аналізу отриманої таблиці непередбачених ситуацій.

---

$Y_i | x_i \stackrel{\perp}{\sim} \text{Bern}(p_i)$$x_i$$p_i = g^{-1}\left( \beta_0 + \beta_1 x_i\right)$$x_i$$p_i$$p_0$$p_1$

$$\sum \limits_{i : x_i = 0} Y_i = S_{01} \sim \text{Bin} \left(n_0, p_0\right)$$ $$\sum \limits_{i : x_i = 1} Y_i = S_{11} \sim \text{Bin} \left(n_1, p_1\right).$$ $x_i$$n_0$$n_1$

$$S_{01} / n_0 = \frac{S_{01}}{S_{00} + S_{01}} \to_p p_0 \hspace{2mm} \text{ and } \hspace{2mm} S_{11} / n_1 = \frac{S_{11}}{S_{10} + S_{11}} \to_p p_1.$$

$Y_i | x_i = j \sim \text{Bern}(p_j)$$S_{j1} \sim \text{Bin}(n_j, p_j)$

Якщо у вас є більше, ніж один предиктор, і всі предиктори є бінарними змінними, ви можете помістити модель за допомогою Logic Regression [1] (зауважте, що "Logic" не "Logistic"). Це корисно, коли ви вважаєте, що ефекти взаємодії між вашими прогнозами є помітними. В R ( LogicRegпакет) є реалізація .

[1] Ruczinski, I., Kooperberg, C., & LeBlanc, M. (2003). Логічна регресія. Журнал обчислювальної та графічної статистики, 12 (3), 475-511.