Залишки відхилення Пірсона В. С. в логістичній регресії

Я знаю, що стандартизовані залишки Пірсона отримуються традиційним імовірнісним способом:

r_{i} = \frac{y_{i} - π_{i}}{\sqrt{π_{i} (1 - π_{i})}}

$r_i = \frac{y_i-\pi_i}{\sqrt{\pi_i(1-\pi_i)}}$

і залишки відхилення отримують більш статистичним способом (внесок кожної точки у ймовірність):

d_{i} = s_{i} \sqrt{- 2 [y_{i} \log \hat{π_{i}} + (1 - y_{i}) \log (1 - π_{i})]}

$d_i = s_i \sqrt{-2[y_i \log \hat{\pi_i} + (1 - y_i)\log(1-\pi_i)]}$

де = 1, якщо = 1 і = -1, якщо = 0. $s_i$ $y_i$ $s_i$ $y_i$

Чи можете ви пояснити мені інтуїтивно, як інтерпретувати формулу залишків відхилень?

Більше того, якщо я хочу вибрати один, який із них більше підходить і чому?

До речі, деякі посилання стверджують, що ми виводимо залишки відхилення на основі терміна

- \frac{1}{2} {r_{i}}^{2}

$-\frac{1}{2}{r_i}^2$

де згадується вище. $r_i$

— Джек Ши
джерело

Будь-які думки були б вдячні

— Джек Ши

Коли ви говорите "деякі посилання" ... які посилання, і як вони це роблять?

— Glen_b -Встановіть Моніку

Логістична регресія спрямована на те, щоб максимально використовувати функцію вірогідності журналу

$LL = \sum^k \ln(P_i) + \sum^r \ln(1-P_i)$

$P_i$ $\hat Y=1$ $k$ $Y=1$ $r$ $Y=0$

Цей вираз дорівнює

$LL = ({\sum^k d_i^2} + {\sum^r d_i^2})/-2$

тому що залишкове відхилення випадку визначається як:

$d_i = \begin{cases} \sqrt{-2\ln(P_i)} &\text{if } Y_i=1\\ -\sqrt{-2\ln(1-P_i)} &\text{if } Y_i=0\\ \end{cases}$

Таким чином, бінарна логістична регресія прагне безпосередньо мінімізувати суму залишків відхилення у квадраті. Саме залишки відхилення маються на увазі в алгоритмі регресії ML.

Статистична характеристика моделі Chi-sq є $2(LL_\text{full model} - LL_\text{reduced model})$ , де повна модель містить предиктори, а зменшена модель - ні.

— ttnphns
джерело