Чим відрізняється біноміальна регресія від логістичної регресії?

Я завжди розглядав логістичну регресію як просто особливий випадок біноміальної регресії, де функцією зв'язку є логістична функція (замість, скажімо, пробіт-функції).

Однак, якщо я прочитав відповіді на інше запитання , то, схоже, я може бути переплутаний, і між логістичною регресією та біноміальною регресією є логічна ланка.

Яка різниця?

regression logistic binomial

— рагетін
джерело

Логістична регресія - це біноміальна регресія з функцією "логістичного" зв'язку:

g (p) = \log (\frac{p}{1 - p}) = X β

$g(p)=\log\left(\frac{p}{1-p}\right)=X\beta$

Хоча я також думаю, що логістична регресія зазвичай застосовується до біноміальних пропорцій, а не до числа біномів.

— ймовірністьіслогічна
джерело

Що ви маєте на увазі під логістичною регресією, яка зазвичай застосовується до пропорцій, а не до підрахунків? Припустимо, я намагаюся передбачити, чи будуть люди відвідувати вечірку чи ні, і що для певної партії я знаю, що 9 людей відвідали, а 1 - ні, ви маєте на увазі, що логістична регресія сприймає це як один із навчальних прикладів (тобто, ця партія мала успіх 0,9), тоді як біноміальна регресія з посиланням сприйме це як 10 прикладів тренувань (9 успіхів, 1 провал)?

— raegtin

@raehtin - в обох випадках це буде

зразок / навчальний випадок, при цьому

відповідно. Різниця полягає у формі середньої та дисперсійної функцій. Для двочлена середнє значення

, канонічна ланка тепер

1

$1$

(n_{i}, f_{i}) = (10, 0.9)

$(n_i,f_i)=(10,0.9)$

(n_{i}, x_{i}) = (10, 9)

$(n_i,x_i)=(10,9)$

μ_{i} = n_{i} p_{i}

$\mu_i=n_ip_i$

(його також називають "природним параметром"), а функцією дисперсії є

\log (\frac{μ_{i}}{n_{i} - μ_{i}})

$\log\left(\frac{\mu_i}{n_i-\mu_i}\right)$

з параметром дисперсії

. Для логістики маємо середнє

, наведене вище посилання, дисперсійну функцію

та дисперсію, рівну

V (μ_{i}) = \frac{μ_{i} (n_{i} - μ_{i})}{n_{i}}

$V(\mu_i)=\frac{\mu_i(n_i-\mu_i)}{n_i}$

ϕ_{i} = 1

$\phi_i=1$

μ_{i} = p_{i}

$\mu_i=p_i$

V (μ_{i}) = μ_{i} (1 - μ_{i})

$V(\mu_i)=\mu_i(1-\mu_i)$

ϕ_{i} = \frac{1}{n_{i}}

$\phi_i=\frac{1}{n_i}$

— ймовірністьлогічний

За допомогою логістики

відокремлюється від середньої та дисперсійної функцій, тому її можна легше врахувати через зважування

n_{i}

$n_i$

— ймовірністьлогічний

Ах, зрозумів, я думаю, що бачу. Чи означає це, що вони дають рівноцінні результати (просто дійшли до іншого)?

— raegtin

@raegtin - я так думаю. Ваги GLM,

, в обох випадках рівні, і функція зв'язку створює однакове значення logit. Тому поки змінні X також однакові, то це повинно дати ті самі результати.

w_{i}^{2} = \frac{1}{ϕ_{i} V (μ_{i}) [g^{'} (μ_{i})]^{2}}

$w_{i}^{2}=\frac{1}{\phi_i V(\mu_i)[g'(\mu_i)]^{2}}$

— ймовірністьлогічний

$\mbox{var}(Y) = \hat{Y}(1-\hat{Y})$ $\hat{Y} = \mbox{logit}^{-1}(\mathbf{X}\hat{\beta})=1/(1-\exp{(\mathbf{X}\hat{\beta})})$ $[0,1]$

— АдамО
джерело