Логістична регресія для даних розподілу Пуассона

11

З деяких записок машинного навчання, що розповідають про деякі дискримінаційні методи класифікації, зокрема логістичну регресію, де y - мітка класу (0 або 1), а x - дані, сказано, що:

якщо , і , то буде логістичним. $x|y = 0 \sim \mathrm{Poisson}(λ_0)$ $x|y = 1 \sim \mathrm{Poisson}(λ_1)$ $p(y|x)$

Чому це правда?

logistic poisson-distribution statistical-learning

— sambajetson
джерело

Відповіді:

16

$Y$ має два можливих значення для будь-якого заданого значення $X$ . Згідно з припущеннями,

Пр (Х = х | Y = 0) = досвід (- λ_{0}) \frac{λ_{0}^{х}}{х!}

$\Pr(X=x|Y=0) = \exp(-\lambda_0) \frac{\lambda_0^x}{x!}$

і

Пр (Х = х | Y = 1) = досвід (- λ_{1}) \frac{λ_{1}^{х}}{х!} .

$\Pr(X=x|Y=1) = \exp(-\lambda_1) \frac{\lambda_1^x}{x!}.$

Тому (це тривіальний випадок теореми Байєса) ймовірність того, що умовна на є відносною ймовірністю останньої, а саме $Y=1$ $X=x$

Пр (Y = 1 | Х = х) = \frac{досвід (- λ_{1}) \frac{λ_{1}^{х}}{х!}}{досвід (- λ_{1}) \frac{λ_{1}^{х}}{х!} + досвід (- λ_{0}) \frac{λ_{0}^{х}}{х!}} = \frac{1}{1 + досвід (β_{0} + β_{1} х)}

$\Pr(Y=1|X=x) = \frac{\exp(-\lambda_1) \frac{\lambda_1^x}{x!}}{\exp(-\lambda_1) \frac{\lambda_1^x}{x!} + \exp(-\lambda_0) \frac{\lambda_0^x}{x!}}= \frac{1}{1 + \exp(\beta_0 + \beta_1 x)}$

де

β_{0} = λ_{1} - λ_{0}

$\beta_0 = \lambda_1 - \lambda_0$

і

β_{1} = - журнал (λ_{1} / λ_{0}) .

$\beta_1 = -\log(\lambda_1/\lambda_0).$

Це дійсно стандартна модель логістичної регресії.

— дзижчати
джерело

Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.

Licensed under cc by-sa 3.0 with attribution required.