Обчислення AIC "від руки" в R

Я спробував обчислити AIC лінійної регресії в R, але без використання AICфункції, як це:

lm_mtcars <- lm(mpg ~ drat, mtcars)

nrow(mtcars)*(log((sum(lm_mtcars$residuals^2)/nrow(mtcars))))+(length(lm_mtcars$coefficients)*2)
[1] 97.98786

Однак AICдає інше значення:

AIC(lm_mtcars)
[1] 190.7999

Може хтось скаже мені, що я роблю не так?

r aic information-theory

— лучано
джерело

(ще не перевіряючи своєї відповіді): Вам не обов’язково робити щось неправильне, оскільки ймовірність насправді визначається лише до мультиплікативної константи; двоє людей можуть обчислити ймовірність журналу і отримати різні числа (але відмінності в імовірності журналу однакові).

— Glen_b -Встановіть Моніку

Гадаю, відповідь Hong Oois пов'язана з цим питанням. Формула, яку використовує функція, AICтака -2*as.numeric(logLik(lm_mtcars))+2*(length(lm_mtcars$coefficients)+1).

— COOLSerdash

luciano: "+1" у цій формулі @COOLSerdash вказує на те, що виникає з терміна параметра параметра дисперсії. Зауважте також, що ця функція logLikговорить про те, що для lmмоделей вона включає "всі константи" ... тож log(2*pi)там десь буде

— Glen_b -Встановити Моніку

@Glen_b: Чому кажуть, що ймовірність визначена лише до мультиплікативної константи? Зрештою, порівнюючи вкладені моделі з різних сімейства розповсюдження (наприклад, з AIC або з тестом Кокса), потрібно пам’ятати про цю константу.

— Scortchi

@Scortchi визначення не моє! Вам доведеться взятися за це з RAFisher. Думаю, це було саме з самого початку (1921). Що це все ще визначено таким чином, принаймні у безперервному випадку, дивіться тут , наприклад, у реченні, що починається "Точніше".

— Glen_b -Встановіть Моніку

logLiklmlog(2*pi) $\sigma^2$

$\cal L(\hat\mu,\hat\sigma)=(\frac{1}{\sqrt{2\pi s_n^2}})^n\exp({-\frac{1}{2}\sum_i (e_i^2/s_n^2)})$

$-2\log \cal{L} = n\log(2\pi)+n\log{s_n^2}+\sum_i (e_i^2/s_n^2)$

$= n[\log(2\pi)+\log{s_n^2}+1]$

$\text{AIC} = 2p -2\log \cal{L}$

$\sigma^2$ )

Це означає, що ви отримуєте їх відповідь:

nrow(mtcars)*(log(2*pi)+1+log((sum(lm_mtcars$residuals^2)/nrow(mtcars))))
       +((length(lm_mtcars$coefficients)+1)*2)

— Glen_b -Встановити Моніку
джерело

s^{2}

$s^2$

n

$n$

n - p

$n-p$

- 2 \log L (\hat{θ}) + 2 p

$-2\log\mathcal{L}(\hat\theta)+2p$

θ

$\theta$

\hat{θ}

$\hat\theta$

n

$n$

{\hat{σ}}^{2}

$\hat{\sigma}^2$

σ^{2}

$\sigma^2$

— Glen_b -Встановити Моніку

- 2 \log L = n \log (2 π) + n \log s_{n} + \sum_{i} (e_{i}^{2} / s_{n}^{2})

$-2\log \cal{L} = n\log(2\pi)+n\log{s_n}+\sum_i (e_i^2/s_n^2)$

\sqrt{2 π s_{n}^{2}}

$\sqrt{2\pi s^2_n}$

AIC $2k -2 \log L$ $L$ $k$ $n \log \frac{S_{\mathrm{r}}}{n} + 2(k-1)$ $S_{\mathrm{r}}$ $n$

— Скорчі - Відновлення Моніки
джерело