Інтерпретація номерів AIC та BIC

23

Я шукаю приклади, як інтерпретувати оцінки AIC (інформаційний критерій Akaike) та BIC (байєсівський інформаційний критерій).

Чи можна негативну різницю між BIC інтерпретувати як задні шанси однієї моделі над іншою? Як я можу це поставити словами? Наприклад, BIC = -2 може означати, що шанси на кращу модель порівняно з іншою моделлю приблизно ? $e^2= 7.4$

Будь-яка основна порада оцінена цим неофітом.

interpretation aic bic

— Хуан
джерело

Погляньте на розділ 2. Розділ 2.6 - який частково доступний для книг Google - може, зокрема, допомогти вам. books.google.se/… (Посилання: Вибір моделі та багатомодельний висновок Кеннета П. Бернхема та Девіда Р. Андерсона. Спрингер Верлаг)

— boscovich

6

для моделі запріорноїмоделі безлічі може бути recaled до , де краща модель безлічі моделі матиме . Ми можемо використовувати значення для оцінки сили доказів ( ) для всіх моделей набору моделей, де: $AIC$ $i$ $\mathsf{\Delta}_i=AIC_i-minAIC$ $\mathsf{\Delta}=0$ $\mathsf{\Delta}_i$ $w_i$ Це часто називають "вагою доказів" для моделіурахуваннямнаборуапріорнихмоделей. Іззбільшенням,зменшується, припускаючи, що модельє менш правдоподібною. Цізначенняможна інтерпретувати як ймовірність того, що модельє найкращою моделлю з урахуваннямнаборуапріорнихмоделей. Можна також розрахувати відносну ймовірність моделіпорівняно з моделлюяк

ш_{i} = \frac{е^{(- 0,5 Δ_{i})}}{\sum_{r = 1}^{R} е^{(- 0,5 Δ_{i})}} .

$w_i = \frac{e^{(-0.5\mathsf{\Delta}_i)}}{\sum_{r=1}^Re^{(-0.5\mathsf{\Delta}_i)}}.$

i

$i$

Δ_{i}

$\mathsf{\Delta}_i$

w_{i}

$w_i$

i

$i$

w_{i}

$w_i$

i

$i$

i

$i$

j

$j$

. Наприклад, якщо

і

то можна сказати, що модель

в 8 разів частіше, ніж модель

.

w_{i} / w_{j}

$w_i/w_j$

w_{i} = 0.8

$w_i = 0.8$

w_{j} = 0.1

$w_j = 0.1$

i

$i$

j

$j$

Зауважимо, коли модель 1 - найкраща модель (найменша ). Бернхем і Андерсон (2002) називають це співвідношенням доказів. Ця таблиця показує, як змінюється коефіцієнт доказів щодо найкращої моделі. $w_1/w_2 = e^{0.5\Delta_2}$ $AIC$

Information Loss (Delta)    Evidence Ratio
0                           1.0
2                           2.7
4                           7.4
8                           54.6
10                          148.4
12                          403.4
15                          1808.0

Довідково

Бернхем, КП та Андерсон. 2002. Вибір моделі та мультимодельний висновок: практичний інформаційно-теоретичний підхід. Друге видання. Спрингер, Нью-Йорк, США.

Anderson, DR 2008. Модель, заснована на висновках з наук про життя: буквар на докази. Спрингер, Нью-Йорк, США.

— RioRaider
джерело

r

$r$

R

$R$

У наборі моделей є моделі R.

— RioRaider

3

Я не думаю, що існує така проста інтерпретація AIC або BIC. Вони обидві величини, які приймають вірогідність журналу і застосовують до нього штраф за кількість оцінюваних параметрів. Конкретні покарання для AIC пояснюються Akaike у своїх роботах, починаючи з 1974 року. BIC був обраний Гедеоном Шварцом у своїй роботі 1978 року і мотивований байесівським аргументом.

— Майкл Р. Черник
джерело

2

Однак покарання може трактуватися як попереднє перевагу моделей певного розміру. Якщо вам трапиться прийняти це попереднє (яке має деякі теоретико-теоретичні обгрунтування), то ви можете обчислити коефіцієнт заднього шансу безпосередньо із значень ІС. Також @RioRaider згадує ваги Akaike, які дають вам ймовірність того, що дана модель є найкращою моделлю з набору з точки зору розбіжності KL. ( див. - див. стор. 800).

— Девід Дж. Харріс

1

Ви, ймовірно, використовуєте BIC в результаті наближення до коефіцієнта Байєса. Тому ви не вважаєте (більш-менш) попередній розподіл. BIC на етапі вибору моделі корисний при порівнянні моделей. Щоб повністю зрозуміти BIC, фактор Байєса я настійно рекомендую прочитати статтю (розд. 4): http://www.stat.washington.edu/raftery/Research/PDF/socmeth1995.pdf, щоб доповнити знання за допомогою: http: // www .stat.washington.edu / raftery / Дослідження / PDF / kass1995.pdf

— Роберт
джерело