Вказівки AIC при виборі моделі

Я, як правило, використовую BIC, оскільки я розумію, що він оцінює парність сильніше, ніж AIC. Однак я вирішив зараз використовувати більш комплексний підхід і хотів би також використовувати AIC. Я знаю, що Raftery (1995) представив приємні вказівки щодо відмінностей BIC: 0-2 є слабким, 2-4 - позитивним доказом того, що одна модель є кращою тощо.

Я дивився в підручники, і вони здаються дивними на AIC (схоже, що більша різниця слабка, а менша різниця в AIC означає, що одна модель краща). Це суперечить тому, що я знаю, що мене вчили. Я розумію, що ви хочете знизити АПК.

Хтось знає, чи поширюються вказівки Рафті на АПК, або де я можу навести деякі рекомендації щодо «міцності доказів» для однієї моделі проти іншої?

І так, обмеження не є великими (я їх вважаю дратівливими), але вони корисні при порівнянні різних видів доказів.

AIC та BIC дотримуються однакової інтерпретації з точки зору порівняння моделі. Тобто, чим більша різниця або в AIC, або в BIC свідчить про більш сильні докази однієї моделі над іншою (чим нижча, тим краще). Просто AIC не карає кількість параметрів так сильно, як BIC. Існує також корекція AIC (AICc), яка використовується для менших розмірів вибірки. Більше інформації про порівняння AIC / BIC можна знайти тут .

Ви говорите про дві різні речі, і ви їх змішуєте. У першому випадку у вас є дві моделі (1 і 2), і ви отримали їх AIC як і A I C 2 . Якщо ви хочете порівняти ці дві моделі на основі їх AIC, тоді модель з нижчим AIC була б кращою, тобто якщо A I C 1 < A I $AIC_1$$AIC_2$ то ви підбираєте модель 1 і навпаки. У 2му випадку,вас є набір моделейкандидатівтаких як моделі ( 1 , 2 , . . . , П $AIC_1< AIC_2$
$(1, 2, ..., n)$і для кожної моделі ви обчислюєте різниці AIC як , де A I I C m i n - мінімум AIC серед всі моделі. Тепер модель з Δ i > 10 не підтримує і може бути відхилена від подальшого розгляду, як пояснено у виборі моделі та мультимодельному висновку: практичний інформаційно-теоретичний підхід$\Delta_i= AIC_i- AIC_{min}$ - AIC для i- ї моделі, а A - Кеннет П. Бернхем, Девід Р. Андерсон, стор. 71. Отже, чим більше Δ i , тим слабшою буде ваша модель. Тут найкраща модель має Δ $AIC_i$$i$$AIC_{min}$$\Delta_i >10$$\Delta_i$$\Delta_i\equiv\Delta_{min}\equiv0.$

Я зазвичай ніколи не використовую AIC або BIC об'єктивно для опису адекватного підходу до моделі. Я б використовувати ці мікросхеми для порівняння відносного прилягання двох моделей прогнозування. Що стосується того, чи стосується AIC "2" або "4", це абсолютно контекстуально. Якщо ви хочете зрозуміти, як «гарна» модель підходить, ви завжди можете (слід) використовувати моделювання. Ваше розуміння АПК правильно. AIC отримує позитивний внесок від параметрів та негативний внесок від ймовірності. Те, що ви намагаєтеся зробити, це збільшити ймовірність, не завантажуючи свою модель з купою параметрів. Отже, моя думка, що лопнула міхур, полягає в тому, що відключення для АПК не є корисним поза контекстом.

Ось пов'язане питання, коли-це-це-доцільно-вибирати-моделі-шляхом мінімізації -а-aic? . Це дає вам загальне уявлення про те, що люди, які не впізнавані в академічному світі, вважають за доцільне написати та які посилання залишити в них як важливі.

Як правило, значення мають різниці між вірогідністю чи АПК, а не їх абсолютними значеннями. Ви пропустили важливе слово "різниця" у своєму "BIC: 0-2 є слабким" у питанні - перевірте таблицю Рафтерді 6 - і дивно, що ніхто не хоче цього виправляти.

Мене самого вчили шукати МАЙС (мінімальну оцінку AIC - як називав Akaike). І що? Ось що одна відома людина написала невідомій дамі:

Dear Miss -- 
I have read about sixteen pages of your manuscript ... I suffered exactly the same 
treatment at the hands of my teachers who disliked me for my independence and passed 
over me when they wanted assistants ... keep your manuscript for your sons and
daughters, in order that they may derive consolation from it and not give a damn for
what their teachers tell them or think of them. ... There is too much education
altogether.

Мої вчителі ніколи не чули про документи з титулами на кшталт "Тест, чи значно відрізняються два АПК", і я навіть не можу згадати, як вони коли-небудь називали АПК статистикою, яка мала б розподіл вибірки та інші властивості. Мене вчили, що AIC - це критерій, який потрібно мінімізувати, якщо можливо, в деяких автоматичних формах.

Ще одне важливе питання, яке, на мою думку, було висловлене тут кілька років тому IrishStat (з пам’яті, тому вибачтесь, якщо я помиляюсь, коли я не зміг знайти цю відповідь) - це те, що AIC, BIC та інші критерії були отримані для різних цілей і за різних умов (припущень), тому ви часто не можете використовувати їх взаємозамінно, якщо, скажімо, ваша мета, прогнозуйте. Ви не можете просто віддати перевагу чомусь невідповідному.

Мої джерела показують, що я використав цитату до Бернхема та Андерсона (2002, стор. 70), щоб написати, що дельта (відмінності AIC) у межах 0-2 має суттєву підтримку; дельта в межах 4-7, значно менша підтримка, а дельта більше 10, по суті, немає підтримки. Також я писав, що "автори також обговорили умови, за яких ці вказівки можуть бути корисними". Книга цитується у відповіді Стата, яку я визнав найбільш актуальною.

Щодо інформаційних критеріїв, ось що говорить SAS :

"Зауважте, що такі інформаційні критерії, як Akaike (AIC), Schwarz's (SC, BIC) та QIC, можуть використовуватися для порівняння конкуруючих нестепових моделей, але не забезпечують тесту порівняння. Отже, вони не можуть вказати, чи є одна модель суттєво краще ніж інший. GENMOD, LOGISTIC, GLIMMIX, MIXED та інші процедури забезпечують заходи щодо інформаційних критеріїв ".

Існує дві порівняльні процедури тестування моделі: а) тест Вуонга і б) непараметричний тест Кларка. Докладніше див. У цьому документі .