Тестування різниці в AIC двох не вкладених моделей

Вся суть АПК чи будь-якого іншого інформаційного критерію полягає в тому, що чим менше, тим краще. Отже, якщо у мене є дві моделі M1: y = a0 + XA + e і M2: y = b0 + ZB + u, а якщо AIC першого (A1) менший, ніж у другого (A2), то M1 має краща відповідність з точки зору теорії інформації. Але чи є якісь орієнтири відсічення для різниці A1-A2? На скільки менше насправді менше? Іншими словами, чи є тест на (A1-A2), крім просто очного яблука?

Редагувати: Петро / Дмитро ... Дякую за відповідь. Власне, це випадок, коли моя суттєва експертиза суперечить моїй статистичній експертизі. По суті, проблема полягає не в виборі між двома моделями, а в перевірці, чи дві змінні, які, як я знаю, значною мірою еквівалентні, додають еквівалентні обсяги інформації (Насправді одна змінна в першій моделі та вектор у другій. Подумайте про випадок купа змінних проти їх індексу.). Як зазначив Дмитрій, найкращою ставкою є тест Кокса. Але чи існує спосіб перевірити різницю між інформаційним змістом двох моделей?

Є чи питання з цікавості, тобто ви не задоволені моєю відповіддю тут ? Якщо ні...

Подальше дослідження цього каверзне питання показав , що існують широко використовуваний правило емпіричне, що держави - дві моделі невиразні I C критерієм , якщо різниця | A I C 1 - A I C 2 | < 2 . Те саме ви читаєте у статті wikipedia на A I C (зауважте, що посилання можна натискати!). Просто для тих, хто не натискає посилання:$AIC$$|AIC_1 - AIC_2| < 2$$AIC$

оцінює відносну підтримку моделі. Щоб застосувати це на практиці, ми починаємо з набором моделейкандидатів, а потім знайти моделі відповідні I C значення. Далі, визначити мінімальну Я C значення. Вибір моделі може бути зроблений наступним чином.$AIC$$AIC$$AIC$

Як грубе правило, моделі, які мають свій в межах мінімуму, мають істотну підтримку і повинні враховуватись при прийнятті висновків. Моделі, які мають в межах приблизно від мінімального, мають значно меншу підтримку, тоді як моделі з вище мінімуму або по суті не підтримують і можуть бути опущені при подальшому розгляді або, принаймні, не пояснюють суттєвих структурних змін у дані.$AIC$A I C 4 - 7 A I C > $1–2$$AIC$$4–7$$AIC > 10$

Більш загальний підхід полягає в наступному ...

Позначимо значення моделей - кандидатів на , . Нехай позначає мінімум цих значень. Тоді можна інтерпретувати як відносну ймовірність того, що - модель мінімізує (очікувані оціночні) втрати інформації.A I C 1 A I C 2 , A I C 3 , … , A I C R A I C m i n e ( A I C m i n - A I C i ) / 2$AIC$$AIC1$$AIC2, AIC3, \ldots, AICR$$AICmin$$e^{(AICmin−AICi)/2}$$i$

Наприклад, припустимо, що у наборі кандидатів було три моделі зі значеннями , та . Тоді друга модель є разів більша, ніж перша модель, щоб мінімізувати втрати інформації, а третя модель рази настільки ж вірогідною, як перша модель мінімізації втрат інформації. У цьому випадку ми можемо опустити третю модель з подальшого розгляду та взяти середньозважене значення для перших двох моделей з вагами та відповідно. Далі статистичний висновок базуватиметься на зваженому мультимоделі.100 102 110 e ( 100 - 102 ) / 2 = 0,368 e ( 100 - 110 ) / 2 = 0,007 1 $AIC$$100$$102$$110$$e^{(100−102)/2} = 0.368$$e^{(100−110)/2} = 0.007$$1$$0.368$

Приємне пояснення та корисні пропозиції, на мій погляд. Просто не бійтеся читати те, що можна натискати!

Крім того , зауважте ще раз, що є менш кращим для масштабних наборів даних. На додаток до вам може бути корисно застосувати коригувану за версію критерію (ви можете використовувати цей код або використовувати формулу , де - кількість розрахункових параметрів). Правило великого пальця буде тим самим. В Я З Я С Я С з Я C C = я З + 2 р ( р + 1 $AIC$$BIC$$AIC$$AICc$R $AICc = AIC + \frac{2p(p+1)}{n-p-1}$$p$

Я думаю, що це може бути спроба отримати те, чого ти насправді не хочеш.

Вибір моделі - це не наука. За винятком рідкісних обставин, немає жодної ідеальної моделі чи навіть однієї "справжньої" моделі; рідко буває навіть одна "найкраща" модель. Обговорення AIC проти AICc проти BIC проти SBC і проти будь-якого не залишають мене зненацька. Я думаю, ідея полягає в тому, щоб отримати деякі ДОБРІ моделі. Потім ви вибираєте серед них на основі поєднання предметних знань та статистичних ідей. Якщо у вас немає значущого досвіду (рідко це трапляється; набагато рідше, ніж вважає більшість людей), тоді вибирайте найнижчий AIC (або AICc або будь-який інший). Але зазвичай у вас є певний досвід - інакше чому ви досліджуєте саме ці змінні?