Чи можливо, що AIC та BIC дають абсолютно різні вибірки?

Я виконую модель регресії Пуассона з 1 змінною відгуку та 6 коваріатами. Вибір моделі з використанням AIC призводить до моделі з усіма коваріатами, а також 6 термінами взаємодії. Однак BIC приводить до моделі, що має лише 2 коваріати та відсутні умови взаємодії. Чи можливо, що два критерії, які дуже схожі, дають абсолютно різні вибірки?

Це справді можливо. Як пояснено на https://methodology.psu.edu/AIC-vs-BIC , "BIC більш серйозно карає складність моделі. Єдиний спосіб, з яким вони не повинні погодитися, це коли AIC обирає більшу модель, ніж BIC".

Якщо ваша мета - визначити хорошу модель прогнозування, вам слід використовувати АПК. Якщо ваша мета - визначити хорошу пояснювальну модель, вам слід скористатися BIC. Роб Хайндман чудово узагальнив цю рекомендацію на
https://robjhyndman.com/hyndsight/to-explain-or-predict/ :

"AIC краще підходить для вибору моделі для прогнозування, оскільки він асимптотично еквівалентний перехресній валідації" один-один "в регресії або одношаговій перехресній валідації у часових рядах. З іншого боку, можна стверджувати, що BIC краще підходить для вибору моделі для пояснення, оскільки це послідовно ".

Рекомендація виходить із статті Галіта Шмулі «Пояснити чи передбачити?», Статистична наука, 25 (3), 289-310 ( https://projecteuclid.org/euclid.ss/1294167961 ).

Додаток:

Існує третій тип моделювання - описове моделювання, але я не знаю жодних посилань на те, який з AIC або BIC найкраще підходить для визначення оптимальної описової моделі. Я сподіваюся, що інші тут можуть зазивати зі своїми ідеями.

Коротка відповідь: так, це дуже можливо. Два застосовують різні штрафи, виходячи з кількості оцінених параметрів (2k для AIC проти ln (n) xk для BIC, де k - кількість оцінюваних параметрів, а n - розмір вибірки). Таким чином, якщо коефіцієнт приросту ймовірності від додавання параметра невеликий, BIC може вибирати різні моделі до AIC. Однак цей ефект залежить від розміру вибірки.