Діагностичні графіки для регресії підрахунку

Які діагностичні діаграми (і, можливо, формальні тести) ви вважаєте найбільш інформативними для регресій, де результат є змінною?

Мене особливо цікавлять моделі Пуассона та негативні біноміальні моделі, а також нульові надуті та перешкоди для кожної з них. Більшість джерел, які я знайшов, просто побудують залишки проти встановлених значень без обговорення того, як повинні виглядати ці сюжети.

Мудрість та посилання дуже цінували. Зворотна історія про те, чому я це запитую, якщо це актуально, - це інше моє запитання .

Пов'язані дискусії:

• Інтерпретація залишкових діагностичних діаграм для моделей GLM?
• Припущення узагальнених лінійних моделей
• ГЛМ - діагностика та яка сім'я

Ось що мені зазвичай подобається робити (для ілюстрації я використовую наддисперсні і не дуже легко модельовані дані про квочки днів учнів, відсутніх у школі MASS):

1. Перевірте та графічте вихідні дані підрахунку , побудувавши спостережувані частоти та встановлені частоти (див. Розділ 2 у Дружньому ), який підтримується vcdпакетом Rу великих частинах. Наприклад, з goodfitі a rootogram:

   library(MASS)
   library(vcd)
   data(quine) 
   fit <- goodfit(quine$Days) 
   summary(fit) 
   rootogram(fit)
   

   або з графіками Орда, які допомагають визначити, яка модель даних підрахунку лежить в основі (наприклад, тут нахил є позитивним і перехоплення позитивним, що говорить про негативний біноміальний розподіл):

   Ord_plot(quine$Days)

   або з сюжетами "XXXXXXness", де XXXXX - це розподіл за вибором, скажімо про сюжет Пуассонесса (який говорить проти Пуассона, спробуйте також type="nbinom"):

   distplot(quine$Days, type="poisson")

2. Перевірте звичайні показники корисності придатності (такі як статистика ймовірності відносно нульової моделі чи подібних):

   mod1 <- glm(Days~Age+Sex, data=quine, family="poisson")
   summary(mod1)
   anova(mod1, test="Chisq")
   

3. Перевірте наявність надмірної / меншої дисперсії, ознайомившись з residual deviance/dfофіційною статистикою тесту (наприклад, див. Цю відповідь ). Тут ми маємо явно перевищення:

   library(AER)
   deviance(mod1)/mod1$df.residual
   dispersiontest(mod1)
   

4. Перевірте наявність впливових та важельних точок , наприклад, із упаковкою influencePlotв carупаковці. Звичайно, тут багато моментів дуже впливають, тому що Пуассон - це погана модель:

   library(car)
   influencePlot(mod1)
   

5. Перевірте нульову інфляцію , встановивши модель даних про підрахунок та її аналог з нульовим надуванням / перешкодою та порівняйте їх (як правило, з AIC). Тут нульова завищена модель підходила б краще, ніж проста Пуассона (знову ж, мабуть, через перевищення):

   library(pscl)
   mod2 <- zeroinfl(Days~Age+Sex, data=quine, dist="poisson")
   AIC(mod1, mod2)
   

6. Накресліть залишки (необроблені, відхилені або масштабовані) на осі y порівняно з прогнозованими значеннями (log) (або лінійним предиктором) на осі x. Тут ми бачимо кілька дуже великих залишків і істотне відхилення залишків відхилення від норми (виступаючи проти Пуассона; Редагувати: @ Відповідь Флоріана Гартіга говорить про те, що нормальності цих залишків не слід очікувати, тому це не є переконливою підказкою):

   res <- residuals(mod1, type="deviance")
   plot(log(predict(mod1)), res)
   abline(h=0, lty=2)
   qqnorm(res)
   qqline(res)
   

7. Якщо цікавить, побудуйте половину нормальної діаграми ймовірності залишків, побудувавши впорядковані абсолютні залишки проти очікуваних нормальних значень Аткінсона (1981) . Особливістю буде моделювати довідкову лінію та конверт із змодельованими / завантаженими довірчими інтервалами (не показано, однак):

   library(faraway)
   halfnorm(residuals(mod1))
   

8. Діагностичні графіки для лінійних моделей журналів для даних лічильників (див. Глави 7.2 та 7.7 ​​в книзі Дружнього). Сюжет передбачив порівняно зі спостережуваними значеннями, можливо, з деякою інтервальною оцінкою (я робив саме для вікових груп - тут ми знову бачимо, що ми досить далеко за нашими оцінками через перевищення, можливо, у групі F3. Рожеві точки є точкове прогнозування одна стандартна помилка):$\pm$

   plot(Days~Age, data=quine) 
   prs  <- predict(mod1, type="response", se.fit=TRUE)
   pris <- data.frame("pest"=prs[[1]], "lwr"=prs[[1]]-prs[[2]], "upr"=prs[[1]]+prs[[2]])
   points(pris$pest ~ quine$Age, col="red")
   points(pris$lwr  ~ quine$Age, col="pink", pch=19)
   points(pris$upr  ~ quine$Age, col="pink", pch=19)
   

Це повинно дати вам багато корисної інформації про ваш аналіз і більшість кроків роботи для всіх стандартних розподілів даних підрахунку (наприклад, Пуассон, Негативний Біном, COM Поассон, Закони про владу).

Щодо підходу до використання стандартних діагностичних діаграм, але хочу знати, як вони мають виглядати, мені подобається документ:

 Buja, A., Cook, D. Hofmann, H., Lawrence, M. Lee, E.-K., Swayne,
 D.F and Wickham, H. (2009) Statistical Inference for exploratory
 data analysis and model diagnostics Phil. Trans. R. Soc. A 2009
 367, 4361-4383 doi: 10.1098/rsta.2009.0120

Один із згаданих там підходів полягає у створенні декількох модельованих наборів даних, де припущення, що цікавлять, є правдивими та створення діагностичних діаграм для цих модельованих наборів даних, а також створення діагностичної схеми для реальних даних. розміщувати всі ці сюжети одночасно на екрані (випадковим чином розміщуючи той на основі реальних даних). Тепер у вас є візуальна довідка про те, як повинні виглядати сюжети, і якщо припущення стосуються реальних даних, то цей графік повинен виглядати так само, як і інші (якщо ви не можете сказати, які є реальні дані, то припущення, що тестуються, ймовірно, закриті достатньо для істини), але якщо реальний графік даних виглядає явно відмінним від іншого, то це означає, що принаймні одне з припущень не виконується. vis.testФункція в пакеті TeachingDemos для R допомагає реалізувати це як випробування.

Це давнє запитання, але я вважав, що було б корисно додати, що мій пакет DHARMa R (доступний у CRAN, див. Тут ) тепер надає стандартизовані залишки для GLM та GLMM, засновані на імітаційному підході, подібному до запропонованого @GregSnow .

З опису пакета:

Пакет DHARMa використовує підхід на основі моделювання для створення легко інтерпретованих масштабованих залишків із встановлених узагальнених лінійних змішаних моделей. В даний час підтримуються всі класи 'merMod' з 'lme4' ('lmerMod', 'glmerMod'), 'glm' (включаючи 'negbin' від 'MASS', але виключаючи квазірозподіл) та 'lm' модельні класи. Альтернативно, також можуть бути оброблені моделювання, створені ззовні, наприклад, задні передбачувальні симуляції з програмного забезпечення Bayesian, таких як "JAGS", "STAN" або "BUGS". Отримані залишки стандартизовані до значень від 0 до 1 і можуть інтерпретуватися так само інтуїтивно, як залишки від лінійної регресії. У пакеті також передбачено ряд сюжетних і тестових функцій для типової проблеми неправильного визначення,

@Momo - ви можете оновити свою рекомендацію 6, це вводить в оману. Нормальність залишків відхилень взагалі не очікується під Пуассоном , як пояснено у віньетці DHARMa або тут ; і залишки відхилень відхилення (або будь-які інші стандартні залишки), які відрізняються від прямої лінії в графіці qqnorm, взагалі, взагалі не викликають занепокоєння . Пакет DHARMa пропонує графік qq, який є надійним для діагностики відхилень від Пуассона або інших сімейств GLM. Я створив приклад, який демонструє проблему із залишками відхилень тут .

У glm.diag.plotsпакеті функція, яка викликається boot, генерує діагностичні графіки для ГЛМ. Що це робить:

Створює графік залишків відхилення ножового відхилення від лінійного предиктора, нормальний показник графіків залишків стандартизованого відхилення, графік приблизної статистики Кука щодо важеля / (1-важіль) та графік випадку статистики Кука.