Коли випадати термін з регресійної моделі?

Чи може хтось порадити, якщо таке має сенс:

Я маю справу зі звичайною лінійною моделлю з 4-ма предикторами. Я замислююся над тим, чи відмовитись від найменш значущого терміна. Це -значення трохи більше 0,05. Я стверджував на користь відмови від цього шляхом: Помноження оцінки цього терміна на (наприклад) міжквартирний діапазон вибіркових даних для цієї змінної надає певного значення клінічному ефекту, який зберігає цей термін на загальну модель . Оскільки це число дуже низьке, приблизно дорівнює типовому внутрішньоденному діапазону значень, які змінна може приймати при вимірюванні її в клінічних умовах, я вважаю, що вона не є клінічно значущою і тому може бути відхилена, щоб дати більш парсимонічну модель, навіть хоч відкидання його трохи зменшує відрегульований R 2 .$p$$R^2$

Я ніколи не розумів бажання парші. Шукання парсизму руйнує всі аспекти статистичного висновку (зміщення коефіцієнтів регресії, стандартні помилки, довірчі інтервали, P-значення). Вагомою причиною збереження змінних є те, що це зберігає точність довірчих інтервалів та інших величин. Подумайте про це так: були розроблені лише два об'єктивні оцінки залишкової дисперсії у звичайній множинній регресії: (1) оцінка за попередньо заданою (великою) моделлю та (2) оцінка за зменшеною моделлю, що замінює узагальнені ступені свободи (GDF) для очевидних (зменшених) ступенів регресії свободи. GDF буде набагато ближче до кількості параметрів-кандидатів, ніж до числа кінцевих "значущих" параметрів.

Ось ще один спосіб подумати про це. Припустимо, ви робили ANOVA для порівняння 5 процедур, отримуючи 4 df F-тест. Потім ви чомусь переглядаєте парні відмінності між методами лікування за допомогою t-тестів і вирішили комбінувати або видаляти деякі методи лікування (це те саме, що робили поетапний відбір за допомогою P, AIC, BIC, Cp на 4 змінних манекенів). Отриманий F-тест з 1, 2 або 3 df матиме завищену помилку I типу. Оригінальний F-тест з 4 df містив ідеальне регулювання кратності.

Ці відповіді щодо вибору змінних припускають, що вартість спостереження змінних дорівнює 0.

І це неправда.

Хоча питання вибору змінних для даної моделі може включати або не може включати вибір, наслідки для майбутньої поведінки НЕ передбачають вибір.

Розглянемо проблему передбачення того, хто з коледжів буде найкращим в НФЛ. Ви розвідник. Ви повинні врахувати, які якості нинішніх спортсменів у НФЛ найбільш прогнозують їхній успіх. Ви вимірюєте 500 кількостей і починаєте завдання вибору кількостей, які знадобляться в майбутньому.

Що тобі слід робити? Ви повинні зберегти всі 500? Чи слід усунути якийсь (астрологічний знак, день тижня, народжений)?

Це важливе питання і не є академічним. Спостереження за даними є витратами, і структура економічної ефективності дозволяє припустити, що деякі змінні НЕ БУДЬТЕ спостерігатись у майбутньому, оскільки їх значення низьке.

Існують щонайменше дві інші можливі причини збереження змінної: 1) Це впливає на параметри для ІНШИХ змінних. 2) Той факт, що він малий, сам по собі клінічно цікавий

Щоб побачити близько 1, ви можете переглянути прогнозовані значення для кожної людини з моделі зі змінною та без неї. Я пропоную зробити розсип цих двох наборів значень. Якщо великих відмінностей немає, то це аргумент проти цієї причини

Для 2 подумайте, чому саме ви вказали цю змінну у списку можливих змінних. Чи заснована на теорії? Чи виявили інші дослідження великого ефекту?

Найпоширенішою порадою в ці дні є отримати АПК двох моделей і взяти одну з нижньою АПК. Отже, якщо ваша повна модель має AIC -20, а модель без найслабшого прогноктора має AIC> -20, то ви зберігаєте повну модель. Деякі можуть стверджувати, що якщо різницю <3, ви збережете простішу. Я вважаю за краще поради, які можна використовувати BIC для розриву "зв'язків", коли АПК знаходяться в межах 3 один від одного.

Якщо ви використовуєте R , то команду , щоб отримати АІК ... AIC.

У мене є підручник з моделювання тут з початку 90-х років, який передбачає, що ви кинете всі ваші прогнози, які не є істотними. Однак це насправді означає, що ви не залежите від складності, яку передбачувач додає або віднімає з моделі. Це також лише для ANOVA, де значення стосується пояснення змінності, а не величини нахилу в світлі того, що було пояснено іншими речами. Ці сучасні поради щодо використання AIC враховують ці фактори. Існують усі види причин, коли несуттєвий предиктор повинен бути включений, навіть якщо він не є суттєвим. Наприклад, можуть бути проблеми кореляції з іншими провісниками, тому що це може бути порівняно простий прогноз. Якщо ви хочете найпростіших порад, перейдіть з AIC і використовуйте BIC для розриву зв'язків і використовуйте різницю 3 як вікно рівності.

Для чого ви використовуєте цю модель? Чи важлива мета парситу?

Більш парсімоніальні моделі віддають перевагу в деяких ситуаціях, але я б не сказав, що парсистика сама по собі є доброю справою. Парсимоніальні моделі можна зрозуміти та спілкуватись простіше, а паршість може допомогти уберегтися від перенапруги, але часто такі проблеми не викликають серйозних проблем або їх можна вирішити іншим способом.

Підхід з протилежного напрямку, включаючи додатковий термін в рівняння регресії, має певні переваги навіть у ситуаціях, коли сам додатковий термін не представляє інтересу і не вдосконалює модель, що сильно підходить ... ви можете не думати, що це є важливою змінною, яку слід контролювати, але інші можуть. Звичайно, існують й інші дуже важливі суттєві причини для виключення змінної, наприклад, це може бути викликано результатом.

З вашого формулювання це звучить так, ніби ви схильні скинути останній прогноктор, оскільки його прогнозне значення низьке; суттєва зміна цього прогноктора не означатиме суттєвої зміни змінної відповіді. Якщо це так, то мені подобається цей критерій для включення / відмови прогноктора. Це більш обґрунтовано в практичній реальності, ніж може бути АПК або BIC, і більш зрозуміло вашій аудиторії для цього дослідження.