VIF, індекс стану та власні значення

Наразі я оцінюю багатоколірність у своїх наборах даних.

Які порогові значення VIF та індекс стану нижче / вище говорять про проблему?

VIF: Я чув, що VIF - це проблема.$\geq 10$

Після видалення двох проблемних змінних, VIF становить для кожної змінної. Чи потребують змінних більше лікування чи цей VIF здається нормальним?$\leq 3.96$

Індекс стану: я чув, що індекс стану (CI) 30 або більше є проблемою. Моя найвища ІС - 16,66. Це проблема?

Інші питання:

• Чи є інші дози / донти, які потрібно врахувати?
• Чи є ще якісь речі, які мені потрібно пам’ятати?

Проблема мультиколінеарності добре вивчена у фактично більшості економетричних підручників. Більше того, є добра стаття у Вікіпедії, яка фактично резюмує більшість ключових питань.

$X^TX$

1. великі зміни в оцінках параметрів під час виконання регресії кочення або оцінок на менших підпроборах даних
2. $t$$F$
3. $R^2$
4. Індекс умови є альтернативою VIF, у вашому випадку ні VIF, ні CI не показують, що проблема не залишається, тому ви можете бути статистично задоволені цим результатом, але ...

певно, теоретично, оскільки може трапитися (і зазвичай це так), що вам потрібно, щоб усі змінні були присутні в моделі. Виключення відповідних змінних (проблема опущеної змінної) все одно зробить упереджені та непослідовні оцінки параметрів. З іншого боку, вас можуть змусити включати всі змінні фокусу просто тому, що ваш аналіз заснований на ньому. У підході до вибору даних, хоча ви більш технічні в пошуку найкращого підходу.

Тож пам’ятайте про альтернативи (якими я б користувався сам):

1. отримати більше точок даних (нагадаємо, що вимоги VIF менші для більшого набору даних, а пояснювальні змінні, якщо вони повільно змінюються, можуть змінюватись для деяких вирішальних моментів часу або перерізу)
2. пошук латентних факторів за допомогою основних компонентів (останні є ортогональними комбінаціями, тому не будують багатоколінійною побудовою, більше включають усі пояснювальні змінні)
3. ridge-регресія (вона вводить невеликі зміщення в оцінки параметрів, але робить їх високостійкими)

Деякі інші хитрощі є у статті, що зазначається у вікі, зазначеній вище.

Я вважаю, що Белселі сказав, що ІС старше 10 років свідчить про можливу помірну проблему, тоді як понад 30 - більш серйозну.

Крім того, слід переглянути динаміку, поділену наборами змінних у високих показниках стану. Існує дискусія (чи я востаннє читав цю літературу) щодо того, чи була колінеарність, яка стосувалась однієї змінної та перехоплення, проблематичною чи ні, і чи центрирування змінної, що ображає, позбулася проблеми, чи просто перенесла її в інше місце.