Логістична регресія - проблеми багатоколірності / підводні камені

У логістичній регресії, чи потрібно так сильно піклуватися про мультиколінеарність, як ви б в прямому регресії OLS?

Наприклад, з логістичною регресією, де існує мультиколінеарність, вам потрібно бути обережними (як у регресії OLS) з прийняттям висновку з коефіцієнтами бета-версії?

Для регресії OLS одним із "фіксів" до високої мультиколінеарності є регрес хребта, чи є щось подібне для логістичної регресії? Також випадання змінних або комбінування змінних.

Які підходи розумні для зменшення ефектів мультиколінеарності при логістичній регресії? Вони по суті такі ж, як і OLS?

(Примітка. Це не для розробленого експерименту)

Усі ті самі принципи, що стосуються мультиколінеарності, стосуються логістичної регресії, як і для OLS. Можна використовувати ту саму діагностику, що оцінює багатоколінність (наприклад, VIF, номер умови, допоміжні регресії.), А також ті ж методики зменшення розмірів (наприклад, комбінування змінних за допомогою аналізу основних компонентів).

Ця відповідь chl приведе вас до деяких ресурсів та пакетів R для встановлення пенізованих логістичних моделей (а також до хорошого обговорення цих типів санкціонованих процедур регресії). Але деякі ваші коментарі щодо "рішень" мультиколінеарності мене трохи не викликають сумнівів. Якщо ви дбаєте лише про оцінку співвідношень для змінних, які не є колінеарними, ці "рішення" можуть бути нормальними, але якщо ви зацікавлені в оцінці коефіцієнтів змінних, які є колінеарними, ці методи не вирішують вашої проблеми. Хоча проблема мультиколінеарності є технічною в тому, що матрицю змінних прогнозів неможливо перевернути, вона має логічний аналог у тому, що ваші передбачувачі не є незалежними, і їх ефекти не можуть бути однозначно визначені.