Чи повинен частковий додати до загального при множинній регресії?

Далі представлена ​​модель, створена з mtcarsнабору даних:

> ols(mpg~wt+am+qsec, mtcars)

Linear Regression Model

ols(formula = mpg ~ wt + am + qsec, data = mtcars)

                Model Likelihood     Discrimination    
                   Ratio Test           Indexes        
Obs       32    LR chi2     60.64    R2       0.850    
sigma 2.4588    d.f.            3    R2 adj   0.834    
d.f.      28    Pr(> chi2) 0.0000    g        6.456    

Residuals

    Min      1Q  Median      3Q     Max 
-3.4811 -1.5555 -0.7257  1.4110  4.6610 

          Coef    S.E.   t     Pr(>|t|)
Intercept  9.6178 6.9596  1.38 0.1779  
wt        -3.9165 0.7112 -5.51 <0.0001 
am         2.9358 1.4109  2.08 0.0467  
qsec       1.2259 0.2887  4.25 0.0002  

Модель здається гарною із загальним 0,85. Однак часткові значення видно на наступному графіку, не додають до цього значення. Вони складають приблизно 0,28.R $R^2$$R^2$

> plot(anova(mod), what='partial R2')

Чи існує якесь співвідношення між сумою всіх часткових та загальною ? Аналіз робиться з пакетом.R $R^2$$R^2$rms

Немає.

Один із способів зрозуміти частковий для даного предиктора - це те, що він дорівнює який ви отримаєте, якщо ви вперше регресуєте свою незалежну змінну на всіх інших предикторах , візьмете залишки та регресуєте ті, що залишилися передбачувачем.R $R^2$$R^2$

Отже, якщо, наприклад, всі предиктори ідеально однакові (колінеарні), можна мати гідний , але частковий для всіх предикторів буде рівно нульовим, оскільки будь-який окремий предиктор має нуль додаткової пояснювальної сили.R $R^2$$R^2$

З іншого боку, якщо всі предиктори разом пояснюють залежну змінну досконало, тобто , то частковий для кожного предиктора буде також , тому що все, що не пояснено всіма іншими предикторами, може бути ідеально пояснено рештою один.R 2$R^2=1$$R^2$$1$

Тож сума всіх часткових легко може бути нижче або вище загальної . Вони не повинні збігатися, навіть якщо всі прогнози є ортогональними. Частковий - трохи дивна міра.R 2 R $R^2$$R^2$$R^2$

Дивіться цю довгу нитку для більш детальної інформації: Важливість предикторів у множинній регресії: Часткова проти стандартизованих коефіцієнтів$R^2$ .