Зв'язок між

Скажімо, у мене є два одновимірних масиви, і . Кожен містить 100 точок даних. - фактичні дані, а - прогноз моделі. У цьому випадку значення було б: Тим часом це було б дорівнює квадратному значенню коефіцієнта кореляції, Тепер, якщо я поміняю два місця: - це фактичні дані, а - прогноз моделі. З рівняння , оскільки коефіцієнт кореляції не важливо, який приходить першим,$a_1$$a_2$$a_1$$a_2$$R^2$

Моє запитання: як вони можуть суперечити один одному?

Редагувати :

1. Мені було цікаво, чи будуть стосунки у рівнянні. (2) все ще стоять, якщо це не проста лінійна регресія, тобто відношення між IV і DV не є лінійним (може бути експоненціальним / журналом)?

2. Чи залишиться це співвідношення, якщо сума помилок передбачення не дорівнює нулю?

Це правда, що зміниться ... але ви забули той факт, що також зміниться сума регресії квадратів. Отже, давайте розглянемо просту модель регресії і позначимо коефіцієнт кореляції як , де я використовував підіндекс для підкресліть той факт, що - незалежна змінна, а - залежна змінна. Очевидно, що не змінюється, якщо поміняти на . Ми можемо легко показати, що , де - сума регресії квадратів і r 2 x y = S 2 x $SS_{tot}$ xyxyr2 x y xySSRxy=Syy(R2 x y )SSRxySyyxyR2 x y =SSRx$r_{xy}^2=\dfrac{S_{xy}^2}{S_{xx}S_{yy}}$$xy$$x$$y$$r_{xy}^2$$x$$y$$SSR_{xy}=S_{yy}(R_{xy}^2)$$SSR_{xy}$$S_{yy}$- загальна сума квадратів, де незалежна, а - залежна змінна. Тому: де є відповідна залишкова сума квадратів, де незалежна і - залежна змінна. Зауважте, що в цьому випадку у нас є з (Див., Наприклад, урівень (34) - ( 41) тут .) Тому:Ясно вище рівняння симетричне відносно$x$$y$SSExyxySSExy=b2 x y Sxxb=Sx

Один із способів інтерпретації коефіцієнта визначення - це розглядати його як Коефіцієнт кореляції Пірсона Пірсона між спостережуваними значеннями та встановленими значеннями .$R^{2}$$y_{i}$$\hat{y}_{i}$

Повний доказ того, як отримати коефіцієнт визначення R2 від коефіцієнта кореляції Пірсона Пірсона між спостережуваними значеннями yi та встановленими значеннями y ^ i, можна знайти за наступним посиланням:

http://economictheoryblog.wordpress.com/2014/11/05/proof/

На моїх очах це має бути досить легко зрозуміти, просто слідкуйте за окремими кроками. Я думаю, дивлячись на це, важливо зрозуміти, як реально працює зв'язок між двома ключовими фігурами.

У випадку простої лінійної регресії з одним тільки прогноктором . Але при множинній лінійній регресії з більш ніж одним предиктором концепція кореляції між предикторами та реакцією не поширюється автоматично. Формула отримує: $R^2 = r^2 = Corr(x,y)^2$

Квадрат кореляції між відповіддю та встановленою лінійною моделлю.

@Stat дав детальну відповідь. У своїй короткій відповіді я коротко дещо по-іншому покажу, що таке схожість та різниця між та .$r$$r^2$

$r$ являє собою стандартизований коефіцієнт регресії бета з з допомогою або на і , як таке, воно є мірою (взаємної) величини ефекту . Що найбільш чітко видно, коли змінні дихотомічні. Тоді , наприклад, означає, що 30% випадків змінять своє значення на протилежне в одній змінній, коли інша змінна змінює своє значення на протилежне.$Y$$X$$X$$Y$$r$$.30$

$r^2$ , з іншого боку, - вираження частки співперемінності у загальній мінливості: . Зауважте, що це добуток двох пропорцій, або, точніше сказати, двох співвідношень (співвідношення може бути> 1). Якщо вільно означає, що будь-яка пропорція чи коефіцієнт є квазіімовірністю або схильністю, то виражає "спільну ймовірність (схильність)". Іншим і, як вірним виразом, для спільного добутку двох пропорцій (або співвідношень) буде їх геометричне середнє значення , що дуже .$r^2 = (\frac {cov}{\sigma_x \sigma_y})^2 = \frac {|cov|} {\sigma_x^2} \frac {|cov|} {\sigma_y^2}$$r^2$$\sqrt{prop*prop}$$r$

(Два співвідношення мультиплікативний, а НЕ адитивний, щоб підкреслити думку , що вони співпрацюють і не можуть компенсувати один одного, в їх спільній роботі. Вони повинні бути мультиплікативний , оскільки величина залежить від обох величин і і, відповідно, необхідно розділити два рази один раз, щоб перетворити себе на належну "пропорцію спільної дисперсії". Але , "перехресна дисперсія", має однакові одиниці вимірювання з обома та , "самовідмінності", а не з$cov$$\sigma_x^2$$\sigma_y^2$$cov$$cov$$\sigma_x^2$$\sigma_y^2$$\sigma_x \sigma_y$, "гібридна дисперсія"; тому , а не , є більш адекватним як "частка спільної дисперсії".)$r^2$$r$

Таким чином, ви бачите , що сенс в і як міру кількості асоціації різні (обидва значення дійсні), але всі ці коефіцієнти жодним чином НЕ суперечать один одному. І обидва ці ж передбачити , буде ви або .$r$$r^2$$Y\text~X$$X\text~Y$

Я думаю, ти можеш помилишся. Якщо , я припускаю, що у вас є двовимірна модель: один DV, один IV. Я не думаю, що зміниться, якщо ви поміняєте їх, або якщо ви заміните IV на прогнози DV, які базуються на IV. Ось код для демонстрації в R:$R^2=r^2$$R^2$

x=rnorm(1000); y=rnorm(1000)              # store random data
summary(lm(y~x))                          # fit a linear regression model (a)
summary(lm(x~y))                          # swap variables and fit the opposite model (b)
z=lm(y~x)$fitted.values; summary(lm(y~z)) # substitute predictions for IV in model (a)

Якщо ви не працюєте з двовимірною моделлю, ваш вибір DV вплине на ..., якщо всі ваші змінні однаково співвідносяться, я думаю, але це не є великим винятком. Якщо всі змінні мають однакові сили кореляції і також поділяють однакові частини дисперсії DV (наприклад, [або, можливо, "тобто"], якщо деякі змінні є абсолютно однаковими), ви можете просто звести це до біваріантної моделі, не втрачаючи будь-яку інформацію. Ви робите це чи ні, все одно не зміниться.$R^2$$R^2$

У всіх інших випадках я можу придумати більш ніж дві змінні, де - коефіцієнт визначення, а - коефіцієнт двовимірного кореляції будь-якого виду (необов'язково, Пірсона; наприклад, можливо також a Spearman's ).R 2 r $R^2\ne r^2$$R^2$$r$$\rho$