Проста інтерпретація лінійної регресії

Я провів просту лінійну регресію природного журналу з двох змінних, щоб визначити, чи співвідносяться вони. Мій вихід такий:

R^2 = 0.0893

slope = 0.851

p < 0.001

Я збентежений. Дивлячись на значення , я б сказав, що дві змінні не співвідносяться, оскільки це так близько до . Однак нахил лінії регресії майже дорівнює (незважаючи на те, що на графіку він виглядає майже горизонтально), а значення p вказує на те, що регресія є дуже значною.$R^2$$0$$1$

Чи означає це , що дві змінні мають високу кореляцію? Якщо так, що означає значення ?$R^2$

Додам, що статистика Дурбіна-Уотсона була протестована в моєму програмному забезпеченні, і не відкинула нульову гіпотезу (вона дорівнювала ). Я подумав, що це перевірено на незалежність між змінними. У цьому випадку я б очікував, що змінні будуть залежними, оскільки це вимірювання окремої птиці. Цю регресію я роблю як частину опублікованого методу визначення стану тіла людини, тому я припустив, що використовувати регресію таким чином має сенс. Однак, враховуючи ці результати, я думаю, що, можливо, для цих птахів цей метод не підходить. Чи здається це розумним висновком?2 $1.357$$2$$2$

Орієнтовна величина схилу сама по собі не говорить про силу відносин. Сила взаємозв'язку залежить від величини дисперсії помилок та діапазону прогноктора. Крім того, значна -значення не означає вам обов'язково наявність міцних відносин; -значення просто тестування чи нахил точно 0. При досить великого розміру вибірки, навіть невеликі відхилення від цієї гіпотези (наприклад , ті , які не практичною значення) дасть значну -значення.p $p$$p$$p$

З трьох представлених вами кількостей - коефіцієнт визначення , найбільше вказує на силу зв'язку. У вашому випадку R 2 = .089 означає, що 8,9 % варіації змінної вашої відповіді можна пояснити лінійною залежністю з предиктором. Що є "великим" R 2, це залежить від дисципліни. Наприклад, в соціальних науках R 2 = .2 може бути "великим", але в контрольованих умовах, таких як заводські умови, R 2 > $R^2$$R^{2} = .089$$8.9\%$$R^2$$R^2 = .2$$R^2 > .9$може знадобитися сказати, що є "міцні" стосунки. У більшості ситуацій - це дуже малий R 2 , тому ваш висновок про слабку лінійну залежність, ймовірно, розумний.$.089$$R^2$

говорить вам , скільки зміна залежної змінної пояснюється моделлю. Однак можна інтерпретувати R 2 , а також співвідношення між початковими значеннями залежної змінної та встановленими значеннями. Точну інтерпретацію та виведення коефіцієнта визначення R 2 можна знайти тут .$R^{2}$$R^{2}$$R^{2}$

Доказ того, що коефіцієнт детермінації є еквівалентом коефіцієнта кореляції Пірсона Squared між що спостерігаються значеннями і підігнані значення у я можна знайти тут .$y_{i}$$\hat{y}_{i}$

або коефіцієнт детермінації вказує на силу вашої моделі в пояснення залежною змінною. У вашому випадку R 2 = 0,089 . Це те, що ваша модель здатна пояснити 8,9% варіації залежної від вас змінної. Або, коефіцієнт кореляції між у I і ваші підібраними значеннями у я є 0,089. Що є хорошим R 2 - це залежить від дисципліни.$R^{2}$$R^{2}=0.089$$y_{i}$$\hat{y}_{i}$$R^{2}$

Нарешті, до останньої частини вашого питання. Ви не можете отримати тест Дурбіна-Уотсона, щоб сказати щось про співвідношення між залежними та незалежними змінними. Тести Дербіна-Уотсона на послідовну кореляцію. Він проводиться, щоб перевірити, чи взаємопов'язані ваші помилки.

Значення вказує, скільки варіацій даних пояснюється пристосованою моделлю.$R^2$

Низьке значення у вашому дослідженні свідчить про те, що ваші дані, ймовірно, широко поширюються навколо лінії регресії, а це означає, що модель регресії може пояснити (дуже мало) 8,9% варіацій даних.$R^2$

Ви перевірили, чи підходить лінійна модель? Погляньте на розподіл ваших залишків, оскільки ви можете використовувати це для оцінки відповідності моделі вашим даним. В ідеалі ваші залишки не повинні виявляти співвідношення з вашими значеннями , і якщо це станеться, ви можете подумати про те, щоб змінити свої змінні відповідним чином або підходити до більш відповідної моделі.$x$

$R^2$$y$$x$$x$$y$$R^2$

Коротше кажучи, нахил не є хорошим показником «підгонки» моделі, якщо ви не впевнені, що шкали залежних і незалежних змінних повинні бути рівними одна одній.

Мені подобаються відповіді, які вже були надані, але дозвольте доповнити їх іншим (і тим більше мовою).

Припустимо, ми зібрали купу спостережень від 1000 випадкових людей, які намагаються з'ясувати, чи пов’язані удари в обличчя з головними болями:

$\varepsilon$

$\beta_1$$R^2$

Графічно це, мабуть, схоже на крутий схил, але з дуже великою варіацією навколо цього схилу.

@Macro отримав чудову відповідь.

Орієнтовна величина схилу сама по собі не говорить про силу відносин. Сила взаємозв'язку залежить від розміру дисперсії помилок та діапазону прогноктора. Крім того, значне значення pp не означає, що ви маєте міцні стосунки; значення pp просто перевіряє, чи нахил рівно 0.

Я просто хочу додати числовий приклад, щоб показати, як виглядає опис випадку OP.

• $R^2$
• Значний за р-значенням

• $1.0$

  set.seed(6)
  y=c(runif(100)*50,runif(100)*50+10)
  x=c(rep(1,100),rep(10,100))
  plot(x,y)
  
  fit=lm(y~x)
  summary(fit)
  abline(fit)
  
  
  > summary(lm(y~x))
  
  Call:
  lm(formula = y ~ x)
  
  Residuals:
     Min     1Q Median     3Q    Max 
  -24.68 -13.46  -0.87  14.21  25.14 
  
  Coefficients:
              Estimate Std. Error t value Pr(>|t|)    
  (Intercept)  25.6575     1.7107  14.998  < 2e-16 ***
  x             0.9164     0.2407   3.807 0.000188 ***
  ---
  Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
  
  Residual standard error: 15.32 on 198 degrees of freedom
  Multiple R-squared:  0.0682,    Adjusted R-squared:  0.06349 
  F-statistic: 14.49 on 1 and 198 DF,  p-value: 0.0001877