Коефіцієнт детермінації (

Я хочу повністю зрозуміти поняття описує величину варіації між змінними. Кожне веб-пояснення є дещо механічним і тупим. Я хочу «отримати» концепцію, а не просто механічно використовувати цифри.$r^2$

Напр .: Години, вивчені проти тестових балів

= .8$r$

= .64$r^2$

• Отже, що це означає?
• 64% варіативності тестових балів можна пояснити годинами?
• Звідки ми можемо це знати, просто квадратуючи?

Почніть з основної ідеї варіації. Ваша початкова модель - це сума відхилень у квадраті від середнього. Значення R ^ 2 - це частка тієї зміни, яка враховується за допомогою альтернативної моделі. Наприклад, R-квадрат розповідає про те, скільки змін у Y ви можете позбутися, підсумовуючи відстані квадрата від лінії регресії, а не середнє значення.

Я думаю, що це стає абсолютно зрозумілим, якщо ми подумаємо про просту проблему регресії. Розглянемо типовий розсіювач, де у вас є предиктор X по горизонтальній осі та відповідь Y по вертикальній осі.

Середнє значення - це горизонтальна лінія на ділянці, де Y є постійним. Загальна варіація Y - це сума різниць у квадраті між середнім значенням Y та кожною окремою точкою даних. Це відстань між середньою лінією та кожною окремою точкою у квадраті та додаванні.

Ви також можете обчислити інший показник змінності після того, як у вас з'явиться лінія регресії в моделі. Це різниця між кожною точкою Y та лінією регресії. Замість кожного (Y - середнього) квадрата ми отримуємо (Y - точка на лінії регресії) у квадраті.

Якщо лінія регресії є будь-якою, крім горизонтальної, ми будемо отримувати меншу загальну відстань, коли використовуємо цю пристосовану лінію регресії, а не середню - тобто є менш необяснені зміни. Співвідношення між поясненою додатковою варіацією та початковою варіацією - ваше R ^ 2. Частка оригінальної зміни у вашій відповіді пояснюється пристосуванням до цієї лінії регресії.

Ось декілька код R для графіку із середнім значенням, лінією регресії та сегментами від лінії регресії до кожної точки, щоб допомогти візуалізувати:

library(ggplot2)
data(faithful)

plotdata <- aggregate( eruptions ~ waiting , data = faithful, FUN = mean) 

linefit1 <- lm(eruptions ~ waiting, data = plotdata)

plotdata$expected <- predict(linefit1)
plotdata$sign <- residuals(linefit1) > 0

p <- ggplot(plotdata, aes(y=eruptions, x=waiting, xend=waiting, yend=expected) )  

p  + geom_point(shape = 1, size = 3) +
     geom_smooth(method=lm, se=FALSE) + 
     geom_segment(aes(y=eruptions, x=waiting, xend=waiting, yend=expected, colour = sign),  
                  data = plotdata) +
     theme(legend.position="none")  +
     geom_hline(yintercept = mean(plotdata$eruptions), size = 1)

Тут представлена ​​математична демонстрація взаємозв'язку між ними: кореляція Пірсона та регресія найменших квадратів .

Я не впевнений, чи є геометрична чи інша інтуїція, яка може бути запропонована крім математики, але якщо я можу придумати одну, я оновлю цю відповідь.

Оновлення: Геометрична інтуїція

$x$$y$$y$

$y = x\ \beta + \epsilon$

$y_1,y_2$$x_1,x_2$

alt text http://a.imageshack.us/img202/669/linearregression1.png

$\beta$$x\ \beta$$y$$\beta$$x$$\hat{\beta}$$\beta$$y$$\hat{y} = x\ \hat{\beta}$

$y = \hat{y} + \hat{\epsilon}$

$y$$\hat{y}$$\hat{\epsilon}$$\hat{\beta}$

$\beta$$x\ \beta$$\hat{\epsilon}$

$y$$y$$x$$y$$y_1^2+y_2^2$$y$$\hat{y}$$\hat{y}$

За теоремою Піфагора ми маємо:

$y^2 = \hat{y}^2 + \hat{\epsilon}^2$

$x$$\frac{\hat{y}^2}{y^2}$$cos(\theta) = \frac{\hat{y}}{y}$

Тому у нас є необхідні відносини:

$y$$x$

Сподіваюся, що це допомагає.

Регресія По очах аплет може бути корисно , якщо ви намагаєтеся розвинути деякі інтуїції.

Він дозволяє генерувати дані, а потім відгадати значення для R , яке потім можна порівняти з фактичним значенням.