Чому існує значення R ^ 2 (і що його визначає), коли lm не має різниці у прогнозованому значенні?

Розглянемо наступний код R:

example <- function(n) {
    X <- 1:n
    Y <- rep(1,n)
    return(lm(Y~X))
}
#(2.13.0, i386-pc-mingw32)
summary(example(7))    #R^2 = .1963
summary(example(62))   #R^2 = .4529
summary(example(4540)) #R^2 = .7832
summary(example(104))) #R^2 = 0
#I did a search for n 6:10000, the result for R^2 is NaN for
#n = 2, 4, 16, 64, 256, 1024, 2085 (not a typo), 4096, 6175 (not a typo), and 8340 (not a typo)

Перегляд http://svn.r-project.org/R/trunk/src/appl/dqrls.f ) не допоміг мені зрозуміти, що відбувається, бо я не знаю Fortran. В іншому запитанні було дано відповідь, що помилки допуску машини з плаваючою комою винні в коефіцієнтах X, близьких до, але не зовсім 0.

більше, коли значення дляближче до 0. Але ...$R^2$coef(example(n))["X"]

1. Чому взагалі існує значення ? $R^2$
2. Що (конкретно) це визначає?
3. Чому, здавалося б, впорядковане прогресування NaNрезультатів?
4. Чому порушення цієї прогресії?
5. Що з цього - "очікувана" поведінка?

Як каже Бен Болкер, відповідь на це питання можна знайти в коді для summary.lm().

Ось заголовок:

function (object, correlation = FALSE, symbolic.cor = FALSE, 
    ...) 
{

Тож давайте x <- 1:1000; y <- rep(1,1000); z <- lm(y ~ x)подивимось на цей трохи видозмінений витяг:

    p <- z$rank
    rdf <- z$df.residual
    Qr <- stats:::qr.lm(z)
    n <- NROW(Qr$qr)
    r <- z$residuals
    f <- z$fitted.values
    w <- z$weights
    if (is.null(w)) {
        mss <- sum((f - mean(f))^2)
        rss <- sum(r^2)
    }
    ans <- z[c("call", "terms")]
    if (p != attr(z$terms, "intercept")) {
        df.int <- 1L
        ans$r.squared <- mss/(mss + rss)
        ans$adj.r.squared <- 1 - (1 - ans$r.squared) * ((n - 
            df.int)/rdf)
    }

Зверніть увагу, що ans $ r.squared становить ...$0.4998923$

Щоб відповісти на запитання запитанням: що ми з цього беремо? :)

mssrss$R^2$mssrss0/0NaN2^(1:k)

Оновлення 1: Ось приємна нитка з R-довідки, яка стосується деяких причин того, що попередження, що переповнюються, не розглядаються в Р.

Окрім цього, у цьому питанні та питанні є низка цікавих постів та корисних посилань щодо переливу, арифметики вищої точності тощо.

Мені цікаво твоя мотивація на запитання. Я не можу придумати практичну причину, коли ця поведінка має значення; інтелектуальна цікавість - це альтернативна (і ІМО набагато розумніша) причина. Я думаю, що вам не потрібно розуміти FORTRAN, щоб відповісти на це питання, але я думаю, вам потрібно знати про розкладання QR та його використання в лінійній регресії. Якщо ви ставитесь dqrlsдо чорного поля, що обчислює розклад QR і повертає різну інформацію про нього, то, можливо, ви зможете простежити кроки ... або просто перейти до summary.lmта простежити, щоб побачити, як обчислюється R ^ 2. Зокрема:

mss <- if (attr(z$terms, "intercept")) 
          sum((f - mean(f))^2)
       else sum(f^2)
rss <- sum(r^2)
## ... stuff ...
ans$r.squared <- mss/(mss + rss)

Тоді вам слід повернутися назад lm.fitі побачити, що встановлені значення обчислюються як r1 <- y - z$residuals(тобто як відповідь мінус залишки). Тепер ви можете розібратися, що визначає значення залишків і чи значення мінус його середнє рівно нульове чи ні, і звідти з'ясувати результати обчислень ...

$R^2$$R^2 = 1-\frac{\textrm{SS}_{err}}{\textrm{SS}_{tot}}$