Питання про те, як нормалізувати коефіцієнт регресії

Не впевнений, чи нормалізувати це правильне слово, яке тут вживають, але я постараюся зробити все можливе, щоб проілюструвати те, що я намагаюся запитати. Тут використаний оцінювач - найменше квадратів.

Припустимо, у вас , ви можете зосереджувати його навколо середнього значення де і , так що більше не впливає на оцінку .$y=\beta_0+\beta_1x_1$$y=\beta_0'+\beta_1x_1'$$\beta_0'=\beta_0+\beta_1\bar x_1$$x_1'=x-\bar x$$\beta_0'$$\beta_1$

Під цим я маю на увазі у y = \ beta_1x_1 ' еквівалентний \ hat \ beta_1 в y = \ beta_0 + \ beta_1x_1 . Ми зменшили рівняння для легшого обчислення найменшого квадрата.$\hat\beta_1$β 1у=β0+β1х$y=\beta_1x_1'$$\hat\beta_1$$y=\beta_0+\beta_1x_1$

Як ви застосовуєте цей метод взагалі? Тепер у мене є модель $y=\beta_1e^{x_1t}+\beta_2e^{x_2t}$ , я намагаюся зменшити її до $y=\beta_1x'$ .

Хоча я не можу справедливо поставитись до цього питання - для цього знадобиться невелика монографія - це може бути корисним для переформулювання деяких ключових ідей.

Питання

Почнемо з перестановки питання та використання однозначної термінології. Ці дані складаються зі списку упорядкованих пар . Відомі константи α 1 і α 2 визначають значення x 1 , i = exp ( α 1 t i ) і x 2 , i = exp ( α 2 t i ) . Поставимо модель, в якій$(t_i, y_i)$ $\alpha_1$$\alpha_2$$x_{1,i} = \exp(\alpha_1 t_i)$$x_{2,i} = \exp(\alpha_2 t_i)$

для констант та β 2, що підлягають оцінюванню, ε i є випадковими, і - у будь-якому разі, - у хорошому наближенні - незалежними та мають спільну дисперсію (оцінка якої також представляє інтерес).$\beta_1$$\beta_2$$\varepsilon_i$

Фон: лінійне "відповідність"

Mosteller і Tukey називають змінні = ( x 1 , 1 , x 1 , 2 , ... ) і x 2 як "відповідники". Вони будуть використовуватися для "узгодження" значень y = ( y 1 , y 2 , ... ) певним чином, що я проілюструю. Більш загально, нехай y і x є будь-якими двома векторами в одному і тому ж евклідовому векторному просторі, при цьому y грає роль "цілі" і $x_1$$(x_{1,1}, x_{1,2}, \ldots)$$x_2$$y = (y_1, y_2, \ldots)$$y$$x$$y$$x$та "матчера". Ми плануємо систематично змінювати коефіцієнт , щоб наблизити y до кратного λ x . Найкраще наближення виходить, коли λ x максимально близький до y . Рівно, довжина квадрата y - λ x мінімізована.$\lambda$$y$$\lambda x$$\lambda x$$y$$y - \lambda x$

Один із способів візуалізувати цей процес узгодження - це зробити розсіювач і y, на якому намальований графік x → λ x . Вертикальні відстані між точками розсіювання і цим графіком є ​​складовими залишкового вектора y - λ x ; сума їх квадратів повинна бути зроблена якомога меншою. До постійної пропорційності ці квадрати - це площі кіл, центровані в точках ( x i , y i ) з радіусами, рівними залишкам: ми хочемо мінімізувати суму площ усіх цих кіл.$x$$y$$x \to \lambda x$ $y - \lambda x$$(x_i, y_i)$

Ось приклад, що показує оптимальне значення на середній панелі:$\lambda$

Точки в розсипці сині; графік - червона лінія. Ця ілюстрація підкреслює, що червона лінія обмежена для проходження через початок ( 0 , 0 ) : це дуже особливий випадок підгонки ліній.$x \to \lambda x$$(0,0)$

Множинна регресія може бути отримана шляхом послідовного зіставлення

Повертаючись до налаштування питання, у нас є одна мета і два matchers х 1 і х 2 . Шукаємо числа b 1 і b 2, для яких y максимально наближено b 1 x 1 + b 2 x 2 , знову ж таки в сенсі найменшої відстані. Довільно починаючи з x 1 , Mosteller & Tukey співпадають з іншими змінними x 2 та y до x $y$$x_1$$x_2$$b_1$$b_2$$y$$b_1 x_1 + b_2 x_2$$x_1$$x_2$$y$$x_1$. Запишіть залишки для цих збігів як і y ⋅ 1 відповідно: ⋅ 1 означає, що x 1 було виведено із змінної.$x_{2\cdot 1}$$y_{\cdot 1}$$_{\cdot 1}$$x_1$

Ми можемо писати

Прийнявши відмова від ї 2 та у , ми переходимо до сполучати цільові залишки у ⋅ 1 до слічітель залишків х 2 ⋅ 1 . Кінцеві залишки y ⋅ 12 . Алгебраїчно ми писали$x_1$$x_2$$y$$y_{\cdot 1}$$x_{2\cdot 1}$$y_{\cdot 12}$

This shows that the $\lambda_3$ in the last step is the coefficient of $x_2$ in a matching of $x_1$ and $x_2$ to $y$.

We could just as well have proceeded by first taking $x_2$ out of $x_1$ and $y$, producing $x_{1\cdot 2}$ and $y_{\cdot 2}$, and then taking $x_{1\cdot 2}$ out of $y_{\cdot 2}$, yielding a different set of residuals $y_{\cdot 21}$. This time, the coefficient of $x_1$ found in the last step--let's call it $\mu_3$--is the coefficient of $x_1$ in a matching of $x_1$ and $x_2$ to $y$.

Finally, for comparison, we might run a multiple (ordinary least squares regression) of $y$ against $x_1$ and $x_2$. Let those residuals be $y_{\cdot lm}$. It turns out that the coefficients in this multiple regression are precisely the coefficients $\mu_3$ and $\lambda_3$ found previously and that all three sets of residuals, $y_{\cdot 12}$, $y_{\cdot 21}$, and $y_{\cdot lm}$, are identical.

Depicting the process

None of this is new: it's all in the text. I would like to offer a pictorial analysis, using a scatterplot matrix of everything we have obtained so far.

Because these data are simulated, we have the luxury of showing the underlying "true" values of $y$ on the last row and column: these are the values $\beta_1 x_1 + \beta_2 x_2$ without the error added in.

The scatterplots below the diagonal have been decorated with the graphs of the matchers, exactly as in the first figure. Graphs with zero slopes are drawn in red: these indicate situations where the matcher gives us nothing new; the residuals are the same as the target. Also, for reference, the origin (wherever it appears within a plot) is shown as an open red circle: recall that all possible matching lines have to pass through this point.

Much can be learned about regression through studying this plot. Some of the highlights are:

• The matching of $x_2$ to $x_1$ (row 2, column 1) is poor. This is a good thing: it indicates that $x_1$ and $x_2$ are providing very different information; using both together will likely be a much better fit to $y$ than using either one alone.

• Once a variable has been taken out of a target, it does no good to try to take that variable out again: the best matching line will be zero. See the scatterplots for $x_{2\cdot 1}$ versus $x_1$ or $y_{\cdot 1}$ versus $x_1$, for instance.

• $x_1$$x_2$, $x_{1\cdot 2}$, and $x_{2\cdot 1}$ have all been taken out of $y_{\cdot lm}$.

• Multiple regression of $y$ against $x_1$ and $x_2$ can be achieved first by computing $y_{\cdot 1}$ and $x_{2\cdot 1}$. These scatterplots appear at (row, column) = $(8,1)$ and $(2,1)$, respectively. With these residuals in hand, we look at their scatterplot at $(4,3)$. These three one-variable regressions do the trick. As Mosteller & Tukey explain, the standard errors of the coefficients can be obtained almost as easily from these regressions, too--but that's not the topic of this question, so I will stop here.

Code

These data were (reproducibly) created in R with a simulation. The analyses, checks, and plots were also produced with R. This is the code.

#
# Simulate the data.
#
set.seed(17)
t.var <- 1:50                                    # The "times" t[i]
x <- exp(t.var %o% c(x1=-0.1, x2=0.025) )        # The two "matchers" x[1,] and x[2,]
beta <- c(5, -1)                                 # The (unknown) coefficients
sigma <- 1/2                                     # Standard deviation of the errors
error <- sigma * rnorm(length(t.var))            # Simulated errors
y <- (y.true <- as.vector(x %*% beta)) + error   # True and simulated y values
data <- data.frame(t.var, x, y, y.true)

par(col="Black", bty="o", lty=0, pch=1)
pairs(data)                                      # Get a close look at the data
#
# Take out the various matchers.
#
take.out <- function(y, x) {fit <- lm(y ~ x - 1); resid(fit)}
data <- transform(transform(data, 
  x2.1 = take.out(x2, x1),
  y.1 = take.out(y, x1),
  x1.2 = take.out(x1, x2),
  y.2 = take.out(y, x2)
), 
  y.21 = take.out(y.2, x1.2),
  y.12 = take.out(y.1, x2.1)
)
data$y.lm <- resid(lm(y ~ x - 1))               # Multiple regression for comparison
#
# Analysis.
#
# Reorder the dataframe (for presentation):
data <- data[c(1:3, 5:12, 4)]

# Confirm that the three ways to obtain the fit are the same:
pairs(subset(data, select=c(y.12, y.21, y.lm)))

# Explore what happened:
panel.lm <- function (x, y, col=par("col"), bg=NA, pch=par("pch"),
   cex=1, col.smooth="red",  ...) {
  box(col="Gray", bty="o")
  ok <- is.finite(x) & is.finite(y)
  if (any(ok))  {
    b <- coef(lm(y[ok] ~ x[ok] - 1))
    col0 <- ifelse(abs(b) < 10^-8, "Red", "Blue")
    lwd0 <- ifelse(abs(b) < 10^-8, 3, 2)
    abline(c(0, b), col=col0, lwd=lwd0)
  }
  points(x, y, pch = pch, col="Black", bg = bg, cex = cex)    
  points(matrix(c(0,0), nrow=1), col="Red", pch=1)
}
panel.hist <- function(x, ...) {
  usr <- par("usr"); on.exit(par(usr))
  par(usr = c(usr[1:2], 0, 1.5) )
  h <- hist(x, plot = FALSE)
  breaks <- h$breaks; nB <- length(breaks)
  y <- h$counts; y <- y/max(y)
  rect(breaks[-nB], 0, breaks[-1], y,  ...)
}
par(lty=1, pch=19, col="Gray")
pairs(subset(data, select=c(-t.var, -y.12, -y.21)), col="Gray", cex=0.8, 
   lower.panel=panel.lm, diag.panel=panel.hist)

# Additional interesting plots:
par(col="Black", pch=1)
#pairs(subset(data, select=c(-t.var, -x1.2, -y.2, -y.21)))
#pairs(subset(data, select=c(-t.var, -x1, -x2)))
#pairs(subset(data, select=c(x2.1, y.1, y.12)))

# Details of the variances, showing how to obtain multiple regression
# standard errors from the OLS matches.
norm <- function(x) sqrt(sum(x * x))
lapply(data, norm)
s <- summary(lm(y ~ x1 + x2 - 1, data=data))
c(s$sigma, s$coefficients["x1", "Std. Error"] * norm(data$x1.2)) # Equal
c(s$sigma, s$coefficients["x2", "Std. Error"] * norm(data$x2.1)) # Equal
c(s$sigma, norm(data$y.12) / sqrt(length(data$y.12) - 2))        # Equal