Якщо довірчі інтервали для коефіцієнтів лінійної регресії повинні базуватися на нормалі або

Будемо мати лінійну модель, наприклад просто просту ANOVA:

# data generation
set.seed(1.234)                      
Ng <- c(41, 37, 42)                    
data <- rnorm(sum(Ng), mean = rep(c(-1, 0, 1), Ng), sd = 1)      
fact <- as.factor(rep(LETTERS[1:3], Ng)) 

m1 = lm(data ~ 0 + fact)
summary(m1)

Результат такий:

Call:
lm(formula = data ~ 0 + fact)

Residuals:
     Min       1Q   Median       3Q      Max 
-2.30047 -0.60414 -0.04078  0.54316  2.25323 

Coefficients:
      Estimate Std. Error t value Pr(>|t|)    
factA  -0.9142     0.1388  -6.588 1.34e-09 ***
factB   0.1484     0.1461   1.016    0.312    
factC   1.0990     0.1371   8.015 9.25e-13 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1 

Residual standard error: 0.8886 on 117 degrees of freedom
Multiple R-squared: 0.4816,     Adjusted R-squared: 0.4683 
F-statistic: 36.23 on 3 and 117 DF,  p-value: < 2.2e-16

Зараз я спробую два різні методи для оцінки довірчого інтервалу цих параметрів

c = coef(summary(m1))

# 1st method: CI limits from SE, assuming normal distribution
cbind(low = c[,1] - qnorm(p = 0.975) * c[,2], 
    high = c[,1] + qnorm(p = 0.975) * c[,2])

# 2nd method
confint(m1)

Запитання:

Який розподіл розрахункових коефіцієнтів лінійної регресії? Звичайна чи ? $t$
Чому обидва методи дають різні результати? Якщо припустити нормальний розподіл і правильний SE, я очікую, що обидва методи матимуть однаковий результат.

Велике спасибі!

дані ~ 0 + факт

EDIT після відповіді :

Відповідь точна, це дасть точно такий же результат, як і confint(m1)!

# 3rd method
cbind(low = c[,1] - qt(p = 0.975, df = sum(Ng) - 3) * c[,2], 
    high = c[,1] + qt(p = 0.975, df = sum(Ng) - 3) * c[,2])

r regression confidence-interval

— Цікавий
джерело

related: stats.stackexchange.com/questions/111559/…

— Цікаво

(1) Коли помилки нормально розподілені і їх дисперсія НЕ відома, то має-розподіл при нульовій гіпотезіщоє істинним коефіцієнтом регресії. За замовчуванням втомущоб перевірити, так що-Статистика повідомили Є тільки

\frac{\hat{β} - β_{0}}{s e (\hat{β})}

$\frac{\hat{\beta} - \beta_0}{{\rm se}(\hat{\beta})}$

t

$t$

β_{0}

$\beta_0$ R

β_{0} = 0

$\beta_0 = 0$

t

$t$

\frac{\hat{β}}{s e (\hat{β})}

$\frac{\hat{\beta}}{{\rm se}(\hat{\beta})}$

Зауважте, що за деяких умов регулярності вищезазначена статистика завжди асимптотично нормально розподіляється, незалежно від того, чи є помилки нормальними, чи відома дисперсія помилок.

$t$ -розподіленого. Тому множник, який ви використовуєте перед стандартною помилкою, відрізняється, що, в свою чергу, дає різні довірчі інтервали.

Зокрема, нагадайте, що довірчий інтервал із використанням нормального розподілу є

\hat{β} \pm z_{α / 2} \cdot s e (\hat{β})

$\hat{\beta} \pm z_{\alpha/2} \cdot {\rm se}(\hat{\beta})$

$z_{\alpha/2}$ $\alpha/2$ $95\%$ $\alpha = .05$ $z_{\alpha/2} \approx 1.96$ $t$

\hat{β} \pm t_{α / 2, n - p} \cdot s e (\hat{β})

$\hat{\beta} \pm t_{\alpha/2,n-p} \cdot {\rm se}(\hat{\beta})$

$t_{\alpha/2,n-p}$ $t$ $n-p$ $n$ $p$ $n$ $t_{\alpha/2,n-p}$ $z_{\alpha/2}$

$t$ $5$ $300$ $p=1$ $t$ $z$

enter image description here

— Макрос
джерело

Так! Приємна робота !! (+1)

— gui11aume

Макро, дякую за відповідь. Але: ви говорите про розподіл статистики T, тоді як я запитав про розподіл коефіцієнта регресії. Я розумію, що коефіцієнт регресії - це розподіл, який характеризується середнім значенням (оцінка коефіцієнта) та стандартною похибкою. Я запитав про цей розподіл, а не про тестовий розподіл статистики. Я можу щось пропустити, тому, будь ласка, спробуйте пояснити більш очевидним чином :) Дякую

— Цікаво,

\frac{\hat{β} - β_{0}}{s e (\hat{β})}

$\frac{ {\hat \beta}−β_{0}}{{\rm se}(\hat β)}$

t

$t$

\hat{β}

$\hat β$

t

$t$

β_{0}

$β_0$

s e (\hat{β})

${\rm se}(\hat β)$

\hat{β}

$\hat β$

Ви абсолютно праві! Це дасть абсолютно такий же результат, як confint(m1)і для невеликих розмірів зразків! cbind(low = c[,1] - qt(p = 0.975, df = sum(Ng) - 3) * c[,2], high = c[,1] + qt(p = 0.975, df = sum(Ng) - 3) * c[,2])

— Цікаво

\hat{β}

$\hat{\beta}$

\hat{β} - β_{0}

$\hat{\beta}-\beta_0$

β_{0}

$\beta_0$

t

$t$