Що робити, якщо залишки звичайно розподіляються, але у ні?

У мене дивне запитання. Припустимо, що у вас є невеликий зразок, де залежна змінна, яку ви збираєтеся аналізувати за допомогою простої лінійної моделі, сильно зліва нахилена. Таким чином, ви припускаєте, що нормально не розподіляється, оскільки це призведе до нормально розподіленого y . Але коли ви обчислюєте графік QQ-Normal, є докази того, що залишки нормально розподіляються. Таким чином, кожен може припустити, що термін помилки зазвичай розподіляється, хоча y - ні. Отже, що означає, коли термін помилки здається нормально розподіленим, але у ні?$u$$y$$y$$y$

Доцільно, щоб залишки в регресійній задачі були нормально розподіленими, навіть якщо змінна відповіді не є. Розглянемо універсальну задачу регресії, де . так що модель регресії є відповідною, і надалі припускаємо, що справжнє значення β = 1 . У цьому випадку, поки залишки істинної регресійної моделі є нормальними, розподіл y залежить від розподілу x , оскільки умовне середнє значення y є функцією x . Якщо в наборі даних багато значень $y \sim \mathcal{N}(\beta x, \sigma^2)$$\beta=1$$y$$x$$y$$x$$x$які близькі до нуля і прогресивно менше, чим вище значення , тоді розподіл y буде перекошений ліворуч. Якщо значення х розподіляються симетрично, то y буде розподілено симетрично тощо. Для проблеми з регресією ми припускаємо лише, що відповідь нормально обумовлена ​​значенням x .$x$$y$$x$$y$$x$

@DikranMarsupial, безумовно, вірно, звичайно, але мені спало на думку, що було б непогано проілюструвати його думку, тим більше, що ця проблема, як видається, виникає часто. Зокрема, залишки регресійної моделі повинні бути звичайно розподілені, щоб значення p були правильними. Однак, навіть якщо залишки зазвичай розподіляються, це не гарантує, що буде (не те, що це має значення ...); це залежить від розподілу $Y$$X$ .

Візьмемо простий приклад (який я складаю). Скажімо, ми перевіряємо препарат на ізольовану систолічну гіпертензію (тобто, число верхнього артеріального тиску зависоке). Далі встановимо, що систолічний bp зазвичай розподіляється в межах нашої групи пацієнтів із середнім значенням 160 & SD 3, і що на кожен мг препарату, який пацієнти приймають щодня, систолічний bp знижується на 1 мм рт. Іншими словами, справжнє значення дорівнює 160, а β 1 - -1, а функція генерування істинних даних така: B P s y s = 160 - 1 × добова дозування ліків + $\beta_0$$\beta_1$ У нашому вигаданому дослідженні 300 пацієнтів випадково призначено приймати 0 мг (плацебо), 20 мг або 40 мг цього дня. (Зверніть увагу, що X зазвичай не розповсюджується.) Потім, через достатній проміжок часу, коли препарат вступить у дію, наші дані можуть виглядати приблизно так:

(Я стрибав дозування, щоб точки не перекривались так сильно, що їх важко було розрізнити.) Тепер давайте перевіримо розподіли (тобто, це граничне / оригінальне розподіл) та залишки: $Y$

$Y$$Y$ , в той час як залишки виглядають так само, як нормальний розподіл має виглядати.

$Y$$X$$p<.05$$\beta_1$

set.seed(123456789)                       # this make the simulation repeatable

b0 = 160;   b1 = -1;   b1_null = 0        # these are the true beta values
x  = rep(c(0, 20, 40), each=100)          # the (non-normal) drug dosages patients get

estimated.b1s  = vector(length=10000)     # these will store the simulation's results
estimated.b1ns = vector(length=10000)
null.p.values  = vector(length=10000)

for(i in 1:10000){
  residuals = rnorm(300, mean=0, sd=3)
  y.works = b0 + b1*x      + residuals
  y.null  = b0 + b1_null*x + residuals    # everything is identical except b1

  model.works = lm(y.works~x)
  model.null  = lm(y.null~x)
  estimated.b1s[i]  = coef(model.works)[2]
  estimated.b1ns[i] = coef(model.null)[2]
  null.p.values[i]  = summary(model.null)$coefficients[2,4]
}
mean(estimated.b1s)       # the sampling distributions are centered on the true values
[1] -1.000084                  
mean(estimated.b1ns)
[1] -8.43504e-05               
mean(null.p.values<.05)   # when the null is true, p<.05 5% of the time
[1] 0.0532                   

Ці результати показують, що все працює добре.

$X$ $Y$$X$

$X$$Y$$X$