Як я можу використовувати значення для перевірки припущення про лінійність у аналізі множинної регресії?

Наведені нижче графіки - це залишкові діаграми розсіювання регресійного тесту, для яких припущення про «нормальність», «гомоскедастичність» та «незалежність» вже точно виконані! Для тестування припущення "лінійності" , хоча, переглядаючи графіки, можна здогадатися, що співвідношення криволінійне, але питання полягає в тому, як можна використати значення для "R2 лінійного" для перевірки припущення про лінійність? Який прийнятний діапазон для значення "R2 Linear", щоб вирішити, чи є співвідношення лінійним? Що робити, якщо припущення про лінійність не виконане, а трансформація IV також не допомагає? !!

Ось посилання на повні результати тесту.

Розсилки сюжетів:

Слід зазначити , що припущення про лінійність ви маєте в виду тільки говорить , що умовне середнє даний є лінійною функцієюX $Y_i$$X_i$ . Ви не можете використовувати значення для перевірки цього припущення.$R^2$

Це тому, що - це лише співвідношення у квадраті між спостережуваним та прогнозованим значеннями, а значення коефіцієнта кореляції однозначно не визначає співвідношення між та (лінійним чи іншим способом), і можливі обидва наступні два сценарії: X Y$R^2$$X$$Y$

• Високий але припущення про лінійність як і раніше важливо помиляється$R^2$

• Низький але припущення про лінійність все ще задоволено$R^2$

Я обговорюю кожного по черзі:

(1) Високий але припущення про лінійність все-таки помиляється важливим чином:$R^2$ фокус полягає в тому, щоб маніпулювати тим фактом, що кореляція дуже чутлива до людей, що переживають люди . Припустимо, у вас є предиктори , які генеруються із розподілу суміші, який є нормальним нормальним часу та масою точок у іншим та змінною відповіді, тобто X 1 ,. . . , X n 99%M1%$X_1, ..., X_n$$99\%$$M$$1\%$

де і - позитивна константа, значно більша, ніж , наприклад, . Тоді та будуть майже ідеально співвіднесені:$Z_i \sim N(\mu,1)$$M$$\mu$$\mu=0, M=10^5$$X_i$$Y_i$

u = runif(1e4)>.99
x = rnorm(1e4)
x[which(u==1)] = 1e5
y = rnorm(1e4)
y[which(x==1e5)] = 1e5
cor(x,y)
[1] 1

незважаючи на той факт , що очікуване значення дано не є лінійним - насправді це є розривної функцією кроку і очікуване значення навіть не залежить від за винятком того, коли .$Y_i$$X_i$$Y_i$$X_i$$X_i = M$

(2) Низький але припущення про лінійність все-таки задовольняються:$R^2$ фокус у тому, щоб збільшити кількість «шуму» навколо лінійної тенденції. Припустимо, у вас є предиктор та відповідь та модель$X_i$$Y_i$

була правильною моделлю. Тому умовне середнє значення задане є лінійною функцією , тому припущення про лінійність виконується. Якщо велике відносно то буде малим. Наприклад,X i X i v a r ( ε i ) = σ 2 β 1 R $Y_i$$X_i$$X_i$${\rm var}(\varepsilon_i) = \sigma^2$$\beta_1$$R^2$

x = rnorm(200)
y = 1 + 2*x + rnorm(200,sd=5)
cor(x,y)^2
[1] 0.1125698

Отже, оцінка припущення про лінійність не є питанням того, чи може лежати в якомусь допустимому діапазоні$R^2$ , але це скоріше питання вивчення графіків розсіювання між прогнозованими / прогнозованими значеннями та реакцією та прийняття (можливо, суб'єктивного) рішення.

Re: Що робити, коли припущення про лінійність не виконується і трансформація ІV також не допомагає? !!

Якщо нелінійність є проблемою, може бути корисним переглянути графіки залишків проти кожного прогноктора - якщо є якась помітна закономірність, це може вказувати на нелінійність у цьому прогнокторі. Наприклад, якщо цей сюжет виявляє "мископодібний" зв'язок між залишками та предиктором, це може вказувати на відсутній квадратичний термін у цьому прогнокторі. Інші структури можуть вказувати на іншу функціональну форму. У деяких випадках може статися так, що ви не намагалися перетворити правильне перетворення або що справжня модель не є лінійною в будь-якій трансформованій версії змінних (хоча можливо знайти розумне наближення).

Що стосується вашого прикладу: На підставі прогнозованих порівняно з фактичними графіками (1-й та 3-й графіки в початковій публікації) для двох різних залежних змінних, мені здається, що припущення про лінійність є доцільним для обох випадків. У першому сюжеті, схоже, може бути певна гетерокедастичність, але стосунки між ними виглядають досить лінійними. У другому сюжеті співвідношення виглядає лінійним, але сила відносин досить слабка, на що вказує великий розкид навколо лінії (тобто велика дисперсія помилок) - саме тому ви бачите низький .$R^2$

Безумовно, підходити до плавнішого типу LOESS і бачити, наскільки близький до лінійного пристосування, - це один із способів оцінити лінійність функції. Я хочу звернутися до головного питання, який ступінь, в якій R-квадрат може вимірювати лінійність. Зрозуміло, оскільки означає, що дані ідеально падають на лінію. Але питання про те, наскільки близько до робить необхідності в тому , щоб визначити , що кривої є лінійним більш важким , ніж це може здатися. Безумовно, розмір вибірки є фактором. Якщо у вас всього 3 - 6 балів1 R 2 R 2 2 1 < x < 2 R 2 R $R^2=1$$1$$R^2$$R^2$ймовірно, буде дуже високим, незалежно від форми функції, яка може представляти дані. Навіть у великих вибірках має значення регіон, у якому збираються дані. Нелінійні функції будуть виглядати лінійно локально. Особливо це стосується многочленів. Розглянемо функцію y = x . В області функція виглядає лінійною, і дані, сформовані з цієї моделі з невеликою кількістю аддитивного шуму, призведуть до високого значення для . З іншого боку, модель може бути ідеально лінійною, але мати великий компонент шуму, а може бути невеликим.$^2$$1<x<2$$R^2$$R^2$