Є корисно чи небезпечно?

Я скумував через деякі конспекти лекцій Косма Шалізі (зокрема, розділ 2.1.1 другої лекції ), і мені нагадали, що ви можете отримати дуже низький навіть якщо у вас є повністю лінійна модель.$R^2$

Перефразовуючи приклад Шалізі: припустимо, у вас є модель , де відома. Тоді \ newcommand {\ Var} {\ mathrm {Var}} \ Var [Y] = a ^ 2 \ Var [x] + \ Var [\ epsilon], і кількість поясненої дисперсії дорівнює ^ 2 \ Var [X] , тому R ^ 2 = \ frac {a ^ 2 \ Var [x]} {a ^ 2 \ Var [X] + \ Var [\ epsilon]} . Це переходить до 0 як \ Var [X] \ rightarrow 0 і до 1 як \ Var [X] \ rightarrow \ infty .$Y = aX + \epsilon$$a$$\newcommand{\Var}{\mathrm{Var}}\Var[Y] = a^2 \Var[x] + \Var[\epsilon]$$a^2 \Var[X]$$R^2 = \frac{a^2 \Var[x]}{a^2 \Var[X] + \Var[\epsilon]}$$\Var[X] \rightarrow 0$$\Var[X] \rightarrow \infty$

І навпаки, ви можете отримати високий $R^2$ навіть тоді, коли ваша модель помітно нелінійна. (Хтось має добрий приклад назовні?)

Тож коли $R^2$ є корисною статистикою, і коли її слід ігнорувати?

Для вирішення першого питання розглянемо модель

$$Y = X + \sin(X) + \varepsilon$$

з iid середнього нуля та кінцевої дисперсії. Зі збільшенням діапазону (вважається фіксованим або випадковим) переходить до 1. Тим не менш, якщо дисперсія невелика (приблизно 1 або менше), дані "помітно нелінійні". У сюжетах .$\varepsilon$$X$$R^2$$\varepsilon$$var(\varepsilon)=1$

До речі, простий спосіб отримати малий - це розрізати незалежні змінні у вузькі діапазони. Регресія (використовуючи точно таку ж модель ) у кожному діапазоні буде мати низький навіть коли повна регресія, заснована на всіх даних, має високий . Розмірковування над цією ситуацією - інформаційна вправа та гарна підготовка до другого питання.$R^2$$R^2$$R^2$

Обидва наступні сюжети використовують однакові дані. для повної регресії 0,86. для зрізів (шириною 1/2 від -5/2 до 5/2) є +0,16, +0,18, +0,07, +0,14, +0,08, +0,17, +0,20, +0,12, .01 , .00, читання зліва направо. У будь-якому випадку, пристосування стають кращими в ситуації з нарізаними, оскільки 10 окремих рядків можуть більш точно відповідати даним в їх вузьких межах. Незважаючи на для всіх зрізів значно нижче повного , то ні міцності відносин, в лінійності , ні дійсно , будь-який аспект даних ( за винятком того, діапазон використовується для регресії) змінилися.$R^2$$R^2$$R^2$$R^2$$X$

(Можна заперечити, що ця процедура нарізки змінює розподіл Це правда, але, тим не менш, вона відповідає найчастішому використанню в моделюванні з фіксованими ефектами і виявляє ступінь, в якій розповідає нам про дисперсія у ситуації випадкових ефектів. Зокрема, коли обмежується змінюватися протягом меншого інтервалу свого природного діапазону, зазвичай падає.)$X$$R^2$$R^2$$X$$X$$R^2$

Основна проблема полягає в тому, що це залежить від занадто багатьох речей (навіть коли вони регулюються в декількох регресіях), але найбільше від дисперсії незалежних змінних та дисперсії залишків. Зазвичай це нічого не говорить про "лінійність" або "міцність відносин", а також про "добру придатність" для порівняння послідовності моделей.$R^2$

Більшу частину часу ви можете знайти кращу статистику, ніж . Для вибору моделі можна звернутись до AIC та BIC; для вираження адекватності моделі подивіться на дисперсію залишків. $R^2$

Це підводить нас нарешті до другого питання . Одна ситуація, в якій може мати деяке використання - це коли незалежні змінні встановлюються на стандартні значення, по суті контролюючи ефект їх дисперсії. Тоді - це дійсно проксі-сервер для дисперсії залишків, відповідно стандартизованих.$R^2$$1 - R^2$

Ваш приклад застосовується лише тоді, коли змінна має бути в моделі . Це звичайно не застосовується, коли використовуються звичайні оцінки найменших квадратів. Щоб переконатися в цьому, зауважимо , що якщо оцінювати за методом найменших квадратів в вашому прикладі, ми отримуємо:$\newcommand{\Var}{\mathrm{Var}}X$ $a$

s 2 X =

$$\hat{a}=\frac{\frac{1}{N}\sum_{i=1}^{N}X_{i}Y_{i}}{\frac{1}{N}\sum_{i=1}^{N}X_{i}^{2}}=\frac{\frac{1}{N}\sum_{i=1}^{N}X_{i}Y_{i}}{s_{X}^{2}+\overline{X}^{2}}$$ Де - дисперсія (вибірки) та - середнє значення (вибірки)X ¯ X =$s_{X}^2=\frac{1}{N}\sum_{i=1}^{N}(X_{i}-\overline{X})^{2}$$X$$\overline{X}=\frac{1}{N}\sum_{i=1}^{N}X_{i}$$X$

$$\hat{a}^{2}\Var[X]=\hat{a}^{2}s_{X}^{2}=\frac{\left(\frac{1}{N}\sum_{i=1}^{N}X_{i}Y_{i}\right)^2}{s_{X}^2}\left(\frac{s_{X}^{2}}{s_{X}^{2}+\overline{X}^{2}}\right)^2$$

Тепер другий член завжди менший за (дорівнює в межі), тому ми отримуємо верхню межу для внеску в зі змінної :$1$$1$$R^2$$X$

$$\hat{a}^{2}\Var[X]\leq \frac{\left(\frac{1}{N}\sum_{i=1}^{N}X_{i}Y_{i}\right)^2}{s_{X}^2}$$

І тому, якщо , ми дійсно побачимо як (оскільки чисельник переходить до нуля, але знаменник переходить у ). Крім того, ми можемо отримати переходить до чогось між і залежно від того, наскільки швидко розходяться два терміни. Тепер вищезгаданий термін, як правило, розходиться швидше, ніж якщо має бути в моделі, і повільніше, якщо не має бути в моделі. В обох випадках йде в правильних напрямках.$\left(\frac{1}{N}\sum_{i=1}^{N}X_{i}Y_{i}\right)^2\to\infty$$R^2\to 0$$s_{X}^{2}\to\infty$$\Var[\epsilon]>0$$R^2$$0$$1$$s_{X}^2$$X$$X$$R^2$

А також зауважте, що для будь-якого кінцевого набору даних (тобто реального) ми ніколи не можемо мати якщо всі помилки точно не дорівнюють нулю. Це в основному вказує на те, що є відносною мірою, а не абсолютною. Бо якщо насправді не дорівнює , ми завжди можемо знайти кращу придатну модель. Це, мабуть, "небезпечний" аспект в тому, що, оскільки він масштабується між і схоже, ми можемо перервати його в абсолютному сенсі.$R^2=1$$R^2$$R^2$$1$$R^2$$0$$1$

Напевно, корисніше буде подивитися на те, як швидко падає під час додавання змінних у модель. І останнє, але не менш важливо, його ніколи не слід ігнорувати при виборі змінної, оскільки фактично є достатньою статистикою для вибору змінної - вона містить всю інформацію про вибір змінної, яка є в даних. Єдине, що потрібно - це вибрати падіння яке відповідає "пристосуванню помилок" - що зазвичай залежить від розміру вибірки та кількості змінних.$R^2$$R^2$$R^2$

Якщо я можу додати приклад, коли небезпечний. Багато років тому я працював над деякими біометричними даними і, будучи молодим і нерозумним, я був у захваті, коли знайшов деякі статистично значущі значення для моїх фантазійних регресій, які я побудував за допомогою ступінчастих функцій. Лише згодом, озирнувшись після моєї презентації перед великою міжнародною аудиторією, я зрозумів, що зважаючи на велику розбіжність даних - у поєднанні з можливим поганим представленням вибірки щодо населення, 0,02 був абсолютно безглуздим. навіть якщо це було "статистично значущим" ...$R^2$$R^2$$R^2$

Ті, хто працює зі статистикою, повинні розуміти дані!

Якщо у вас є один провісник точно інтерпретується як частка варіації , які можуть бути пояснені лінійної взаємозв'язку з . Таке тлумачення потрібно пам’ятати, дивлячись на значення .$R^{2}$$Y$$X$$R^2$

Ви можете отримати великий з нелінійного відношення лише тоді, коли відношення близьке до лінійного. Наприклад, припустимо, що де і . Якщо ви робите розрахунок$R^2$$Y = e^{X} + \varepsilon$$X \sim {\rm Uniform}(2,3)$$\varepsilon \sim N(0,1)$

$$R^{2} = {\rm cor}(X, e^{X} + \varepsilon)^{2}$$

ви виявите, що це приблизно (я це лише за допомогою моделювання), незважаючи на те, що відносини явно не є лінійними. Причина в тому, що виглядає жахливо багато, як лінійна функція через інтервал .$.914$$e^{X}$$(2,3)$

Однією з ситуацій, якій ви хочете уникнути є множинна регресія, де додавання нерелевантних змінних предиктора до моделі може в деяких випадках збільшувати . Це можна вирішити, скориставшись скоригованим значенням , обчисленим як$R^2$$R^2$$R^2$

n$\bar{R}^2 = 1 - (1-R^2)\frac{n-1}{n-p-1}$ де - кількість зразків даних, а - кількість регресорів, не рахуючи постійний термін .$n$$p$

1. Хорошим прикладом для високого з нелінійною функцією є квадратична функція обмежена інтервалом . При 0 шумі він не матиме квадрата 1, якщо у вас є 3 і більше точок, оскільки вони не будуть ідеально підходити до прямої лінії. Але якщо точки дизайну розкидані рівномірно на ви отримаєте , буде високою , можливо , дивно так. Це може бути не так, якщо у вас багато точок біля 0 і багато біля 1, в середині мало або нічого.$R^2$$y=x^2$$[0,1]$$R^2$$[0, 1]$$R^2$

2. $R^2$ буде бідним у ідеальному лінійному випадку, якщо термін шуму має велику дисперсію. Таким чином, ви можете взяти модель яка технічно є ідеальною лінійною моделлю, але нехай дисперсія в e має тенденцію до нескінченності, і у вас буде переходить до 0. Незважаючи на свої недоліки, квадрат R вимірює відсоток відсотка дисперсія, що пояснюється даними, і тому вона вимірює корисність. Високий означає гарне пристосування, але ми все одно повинні бути обережні, що хороша відповідність викликана занадто великою кількістю параметрів для розміру набору даних, який ми маємо.$Y= x + \epsilon$$R^2$$R^2$

3. У ситуації з множинною регресією існує проблема надмірного пристосування. Додайте змінні, і завжди збільшуватиметься. Відкоригований дещо виправляє це, оскільки враховує кількість параметрів.$R^2$$R^2$