Плутанина, пов'язана з нормалізацією даних

Я намагаюся вивчити лінійну регресійну модель. Однак у мене є певна плутанина, пов'язана з нормалізацією даних. Я нормалізував функції / предиктори до нульової середньої та одиничної дисперсії. Чи потрібно мені те ж саме робити для цілі. Якщо так, чому?

regression multiple-regression normalization

— користувач34790
джерело

Чому ви нормалізували функції / предиктори?

— Пітер Флом

До речі, я вважаю, що «стандартизація» є кращим терміном для цього.

— Scortchi

Нормалізація цілі при лінійній регресії не має значення. При лінійній регресії ваша форма буде мати форму Коли ви прогнозуєте в центрі, постійний член завжди буде середнім значенням . Отже, якщо ви відцентруєте перед запуском регресії, ви отримаєте , але всі ваші інші коефіцієнти залишаться незмінними.

{\hat{y}}_{i} = a_{0} + a \cdot x_{i} .

$\hat{y}_i = a_0 + a \cdot x_i.$

x_{i}

$x_i$

a_{0}

$a_0$

y_{i}

$y_i$

y_{i}

$y_i$

a_{0} = 0

$a_0 = 0$

(Це, як говориться, нормалізація прогнозів --- як ви зараз робите --- - хороша ідея.)

— Стефан Вагер
джерело

Чому нормалізація прогнозів хороша ідея?

— Scortchi

@Stefan. Так, коли я центрую прогнози, я отримую постійний термін середнім y. Але я не зрозумів, як це стає середньою. Чи можете ви сказати мені математику за цим?

a_{0}

$a_0$

— користувач34790

@Scortchi Нормалізація прогнозів не є необхідною, але може полегшити інтерпретацію коефіцієнтів регресії: Після нормалізації великі коефіцієнти відповідають важливим предикторам. Також без нормалізації коефіцієнти термінів взаємодії можуть бути серйозно оманливими. Якщо говорити, нормалізація не вплине на прогнози, отримані від вашої моделі, тому нормалізація має значення лише в тому випадку, якщо ви збираєтесь інтерпретувати коефіцієнти регресії.

— Стефан Вагер

@ user34790 Математику відпрацьовано на сайті pmean.com/10/LeastSquares.html

— Стефан Вагер

Я думаю, що теоретично це не має значення, але чисельно це має значення. Погляньте на цю відповідь.

https://stats.stackexchange.com/a/111997/57240

— Абхінав
джерело