Чому ми кажемо, що змінна результату "регресує" на прогнокторі?

Чи є якесь інтуїтивне пояснення цієї термінології? Чому саме так, а не передбачувальник (-ів) регресують щодо результату?

В ідеалі я сподіваюся, що правильне пояснення того, чому існує ця термінологія, допоможе студентам запам’ятати це та заважатиме їм говорити це неправильно.

Я не знаю, що таке етимологія "регресує", але ось таке тлумачення, яке я маю на увазі, коли говорю чи чую це вираз. Розглянемо наступний малюнок із Елементів статистичного навчання Хасті та ін .:

У своїй основі лінійна регресія становить ортогональну проекцію на (на) X , де y - n -вимірний вектор спостережень залежної змінної, а X - підпростір, що охоплюється векторами прогнозування.$\mathbf y$$\mathbf X$$\mathbf y$$n$$\mathbf X$

Це дуже корисна інтерпретація лінійної регресії.

Так як проектується на X , тобто те , що я думаю , коли я чую , що у є «регрес на" X . З цієї точки зору, було б менше сенсу говорити , що X регресує на у або що у регресії «проти» або «з» X .$y$$X$$y$$X$$X$$y$$y$$X$

В ідеалі я сподіваюся, що правильне пояснення того, чому існує ця термінологія, допоможе студентам запам’ятати це та заважатиме їм говорити це неправильно.

Як я вже говорив, я сумніваюся, що це пояснення того, чому існує ця термінологія (можливо, лише чому вона зберігається?), Але я впевнений, що це може допомогти студентам запам'ятати її.

Я часто використовував і чув цей спосіб розмови. Я здогадуюсь, що послідовність, що згадує результат або відповідь перед передбачувачами, випливає із умовних угод у письмовій формі, вживання слів або використання позначень або змішування двох, аж до

$Y = X\beta$

відміняючи не менш цікаве (або нецікаве!) питання про те, що ми називаємо різними видами змінних.

Але здається, що математично та статистично не менш справедливо згадувати про прогнозистів спочатку так само, як багато математиків спочатку пишуть відображення чи функції з аргументами.

Що часто, можливо, керує послідовністю, яку ми використовуємо в статистичних дискусіях, це те, що в науковому або практичному плані ми зазвичай маємо чітке уявлення про те, що ми намагаємось передбачити - це смертність, або дохід, і урожайність пшениці, або голоси на виборах, або будь-що інше - хоча пул потенційних чи фактичних прогнозів може бути не таким чітким. Навіть якщо це зрозуміло, має сенс спочатку згадати важливі речі. Що ти намагаєшся зробити? Прогнозуйте що завгодно . Як ти будеш це робити? Використовуйте деякі або всі ці змінні .

У мене немає історії для "на", а не будь-яке інше слово, яке б підходило. Я не чую "регресую проти" чи "регресую з". Тут може бути ніякої логіки, просто меми передаються в підручниках, викладанні та дискусіях.

$y$$x$

1) Термін регресія походить від того, що у звичайній простій лінійній регресійній моделі:

$y = \alpha + \beta x + \epsilon$

$y$$x$$\hat{y}$$\bar{y}$$x$$\bar{x}$

$|\hat{y} - \bar{y}| / s_y < |x - \bar{x}| / s_x$

Наприклад, якщо ми використовуємо кадр даних BOD, вбудований у R, то:

fm <- lm(demand ~ Time, BOD)
with(BOD, all( abs(fitted(fm) - mean(demand)) / sd(demand) < abs(scale(Time))))
## [1] TRUE

Для підтвердження дивіться: https://en.wikipedia.org/wiki/Regression_toward_the_mean

2) Термін на виходить з того факту , що вбудовані значення є проекцією змінного результату на підпростір , натягнуте на ПРЕДИКТОРИ ( в тому числі перехоплення) , як додатково пояснено в багатьох джерелах , таких як HTTP: //people.eecs.ku .edu / ~ jhuan / EECS940_S12 / слайди / linearRegression.pdf .

Примітка

Що стосується коментаря нижче, те, що коментує заявник, - це те, що відповідь уже зазначено вище у формі формули, за винятком того, що у відповіді зазначено правильно. Насправді через рівність:

$(\hat{y} - \bar{y}) = \hat{\beta} (x - \bar{x})$

$| \beta | < 1$

$beta > 1$

Особисто, якщо мова йде про пояснення термінології, я вважаю, що саме визначення цього терміна завжди допомагає, особливо, коли пояснюється студентам. Актуальним визначенням слова регресу є:

"повернення до колишнього або менш розвиненого стану".

Отож, один із способів пояснити, я думаю, буде наступним:

"Розглядаючи результат як повністю розвинений стан, ми намагаємось пояснити результат за допомогою менш розвинених станів, тобто незалежних змінних. Таким чином, результат регресується на прогнозах".

Сподіваюся, що це допомагає.