Яка різниця між дисперсією та середньою помилкою у квадраті?

Я здивований, що цього раніше не задавали, але я не можу знайти питання на stats.stackexchange.

Це формула для обчислення дисперсії нормально розподіленої вибірки:

\frac{\sum (X - \bar{X})^{2}}{n - 1}

$\frac{\sum(X - \bar{X}) ^2}{n-1}$

Це формула для обчислення середньої квадратичної помилки спостережень у простій лінійній регресії:

\frac{\sum (y_{i} - {\hat{y}}_{i})^{2}}{n - 2}

$\frac{\sum(y_i - \hat{y}_i) ^2}{n-2}$

Яка різниця між цими двома формулами? Єдина відмінність, яку я бачу, полягає в тому, що MSE використовує . Тож якщо це єдина різниця, чому б не позначати їх як дисперсією, але з різним ступенем свободи? $n-2$

variance error

— лучано
джерело

Що це про сторінку Вікіпедії тут , що не ясно?

— TrynnaDoStat

Варіантність - це середнє значення квадратичного відхилення спостережень від середнього. MSE на відміну від цього - це середнє значення у квадраті відхилень прогнозів від справжніх значень.

— random_guy

І "дисперсія", і "середня помилка в квадраті" мають безліч формул і різних застосувань. Щоб уточнити своє запитання, чи можете ви (a) описати, до якого типу даних ви застосовуєте ці поняття та (б) надати для них формули? (Цілком ймовірно, що таким чином ви знайдете і відповідь на своє запитання.)

— whuber

Там є більш загальна формула, як окремі випадки:

, де

являє собою число параметрівоцінених в отриманні

\frac{\sum_{i} (y_{i} - {\hat{y}}_{i})^{2}}{n - p}

$\frac{\sum_i(y_i-\hat{y}_i)^2}{n-p}$

p

$p$

\hat{y}

$\hat{y}$

— Glen_b -Reinstate Моніка

@Glen_b, можете, будь ласка, надати довідку для отримання додаткової інформації про цю загальну формулу?

— trianta2

Відповіді:

Середня помилка в квадраті, яку ви написали для OLS, щось приховує:

\frac{\sum_{i}^{n} (y_{i} - {\hat{y}}_{i})^{2}}{n - 2} = \frac{\sum_{i}^{n} {[y_{i} - ({\hat{β}}_{0} + {\hat{β}}_{x} x_{i})]}^{2}}{n - 2}

$\frac{\sum_{i}^{n}(y_i - \hat{y}_i) ^2}{n-2} = \frac{\sum_{i}^{n}\left[y_i - \left(\hat{\beta}_{0} + \hat{\beta}_{x}x_{i}\right)\right] ^2}{n-2}$

Зауважте, що чисельник підсумовує функцію як $y$ , так і $x$ , тож ви втрачаєте ступінь свободи для кожної змінної, отже $n-2$ . У формулі для вибіркової дисперсії чисельник є функцією однієї змінної, тому ви втрачаєте лише один ступінь свободи в знаменнику.

Однак ви слідуєте, помічаючи, що це концептуально подібні кількості. Дисперсія вибірки вимірює поширення даних навколо середнього зразка (у квадратичних одиницях), тоді як MSE вимірює вертикальне поширення даних навколо лінії регресії вибірки (у вертикальних квадратичних одиницях).

— Алексіс
джерело

@amoeba Гей! Дякую за увагу Чи є офіційний посібник зі стилю резюме, який запропонував змінити це? Якщо так, я хочу дізнатися про це. Якщо ні, то Glen_b одного разу справедливо заздалегідь заздалегідь намовив мене за те, що я колонізуюсь із моїми особистими вподобаннями стилю та редагуванням інших Qs та As. Як ти гадаєш? (І я запитую це колегіальним тоном: я думаю, що ваша редакція щось додає. Просто хочу краще зрозуміти наші значення редагування.)

— Alexis

Я не думаю, що існує жоден офіційний посібник зі стилю резюме, який робить цю пропозицію, але в LaTeX є вбудовані формули (позначені знаком долара), які відображаються безпосередньо в текстовому блоці, і відображаються формули (позначені двома знаками долара) які відображаються в окремому рядку. Відображені формули використовують інший макет. Спочатку ваша формула була окремим рядком, але позначена знаком одного долара; Я не думаю, що це має сенс. Однак ви маєте рацію щодо особистих уподобань, тому сміливо відкочуйте вибачення. Причиною, яку я редагував, було те, що я все-таки фіксував помилку в Q.

— амеба каже, що поверніть Моніку

β_{0}

$\beta_0$

n - 1

$n-1$

n - 2

$n-2$

$n$ $n-1$ незалежні точки даних як $n$ ^й точка даних обмежуються вибірковим середнім, так що ( $n-1$ ) ступенів свободи (DOF) у знаменнику у формулі дисперсії.

Щоб отримати розрахункове значення y ( $= \beta_{0} + \beta_{1}\times x$ ) у формулі MSE нам потрібно оцінити обидва $\beta_{0}$ (тобто перехоплення), а також $\beta_{1}$ (тобто нахил), тому ми втрачаємо 2 DOF, і це є причиною для ( $n-2$ ) у знаменнику у формулі MSE.

— Браєш Кумар
джерело