Очікуване значення , коефіцієнт визначення, під нульовою гіпотезою

Мені цікаво твердження, зроблене внизу першої сторінки цього тексту стосовно коригування $R^2_\mathrm{adjusted}$

R_{a d j u s t e d}^{2} = 1 - (1 - R^{2}) (\frac{n - 1}{n - m - 1}) .

$R^2_\mathrm{adjusted} =1-(1-R^2)\left({\frac{n-1}{n-m-1}}\right).$

У тексті зазначено:

Логіка коригування така: у звичайній множинній регресії випадковий предиктор пояснює в середньому частку $1/(n – 1)$ варіації відповіді, так що $m$ випадкові предиктори пояснюють разом, в середньому, $m/(n – 1)$ варіації відповіді; іншими словами, очікуване значення $R^2$ дорівнює $\mathbb{E}(R^2) = m/(n – 1)$ . Застосовуючи формулу [ $R^2_\mathrm{adjusted}$ ] до цього значення, де всі передбачувачі є випадковими, дає $R^2_\mathrm{adjusted} = 0$ "

Здається, це дуже проста та інтерпретована мотивація для $R^2_\mathrm{adjusted}$ . Однак мені не вдалося розробити, що $\mathbb{E}(R^2)=1/(n – 1)$ для одного випадкового (тобто некорельованого) прогноктора.

Чи міг би хтось вказати мене в потрібному напрямку?

— gregory_britten
джерело

У випадку, якщо посилання в майбутньому відмирає, ви могли б надати повну інформацію? Дякую.

— Річард Харді

Це точна математична статистика. Дивіться цей пост для виведення розподілу під гіпотезою, що всі регресори (бар постійний термін) некорельовані із залежною змінною ("випадкові предиктори"). $R^2$

Цей розподіл є бета-версією, - кількість предикторів, не рахуючи постійний термін, і розмір вибірки, $m$ $n$

R^{2} \sim B e t a (\frac{m}{2}, \frac{n - m - 1}{2})

$R^2 \sim Beta\left (\frac {m}{2}, \frac {n-m-1}{2}\right)$

і так

E (R^{2}) = \frac{m / 2}{(m / 2) + [(n - m - 1) / 2]} = \frac{m}{n - 1}

$E(R^2) = \frac {m/2}{(m/2)+[(n-m-1)/2]} = \frac{m}{n-1}$

Це, мабуть, є розумним способом "виправдати" логіку за скоригованим : якщо дійсно всі регресори є некорельованими, то скоригований "в середньому" дорівнює нулю. $R^2$ $R^2$

— Алекос Пападопулос
джерело

Просто шматочок інформації, який мені знадобився! Дякую! І хай живе стек обмін!

— gregory_britten

Мене цікавить випадок, коли не всі регресори мають некорельовану залежну змінну. Чи мали б ви якусь інформацію про це?

— Олів'є

@Olivier Ні, я не боюся. Подивіться в розділі "F-тест на значення регресії, розподіл за альтернативою" або щось подібне.

— Алекос Пападопулос