Як отримати інтервал довіри щодо зміни r-квадрата населення

Для простого прикладу припустимо, що існує дві моделі лінійної регресії

• Модель 1 має три провісники, x1a, x2b, іx2c
• Модель 2 має три предиктори з моделі 1 та два додаткові прогнози x2aтаx2b

Існує рівняння регресії чисельності населення, де пояснюється дисперсія популяції для Моделі 1 та для Моделі 2. Інкрементальна дисперсія, пояснена Модель 2 у сукупності, є ρ 2 ( 2 ) Δ ρ 2 = ρ 2 ( 2 ) - ρ 2 ( 1 $\rho^2_{(1)}$$\rho^2_{(2)}$$\Delta\rho^2 = \rho^2_{(2)} - \rho^2_{(1)}$

Мені цікаво отримати стандартні помилки та довірчі інтервали для оцінювача . Хоча приклад стосується 3 та 2 предикторів відповідно, мій науковий інтерес стосується широкого кола різної кількості предикторів (наприклад, 5 і 30). Перша моя думка полягала в тому, щоб використовувати в якості оцінювача і завантажувати його, але я не був впевнений, чи буде це бути відповідним. Δ r 2 a d j = r 2 a d j ( 2 ) - r 2 a d j ( 1 $\Delta\rho^2$$\Delta r^2_{adj} = r^2_{adj(2)} - r^2_{adj(1)}$

Запитання

• Чи розумний оцінювач ? Δ ρ $\Delta r^2_{adj}$$\Delta \rho^2$
• Як можна отримати довірчий інтервал для зміни r-квадрата сукупності (тобто )?$\Delta\rho^2$
• Чи підходить для завантаження підрахунок довірчого інтервалу?$\Delta\rho^2$

Будь-які посилання на симуляції чи опубліковану літературу також були б вітати.

Приклад коду

Якщо це допомагає, я створив невеликий набір даних моделювання в R, який можна використовувати для демонстрації відповіді:

n <- 100
x <- data.frame(matrix(rnorm(n *5), ncol=5))
names(x) <- c('x1a', 'x1b', 'x1c', 'x2a', 'x2b')
beta <- c(1,2,3,1,2)
model2_rho_square <- .7
error_rho_square <- 1 - model2_rho_square
error_sd <- sqrt(error_rho_square / model2_rho_square* sum(beta^2))
model1_rho_square <- sum(beta[1:3]^2) / (sum(beta^2) + error_sd^2)
delta_rho_square <- model2_rho_square - model1_rho_square

x$y <- rnorm(n, beta[1] * x$x1a + beta[2] * x$x1b + beta[3] * x$x1c +
               beta[4] * x$x2a + beta[5] * x$x2b, error_sd)

c(delta_rho_square, model1_rho_square, model2_rho_square)
summary(lm(y~., data=x))$adj.r.square - 
        summary(lm(y~x1a + x1b + x1c, data=x))$adj.r.square

Причина для занепокоєння при завантаженні

Я запустив завантажувальний механізм за деякими даними з приблизно 300 випадків, 5 провісників у простій моделі та 30 прогнозів у повній моделі. У той час як оцінка вибірки з використанням відрегульованої різниці r-квадратів 0.116, інтервал завантаженого довіри був переважно більшим CI95% (0,095 до 0,214), а середнє значення завантажувальних рядів ніде не було поряд із оцінкою вибірки. Швидше за все, середнє значення вибіркових зразків було орієнтоване на оцінку вибірки різниці між r-квадратами у вибірці. Це незважаючи на те, що я використовував зразок, скоригований r-квадратами, щоб оцінити різницю.

Цікаво, що я спробував альтернативний спосіб обчислення as$\Delta\rho^2$

1. обчислити зразок r-квадратної зміни
2. відрегулювати зміну зразка r-квадрата за допомогою стандартної відрегульованої формули r-квадрата

При застосуванні до вибіркових даних це зменшило оцінку до, але довірчі інтервали видалися підходящими для способу, про який я згадав спочатку, CI95% (.062, .179) із середнім значенням .118.$\Delta \rho^2$.082

Загалом, я стурбований тим, що завантаження даних передбачає, що вибірки є сукупністю, і тому підрахунки, що зменшення кількості надмірних розмірів може не працювати належним чином.

Населення$R^2$

Я в першу чергу намагаюся зрозуміти визначення сукупності R-квадрата .

Цитуючи свій коментар:

Або ви можете визначити це асимптотично як пропорцію дисперсії, пояснену у вашій вибірці, коли розмір вибірки наближається до нескінченності.

Я думаю, ви маєте на увазі, що це межа вибірки коли модель повторюється нескінченно багато разів (з однаковими прогнозами на кожну копію). $R^2$

Отже, яка формула асимптотичного значення вибірки ? Запишіть свою лінійну модель як у https://stats.stackexchange.com/a/58133/8402 , і використовуйте ті самі позначення, що й це посилання. Тоді можна перевірити, що зразок переходить до коли повторює модель нескінченно багато разів.$R^²$ R2 p o p R 2 : = $\boxed{Y=\mu+\sigma G}$
$R^2$ Y=μ+σ$\boxed{popR^2:=\dfrac{\lambda}{n+\lambda}}$$Y=\mu+\sigma G$

Наприклад:

> ## design of the simple regression model lm(y~x0)
> n0 <- 10
> sigma <- 1
> x0 <- rnorm(n0, 1:n0, sigma)
> a <- 1; b <- 2 # intercept and slope
> params <- c(a,b)
> X <- model.matrix(~x0)
> Mu <- (X%*%params)[,1]
> 
> ## replicate this experiment k times 
> k <- 200
> y <- rep(Mu,k) + rnorm(k*n0)
> # the R-squared is:
> summary(lm(y~rep(x0,k)))$r.squared 
[1] 0.971057
> 
> # theoretical asymptotic R-squared:
> lambda0 <- crossprod(Mu-mean(Mu))/sigma^2
> lambda0/(lambda0+n0)
          [,1]
[1,] 0.9722689
> 
> # other approximation of the asymptotic R-squared for simple linear regression:
> 1-sigma^2/var(y)
[1] 0.9721834

Населення підмоделі$R^2$

Тепер припустимо, що модель є з та розглянемо підмодель . H1:μ∈W1H0:μ∈W$\boxed{Y=\mu+\sigma G}$$H_1\colon\mu \in W_1$$H_0\colon \mu \in W_0$

Тоді я вище сказав, що популяція моделі є де і а тоді в простому є .H 1 p o p R 2 1 : = λ $R^2$$H_1$$\boxed{popR^2_1:=\dfrac{\lambda_1}{n+\lambda_1}}$$\boxed{\lambda_1=\frac{{\Vert P_{Z_1} \mu\Vert}^2}{\sigma^2}}$$Z_1=[1]^\perp \cap W_1$${\Vert P_{Z_1} \mu\Vert}^2=\sum(\mu_i - \bar \mu)^2$

Тепер ви визначити населення з подмодели як асимптотическое значення , розрахованих за моделлю але при узагальненому припущенні моделі ? Асимптотичне значення (якщо воно є) здається важче знайти.$R^2$ $H_0$$R^2$$H_0$$H_1$

Замість того, щоб відповісти на запитання, яке ви задали, я буду запитати, чому ви ставите це питання. Я припускаю, що ви хочете знати, чи є

mod.small <- lm(y ~ x1a + x1b + x1c, data=x)

принаймні так добре, як

mod.large <- lm(y ~ ., data=x)

при поясненні y. Оскільки ці моделі вкладені, очевидним способом відповіді на це питання, здавалося б, є проведення аналізу дисперсії, порівнюючи їх, таким же чином, як ви могли б виконати аналіз відхилення для двох ГЛМ, наприклад

anova(mod.small, mod.large)

Тоді ви можете використовувати зразкове поліпшення R-квадрата між моделями як найкращу здогадку про те, яке би було покращення придатності у популяції, завжди припускаючи, що ви можете зрозуміти, чисельність R-квадрата населення. Особисто я не впевнений, що можу, але з цим це не має жодного значення.

Загалом, якщо ви зацікавлені в кількості населення, ви, мабуть, зацікавлені в узагальненні, тому міра відповідності вибірки не зовсім те, що ви хочете, однак "виправлено". Наприклад, перехресне підтвердження деякої кількості, яка оцінює сорт та кількість фактичних помилок, які ви могли б очікувати з вибірки, як, наприклад, MSE, могло б отримати те, що ви хочете.

Але цілком можливо, я тут щось пропускаю ...

Далі представлено кілька можливостей для обчислення довірчих інтервалів на .$\rho^2$

Подвійне коригування r-квадратного завантажувача

Моя поточна найкраща здогадка на відповідь - це зробити подвійний завантажений r-квадратний завантажувач. Я впровадив техніку. Він передбачає наступне:

• Створіть набір зразків завантажувальної програми з поточних даних.
• Для кожного завантаженого зразка:
  • обчисліть спочатку скоригований r-квадрат для двох моделей
  • обчислити другий скоригований r-квадрат на скоригованому значенні r-квадрата з попереднього кроку
  • $\Delta \rho^2$

Обґрунтування полягає в тому, що перший скоригований r-квадрат усуває зміщення, введене за допомогою завантаження (тобто завантаження передбачає, що вибірковий r-квадрат є сукупністю r-квадрат). Другий скоригований r-квадрат виконує стандартну корекцію, яка застосовується до нормальної вибірки для оцінки популяції r-квадрата.

На даний момент я бачу лише те, що застосування цього алгоритму генерує оцінки, які здаються правильними (тобто середнє значення theta_hat у завантажувальній програмі дуже близьке до вибірки theta_hat). Стандартна помилка відповідає моїй інтуїції. Я ще не перевіряв, чи забезпечує це належне частое покриття там, де відомий процес генерації даних, і я також не зовсім впевнений, як аргумент може бути виправданий з перших принципів

Якщо хтось бачить якісь причини, чому такий підхід був би проблематичним, я буду вдячний почути його.

Моделювання Альгіна та ін

$\Delta \rho^2$

Смітсон (2001) про використання параметра нецентральності

$R^2$$f^2$$R^2$

Список літератури

• Альгіна, Дж., Кесельман, Х'ю і Пенфілд, інтервали довіри RD для коефіцієнта кореляції множинних напівчасткових кореляцій. PDF
• Смітсон, М. (2001). Правильні інтервали довіри для різних розмірів та параметрів регресійного значення: Важливість нецентральних розподілів у обчислювальних інтервалах. Навчально-психологічний вимір, 61 (4), 605-632.