Як зафіксувати один коефіцієнт і підходити до інших за допомогою регресії

Я хотів би вручну зафіксувати певний коефіцієнт, скажімо, , а потім підходити коефіцієнти до всіх інших прогнокторів, зберігаючи β 1 = 1,0 у моделі.$\beta_1=1.0$$\beta_1=1.0$

Як я можу досягти цього за допомогою R? Я особливо хотів би попрацювати з LASSO ( glmnet), якщо можливо.

Як варіант я можу обмежити цей коефіцієнт певним діапазоном, скажімо, ?$0.5\le\beta_1\le1.0$

Вам потрібно використовувати такий offsetаргумент:

library(glmnet)
x=matrix(rnorm(100*20),100,20)
x1=matrix(rnorm(100),100,1)
y=rnorm(100)
fit1=glmnet(x,y,offset=x1)
fit1$offset
print(fit1)

Щодо діапазону ... Я не думаю, що це було реалізовано в Росії glmnet. Якщо вони використовують якийсь числовий метод, ви можете скористатися кодом R і спробувати обмежити його там, але вам знадобиться хороший, міцний фон програмування.

Ну, давайте подумаємо. Ти маєш:

$Y = b_0 + b_1x_1 + b_2x_2 + e$

$b_1 = 1$

$Y = b_0 + x_1 + b_2x_2 + e$

$x_1$

$Ynew = Y-x_1 = b_0 + b_2x_2 + e$

$b_2$

Що стосується обмежувальних коефіцієнтів, що знаходяться в межах діапазону, баєсовський підхід до оцінки є одним із способів цього досягти.

Зокрема, можна покластися на ланцюжок Маркова Монте-Карло. Спочатку розглянемо алгоритм вибірки Гіббса, саме так, як ти впишеш MCMC у байєсівські рамки, відсутнє обмеження. Під час вибірки Гіббса на кожному кроці алгоритму ви вибираєте із заднього розподілу кожного параметра (або групи параметрів), що залежить від даних та всіх інших параметрів. У Вікіпедії є хороший підсумок підходу.

Один із способів обмежити діапазон - застосувати крок «Метрополіс-Гастінгс». Основна ідея - просто викинути будь-яку модельовану змінну, яка знаходиться поза межами вашої межі. Потім ви можете продовжувати повторний відбір проб до тих пір, поки це не вийде, перш ніж перейти до наступної ітерації. Мінус цього полягає в тому, що ви можете застрягти, імітуючи багато разів, що сповільнює MCMC. Альтернативний підхід, спочатку розроблений Джоном Гевке в кількох статтях і розроблений у статті Родрігеса-Яма, Девіса, Шарпа, полягає в імітації обмеженого багатоваріантного нормального розподілу. Цей підхід може вирішити лінійні та нелінійні обмеження нерівності в параметрах, і я мав певний успіх у цьому.

Я не знайомий з LASSO або glmnet, але lavaan(скорочено для "прихованого змінного аналізу") полегшує множинні регресійні моделі як з обмеженнями рівності, так і з одномежними обмеженнями нерівності (див. Таблицю на сторінці 7 цього PDF, "lavaan: Пакет R для моделювання структурного рівняння " ). Я не знаю, чи могли ви мати верхній і нижній межі на коефіцієнті, але, можливо, ви можете додати кожне зв'язане окремим рядком, наприклад:

Coefficient>.49999999
Coefficient<1.0000001

Звичайно, якщо ви стандартизуєте все, перш ніж підходити до моделі, вам не доведеться турбуватися про накладення верхньої межі 1 на ваші коефіцієнти регресії. Я б сказав, що вам краще пропустити це в цьому випадку, про всяк випадок, якщо щось піде не так! ( lavaan Це все ще в бета - версії в кінці кінців ... Я бачив трохи рибний результати в моєму власному обмеженому використанні цього до цих пір.)