Запитання з тегом «regression»

Якщо ми почнемо з набору даних , застосуємо до нього Лассо і отримаємо рішення , ми можемо знову застосувати Лассо до набору даних , де - безліч не- нульові індекси , щоб отримати рішення, , що називається "розслабленим LASSO" рішенням (виправте мене, якщо я помиляюся!). Рішення повинно задовольняти умовам Каруша …

16 regression  optimization  lasso  regularization  shrinkage 

Як пояснено у цьому розкладі курсу (стор. 1) , лінійну модель можна записати у вигляді: y=β1x1+⋯+βpxp+εi,y=β1x1+⋯+βpxp+εi, y = \beta_1 x_{1} + \cdots + \beta_p x_{p} + \varepsilon_i, де - змінна відповіді, а - пояснювальна змінна .yyyxixix_{i}ithithi^{th} Часто з метою задоволення тестових припущень можна перетворити змінну відповіді. Наприклад, ми застосовуємо функцію …

16 regression  generalized-linear-model  data-transformation  linear-model 

У регресії ласо або хребта потрібно вказати параметр усадки, який часто називають або . Це значення часто вибирається за допомогою перехресної перевірки, перевіряючи купу різних значень на навчальних даних і бачачи, що дає найкращі результати, наприклад на тестових даних. Який діапазон значень слід перевірити? Це ?λλ\lambdaαα\alphaR2R2R^2(0,1)(0,1)(0,1)

16 regression  lasso  regularization  ridge-regression  penalized 

Які вимоги щодо стаціонарності використання регресії з помилками ARIMA (динамічна регресія) для висновку? Зокрема, у мене є нестаціонарна безперервна змінна результат , нестаціонарна безперервна змінна прогнозова х x a та манекенна змінна серія x b . Мені хотілося б дізнатись, чи лікування було пов'язане зі зміною змінної результату, яка більше …

16 regression  time-series  arima  stationarity 

Я все ще досить нова в узагальнених лінійних моделях, і я борюся з великою кількістю позначень у більшості текстів GLM, які я зібрав. Чи є надзвичайно популярні книги GLM, які краще піддаються читанню?

16 regression  generalized-linear-model  references 

Скажімо, у мене є багатовимірна (кілька незалежних змінних) регресії, яка складається з 3 змінних. Кожна з цих змінних має заданий коефіцієнт. Якщо я вирішу ввести 4-ту змінну і повторити регресію, чи зміняться коефіцієнти трьох вихідних змінних? Більш широко: в регресії багатовимірної (декількох незалежних змінних) коефіцієнт даної змінної впливає на коефіцієнт …

16 regression  multiple-regression  multivariable 

Розглянемо лінійну регресію з деякою регуляризацією: Eg Знайдіть що мінімізуєxxx||Ax−b||2+λ||x||1||Ax−b||2+λ||x||1||Ax - b||^2+\lambda||x||_1 Зазвичай стовпці А стандартизовані, щоб мати нульове середнє і одиничну норму, а - по центру, щоб мати нульове середнє. Хочу переконатися, чи правильно я розумію причину стандартизації та центрування.bbb Створюючи засоби стовпців AAA і bbb нульових, нам більше …

16 regression  lasso  regularization  standardization 

Я зовсім новачок у цьому, тому сподіваюся, що ви пробачте мене, якщо питання буде наївним. (Контекст: я вивчаю економетрику з книги "Економетрична теорія та методи" Девідсона та МакКіннона , і, схоже, це не пояснюють; я також роздивився оптимізаційну книгу Луенбергера, яка займається прогнозами на трохи більш просунутому рівні, але без …

16 regression  least-squares 

У мене є класична лінійна модель, з 5 можливими регресорами. Вони некорельовані між собою і мають досить низьку кореляцію з відповіддю. Я прийшов до моделі, де 3 регресори мають значні коефіцієнти для їх t-статистики (p <0,05). Додавання однієї або обох решти двох змінних дає p значення> 0,05 для статистики t, …

16 r  regression  self-study  linear-model 

Я намагаюся здійснити аналіз "точки зміни" або багатофазну регресію за допомогою nls()Р. Ось кілька фальшивих даних, які я зробив . Формула, яку я хочу використати для пристосування даних, така: у= β0+ β1x + β2max ( 0 , x - δ)у=β0+β1х+β2макс(0,х-δ)y = \beta_0 + \beta_1x + \beta_2\max(0,x-\delta) Що потрібно зробити, це …

16 r  regression  change-point  nls 

У лінійній регресії (квадратичні втрати), використовуючи матрицю, ми маємо дуже стисле позначення цілі minimize ∥Ax−b∥2minimize ‖Ax−b‖2\text{minimize}~~ \|Ax-b\|^2 Де - матриця даних, - коефіцієнти, а - відповідь.x bAAAxxxbbb Чи є подібні матричні позначення для цілі логістичної регресії? Усі помічені нами позначення не можуть позбутися суми за всіма точками даних (щось на …

16 regression  logistic  linear-model  notation 

Яка була б "розумна" мінімальна кількість спостережень, щоб шукати тенденцію в часі з лінійною регресією? як щодо підгонки квадратичної моделі? Я працюю із складовими показниками нерівності в здоров’ї (SII, RII) і маю лише 4 хвилі обстеження, тобто 4 бали (1997,2001,2004,2008). Я не статистик, але в мене інтуїтивне враження 4 балів …

16 regression 

Я аналізую набір даних, використовуючи модель змішаних ефектів з одним фіксованим ефектом (умовою) та двома випадковими ефектами (учасник, обумовлений в рамках проекту та пари). Модель була згенерована з lme4пакетом: exp.model<-lmer(outcome~condition+(1|participant)+(1|pair),data=exp). Далі я провів перевірку коефіцієнта ймовірності цієї моделі проти моделі без фіксованого ефекту (умови) і маю суттєву різницю. У моєму …

16 r  repeated-measures  multiple-comparisons  post-hoc  lsmeans  bayesian  posterior  marginal  integral  anova  time-series  regularization  machine-learning  pca  computational-statistics  references  inference  regression  cross-validation  python  random-forest  chi-squared  spearman-rho  r  machine-learning  confidence-interval  bagging  clustering  feature-selection  model-selection  bic  hypothesis-testing  kurtosis  r  regression  residuals  terminology 

У мене є питання про два різні методи з різних бібліотек, які, здається, виконують ту саму роботу. Я намагаюся зробити лінійну регресійну модель. Ось код, за допомогою якого я використовую бібліотеку statsmodel з OLS: X_train, X_test, y_train, y_test = cross_validation.train_test_split(x, y, test_size=0.3, random_state=1) x_train = sm.add_constant(X_train) model = sm.OLS(y_train, x_train) …

16 regression  python  scikit-learn  statsmodels 

http://www.chioka.in/differences-between-l1-and-l2-as-loss-function-and-regularization/ Якщо ви подивитеся на верхню частину цього повідомлення, письменник зазначає, що норма L2 має унікальне рішення, а норма L1, можливо, має багато рішень. Я розумію це з точки зору регуляризації, але не з точки зору використання норми L1 або норми L2 у функції втрат. Якщо ви подивитеся на графіки …

16 regression  lasso  regularization