Запитання з тегом «lasso»

Я знаю, що є загальноприйнятою практикою стандартизувати особливості регресії хребта та ласо, однак, чи було б колись практичніше нормалізувати функції за шкалою (0,1) як альтернативу стандартизації z-балів для цих методів регресії?

11 normalization  lasso  standardization  ridge-regression 

Я розумію, що регресія LASSO полягає в тому, що коефіцієнти регресії вибираються для вирішення проблеми мінімізації: хвβ∥ у- Xβ∥22 с . т . ∥ β∥1≤ tminβ‖y−Xβ‖22 s.t.‖β‖1≤t\min_\beta \|y - X \beta\|_2^2 \ \\s.t. \|\beta\|_1 \leq t На практиці це робиться за допомогою множника Лагранжа, що дозволяє вирішити проблему хвβ∥ у- …

10 optimization  lasso  regularization  lagrange-multipliers 

У кількох відповідях я бачив, що користувачі CrossValided пропонують ОП знайти перші документи про Lasso, Ridge та Elastic Net. Що стосується нащадків, які семінарні роботи про Лассо, Рідж та Еластичну Мережу?

10 references  lasso  regularization  ridge-regression  elastic-net 

Якщо у мене є матриця проектування Х∈ Rn × dХ∈Rн×гX\in\mathcal{R}^{n\times d} , де - кількість спостережень розмірності , яка складність рішення для з LASSO, wrt і ? Я думаю, що відповідь має стосуватися того, як одна ітерація LASSO масштабується з цими параметрами, а не як масштабує кількість ітерацій (конвергенції), якщо …

10 optimization  lasso  regularization  time-complexity 

Нещодавно я був на кількох переговорах зі статистикою щодо Лассо (регуляризація), і ми говоримо про те, що ми не дуже розуміємо, чому працює Лассо або чому він працює так добре. Мені цікаво, на що йдеться в цьому твердженні. Очевидно, я розумію, чому Лассо працює технічно, запобігаючи надмірному оснащенню за рахунок …

10 machine-learning  lasso  regularization 

[Аналогічне питання було поставлене тут , без відповідей] Мені підходить модель логістичної регресії з регуляризацією L1 (логістична регресія Лассо), і я хотів би перевірити встановлені коефіцієнти на значущість та отримати їхні p-значення. Я знаю, що тести Уолда (наприклад) - це можливість перевірити значущість окремих коефіцієнтів у повній регресії без регуляризації, …

10 logistic  statistical-significance  regression-coefficients  lasso 

Мені цікаво, як правильно підійти до навчання та тестування моделі LASSO, використовуючи glmnet в R? Зокрема, мені цікаво, як це зробити, якщо відсутність зовнішнього набору даних тесту потребує використання я перехресної перевірки (або іншого подібного підходу) для тестування моєї моделі LASSO. Дозвольте мені розбити свій сценарій: У мене є лише …

10 r  cross-validation  glmnet  lasso 

У моєму класі машинного навчання ми дізналися про те, наскільки регресія LASSO дуже гарна при виборі функцій, оскільки використовує регуляризацію .л1л1l_1 Моє запитання: чи зазвичай люди використовують модель LASSO лише для вибору функцій (а потім переходять до скидання цих функцій в іншу модель машинного навчання), або вони зазвичай використовують LASSO …

10 feature-selection  lasso  regression-strategies 

Я отримав три зменшених моделі від оригінальної повної моделі за допомогою прямий вибір зворотне усунення Техніка пеналізації L1 (LASSO) Для моделей, отриманих за допомогою вибору вперед / усунення вперед, я отримав перехресну перевірену оцінку помилки прогнозування за допомогою CVlmпакету, DAAGдоступного в R. Для моделі, обраної через LASSO, я використовував cv.glm. …

10 cross-validation  model-selection  lasso  stepwise-regression 

Я читав цю статтю, пов’язану з еластичною сіткою. Вони кажуть, що вони використовують еластичну сітку, тому що якщо ми просто використовуємо Лассо, вона, як правило, вибирає лише один предиктор серед сильних кореляторів. Але чи не це ми хочемо? Я маю на увазі, що це рятує нас від неприємностей мультиколінеарності, чи …

10 regression  lasso  elastic-net 

Мені підходить лінійна модель в R, використовуючи glmnet. Оригінальна (нерегульована) модель була пристосована з використанням lmі не мала постійного терміну (тобто вона була у формі lm(y~0+x1+x2,data)). glmnetприймає матрицю предикторів та вектор відповідей. Я читав glmnetдокументацію і не можу знайти згадки про постійний термін. Отже, чи є спосіб попросити glmnetпримусити лінійне …

10 r  regression  lasso 

Як виконати негативну регресію хребта? Негативне ласо доступне в scikit-learn, але для хребта я не можу застосувати бенегативність бета, і я дійсно отримую негативні коефіцієнти. Хтось знає, чому це? Крім того, чи можу я реалізувати хребет з точки зору регулярних найменших квадратів? Перенесли це на інше запитання: чи можна реалізувати …

10 regression  lasso  regularization  ridge-regression 

Функція R cv.glm (бібліотека: завантаження) обчислює оцінену помилку передбачення перехресної перевірки K-кратного для узагальнених лінійних моделей і повертає дельту. Чи є сенс використовувати цю функцію для регресії ласо (бібліотека: glmnet), і якщо так, то як це можна виконати? Бібліотека glmnet використовує перехресну перевірку, щоб отримати найкращий параметр повороту, але я …

10 r  regression  cross-validation  lasso  glmnet 

Пеналізовані моделі можна використовувати для оцінки моделей, де кількість параметрів дорівнює або навіть перевищує розмір вибірки. Така ситуація може виникнути в лінійних журнальних моделях великих розріджених таблиць категоричних даних або даних про кількість. У цих налаштуваннях часто також бажано або корисно згортання таблиць шляхом комбінування рівнів фактора, коли ці рівні …

10 categorical-data  lasso  elastic-net  log-linear  many-categories 

У мене є набір даних з близько 5000 часто співвідносних функцій / коваріатів та двійкової відповіді. Дані мені дали, я не збирав їх. Я використовую Lasso і градієнтний прискорення для створення моделей. Я використовую ітераційну, вкладену перехресну перевірку. Я повідомляю про найбільші (абсолютні) коефіцієнти 40 Лассо та 40 найважливіших особливостей …

9 machine-learning  multiple-comparisons  regression-coefficients  lasso  high-dimensional