Запитання з тегом «ensemble»

Випадкові ліси працюють, створюючи ансамбль дерев рішень, де кожне дерево створюється за допомогою зразка завантажувального зразка вихідних навчальних даних (вибірки обох вхідних змінних та спостережень). Чи можна застосувати подібний процес для лінійної регресії? Створіть k лінійних моделей регресії, використовуючи випадковий зразок завантаження для кожної з k регресій Які причини НЕ …

14 regression  predictive-models  ensemble 

Я хотів би створити випадковий ліс, використовуючи наступний процес: Побудуйте дерево на випадкових вибірках даних і особливостей, використовуючи посилення інформації для визначення розбиття Припиніть вузол листя, якщо він перевищує заздалегідь задану глибину АБО будь-який розкол призведе до того, що кількість листків буде меншою за попередньо визначений мінімум Замість того, щоб …

14 classification  random-forest  lasso  ensemble 

Мені здається, що ансамблеве навчання завжди дасть кращі показники прогнозування, ніж лише одна гіпотеза навчання. То чому б ми не використовували їх постійно? Моя здогадка, можливо, через обчислювальні обмеження? (навіть тоді ми використовуємо слабкі предиктори, тому я не знаю).

13 boosting  ensemble  bagging 

Я теоретично розумію (начебто), як вони працюватимуть, але не впевнений, як реально використовувати метод ансамблю (наприклад, голосування, зважені суміші тощо). Які хороші ресурси для впровадження ансамблевих методів? Чи є якісь ресурси щодо впровадження в Python? Редагувати: Щоб прояснити деякі результати на основі обговорення в коментарях, я не шукаю алгоритмів ансамблі, …

13 machine-learning  python  ensemble 

Я хочу побудувати регресійну модель, яка є середнім числом декількох моделей OLS, кожна базується на підмножині повних даних. Ідея цього лежить в основі цієї роботи . Я створюю k складок і будую k OLS-моделі, кожна з даних без однієї складки. Потім я середнє значення коефіцієнтів регресії, щоб отримати остаточну модель. …

13 regression  least-squares  ensemble 

Мені потрібно автоматизувати прогнозування часових рядів, і я не знаю заздалегідь особливості цих серій (сезонність, тенденція, шум тощо). Моя мета - не отримати найкращу можливу модель для кожної серії, а уникнути досить поганих моделей. Іншими словами, отримувати невеликі помилки кожен раз - не проблема, але отримувати великі помилки раз у …

13 time-series  forecasting  arima  ensemble  exponential-smoothing 

Останнім часом мене зацікавило складання моделей як форми ансамблевого навчання. Зокрема, я трохи експериментував з деякими наборами даних про іграшки для проблем з регресією. Я в основному реалізував індивідуальні регресори "рівня 0", зберігав прогнози виходу кожного регресора як нову функцію для "метарегресора", який можна взяти за свій внесок, і прилаштував …

11 machine-learning  ensemble  stacking 

Методи ансамблю на основі дерев, такі як "Випадковий ліс" та наступні похідні (наприклад, умовний ліс), усі вони вважають корисними у так званих "малих n , великих p " проблемах для визначення відносної змінної важливості. Дійсно, це так і є, але моє питання полягає в тому, наскільки далеко можна взяти цю …

10 random-forest  small-sample  ensemble 

Припустимо, у мене є один зразок частоти 4 можливих подій: Event1 - 5 E2 - 1 E3 - 0 E4 - 12 і я маю очікувані ймовірності моїх подій: p1 - 0.2 p2 - 0.1 p3 - 0.1 p4 - 0.6 За допомогою суми спостережуваних частот моїх чотирьох подій (18) …

9 r  statistical-significance  chi-squared  multivariate-analysis  exponential  joint-distribution  statistical-significance  self-study  standard-deviation  probability  normal-distribution  spss  interpretation  assumptions  cox-model  reporting  cox-model  statistical-significance  reliability  method-comparison  classification  boosting  ensemble  adaboost  confidence-interval  cross-validation  prediction  prediction-interval  regression  machine-learning  svm  regularization  regression  sampling  survey  probit  matlab  feature-selection  information-theory  mutual-information  time-series  forecasting  simulation  classification  boosting  ensemble  adaboost  normal-distribution  multivariate-analysis  covariance  gini  clustering  text-mining  distance-functions  information-retrieval  similarities  regression  logistic  stata  group-differences  r  anova  confidence-interval  repeated-measures  r  logistic  lme4-nlme  inference  fiducial  kalman-filter  classification  discriminant-analysis  linear-algebra  computing  statistical-significance  time-series  panel-data  missing-data  uncertainty  probability  multivariate-analysis  r  classification  spss  k-means  discriminant-analysis  poisson-distribution  average  r  random-forest  importance  probability  conditional-probability  distributions  standard-deviation  time-series  machine-learning  online  forecasting  r  pca  dataset  data-visualization  bayes  distributions  mathematical-statistics  degrees-of-freedom