Статистика та великі дані

Цитуючи одного з авторів: t-Розподілене стохастичне сусідське вбудовування (t-SNE) - це ( виграшний ) метод зменшення розмірності, який особливо добре підходить для візуалізації високомірних наборів даних. Так це звучить досить чудово, але це той, хто говорить Автору. Ще одна цитата автора (ре: вищезгаданий конкурс): Що ви зняли з цього змагання? …

37 data-visualization  dimensionality-reduction  tsne 

Проблема, яку я часто зустрічався в контексті Нейронних мереж в цілому, і Глибоких нейронних мереж, зокрема, полягає в тому, що вони "голодні", тобто вони не працюють добре, якщо у нас не є великий набір даних з якою тренувати мережу. Я розумію, що це пов’язано з тим, що NNets, особливо Deep …

37 neural-networks  deep-learning  regularization 

Я провів аналіз основних компонентів (PCA) з R, використовуючи дві різні функції ( prcompі princomp), і зауважив, що бали PCA відрізняються за ознакою. Як це може бути? Врахуйте це: set.seed(999) prcomp(data.frame(1:10,rnorm(10)))$x PC1 PC2 [1,] -4.508620 -0.2567655 [2,] -3.373772 -1.1369417 [3,] -2.679669 1.0903445 [4,] -1.615837 0.7108631 [5,] -0.548879 0.3093389 [6,] 0.481756 …

37 r  pca  factor-analysis 

Мені було цікаво, яка різниця та залежність між прогнозом та прогнозуванням? Особливо в часових рядах та регресії? Наприклад, чи я правильний: У часових рядах прогнозування, схоже, означає оцінку майбутніх значень з урахуванням минулих значень часового ряду. У регресії прогноз, здається, означає оцінити значення, чи є це майбутніми, поточними або минулими …

37 regression  time-series  forecasting  terminology 

Існує кілька популярних методів перестановки, які часто використовуються на практиці, такі як завантажувальний запуск, перестановка на перестановку, джекніф і т. Д. Існують численні статті та книги, які обговорюють ці методи, наприклад , тести перестановки, параметричні та завантажувальні функції «Філіпп I хороший» (2010). Гіпотези Моє запитання, яка техніка перекомпонування отримала більшу …

37 hypothesis-testing  nonparametric  bootstrap  permutation-test 

Я намагався відповідати моїм даними в різні моделі і з'ясував , що fitdistrфункція з бібліотеки MASSз Rдає мені , Negative Binomialяк найбільш підходяще. Тепер на сторінці wiki визначення задано як: Розподіл NegBin (r, p) описує ймовірність k провалів і r успіхів у k + r випробуваннях Бернуллі (p) з успіхом …

37 r  distributions  modeling  negative-binomial 

Я використовував пакет карети в R для побудови прогнозних моделей для класифікації та регресії. Caret надає уніфікований інтерфейс для налаштування гіпер-параметрів моделі шляхом перехресної перевірки або обв'язки завантаження. Наприклад, якщо ви будуєте просту модель "найближчих сусідів" для класифікації, скільки сусідів слід використовувати? 2? 10? 100? Caret допомагає вам відповісти на …

37 r  time-series  cross-validation 

На сторінці 223 у вступі до статистичного навчання автори узагальнюють відмінності між регресією хребта та ласо. Вони наводять приклад (рис. 6.9) того, коли "ласо має тенденцію перевершити регресію хребта в плані зміщення, дисперсії та MSE". Я розумію, чому ласо може бути бажаним: це призводить до рідкісних рішень, оскільки він зменшує …

37 machine-learning  prediction  lasso  regularization  ridge-regression 

Я читаю " Вступ до статистичного навчання ". У главі 2 вони обговорюють причину оцінки функції .fff 2.1.1 Чому оцінюємо ?fff Є дві основні причини , ми , можливо , забажає оцінити е : передбачення і умовиводів . Ми обговорюємо кожного по черзі. Я читав це вже кілька разів, але …

37 prediction  terminology  causality 

Я треную нейронну мережу, і втрата тренінгу зменшується, але втрата валідації не робить, або зменшується набагато менше, ніж я б очікував, виходячи з посилань або експериментів із дуже схожими архітектурами та даними. Як я можу це виправити? Щодо питання Що робити, коли моя нервова мережа не навчається? для чого це …

37 neural-networks  deep-learning 

Яка різниця між термінами «ядро» та «фільтр» в контексті згорткових нейронних мереж?

37 neural-networks  terminology  deep-learning  conv-neural-network 

Тест Мантеля широко застосовується в біологічних дослідженнях для вивчення кореляції між просторовим розподілом тварин (положення в просторі) з, наприклад, їх генетичною спорідненістю, швидкістю агресії або яким-небудь іншим ознакою. Використовують безліч хороших журналів ( PNAS, поведінка тварин, молекулярна екологія ... ). Я сфабрикував деякі зразки, які можуть траплятися в природі, але …

37 r  correlation  spatial  pattern-recognition 

Зараз я використовую пакет Rme lme4 . Я використовую лінійні моделі змішаних ефектів із випадковими ефектами: library(lme4) mod1 <- lmer(r1 ~ (1 | site), data = sample_set) #Only random effects mod2 <- lmer(r1 ~ p1 + (1 | site), data = sample_set) #One fixed effect + # random effects mod3 …

37 r  regression  mixed-model  random-effects-model 

Мені просто цікаво, чому зазвичай є лише регуляризація норм L1L1L_1 і L2L2L_2 . Чи є докази того, чому це краще?

36 lasso  regularization  ridge-regression 

Я намагаюся зрозуміти історію градиентного методу і стохастичного градієнтного спуску . Градієнтний спуск був винайдений у Коші в 1847 році. Méthode générale pour la résolution des systèmes d'équations simultanées . С. 536–538 Детальніше про це дивіться тут . Відтоді методи градієнтного спуску продовжували розвиватися, і я не знайомий з їх …

36 references  gradient-descent  history  sgd