Статистика та великі дані

Якщо ми розглянемо повне вирощене дерево рішень (тобто дерево без рішення), воно має велику дисперсію та низький ухил. Баггінг та випадкові ліси використовують ці моделі з високою дисперсією та агрегують їх, щоб зменшити дисперсію та, таким чином, підвищити точність прогнозування. І Baging, і випадкові ліси використовують вибірку Bootstrap, і як …

11 variance  random-forest  cart  bias  bagging 

Я починаю з глибокого навчання, і у мене є питання, відповіді якого я не зміг знайти, можливо, я не шукав належним чином. Я бачив цю відповідь , але все ще не ясно, що таке втрата ваги і як це пов'язано з функцією втрати.

11 neural-networks  conv-neural-network 

Ризикуючи поставити запитання специфічним для програмного забезпечення та з виправданням його всюдисущості та ідіосинкразії, я хочу запитати про функцію biplot()в R та, точніше, про обчислення та побудову графіку за замовчуванням, накладених червоними стрілками, відповідними до основних змінних. [Щоб мати сенс у деяких коментарях, спочатку розміщені сюжети мали надзвичайну проблему з …

11 r  pca  biplot 

Моделі лінійних змішаних ефектів - це розширення моделей лінійної регресії для даних, які збираються та узагальнюються в групах. Ключові переваги - коефіцієнти можуть змінюватися залежно від однієї або декількох змінних групи. Однак я бореться з тим, коли використовувати модель зі змішаним ефектом? Свої запитання я опрацюю на прикладі іграшки в …

11 regression  mixed-model  random-effects-model  linear 

Проста лінійна модель: x=αt+ϵtx=αt+ϵtx=\alpha t + \epsilon_t деϵtϵt\epsilon_t ~ iidN(0,σ2)N(0,σ2)N(0,\sigma^2) при E(x)=αtE(x)=αtE(x) = \alpha t і Var(x)=σ2Var(x)=σ2Var(x)=\sigma^2 AR (1): де ϵ t ~ iid N ( 0 , σ 2 )Xt=αXt−1+ϵtXt=αXt−1+ϵtX_t =\alpha X_{t-1} + \epsilon_tϵtϵt\epsilon_tN(0,σ2)N(0,σ2)N(0,\sigma^2) при і V a r ( x ) = t σ 2E(x)=αtE(x)=αtE(x) = \alpha tVar(x)=tσ2Var(x)=tσ2Var(x)=t\sigma^2 …

11 regression  stochastic-processes  autoregressive  deterministic 

Заінтриговане запитанням на math.stackexchange і досліджуючи його емпірично, мені цікаво наступне твердження про квадратний корінь сум iid випадкових змінних. Припустимо, є iid випадковими змінними з кінцевим ненульовим середнім та дисперсією та . Центральна гранична теорема говорить із збільшенням . μ σ 2 Y = n ∑ i = 1 X …

11 normal-distribution  central-limit-theorem  sum 

У mgcvпакеті Rє дві функції для встановлення тензорних взаємодій між продуктами: te()і ti(). Я розумію основний розподіл праці між двома (встановлення нелінійної взаємодії проти декомпозиції цієї взаємодії на основні ефекти та взаємодію). Чого я не розумію, це чому te(x1, x2)і ti(x1) + ti(x2) + ti(x1, x2)може давати (трохи) різні результати. …

11 r  gam  mgcv  conditional-probability  mixed-model  references  bayesian  estimation  conditional-probability  machine-learning  optimization  gradient-descent  r  hypothesis-testing  wilcoxon-mann-whitney  time-series  bayesian  inference  change-point  time-series  anova  repeated-measures  statistical-significance  bayesian  contingency-tables  regression  prediction  quantiles  classification  auc  k-means  scikit-learn  regression  spatial  circular-statistics  t-test  effect-size  cohens-d  r  cross-validation  feature-selection  caret  machine-learning  modeling  python  optimization  frequentist  correlation  sample-size  normalization  group-differences  heteroscedasticity  independence  generalized-least-squares  lme4-nlme  references  mcmc  metropolis-hastings  optimization  r  logistic  feature-selection  separation  clustering  k-means  normal-distribution  gaussian-mixture  kullback-leibler  java  spark-mllib  data-visualization  categorical-data  barplot  hypothesis-testing  statistical-significance  chi-squared  type-i-and-ii-errors  pca  scikit-learn  conditional-expectation  statistical-significance  meta-analysis  intuition  r  time-series  multivariate-analysis  garch  machine-learning  classification  data-mining  missing-data  cart  regression  cross-validation  matrix-decomposition  categorical-data  repeated-measures  chi-squared  assumptions  contingency-tables  prediction  binary-data  trend  test-for-trend  matrix-inverse  anova  categorical-data  regression-coefficients  standard-error  r  distributions  exponential  interarrival-time  copula  log-likelihood  time-series  forecasting  prediction-interval  mean  standard-error  meta-analysis  meta-regression  network-meta-analysis  systematic-review  normal-distribution  multiple-regression  generalized-linear-model  poisson-distribution  poisson-regression  r  sas  cohens-kappa 

У всіх сучасних системах рекомендацій, які я бачив, які покладаються на матричну факторизацію, на матриці фільму користувача-фільму проводиться негативна факторизація матриці. Я можу зрозуміти, чому негативність має важливе значення для інтерпретації та / або якщо ви хочете розріджувати фактори. Але якщо ви дбаєте лише про ефективність прогнозування, як, наприклад, у …

11 recommender-system  svd  matrix-decomposition  nnmf 

У мене є список слів, що належать до різних самовизначених категорій. Кожна категорія має свій рисунок (наприклад, одна має фіксовану довжину зі спеціальними символами, інша існує символами, які зустрічаються лише в цій категорії "слово", ...). Наприклад: "ABC" -> type1 "ACC" -> type1 "a8 219" -> type2 "c 827" -> type2 …

11 machine-learning  classification  similarities  supervised-learning 

З урахуванням випадкової величини , яка середня величина та дисперсія ?Y=Exp(λ)Y=Exp(λ)Y = Exp(\lambda)G=1YG=1YG=\dfrac{1}{Y} Я дивлюся на зворотний розподіл гамми, але середнє значення та дисперсія визначаються лише для та відповідно ...α>1α>1\alpha>1α>2α>2\alpha>2

11 variance  mean  exponential 

Припустимо, рівномірно розподілений на . Нехай і . Покажіть, що кореляція між і дорівнює нулю.XXX[0,2π][0,2π][0, 2\pi]Y=sinXY=sin⁡XY = \sin XZ=cosXZ=cos⁡XZ = \cos XYYYZZZ Здається, мені потрібно було б знати стандартне відхилення синуса і косинуса та їх коваріацію. Як я можу їх обчислити? Я думаю, що мені потрібно припустити, що має рівномірний …

11 correlation  variance  random-variable  expected-value 

Я дуже новачок у вкладанні слів. Я хочу уявити, як виглядають документи після навчання. Я читав, що t-SNE - це підхід до цього. У мене є 100K документів з 250 розмірами як розмір вбудовування. Також є кілька пакетів. Однак для t-SNE я не знаю, скільки ітерацій чи значення альфа чи …

11 pca  dimensionality-reduction  word2vec  word-embeddings  tsne 

Гаразд, просто трохи туманно щодо кількох речей, будь-яка допомога буде дуже вдячна. Наскільки я розумію, модель лінійної регресії прогнозується за допомогою умовного очікування Е( Y| Х) = b + Xб + eЕ(Y|Х)=б+Хб+еE(Y|X)=b+Xb+e Чи вважаємо ми, що і і - випадкові величини з деяким невідомим розподілом ймовірностей? я розумів, що лише …

11 regression 

Для двох дискретних розподілів і поперечна ентропія визначається якpppqqq H(p,q)=−∑xp(x)logq(x).H(p,q)=−∑xp(x)log⁡q(x).H(p,q)=-\sum_x p(x)\log q(x). Цікаво, чому це була б інтуїтивна міра відстані між двома розподілами ймовірностей? Я бачу, що - ентропія , яка вимірює "здивування" . - міра, яка частково замінює на . Я досі не розумію інтуїтивного значення, що стоїть за …

11 probability  distributions  cross-entropy 

На пг. 34 Введення в статистичне навчання : \newcommand{\Var}{{\rm Var}} Хоча математичне доказ виходить за рамки даної книги, можна показати , що очікуваний тест MSE для заданого значення , завжди можна розкласти на суму три основних величин: дисперсія в , квадрат зміщення з і дисперсія членів помилки . Це є,х0x0x_0f^( …

11 machine-learning  variance