Статистика та великі дані

З якоюсь метою мені потрібно генерувати випадкові числа (дані) з "похилого рівномірного" розподілу. "Нахил" цього розподілу може змінюватись в якийсь розумний інтервал, і тоді мій розподіл повинен змінюватися від рівномірного до трикутного на основі схилу. Ось моя деривація: Давайте спростимо та сформуємо дані від до (синій, червоний - рівномірний розподіл). …

9 r  distributions  python  random-generation  uniform 

Я намагаюся зробити SVD вручну: m<-matrix(c(1,0,1,2,1,1,1,0,0),byrow=TRUE,nrow=3) U=eigen(m%*%t(m))$vector V=eigen(t(m)%*%m)$vector D=sqrt(diag(eigen(m%*%t(m))$values)) U1=svd(m)$u V1=svd(m)$v D1=diag(svd(m)$d) U1%*%D1%*%t(V1) U%*%D%*%t(V) Але останній рядок не повертається mназад. Чому? Здається, це має щось спільне з ознаками цих власних векторів ... Або я неправильно зрозумів процедуру?

9 r  svd  eigenvalues 

Просто хочу перевірити деякі міркування. Якщо мій оригінальний зразок має розмір і я завантажую його, то мій процес роздумів такий:nнn 1n1n\frac{1}{n} - це шанс будь-якого спостереження, отриманого з оригінальної вибірки. Щоб наступний розіграш не був попередньою вибіркою спостереження, ми обмежимо розмір вибірки до . Таким чином, ми отримуємо цю закономірність:n−1n−1n-1 …

9 sampling  bootstrap  sample-size  subsampling 

Ця публікація стосується двовимірної лінійної регресійної моделі, . Я завжди брав розподіл загальної суми квадратів (SSTO) на суму квадратів для помилки (SSE) та суму квадратів для моделі (SSR) на вірі, але як тільки я почав реально думати про це, я не розумію чому це працює ...Yi=β0+β1xiYi=β0+β1xiY_i = \beta_0 + \beta_1x_i …

9 regression  sums-of-squares  orthogonal 

Як і багато інших, я знайшов ресурси тут і тут надзвичайно корисними для розуміння клітин LSTM. Я впевнений, що я розумію, як величини течуть і оновлюються, і я досить впевнений, щоб додати також згадані "підключення" та ін. У своєму прикладі я маю на кожному етапі вхідний вектор довжини iта вихідний …

9 machine-learning  neural-networks  lstm  rnn 

Я намагаюся моделювати набір даних, який відповідає емпіричним даним, які я маю, але не знаю, як оцінити помилки в початкових даних. Емпіричні дані включають гетероскедастичність, але мене не цікавить їх перетворення, а скоріше використання лінійної моделі з помилковим терміном для відтворення моделювання емпіричних даних. Наприклад, скажімо, у мене є емпіричний …

9 r  simulation  heteroscedasticity  gamlss  dglm 

Хасті та Тібшірані згадують у розділі 4.3.2 своєї книги, що у лінійній регресії підхід найменших квадратів насправді є особливим випадком максимальної вірогідності. Як ми можемо довести цей результат? PS: Не шкодуйте математичних деталей.

9 regression  maximum-likelihood  least-squares 

Мене бентежить наступне, і я не змогла викопати відповідь деінде. Я намагаюся вивчити R, роблячи деякі статистичні дані, і, як вправу, я намагаюся двічі перевірити результати вбудованих функцій R, також виконуючи ці "вручну", як це було в Р. Однак , для тесту Kruskal-Wallis я отримую різні результати, і я не …

9 r  kruskal-wallis  ties 

Я намагаюся створити зменшену модель, щоб передбачити багато залежних змінних (DV) (~ 450), які сильно корелюються. Мої незалежні змінні (IV) також численні (~ 2000) і сильно корелюються. Якщо я використовую ласо для вибору зменшеної моделі для кожного виводу окремо, я не гарантую, що я отримаю той самий підмножина незалежних змінних, …

9 r  lasso  multivariate-regression 

Я переживаю проблеми письмових завдань класу глибокого навчання в Stanford NLP http://cs224d.stanford.edu/assignment1/assignment1_soln Я намагаюся зрозуміти відповідь для 3а, де вони шукають похідне від вектора для центрального слова. Припустимо, вам надано прогнозований вектор слова vcvcv_{c}що відповідає центральному слову c для skipgram, а передбачення слів виконується за допомогою функції softmax, знайденої в …

9 self-study  neural-networks  backpropagation  word2vec 

Я хочу обчислити важливість кожної вхідної функції за допомогою глибокої моделі. Але я знайшов лише один документ про вибір функції за допомогою глибокого навчання - глибокого вибору функцій . Вони вставляють шар вузлів, підключених до кожної функції безпосередньо, перед першим прихованим шаром. Я чув, що мережа глибоких переконань (DBN) також …

9 feature-selection  deep-learning  deep-belief-networks  rbm 

Мені підходить модель змішаних ефектів із терміном сплайна в додатку, де тенденція з часом є криволінійною. Однак те, що я хотів би оцінити, - чи виникає крива-лінійна тенденція через індивідуальне відхилення від лінійності, чи це вплив на рівні групи, який робить груповий рівень придатним, здається криволінійним. Я наводжу відтворювальний приклад, …

9 r  splines  lme4-nlme 

Яка різниця між навчанням різноманітності та нелінійним зменшенням розмірності ? Я бачив, як ці два терміни використовуються взаємозамінно. Наприклад: http://www.cs.cornell.edu/~kilian/research/manifold/manifold.html : Навчання в колективі (часто його також називають нелінійним зменшенням розмірності) переслідує мету вбудувати дані, які спочатку лежать у просторі з високим розміром, у просторі з меншими розмірами, зберігаючи характерні …

9 terminology  dimensionality-reduction  manifold-learning 

Я дізнаюсь про завантажувальний процес як про засіб оцінки дисперсії вибіркової статистики. У мене є одне основне сумнів. Цитуючи з http://web.stanford.edu/class/psych252/tutorials/doBootstrapPrimer.pdf : • Скільки спостережень слід повторно проаналізувати? Гарна пропозиція - оригінальний розмір зразка. Як ми можемо повторно проаналізувати стільки спостережень, скільки в оригінальній вибірці? Якщо у мене розмір вибірки …

9 sampling  bootstrap  resampling 

Я читаю цей передруковий документ , і у мене виникають труднощі після їх виведення рівнянь для регресії Гаусса. Вони використовують налаштування та позначення Расмуссена та Вільямса . Таким чином, адитивний, нульовий середній, стаціонарний і нормально розподілений шум з дисперсієюσ2noiseσnoise2\sigma^2_{noise} передбачається: y=f(x)+ϵ,ϵ∼N(0,σ2noise)y=f(x)+ϵ,ϵ∼N(0,σnoise2)y=f(\mathbf{x})+\epsilon, \quad \epsilon\sim N(0,\sigma^2_{noise}) Передбачається GP-попередник із нульовим середнім значенням …

9 regression  bayesian  gaussian-process