Статистика та великі дані

Я хочу обчислити AICc моделі регресії хребта. Проблема - кількість параметрів. Для лінійної регресії більшість людей припускають, що кількість параметрів дорівнює кількості оцінених коефіцієнтів плюс сигма (дисперсія похибки). Якщо мова йде про регресію хребта, я читаю, що слід матриці капелюхів - ступінь свободи (df) - просто використовується як кількість термінів …

13 regression  aic  ridge-regression  degrees-of-freedom 

Я намагаюся обчислити 95% достовірний інтервал наступного заднього розподілу. Я не зміг знайти для нього функцію в R, але правильний підхід нижче? x <- seq(0.4,12,0.4) px <- c(0,0, 0, 0, 0, 0, 0.0002, 0.0037, 0.018, 0.06, 0.22 ,0.43, 0.64,0.7579, 0.7870, 0.72, 0.555, 0.37, 0.24, 0.11, 0.07, 0.02, 0.009, 0.005, 0.0001, …

13 bayesian  descriptive-statistics  credible-interval 

Емпіричні функції CDF зазвичай оцінюються за допомогою крокової функції. Чи є причина, чому це робиться таким чином, а не за допомогою лінійної інтерполяції? Чи має ступінчаста функція цікавих теоретичних властивостей, які змушують нас віддавати перевагу цьому? Ось приклад двох: ecdf2 <- function (x) { x <- sort(x) n <- length(x) …

13 r  distributions  ecdf 

Я налаштовував модель за допомогою caret, але потім повторно запустив модель за допомогою gbmпакета. Наскільки я розумію, що caretпакет використовує gbmі вихід повинен бути однаковим. Однак, лише швидкий тестовий пробіг із застосуванням data(iris)показує невідповідність моделі приблизно 5%, використовуючи RMSE і R ^ 2 в якості метрики оцінювання. Я хочу знайти …

13 r  caret  gbm  matrix  linear-algebra  logistic  modeling  logit  ordered-logit  r  confidence-interval  survival  population  weibull  classification  separation  hypothesis-testing  correlation  statistical-significance  p-value  python  r  data-visualization  r  regression  multiple-regression  chi-squared  multivariate-analysis  distributions  random-variable  experiment-design  distributions  poisson-regression  residuals  excel  time-series  garch  var  survival  modeling  cox-model  interaction  r  pca  normality-assumption 

Я досить новачок у галузі гауссових процесів і як вони застосовуються в машинному навчанні. Я продовжую читати та чути про те, що функції коваріації є головною привабливістю цих методів. То чи міг би хто-небудь пояснити інтуїтивно, що відбувається в цих коваріаційних функціях? В іншому випадку, якщо ви можете вказати на …

13 machine-learning  probability  bayesian 

Фон: Я намагаюся дотримуватися огляду Прінстона на оцінку MLE для GLM . Я розумію основи оцінки MLE: likelihood, score, яка спостерігається і очікувана Fisher informationі Fisher scoringтехніка. І я знаю, як виправдати просту лінійну регресію з оцінкою MLE . Питання: Я не можу зрозуміти навіть перший рядок цього методу :( …

13 regression  generalized-linear-model  maximum-likelihood  link-function  irls 

ПЕРЕДБАЧЕННЯ: Мене не хвилюють переваги використання обрізання чи ні, або як слід обрати обріз. Моє питання суто математичне і обумовлене цікавістю. Логістична регресія моделює задню умовну ймовірність класу А проти класу В, і вона відповідає гіперплану, коли задні умовні ймовірності рівні. Тож теоретично я зрозумів, що точка класифікації 0,5 зведе …

13 logistic  predictive-models  unbalanced-classes 

Чи існують дослідницькі групи, які працюють над використанням глибокого навчання для проблем комбінаторної оптимізації?

13 optimization  deep-learning 

Нехай X=(x1,x2,…xn)X=(x1,x2,…xn)\mathbf{X}= (x_1, x_2, \dots x_n) - випадкова вибірка з рівномірного розподілу на (a,b)(a,b)(a,b) , де a&lt;ba&lt;ba < b . Нехай Y1Y1Y_1 і YnYnY_n - найбільша і найменша статистика порядку. Покажіть, що статистика (Y1,Yn)(Y1,Yn)(Y_1, Y_n) є спільно повною достатньою статистикою для параметра θ=(a,b)θ=(a,b)\theta = (a, b). Мені не проблема виявляти …

13 self-study  uniform  sufficient-statistics  complete-statistics 

Розглянемо модель лінійної регресії y=Xβ+uy=Xβ+u\mathbf{y}=\mathbf{X\beta}+\mathbf{u} , u∼N(0,σ2I)u∼N(0,σ2I)\mathbf{u}\sim N(\mathbf{0},\sigma^2\mathbf{I}) , E(u∣X)=0E(u∣X)=0E(\mathbf{u}\mid\mathbf{X})=\mathbf{0} . Нехай H0:σ20=σ2H0:σ02=σ2H_0: \sigma_0^2=\sigma^2 проти H1:σ20≠σ2H1:σ02≠σ2H_1: \sigma_0^2\neq\sigma^2 . Ми можемо зробити висновок, що yTMXyσ2∼χ2(n−k)yTMXyσ2∼χ2(n−k)\frac{\mathbf{y}^T\mathbf{M_X}\mathbf{y}}{\sigma^2}\sim \chi^2(n-k) , де dim(X)=n×kdim(X)=n×kdim(\mathbf{X})=n\times k . І MXMX\mathbf{M_X} є типовим позначенням матриці знищення MXy=y^MXy=y^\mathbf{M_X}\mathbf{y}=\hat{\mathbf{y}} , де y^y^ \hat{\mathbf{y}} є залежною змінною yy\mathbf{y} регресував на XX\mathbf{X} . …

13 regression  hypothesis-testing  mathematical-statistics  inference 

Я прочитав те, що груповий ласо використовується для вибору змінних і обмеженості в групі змінних. Я хочу знати інтуїцію, що стоїть за цим твердженням. Чому груповий ласо віддається перевагу ласо? Чому шлях розв’язання групового ласо не є кусочно лінійним?

13 regression  feature-selection  lasso  regularization 

Я усвідомлюю, що ця тема виникала вже не раз, наприклад, тут , але я все ще не знаю, як найкраще інтерпретувати результати регресії. У мене дуже простий набір даних, що складається з стовпця значень x та стовпця значень y , розділених на дві групи відповідно до місцезнаходження (loc). Точки виглядають …

13 regression  p-value  least-squares  aic 

Це може бути простим поясненням (я все одно сподіваюся). Я зробив аналіз регресії в Matlab, використовуючи інструмент регресії. Однак я натрапив на дослідження, яке говорить про це: "За допомогою регресійного аналізу вдалося встановити модель прогнозування, використовуючи лише чотири звукові функції, які пояснюють 60% дисперсії" Посилання на статтю знаходиться за необхідності: …

13 variance 

У коментарях після цієї моєї відповіді на відповідне запитання користувачі ssdecontrol і Glen_b запитали, чи потрібна спільна нормальність XXX і YYY для підтвердження нормальності суми X+YX+YX+Y ? Це спільне нормальність достатню кількість , звичайно ж , добре відомо. Це додаткове питання там не було розглянуте, і, мабуть, варто його розглянути …

13 probability  normal-distribution  distributions  bivariate  multivariate-normal 

Я використовував функцію h2o.glm () в R, яка дає таблицю непередбачених результатів разом з іншою статистикою. Таблиця на випадок надзвичайних ситуацій очолюється " Перехресна вкладка на основі оптимального порогового значення F1 " Вікіпедія визначає показник F1 або F оцінка як гармонійне середнє значення точності та відкликання. Але чи Precision and …

13 threshold