Статистика та великі дані

Метод завантаження в останні роки відчував велику дифузію в останні роки, я також його дуже багато використовую, тим більше, що міркування досить інтуїтивно зрозумілі. Але це одне, чого я не розумію. Чому Efron вирішив виконати повторний вибір із заміною, а не просто підпрограмувати шляхом випадкового включення або виключення одиничних спостережень? …

11 bootstrap  resampling  subsampling 

Моє запитання виявляє моє слабке розуміння регресії Пуассона та ГЛМ загалом. Ось деякі підроблені дані, щоб проілюструвати моє запитання: ### some fake data x=c(1:14) y=c(0, 1, 2, 3, 1, 4, 9, 18, 23, 31, 20, 25, 37, 45) Деякі спеціальні функції для повернення psuedo-R2: ### functions of pseudo-R2 psuR2 <- …

11 generalized-linear-model  poisson-distribution 

Я переглядаю функцію витрат на перехресну ентропію, знайдену в цьому підручнику : C=−1n∑x[ylna+(1−y)ln(1−a)]C=−1n∑x[yln⁡a+(1−y)ln⁡(1−a)]C = -\frac{1}{n} \sum_x [y \ln a+(1−y)\ln(1−a)] Що саме ми підсумовуємо? Звичайно, це понад , але і не змінюються з . Усі є введеннями в один . навіть визначено в абзаці вище рівняння як функція від суми всіх …

11 neural-networks  error-propagation 

Мені було цікаво, чи можна тренувати SVM (скажімо, лінійний, щоб полегшити справи) за допомогою зворотного розповсюдження? Наразі я перебуваю на дорозі, тому що можу думати лише про те, як записати вихід класифікатора як f( x ; θ , b ) = sgn ( θ ⋅ x - ( b + …

11 machine-learning  neural-networks  svm  gradient-descent  backpropagation 

Це функція втрати біноміального відхилення від scikit GradientBoosting, def __call__(self, y, pred, sample_weight=None): """Compute the deviance (= 2 * negative log-likelihood). """ # logaddexp(0, v) == log(1.0 + exp(v)) pred = pred.ravel() if sample_weight is None: return -2.0 * np.mean((y * pred) - np.logaddexp(0.0, pred)) else: return (-2.0 / sample_weight.sum() …

11 machine-learning  scikit-learn  boosting  loss-functions 

Мені цікаво, як я можу імітувати зразок n часу життя дистрибуції Вейбулла, що включає спостереження правого цензури типу I. Наприклад, давайте n = 3, форма = 3, шкала = 1, коефіцієнт цензури = .15, і час цензури = .88. Я знаю, як генерувати зразок Вейбулла, але не знаю, як генерувати …

11 r  survival  simulation  random-generation 

Я розумію, що нейронні мережі (NN) можна вважати універсальними наближеннями як до функцій, так і до їх похідних, за певних припущень (як для мережі, так і для функції наближення). Насправді я зробив ряд тестів на простих, але нетривіальних функціях (наприклад, поліномах), і, схоже, я можу дійсно добре наблизити їх та …

11 machine-learning  neural-networks  function  derivative 

Я хотів би навчити SVM для класифікації справ (TRUE / FALSE) на основі 20 атрибутів. Я знаю, що деякі з цих ознак сильно співвідносяться. Тому моє запитання: чи SVM чутливий до співвідношення чи надмірності між ознаками? Будь-яка довідка?

11 svm  multicollinearity  kernel-trick 

Роблячи деякий EDA, я вирішив використати графік коробки, щоб проілюструвати різницю між двома рівнями фактора. Те, як ggplot надав графік коробки, було задовільним, але трохи спрощеним (перший сюжет нижче). Під час дослідження особливостей коробкових сюжетів я почав експериментувати з виїмками. Я розумію, що на виїмці відображається показник ІК навколо медіани, …

11 data-visualization  ggplot2  eda 

Маркові ланцюги мають сенс для мене, я можу використовувати їх для моделювання імовірнісних змін стану в реальних життєвих проблемах. Потім приходить HMM. Як стверджується, ГММ більше підходять для моделювання багатьох проблем, ніж МС. Однак проблеми, про які згадують люди, є дещо складними для розуміння таких, як обробка мови. Отже, моє …

11 hidden-markov-model 

Я побудував наступний код з функцією stl (Сезонне декомпозиція часових рядів по Лоссу): plot(stl(ts(rnorm(144), frequency=12), s.window="periodic")) Він показує знакову сезонність з випадковими даними, введеними в код вище (функція rnorm). Значні зміни спостерігаються щоразу, коли цей запуск виконується, хоча шаблон є іншим. Нижче показано дві такі схеми: Як ми можемо розраховувати …

11 time-series  seasonality  loess 

Під час реалізації автокодера з нейронною мережею більшість людей використовуватиме сигмоїд як функцію активації. Чи можемо ми використовувати замість ReLU? (Оскільки ReLU не має обмежень на верхній межі, в основному означає, що вхідне зображення може мати піксель більше 1, на відміну від обмежених критеріїв для автокодера, коли використовується сигмоїд).

11 machine-learning  neural-networks  deep-learning  autoencoders 

Якщо β∗=argminβ∥y−Xβ∥22+λ∥β∥1β∗=argminβ‖y−Xβ‖22+λ‖β‖1\beta^*=\mathrm{arg\,min}_{\beta} \|y-X\beta\|^2_2+\lambda\|\beta\|_1 , може ∥β∗∥2‖β∗‖2\|\beta^*\|_2 збільшується, коли λλ\lambda збільшується? Я думаю, що це можливо. Хоча ∥β∗∥1‖β∗‖1\|\beta^*\|_1 не збільшується, коли λλ\lambda збільшується (мій доказ ), ∥β∗∥2‖β∗‖2\|\beta^*\|_2 може збільшуватися. На малюнку нижче показана можливість. Коли λλ\lambda збільшується, якщо β∗β∗\beta^* рухається (лінійно) від PPP до QQQ , тоді ∥β∗∥2‖β∗‖2\|\beta^*\|_2 збільшується, тоді як …

11 lasso 

У мене є кадр даних, який містить значення в 4 стовпцях: Наприклад: ID, price, click count,rating Що я хотів би зробити, це "розділити" цей кадр даних на N різних груп, де кожна група матиме рівну кількість рядків з однаковим розподілом атрибутів ціни, кількості кліків та рейтингів. Будь-яка порада дуже вдячна, …

11 r  distributions 

Як можна оцінити очікування нормального CDF у квадраті у закритому вигляді? E[Φ(aZ+b)2]=∫∞−∞Φ(az+b)2ϕ(z)dzE[Φ(aZ+b)2]=∫−∞∞Φ(az+b)2ϕ(z)dz\mathbb{E}\left[\Phi\left(aZ+b\right)^{2}\right] = \int_{-\infty}^{\infty}\Phi\left(az+b\right)^{2}\phi(z)\,dz Тут , - дійсні числа, , а і - функції щільності і розподілу стандартної нормальної випадкової величини, відповідно.aaabbbZ∼N(0,1)Z∼N(0,1)Z\sim\mathcal{N}(0,1)ϕ(⋅)ϕ(⋅)\phi(\cdot)Φ(⋅)Φ(⋅)\Phi(\cdot)

11 mathematical-statistics