Статистика та великі дані

Чи існують документи / книги / ідеї про співвідношення між кількістю ознак та кількістю спостережень, які потрібно мати для підготовки "надійного" класифікатора? Наприклад, припустимо, що у мене є 1000 можливостей та 10 спостережень з двох класів як навчальний набір, та 10 інших спостережень як тестовий набір. Я треную деякі класифікатори …

26 machine-learning 

Вже пройшла чудова дискусія щодо того, як вектори підтримки підтримують класифікацію, але я дуже розгублений, як підтримуючі векторні машини узагальнюються до регресії. Хтось дбає просвітити мене?

26 regression  machine-learning  svm 

У декількох лінійних регресіях я можу зрозуміти, що кореляція між залишковим та предиктором дорівнює нулю, але яка очікувана кореляція між залишковою та критеріальною змінною? Чи слід очікувати, що він буде нульовим або сильно корелює? У чому сенс цього?

26 regression  residuals 

Мене цікавить регресія з нейронними мережами. Нейронні мережі з нульовими прихованими вузлами + з'єднання пропускового шару є лінійними моделями. Що з тими ж нейронними мережами, але із прихованими вузлами? Мені цікаво, якою була б роль з'єднань пропускового шару? Інтуїтивно, я б сказав, що якщо включити з'єднання пропускового шару, то остаточна …

26 regression  machine-learning  neural-networks  deep-learning 

Нещодавно я вважав за необхідне отримати pdf для квадрата нормальної випадкової величини із середнім значенням 0. З будь-якої причини я вирішив не нормалізувати дисперсію заздалегідь. Якщо я це зробив правильно, то цей pdf такий: N2(x;σ2)=1σ2π−−√x−−√e−x2σ2N2(x;σ2)=1σ2πxe−x2σ2 N^2(x; \sigma^2) = \frac{1}{\sigma \sqrt{2 \pi} \sqrt{x}} e^{\frac{-x}{2\sigma^2}} Я помітив, що насправді це була лише …

26 normal-distribution  gamma-distribution 

Я багато чого знайшов в Інтернеті щодо тлумачення випадкових та фіксованих ефектів. Однак я не зміг отримати джерело, яке зафіксувало таке: Яка математична різниця між випадковими та фіксованими ефектами? Під цим я маю на увазі математичну постановку моделі та спосіб оцінювання параметрів.

26 mathematical-statistics  mixed-model  random-effects-model  fixed-effects-model 

Натхненний розмовою Пітера Доннеллі в TED , в якій він обговорює, скільки часу знадобиться, щоб певна схема з'явилася в серії монет, я створив наступний сценарій у Р. Враховуючи два шаблони 'hth' і 'htt', це підраховує, скільки часу в середньому потрібно (тобто скільки викинуто монет), перш ніж потрапити на один із …

26 r  probability  stochastic-processes 

Зачинено. Це питання поза темою . Наразі відповіді не приймаються. Хочете вдосконалити це питання? Оновіть питання, щоб воно було тематичним для Cross Valified. Закрито 6 років тому . Я хотів би виконати стовпчикову нормалізацію матриці в Р. З огляду на матрицю m, я хочу нормалізувати кожен стовпчик, поділяючи кожен елемент …

26 r  data-transformation  normalization  matrix 

Раніше я використовував прогноз про для прогнозування одномірного часового ряду, але перемикаю свій робочий процес на Р. Пакет прогнозування для R містить безліч корисних функцій, але одне, що він не робить, - це будь-яке перетворення даних перед запуском автоматичного .arima (). У деяких випадках прогноз про вирішує записати дані перетворення, …

26 r  time-series  data-transformation  forecasting  arima 

майже в усіх прикладах коду, який я бачив у VAE, функції втрат визначаються наступним чином (це тензорфловий код, але я бачив подібне для theano, факела тощо. Це також для convnet, але це також не надто актуально , просто впливає на осі, на які беруться суми): # latent space loss. KL …

26 machine-learning  deep-learning  tensorflow  autoencoders  variational-bayes 

У мене дуже незбалансований набір даних. Я намагаюся дотримуватися порад щодо налаштування та користуватися, scale_pos_weightале не знаю, як слід його настроїти. Я бачу, що RegLossObj.GetGradientце: if (info.labels[i] == 1.0f) w *= param_.scale_pos_weight тому градієнт позитивної вибірки був би більш впливовим. Однак, згідно з документом xgboost , статистика градієнта завжди використовується …

26 unbalanced-classes  xgboost 

Припустимо, що модель має 100% точність на даних тренувань, але 70% точність на даних тесту. Чи справедливо наступний аргумент щодо цієї моделі? Очевидно, що це надмірна модель. Точність тесту може бути підвищена за рахунок зменшення насадки. Але ця модель все ще може бути корисною моделлю, оскільки вона має прийнятну точність …

25 model  accuracy  overfitting 

Чи правда, що байєсівські методи не переборщують? (Я бачив деякі документи та навчальні посібники, які заявляють про це) Наприклад, якщо ми застосуємо Гауссовий процес до MNIST (рукописна класифікація), але покажемо йому єдиний зразок, чи повернеться він до попереднього розподілу для будь-яких входів, відмінних від цього єдиного зразка, як би невелика …

25 bayesian  nonparametric  gaussian-process  overfitting  misspecification 

Мені цікаво, чи може якийсь алгоритм одночасно робити класифікацію та регресію. Наприклад, я хотів би дозволити алгоритму вивчити класифікатор, і в той же час в межах кожної мітки він також дізнається безперервну ціль. Таким чином, для кожного прикладу навчання він має категоричну етикетку та постійне значення. Спочатку я міг би …

25 regression  machine-learning  classification  predictive-models  finite-mixture-model 

Я пам’ятаю, як прочитав деякий час тому, що в старих книгах (до комп’ютерних днів) останні цифри теоретичних квантилів, показаних у додатках, були неточними, щоб відмовити від плагіату (ідея полягала б у тому, що якщо інша книга має таблицю в додаток, коли останні цифри ідентичні тим, які ви знайдете у вашій, …

25 references  history  tables