Статистика та великі дані

У мене з'явилася невелика плутанина щодо алгоритму зворотного розповсюдження , який використовується в багатошаровому персептроні (MLP). Помилка коригується функцією витрат. У зворотному розмноженні ми намагаємось регулювати вагу прихованих шарів. Помилка виводу, яку я можу зрозуміти, тобто e = d - y[Без підписок]. Питання: Як можна отримати помилку прихованого шару? Як …

19 machine-learning  neural-networks  backpropagation 

Я намагаюся зрозуміти, яка мета функції втрати, і я не можу її цілком зрозуміти. Отже, наскільки я розумію, функція втрати полягає в тому, щоб ввести якусь метрику, за допомогою якої ми можемо виміряти "вартість" неправильного рішення. Скажімо, у мене є набір даних із 30 об’єктів, я розділив їх на навчальні …

19 machine-learning  loss-functions 

Я намагаюся оцінити параметри гамма-розподілу, які найкраще відповідають моїй вибірці даних. Я хочу лише використовувати середнє значення , std (а отже, і дисперсію ) з вибірки даних, а не фактичні значення - оскільки вони не завжди будуть доступні в моїй програмі. Згідно з цим документом, для оцінки форми та масштабу …

19 distributions  estimation  gamma-distribution 

Працюючи над проблемою регресії, я почав думати про представлення функції "день тижня". Цікаво, який підхід би краще: одна особливість; значення 1/7 за понеділок; 2/7 на вівторок ... 7 особливостей: (1, 0, 0, 0, 0, 0, 0) для понеділка; (0, 1, 0, 0, 0, 0, 0) за вівторок ... Важко це …

19 machine-learning  neural-networks  feature-construction 

Я знаю, що стохастичний градієнтний спуск має випадкову поведінку, але я не знаю, чому. Чи є пояснення з цього приводу?

19 machine-learning  random-variable  gradient-descent 

Я працюю над сильно незбалансованими даними. У літературі використовується декілька методів, щоб збалансувати дані за допомогою повторного відбору вибірок (над- чи недостатня вибірка). Два хороших підходи: SMOTE: Техніка надмірного відбору синтетичних меншин ( SMOTE ) ADASYN: Адаптивний синтетичний підбір проб для збалансованого навчання ( ADASYN ) Я реалізував ADASYN, оскільки …

19 classification  dataset  resampling  unbalanced-classes  oversampling 

Контекст : Ієрархічна регресія з деякими відсутніми даними. Питання : Як я можу використовувати оцінку максимальної ймовірності повної інформації (FIML) для адреси відсутніх даних у R? Чи є пакет, який ви б рекомендували, і які типові кроки? Інтернет-ресурси та приклади також були б дуже корисними. PS : Я соціальний вчений, …

19 r  maximum-likelihood  missing-data 

Я прочитав статтю Олександра Нікулеску-Мізіля та Річа Каруана " Отримання каліброваних ймовірностей від підвищення " та обговорення в цій темі. Однак у мене все ще виникають проблеми з розумінням та реалізацією логістичного чи масштабу Платта для калібрування результатів мого багатокласного прискорюючого класифікатора (ніжне підсилення з пнів). Я дещо знайомий з …

19 machine-learning  boosting 

Чи є якась різниця між «трансферним навчанням» та «адаптацією домену»? Я не знаю про контекст, але я розумію, що ми маємо деякий набір даних 1 і тренуємось на ньому, після чого у нас є ще один набір даних 2, для якого ми хочемо адаптувати свою модель, не перекваліфікуючись з нуля, …

19 deep-learning  terminology  conv-neural-network  transfer-learning  domain-adaptation 

Припустимо, у вас є один перетин даних, де люди розташовані в межах груп (наприклад, учні в школах), і ви хочете оцінити модель форми, Y_i = a + B*X_iде Xє вектор індивідуальних характеристик рівня та aконстанта. У цьому випадку припустімо, що незабезпеченість між груповою неоднорідністю зміщує ваші оціночні показники Bта їх …

19 econometrics  multilevel-analysis  fixed-effects-model  endogeneity  clustered-standard-errors 

Що таке визначення "простір функцій"? Наприклад, читаючи про SVM, я читав про "відображення в просторі для функцій". Читаючи про CART, я читав про "розділення для розміщення простору". Я розумію, що відбувається, особливо для CART, але думаю, що є якесь визначення, яке я пропустив. Чи існує загальне визначення поняття "простір функцій"? …

19 machine-learning  svm  feature-selection  cart  feature-construction 

Питання може звучати дещо дивно, оскільки я новачок у статистичних висновках та нейронних мережах. Коли в задачах класифікації за допомогою нейронних мереж ми говоримо, що ми хочемо вивчити функцію f∗f∗f^* яка відображає простір входів xxx , на простір виходів yyy : f∗(x;θ)=yf∗(x;θ)=yf^*(x; \theta) = y Чи підходимо ми параметри ( …

19 machine-learning  neural-networks 

SARSA та Q Learning - це алгоритми навчання посилення, які працюють аналогічно. Найяскравіша відмінність полягає в тому, що SARSA проводить політику, а Q Learning - поза політикою. Правила оновлення такі: Q Навчання: Q(st,at)←Q(st,at)+α[rt+1+γmaxa′Q(st+1,a′)−Q(st,at)]Q(st,at)←Q(st,at)+α[rt+1+γmaxa′Q(st+1,a′)−Q(st,at)]Q(s_t,a_t)←Q(s_t,a_t)+α[r_{t+1}+γ\max_{a'}Q(s_{t+1},a')−Q(s_t,a_t)] SARSA: Q(st,at)←Q(st,at)+α[rt+1+γQ(st+1,at+1)−Q(st,at)]Q(st,at)←Q(st,at)+α[rt+1+γQ(st+1,at+1)−Q(st,at)]Q(s_t,a_t)←Q(s_t,a_t)+α[r_{t+1}+γQ(s_{t+1},a_{t+1})−Q(s_t,a_t)] де st,atst,ats_t,\,a_t і rtrtr_t - стан, дія та винагорода на етапі часу ttt і γγ\gamma …

19 reinforcement-learning 

Я намагаюся зрозуміти, як логістична регресія використовує біноміальний розподіл. Скажімо, я вивчаю успіх гнізд у птахів. Ймовірність успішного гніздування становить 0,6. Використовуючи біноміальний розподіл, я можу обчислити ймовірність r успіхів, отриманих n випробувань (кількість вивчених гнізд). Але як використовується біноміальний розподіл у контексті моделювання? Скажімо, я хочу знати, як середньодобова …

19 logistic  binomial 

Я переглядав документи про згортку keras і знайшов два типи конвультури Conv1D і Conv2D. Я здійснив деякий пошук в Інтернеті, і це те, що я розумію про Conv1D та Conv2D; Conv1D використовується для послідовностей, а Conv2D - для зображень. Я завжди думав, що звивисті нервові мережі використовуються лише для зображень …

19 machine-learning  neural-networks  conv-neural-network  keras