Статистика та великі дані

Я роблю вкладену перехресну перевірку. Я прочитав, що перехресне підтвердження виходу з одного виходу може бути упередженим (не пам'ятаю чому). Чи краще використовувати 10-кратну перехресну валідацію або перехресну валідацію "один-один", окрім більш тривалої тривалості виконання для перехресної перевірки "вихід-один-вихід"?

25 machine-learning  cross-validation 

У недавньому, добре сприйнятому питанні, Тім запитує, коли незбалансовані дані насправді є проблемою в машинному навчанні ? Передумова питання полягає в тому, що існує багато машинної літератури, яка обговорює баланс класів та проблему незбалансованих класів . Ідея полягає в тому, що набори даних з дисбалансом між позитивним та негативним класом …

25 machine-learning  classification  predictive-models  unbalanced-classes 

Тому я щойно закінчив читати чудову книгу « Вступ до емпіричного байєса» . Я вважав, що книга чудова, але будувати пріорі з даних почувалося не так. Мене навчали, що ви придумали план аналізу, потім ви збираєте дані, потім перевіряєте гіпотезу, яку ви визначили раніше в своєму плані аналізу. Коли ви …

24 machine-learning  hypothesis-testing  bayesian  empirical-bayes 

Відповідно до цього та цієї відповіді, автоенкодери здаються технікою, яка використовує нейронні мережі для зменшення розмірів. Мені хотілося б додатково знати, що таке варіаційний автокодер (його основні відмінності / переваги перед «традиційними» автоенкодерами), а також, які основні навчальні завдання для цих алгоритмів використовуються.

24 machine-learning  bayesian  deep-learning  autoencoders  variational-bayes 

Я трохи розгублений щодо переваг змішаних моделей щодо прогнозного моделювання. Оскільки моделі прогнозування зазвичай призначені для прогнозування знань раніше невідомих спостережень, то мені здається очевидним, що єдиний спосіб, коли змішана модель може бути корисною, - це її здатність забезпечувати прогнози на рівні населення (тобто без додавання випадкових ефектів). Однак проблема …

24 mixed-model  predictive-models 

Я намагаюся зрозуміти кількісну регресію, але одне, що змушує мене страждати, - це вибір функції втрати. ρτ( u ) = u ( τ)- 1{ u &lt; 0 })ρτ(u)=u(τ−1{u&lt;0})\rho_\tau(u) = u(\tau-1_{\{u<0\}}) Я знаю, що мінімум очікування ρτ( у- у )ρτ(y−u)\rho_\tau(y-u) дорівнює τ%τ%\tau\% -квантилу, але яка інтуїтивна причина починати з цієї функції? …

24 quantiles  loss-functions  quantile-regression 

Негативний двочленний (NB) розподіл визначається на невід'ємні цілі числа і має функцію масової ймовірностіЧи має сенс розглянути безперервний розподіл на негативних реалах, визначених тією ж формулою (замінивши на x \ in \ mathbb R _ {\ ge 0} )? Біноміальний коефіцієнт можна переписати як добуток (k + 1) \ cdot …

24 distributions  negative-binomial  count-data  continuous-data  bioinformatics 

Я намагаюся простежити, хто винайшов структуру даних та алгоритм дерева рішень. У статті Вікіпедії щодо вивчення дерева рішень є твердження, що "ID3 та CART були винайдені незалежно приблизно в один і той же час (між 1970 і 1980 роками)". Пізніше ID3 був представлений у: Quinlan, JR 1986. Індукція дерев рішень. …

24 cart  history 

Я пишу короткий теоретичний нарис курсу байесівської статистики (в економічній галузі магістра) про неінформативні пріори, і я намагаюся зрозуміти, які кроки у розвитку цієї теорії. Наразі на моїй шкалі часу зроблено три основні етапи: принцип байдужості Лапласа (1812), неінваріантні пріори (Джеффріс (1946)), попередній посилання Бернардо (1979). З мого огляду літератури …

24 bayesian  references  prior  history 

Зараз я працюю над проблемою, де мені потрібно розробити алгоритм ланцюга Маркова Монте-Карло (MCMC) для моделі простору стану. Щоб мати змогу вирішити задачу, мені було надано таку ймовірність : p ( τ ) = 2I ( τ &gt; 0) / (1+ τ 2 ). τ - стандартне відхилення x .ττ\tauττ\tauττ\tauτ2τ2\tau^2ττ\tauххx …

24 distributions  bayesian  prior  state-space-models  cauchy 

Я читав про оптимізатора Адама для глибокого навчання і натрапив на таке речення у новій книзі « Глибоке навчання » Бенджіо, Гудфлоу та Курвіля: Зазвичай Адам вважається досить надійним у виборі гіпер параметрів, хоча інтенсивність навчання іноді потрібно змінити із запропонованого за замовчуванням. якщо це правда, то велика справа, тому …

24 neural-networks  deep-learning  optimization  hyperparameter  adam 

Чи є щось значне щодо середнього геометричного та середнього арифметичного, що падають дуже близько один до одного, скажімо, ~ 0,1%? Які підказки можна зробити щодо такого набору даних? Я працював над аналізом набору даних, і зауважую, що за іронією долі значення дуже і дуже близькі. Не точно, але близько. Крім …

24 descriptive-statistics  mean  geometric-mean 

\newcommand{\P}{\mathbb{P}} Ми маємо випадковий процес , який може або може-ні-відбуватися кілька разів в протягом заданого періоду часу . У нас є канал даних із попередньо існуючої моделі цього процесу, що забезпечує ймовірність виникнення ряду подій у періоді 0 \ leq t &lt;T . Ця існуюча модель є старою, і нам …

24 negative-binomial  kalman-filter  poisson-process  state-space-models 

Наскільки мої сукупні (і дефіцитні) знання про статистику дозволяють, я зрозумів, що якщо є випадковими змінними, то, як випливає з цього терміна, вони незалежні і однаково розподілені.X1,X2,...,XnX1,X2,...,XnX_1, X_2,..., X_n Мене тут хвилює колишня властивість зразків iid, яка гласить: p(Xn|Xi1,Xi2,...,Xik)=p(Xn),p(Xn|Xi1,Xi2,...,Xik)=p(Xn),p(X_{n}|X_{i_1},X_{i_2},...,X_{i_k}) = p(X_{n}), для будь-якої колекції відмінних 's st . 1 ≤ …

24 sampling  conditional-probability  independence 

Натхнення для цього питання походить з відомої статті пізнього Лео-Бреймана Статистичне моделювання: дві культури (доступний відкритий доступ). Автор порівнює те, що він вважає двома різними підходами до аналізу даних, торкаючись ключових ідей класичної статистики та машинного навчання. Однак стаття зрозуміла широкій аудиторії - імовірно, будь-кому, хто працює з даними, незалежно …

24 references