Запитання з тегом «bayesian»

У PRML-книзі Бішопа він говорить, що надмірне оснащення - це проблема з максимальною оцінкою ймовірності (MLE), і Байєсій може цього уникнути. Але я думаю, що перевиконання - це проблема більше не щодо вибору моделі, а не щодо методу оцінки параметрів. Тобто, припустимо, у мене є набір даних , який генерується …

12 bayesian  model-selection  overfitting 

Я використовую Байєса для вирішення проблеми кластеризації. Після деяких обчислень я закінчую необхідність отримати співвідношення двох ймовірностей: P(A)/P(B)P(A)/P(B)P(A)/P(B) мати можливість отримати . Ці ймовірності отримуються шляхом інтеграції двох різних двовимірних KDE, як пояснено у цій відповіді :P(H|D)P(H|D)P(H|D) P ( B ) = ∬ х Керівництво , Y : G ( …

12 probability  bayesian  maximum-likelihood  kernel-smoothing 

Нехай позначає ризик Байєса оцінювача щодо попереднього , нехай позначає набір усіх пріорів на просторі параметрів , а позначає набір всі правила (можливо рандомізовані) рішення.r(π,δ)r(π,δ)r(\pi, \delta)δδ\deltaππ\piΠΠ\PiΘΘ\ThetaΔΔ\Delta Статистичне тлумачення нерівномірності мінімакса Джона фон Неймана говорить про це supπ∈Πinfδ∈Δr(π,δ)≤infδ∈Δsupπ∈Πr(π,δ),supπ∈Πinfδ∈Δr(π,δ)≤infδ∈Δsupπ∈Πr(π,δ), \sup_{\pi\in\Pi} \inf_{\delta\in\Delta} r(\pi, \delta) \leq \inf_{\delta\in\Delta}\sup_{\pi\in\Pi} r(\pi, \delta), із суворою рівністю, гарантованою для …

12 bayesian  decision-theory  risk 

У мене є набір даних часових рядів, до яких я намагаюся встановити модель прихованої Маркова (HMM), щоб оцінити кількість прихованих станів у даних. Мій псевдо-код для цього: for( i in 2 : max_number_of_states ){ ... calculate HMM with i states ... optimal_number_of_states = "model with smallest BIC" ... } Тепер, …

12 r  aic  hidden-markov-model  bic  spss  manova  time-series  r  lme4-nlme  regression  modeling  negative-binomial  bayesian  bugs  state-space-models  hypothesis-testing  data-transformation  factor-analysis  sem 

Зараз я проходжу курс PGM Дафни Коллер на Coursera. Таким чином, ми, як правило, моделюємо Байєсівську мережу як графік, спрямований на причини та наслідки змінних, що входять до спостережуваних даних. Але на підручниках і прикладах PyMC я, як правило, бачу, що це не зовсім моделюється так само, як PGM або …

12 bayesian  inference  bayesian-network  pymc 

Чи вважаєте ви, що HBM проти EB є двома альтернативами, в яких гіперпараметри "в грі" відбираються / оцінюються / тощо? Між цими двома чітко існує зв'язок. Чи вважаєте ви, що НВМ більше "повністю байєсівський", ніж ЕБ? Чи є якесь місце, де я можу побачити, які відмінності між "повністю байєсівською" та …

12 bayesian  empirical-bayes 

Чи заперечують Байєси, що їхній підхід узагальнює частістський підхід, тому що можна використовувати неінформативні пріори і, отже, можна відновити типову структуру частолістської моделі? Чи може хтось направити мене до місця, де я можу прочитати про цей аргумент, якщо він справді використовується? РЕДАКТУВАННЯ: Можливо, це запитання не точно так, як я …

12 bayesian  references  frequentist 

Якби хтось сказав "Цей метод використовує MLE бальну оцінку для параметра, який максимізує , тому він є частосистемним; і далі він не баєсовский."P ( x | θ )P(x|θ)\mathrm{P}(x|\theta) ти погодився б? Оновлення на задньому плані : нещодавно я прочитав статтю, яка стверджує, що вона часто. Я не згоден з їх …

12 bayesian  maximum-likelihood  likelihood  frequentist  philosophical 

Нещодавно мені траплялося читати про емпіричний Байєс (Casella, 1985, Вступ до емпіричного аналізу даних Байєса), і це виглядало дуже як модель випадкових ефектів; в тому, що обидві мають оцінки, зменшені до середнього значення. Але я не читав це наскрізь ... Хтось має уявлення про схожість та відмінності між ними?

12 bayesian  estimation  random-effects-model  steins-phenomenon  empirical-bayes 

Чому навіть є неінформативні пріори? Вони не надають інформацію про . То навіщо їх використовувати? Чому б не використовувати лише інформативні пріори? Наприклад, припустимо θ ∈ [ 0 , 1 ] . Тоді є неінформативним попереднім для ?θθ\thetaθ ∈ [ 0 , 1 ]θ∈[0,1] \theta \in [0,1]θθ ∼ U( 0 …

12 bayesian  uninformative-prior  jeffreys-prior 

У мене досить складна проблема аналізу рішень, пов’язана з тестуванням надійності, і логічний підхід (мені здається) передбачає використання MCMC для підтримки байєсівського аналізу. Однак було висловлено припущення, що було б доцільніше використовувати підхід до завантаження. Чи може хтось запропонувати довідку (або три), яка може підтримувати використання будь-якої техніки над іншою …

12 bayesian  bootstrap 

Вибачте, будь ласка, мою розсилку статистичного лінгва :) Я знайшов тут декілька питань, які стосуються реклами та ціни на кліки. Але жодна з них мені не дуже допомогла в розумінні моєї ієрархічної ситуації. Існує пов'язане питання Чи є ці еквівалентні уявлення тієї ж ієрархічної байєсівської моделі? , але я не …

12 bayesian  binomial  multilevel-analysis 

Про це також запитали в обчислювальній науці. Я намагаюся обчислити байєсівську оцінку деяких коефіцієнтів для авторегресії з 11 зразків даних: де - гауссова із середнім 0 та дисперсією Попередній розподіл на вектор - гауссовий із середнім та діагональною матрицею коваріації із діагональні записи, що дорівнює .Yi=μ+α⋅Yi−1+ϵiYi=μ+α⋅Yi−1+ϵi Y_{i} = \mu + …

12 bayesian  mathematical-statistics  posterior 

Я розробляю гібридний алгоритм вибірки Монте-Карло для PyMC , і я намагаюся зробити це максимально вільним і загальним, тому шукаю гарних порад щодо розробки алгоритму HMC. Я прочитав розділ опитування Радфорда та Beskos et. Нещодавній документ про оптимальну настройку HMC (розмір кроку), і я зібрав наступні поради: Змінні імпульсу повинні …

12 bayesian  monte-carlo 

Проблема: я параметризую розподіли для використання в якості апріорів та даних у байєсівському метааналізі. Дані наводяться в літературі у вигляді підсумкової статистики, майже виключно вважається звичайно розподіленою (хоча жодна зі змінних не може бути <0, деякі - відношеннями, деякі - масовою тощо). Я натрапив на два випадки, для яких у …

12 distributions  bayesian  variance  random-variable  meta-analysis