Запитання з тегом «maximum-likelihood»

Існує досить багато методів оцінки параметрів. MLE, UMVUE, MoM, теоретичні рішення та інші, схоже, вони мають досить логічний випадок, чому вони корисні для оцінки параметрів. Чи будь-який один метод кращий за інші, або це лише питання про те, як ми визначаємо, що таке "найкраще підходить" оцінка (подібно до того, як …

12 estimation  mathematical-statistics  maximum-likelihood  method-of-moments  umvue 

Чи не будь-хто, будь ласка, скажіть мені, які умови регулярності для асимптотичного розподілу тесту на коефіцієнт ймовірності? Куди б я не глянув, написано: "За умовами регулярності" або "Під імовірнісними закономірностями". Які саме умови? Що перша та друга похідні імовірності ідентифікації існують, а матриця інформації не дорівнює нулю? Або щось інше …

12 maximum-likelihood  likelihood-ratio  asymptotics 

Я хотів краще зрозуміти точний тест Фішера, тому я розробив наступний іграшковий приклад, де f і m відповідає чоловічому та жіночому, а n і y відповідає такому "споживання соди", як це: > soda_gender f m n 0 5 y 5 0 Очевидно, це різке спрощення, але я не хотів, щоб …

12 fishers-exact  hypergeometric  clustering  supervised-learning  modeling  econometrics  r  regression  residuals  heteroscedasticity  independence  distributions  self-study  matlab  libsvm  self-study  conditional-probability  conditional-expectation  hypothesis-testing  self-study  multiple-comparisons  mode  statistical-significance  chi-squared  multiple-comparisons  maximum-likelihood  poisson-process  optimization  uncertainty  genetic-algorithms  bayesian  model-selection  overfitting  maximum-likelihood  optimization  approximation  r  prediction  model-evaluation  r  machine-learning  survival  neural-networks  cox-model  machine-learning  bayesian  bayesian-network  hierarchical-bayesian  pooling 

У теорії Байєса , а з книги, яку я читаю, називається ймовірність , але я припускаю , що це всього лише умовна ймовірність від дається , НЕ так?p(y|x)=p(x|y)p(y)p(x)p(y|x)=p(x|y)p(y)p(x)p(y|x) = \frac{p(x|y)p(y)}{p(x)}p(x|y)p(x|y)p(x|y)xxxyyy В оцінці максимальної правдоподібності намагається максимізувати , НЕ так? Якщо так, я сильно плутаюсь, тому що це обидві випадкові величини, …

12 bayesian  maximum-likelihood 

Чи існує велике правило або взагалі якийсь спосіб сказати, наскільки великим повинен бути зразок, щоб оцінити модель з заданою кількістю параметрів? Так, наприклад, якщо я хочу оцінити регресію найменших квадратів з 5 параметрами, наскільки великим повинен бути зразок? Чи не має значення, яку техніку оцінювання ви використовуєте (наприклад, максимальна ймовірність, …

12 sample-size  estimation  least-squares  maximum-likelihood 

Я розумію , що даний набір mmm незалежних спостережень максимального правдоподібності оцінювач (або, що еквівалентно, карта з плоскою / рівномірної до) , який ідентифікує параметрів , які виробляють розподіл моделі що найкраще відповідає цим спостереженнямO={o(1),...,o(m)}O={o(1),...,o(m)}\mathbb{O}=\{\mathbf{o}^{(1)}, . . . , \mathbf{o}^{(m)}\}θθ\mathbf{θ}pmodel(⋅;θ)pmodel(⋅;θ)p_{model}\left(\,\cdot\, ; \mathbf{θ}\right) θML(O)=pmodel(O;θ)=argmaxθ‎‎∏i=1mpmodel(o(i);θ)θML(O)=pmodel(O;θ)=arg⁡maxθ‎‎∏i=1mpmodel(o(i);θ)\mathbf{θ}_{ML}(\mathbb{O})= p_{model}\left(\mathbb{O}; \mathbf{θ}\right) = \underset{\mathbf{θ}}{\arg\max}‎‎\prod_{i=1}^{m} p_{model}\left(\mathbf{o}^{(i)}; \mathbf{θ}\right) або, …

12 maximum-likelihood  deep-learning  cross-entropy 

Я читаю PRML, і картину не розумію. Скажіть, будь ласка, кілька підказок, щоб зрозуміти картину, і чому MLE дисперсії в гауссовій розподілі упереджений? формула 1,55: формула 1.56 μMLE=1N∑n=1NxnμMLE=1N∑n=1Nxn \mu_{MLE}=\frac{1}{N} \sum_{n=1}^N x_n σ2MLE=1N∑n=1N(xn−μMLE)2σMLE2=1N∑n=1N(xn−μMLE)2 \sigma_{MLE}^2=\frac{1}{N}\sum_{n=1}^{N}(x_n-\mu_{MLE})^2

12 machine-learning  self-study  maximum-likelihood 

Як я можу побудувати асимптотичний інтервал довіри для реального параметра, починаючи з MLE для цього параметра?

12 confidence-interval  mathematical-statistics  maximum-likelihood  inference 

Чи можливо застосувати звичайну процедуру MLE до розподілу трикутників? - Я намагаюся, але, схоже, блокується на тому чи іншому кроці в математиці шляхом визначення розподілу. Я намагаюся використати той факт, що я знаю кількість проб вище та нижче c (не знаючи c): ці 2 числа - cn і (1-c) n, …

12 distributions  mathematical-statistics  maximum-likelihood  triangular-distribution 

Поки я вивчаю оцінку максимальної ймовірності, щоб зробити висновок про максимальну оцінку ймовірності, нам потрібно знати дисперсію. Щоб дізнатись дисперсію, мені потрібно знати нижню межу Рао Крамера, яка на кривині виглядає як матриця Гессея з другою деривацією. Я наче змішаний, щоб визначити взаємозв'язок між матрицею коваріації та матрицею гессіана. Сподіваюся …

12 machine-learning  mathematical-statistics  maximum-likelihood  data-mining 

У мене є функція ймовірності для ймовірності моїх даних урахуванням деяких параметрів моделі , які я хотів би оцінити. Якщо припустити плоскі пріори за параметрами, вірогідність пропорційна задній ймовірності. Я використовую метод MCMC для вибірки цієї ймовірності.L (d| θ)L(г|θ)\mathcal{L}(d | \theta)ггdθ ∈ RNθ∈RN\theta \in \mathbf{R}^N Дивлячись на результуючий конвергентний ланцюг, …

11 bayesian  maximum-likelihood  optimization  inference  mcmc 

Нещодавно мені стало відомо про «вірогідні» методи, які перебувають у літературі. Однак мені не ясно, що означає спосіб висновку чи оптимізації бути вірогідним . При машинному навчанні мета зазвичай полягає в тому, щоб максимально збільшити ймовірність того, що деякі параметри підходять до функції, наприклад, ваги в нейронній мережі. Тож у …

11 machine-learning  deep-learning  maximum-likelihood  generative-models  abc 

Я читаю теоретичний документ Дуга Бейтса про пакет lme4 R для того, щоб краще зрозуміти складність і змішаність моделей, і натрапив на інтригуючий результат, який я хотів би зрозуміти краще, щодо використання обмеженої максимальної ймовірності (REML) для оцінки дисперсії . У розділі 3.3 щодо критерію REML він зазначає, що використання …

11 maximum-likelihood  mixed-model  unbiased-estimator  hierarchical-bayesian  reml 

Я читав книгу "Проблема ідентифікації в економетрії " Франкліна М. Фішера, і мене бентежила частина, що він демонструє ідентифікацію шляхом візуалізації функції ймовірності. Проблему можна спростити як: Для регресії , де u ∼ i . i . д . N ( 0 , σ 2 I ) , a і …

11 mathematical-statistics  maximum-likelihood  geometry 

Чи є відома інтерпретація перехресної перевірки байесівської, ML або MDL? Чи можу я трактувати перехресну перевірку як виконання правильного оновлення на спеціально створеному попередньому?

11 bayesian  cross-validation  maximum-likelihood