Запитання з тегом «maximum-likelihood»

Чи може хтось детально пояснити мені про максимальну оцінку ймовірності (MLE) з точки зору мирян? Я хотів би дізнатись основної концепції, перш ніж переходити до математичного виведення чи рівняння.

91 mathematical-statistics  maximum-likelihood  intuition  definition  philosophical 

У рефераті цієї статті я прочитав : "Процедура максимальної ймовірності (ML) Хартлі ауд Рао модифікується шляхом адаптації трансформації від Паттерсона і Томпсона, яка розділяє ймовірність, що забезпечує нормальність на дві частини, причому одна не має фіксованих ефектів. Максимізація цієї частини дає результат, що називається обмеженою максимальною ймовірністю. (REML) оцінки. " …

73 mixed-model  maximum-likelihood  reml 

Для дослідження моделювання я повинен генерувати випадкові змінні , які показують prefined (населення) кореляцію з існуючою YYY . Я подивився в Rпакети copulaі CDVineякі можуть виробляти випадкові багатовимірні розподілу із заданою структурою залежностей. Однак неможливо зафіксувати одну із отриманих змінних до існуючої змінної. Будь-які ідеї та посилання на існуючі функції …

71 r  correlation  random-variable  random-generation  independence  assumptions  random-variable  unbiased-estimator  regression  hypothesis-testing  heteroscedasticity  generalized-least-squares  distributions  networks  data-visualization  sas  reproducible-research  philosophical  time-series  variance  outliers  quality-control  mean  multilevel-analysis  average  weighted-mean  regression  confidence-interval  prediction-interval  correlation  matlab  matrix  data-mining  maximum-likelihood  r  time-series  survival  predictive-models 

Максимальні оцінки вірогідності (MLE) є асимптотично ефективними; ми бачимо практичний підсумок у тому, що вони часто роблять краще, ніж метод моментних оцінок (MoM) (коли вони різняться), навіть при невеликих розмірах вибірки Тут "краще, ніж" означає в сенсі, як правило, має меншу дисперсію, коли обидві є неупередженими, і, як правило, меншою …

57 estimation  maximum-likelihood  mse  method-of-moments  efficiency 

Я бачу, що ці терміни використовуються, і я постійно змішую їх. Чи є просте пояснення відмінностей між ними?

56 estimation  maximum-likelihood 

На цьому веб-сайті є кілька тем для рекомендацій щодо вступної статистики та машинного навчання, але я шукаю текст про вдосконалену статистику, включаючи, за пріоритетом: максимальну ймовірність, узагальнені лінійні моделі, аналіз основних компонентів, нелінійні моделі . Я спробував статистичні моделі від AC Davison, але відверто кажучи, мені довелося викласти його після …

55 generalized-linear-model  pca  maximum-likelihood  references  saddlepoint-approximation 

Гаразд, це досить основне питання, але я трохи розгублений. У своїй дипломній роботі я пишу: Стандартні помилки можна знайти, обчисливши обернену квадратний корінь діагональних елементів (спостережуваної) матриці Інформації Фішера: sμ^,σ^2=1I(μ^,σ^2)−−−−−−√sμ^,σ^2=1I(μ^,σ^2)\begin{align*} s_{\hat{\mu},\hat{\sigma}^2}=\frac{1}{\sqrt{\mathbf{I}(\hat{\mu},\hat{\sigma}^2)}} \end{align*} Оскільки команда оптимізації в R зводить до мінімуму (спостерігається) матриця інформації Фішера можна знайти, обчисливши зворотну частину Гессі: …

54 maximum-likelihood  fisher-information 

Поясніть, будь ласка, різницю байєсівської оцінки та максимальної оцінки ймовірності?

50 bayesian  maximum-likelihood 

Це питання мене спантеличувало вже давно. Я розумію використання 'log' для максимізації ймовірності, тому не запитую про «log». Моє запитання таке: оскільки максимізація ймовірності журналу рівнозначна мінімізації "негативної ймовірності журналу" (NLL), чому ми винайшли цю NLL? Чому ми не використовуємо "позитивну ймовірність" весь час? За яких обставин надається перевага NLL? …

47 maximum-likelihood  likelihood 

Мені цікаво природу . Чи може хто-небудь розповісти щось інтуїтивно про "Що говорить про дані?"Σ−1Σ−1\Sigma^{-1}Σ−1Σ−1\Sigma^{-1} Редагувати: Дякуємо за відповіді Пройшовши кілька чудових курсів, я хотів би додати кілька балів: Це міра інформації, тобто - кількість інформації вздовж напрямку .xxTΣ−1xxTΣ−1xx^T\Sigma^{-1}xxxx Подвійність: Оскільки є позитивно визначеним, тож і , тож вони є …

46 bayesian  maximum-likelihood  covariance  matrix 

Приклад Штейна показує, що максимальна оцінка ймовірності nnn нормально розподілених змінних із значеннями μ1,…,μnμ1,…,μn\mu_1,\ldots,\mu_n та дисперсіями 111 є неприпустимою (за функцією квадратних втрат) iff n≥3n≥3n\ge 3 . Для чіткого доказу дивіться першу главу великомасштабного умовиводу: Емпіричні методи Байєса для оцінки, тестування та прогнозування Бредлі Ефрона. x∼N(μ,1)x∼N(μ,1)x \sim \mathcal N(\mu,1)E∥x∥2≈∥μ∥2+nE‖x‖2≈‖μ‖2+n\mathbb{E}\|x\|^2\approx \|\mu\|^2+n …

46 maximum-likelihood  unbiased-estimator  intuition  steins-phenomenon 

Мені цікаво, чи має значення інтерпретація, чи трансформуються лише залежні, і залежні, і незалежні, або лише незалежні змінні. Розглянемо випадок log(DV) = Intercept + B1*IV + Error Я можу трактувати ІV як збільшення відсотка, але як це змінюється, коли я маю log(DV) = Intercept + B1*log(IV) + Error або коли …

46 regression  data-transformation  interpretation  regression-coefficients  logarithm  r  dataset  stata  hypothesis-testing  contingency-tables  hypothesis-testing  statistical-significance  standard-deviation  unbiased-estimator  t-distribution  r  functional-data-analysis  maximum-likelihood  bootstrap  regression  change-point  regression  sas  hypothesis-testing  bayesian  randomness  predictive-models  nonparametric  terminology  parametric  correlation  effect-size  loess  mean  pdf  quantile-function  bioinformatics  regression  terminology  r-squared  pdf  maximum  multivariate-analysis  references  data-visualization  r  pca  r  mixed-model  lme4-nlme  distributions  probability  bayesian  prior  anova  chi-squared  binomial  generalized-linear-model  anova  repeated-measures  t-test  post-hoc  clustering  variance  probability  hypothesis-testing  references  binomial  profile-likelihood  self-study  excel  data-transformation  skewness  distributions  statistical-significance  econometrics  spatial  r  regression  anova  spss  linear-model 

Це питання гнається в моїй свідомості вже більше місяця. Випуск Amstat News за лютий 2015 року містить статтю професора Берклі Марка ван дер Лаана, яка лаять людей за використання неточних моделей. Він заявляє, що, використовуючи моделі, статистика - це мистецтво, а не наука. За його словами, завжди можна використовувати "точну …

45 machine-learning  maximum-likelihood  modeling  nonparametric  parametric 

Яка основна відмінність між максимальною оцінкою ймовірності (MLE) та оцінкою найменших квадратів (LSE)? Чому ми не можемо використовувати MLE для прогнозування значень у лінійній регресії та навпаки?yyy Будь-яка допомога з цієї теми буде дуже вдячна.

42 regression  estimation  maximum-likelihood  least-squares 

Чисельне отримання MLE з GLMM є складним, і, на практиці, я знаю, ми не повинні використовувати оптимізацію грубої сили (наприклад, використовуючи optimпростий спосіб). Але для власного навчального призначення я хочу спробувати це, щоб переконатися, що я правильно розумію модель (див. Код нижче). Я виявив, що завжди отримую суперечливі результати glmer(). …

37 r  maximum-likelihood  optimization  lme4-nlme