Запитання з тегом «convergence»

Нехай позначає функцію розподілу біномів (DF) з параметрами і оціненими за : \ початок {рівняння} B (n, p, r) = \ sum_ {i = 0} ^ r \ binom {n} {i} p ^ i (1-p) ^ {ni}, \ end {рівняння } і нехай F (\ nu, r) позначає DF Пуассона …

30 binomial  poisson-distribution  convergence  probability-inequalities 

Коли я використовую GAM, це дає мені залишковий коефіцієнт DF (останній рядок у коді). Що це означає? Виходячи за приклад GAM, загалом, чи може число ступенів свободи бути нецілим числом?26.626.626.6 > library(gam) > summary(gam(mpg~lo(wt),data=mtcars)) Call: gam(formula = mpg ~ lo(wt), data = mtcars) Deviance Residuals: Min 1Q Median 3Q Max …

27 r  degrees-of-freedom  gam  machine-learning  pca  lasso  probability  self-study  bootstrap  expected-value  regression  machine-learning  linear-model  probability  simulation  random-generation  machine-learning  distributions  svm  libsvm  classification  pca  multivariate-analysis  feature-selection  archaeology  r  regression  dataset  simulation  r  regression  time-series  forecasting  predictive-models  r  mean  sem  lavaan  machine-learning  regularization  regression  conv-neural-network  convolution  classification  deep-learning  conv-neural-network  regression  categorical-data  econometrics  r  confirmatory-factor  scale-invariance  self-study  unbiased-estimator  mse  regression  residuals  sampling  random-variable  sample  probability  random-variable  convergence  r  survival  weibull  references  autocorrelation  hypothesis-testing  distributions  correlation  regression  statistical-significance  regression-coefficients  univariate  categorical-data  chi-squared  regression  machine-learning  multiple-regression  categorical-data  linear-model  pca  factor-analysis  factor-rotation  classification  scikit-learn  logistic  p-value  regression  panel-data  multilevel-analysis  variance  bootstrap  bias  probability  r  distributions  interquartile  time-series  hypothesis-testing  normal-distribution  normality-assumption  kurtosis  arima  panel-data  stata  clustered-standard-errors  machine-learning  optimization  lasso  multivariate-analysis  ancova  machine-learning  cross-validation 

Яка інтуїтивно зрозуміла різниця між випадковою змінною, що сходиться у ймовірності, порівняно з випадковою змінною, що сходить у розподілі? Я прочитав численні визначення та математичні рівняння, але це не дуже допомагає. (Будь ласка, майте на увазі, я студент, який вивчає економетрику.) Як випадкова змінна може сходитися до одного числа, а …

26 distributions  random-variable  convergence  intuition 

Я прочитав пару пояснень алгоритму ЕМ (наприклад, з розпізнавання шаблонів Бішопа та машинного навчання та з першого курсу з машинного навчання Роджера та Героламі). Виведення ЕМ нормально, я це розумію. Я також розумію, чому алгоритм щось прикриває: на кожному кроці ми вдосконалюємо результат і ймовірність обмежується 1,0, тому, використовуючи простий …

24 missing-data  convergence  expectation-maximization 

Максимум X1,…,Xn.∼X1,…,Xn.∼X_1,\dots,X_n. \sim iid Standardnormals переходить до стандартного розподілу Gumbel відповідно до теорії екстремальних значень . Як ми можемо це показати? Ми маємо П( макс. Xi≤ х ) = Р( X1≤ x , … , Xн≤ х ) = Р( X1≤ x ) ⋯ P( Xн≤x)=F(x)nP(maxXi≤x)=P(X1≤x,…,Xn≤x)=P(X1≤x)⋯P(Xn≤x)=F(x)nP(\max X_i \leq x) = …

21 probability  normal-distribution  convergence  extreme-value 

Чи збігається нормальний розподіл до певного розподілу, якщо стандартне відхилення зростає без меж? мені здається, що pdf починає виглядати як рівномірний розподіл з межами, заданими . Це правда?[−2σ,2σ][−2σ,2σ][-2 \sigma, 2 \sigma]

18 normal-distribution  convergence 

Питання виникла раніше, але я хочу поставити конкретне запитання, яке намагатиметься отримати відповідь, яка уточнить (і класифікує) його: У «Асимптотиці бідної людини» чітко розмежовується між ними (a) послідовність випадкових змінних, яка ймовірно сходиться до постійної на противагу (b) послідовність випадкових змінних, яка ймовірно сходиться до випадкової величини (а отже, і …

18 mathematical-statistics  variance  convergence  asymptotics  consistency 

У мене є питання початківця щодо теореми про центральну межу (CLT): Мені відомо, що CLT стверджує, що середнє значення iid випадкових змінних є приблизно нормально розподіленим (для n → ∞н→∞n \to \infty , де - індекс підсумкових значень) або стандартизована випадкова величина матиме стандартний нормальний розподіл.ннn Тепер Закон великої кількості …

18 probability  normal-distribution  convergence  central-limit-theorem  law-of-large-numbers 

Чи достатньо показати, що MSE = 0 як n→∞n→∞n\rightarrow\infty ? Я також читав у своїх замітках щось про пліма. Як знайти плім і використовувати його, щоб показати, що оцінювач відповідає?

17 estimation  convergence  consistency 

Я читав, що алгоритм k-означає сходиться лише до локального мінімуму, а не до глобального мінімуму. Чому це? Я логічно можу подумати про те, як ініціалізація могла б вплинути на остаточну кластеризацію, і існує можливість субоптимальної кластеризації, але я не знайшов нічого, що це математично доведе. Крім того, чому k - …

17 clustering  k-means  convergence  gradient-descent  minimum 

(Спочатку розміщено на MSE.) Я бачив, як багато евристичних дискусій класичної теореми про центральну межу говорять про нормальний розподіл (або будь-який із стабільних розподілів) як про «атрактор» у просторі ймовірностей щільності. Наприклад, розгляньте ці пропозиції у верхній частині звернення Вікіпедії : У більш загальному використанні центральною граничною теоремою є будь-яка …

16 probability  mathematical-statistics  convergence  central-limit-theorem  convolution 

Я використовую glmerфункцію з lme4пакету в R, і я використовую bobyqaоптимізатор (тобто за замовчуванням у моєму випадку). Я отримую попередження, і мені цікаво, що це означає. Warning message: In optwrap(optimizer, devfun, start, rho$lower, control = control, : convergence code 3 from bobyqa: bobyqa -- a trust region step failed to …

16 r  optimization  lme4-nlme  convergence  glmm 

Я переглядав документацію Стен, яку можна завантажити тут . Мене особливо зацікавило їх реалізація діагностики Гельмана-Рубіна. Оригінальний документ Gelman & Rubin (1992) визначає потенційний коефіцієнт зменшення масштабу (PSRF) наступним чином: Нехай є ланцюжком го Маркова, відібраний загальний незалежних ланцюгів. Нехай - середнє значення з го ланцюга, а загальне середнє значення. …

16 mcmc  convergence  gibbs  metropolis-hastings  stan 

Я намагаюся ознайомитися з дослідженнями в області високомірної регресії; коли ppp більше nnn , т, p>>np>>np >> n . Схоже, що термін logp/nlog⁡p/n\log p/n часто з'являється з точки зору швидкості конвергенції для регресійних оцінювачів. β^β^\hat{\beta}1n∥Xβ^−Xβ∥22=OP(σlogpn−−−−−√∥β∥1).1n‖Xβ^−Xβ‖22=OP(σlog⁡pn‖β‖1). \dfrac{1}{n}\|X\hat{\beta} - X \beta\|_2^2 = O_P \left(\sigma \sqrt{\dfrac{\log p}{n} } \|\beta\|_1\right)\,. Зазвичай це також означає, …

16 regression  lasso  convergence  high-dimensional 

Мої запитання: Чи гарантовано узагальнені лінійні моделі (ГЛМ) наближаються до глобального максимуму? Якщо так, то чому? Крім того, які обмеження існують у функції зв'язку для забезпечення опуклості? Моє розуміння GLM полягає в тому, що вони максимізують дуже нелінійну функцію вірогідності. Таким чином, я б міг уявити, що існує кілька локальних …

16 generalized-linear-model  optimization  convergence  exponential-family