Статистика та великі дані

Коли краще використовувати максимальну оцінку ймовірності замість звичайних найменших квадратів? Які сильні та обмежені сторони кожного? Я намагаюся зібрати практичні знання про те, де їх використовувати в загальних ситуаціях.

13 regression  maximum-likelihood  least-squares 

Вивчаючи відстань Кульбека - Лейблера, ми дізнаємось дуже швидко дві речі: це те, що вона не поважає ані трикутної нерівності, ані симетрії, необхідних властивостей метрики. Моє запитання - чи є якась метрика функцій щільності ймовірності, яка б відповідала всім обмеженням метрики .

13 distributions  distance  metric 

Нещодавно я дізнався про використання трюку Kernel, який відображає дані у простори більш високих розмірів, намагаючись лінеаризувати дані в цих вимірах. Чи є випадки, коли мені слід уникати використання цієї методики? Це лише питання пошуку правильної функції ядра? Для лінійних даних це, звичайно, не корисно, але для нелінійних даних це …

13 machine-learning  svm  kernel-trick  heuristic 

Я написав деякий код, який може робити фільтрацію Кальмана (використовуючи ряд різних фільтрів типу Кальмана [Інформаційний фільтр та ін.]) Для лінійного аналізу простору Гаусса для простору для n-мірного вектора стану. Фільтри чудово працюють, і я отримую хороший вихід. Однак, оцінка параметрів за допомогою оцінки логічності, мене бентежить. Я не статистик, …

13 maximum-likelihood  algorithms  kalman-filter  likelihood 

Чи існує сполучник до розподілу Лапласа ? Якщо ні, то чи відомий вираз закритої форми, який наближає до заднього для параметрів розподілу Лапласа? Я гуляв досить багато, не маючи успіху, тому моє теперішнє здогадка "ні" на вищезазначені питання ...

13 bayesian  conjugate-prior  laplace-distribution 

Чи повинні смуги довіри та прогнозування навколо нелінійної регресії бути симетричними навколо лінії регресії? Це означає, що вони не приймають форми годинного скла, як у випадку з смугами для лінійної регресії. Чому так? Ось модель, про яку йдеться: Ось цифра: F(x)=⎛⎝⎜⎜A−D1+(xC)B⎞⎠⎟⎟+DF(x)=(A−D1+(xC)B)+D F(x) = \left(\frac{A-D}{1 + \left(\frac x C\right)^B}\right) + D …

13 confidence-interval  nonlinear-regression  prediction-interval 

Який максимальний розподіл ентропії для позитивної безперервної змінної з огляду на її перший та другий моменти? Наприклад, розподіл Гаусса - це максимальний розподіл ентропії для безмежної змінної, враховуючи її середнє та стандартне відхилення, а розподіл Гамма - це максимальний розподіл ентропії для позитивної змінної, враховуючи її середнє значення та середнє …

13 distributions  standard-deviation  mean  maximum-entropy 

Вступ: Зауваживши сьогодні увагу, приділене цим питанням: " Чи може ANOVA бути значущим, коли жоден з парних t-тестів не є? ", Я подумав, що мені вдасться переробити його цікавим способом, який заслуговує на власний набір відповідей . Різноманітність невідповідних результатів (за номіналом) може виникнути, коли статистичну значимість розуміють як просту …

13 hypothesis-testing  anova  statistical-significance  t-test  multiple-comparisons 

Я використовую бібліотеку R 'multcomp' ( http://cran.r-project.org/web/packages/multcomp/ ) для обчислення тесту Даннета . Я використовую сценарій нижче: Group <- factor(c("A","A","B","B","B","C","C","C","D","D","D","E","E","F","F","F")) Value <- c(5,5.09901951359278,4.69041575982343,4.58257569495584,4.79583152331272,5,5.09901951359278,4.24264068711928,5.09901951359278,5.19615242270663,4.58257569495584,6.16441400296898,6.85565460040104,7.68114574786861,7.07106781186548,6.48074069840786) data <- data.frame(Group, Value) aov <- aov(Value ~ Group, data) summary(glht(aov, linfct=mcp(Group="Dunnett"))) Тепер, якщо я запускаю цей сценарій через консоль R кілька разів, я кожного разу отримую …

13 r  multiple-comparisons 

Припустимо, що це випадкові величини, які слідують за розподілом Пуассона із середнім λ . Як я можу довести, що немає об'єктивного оцінювача величини 1Х0, X1, … , XнX0,X1,…,Xn X_{0},X_{1},\ldots,X_{n} λλ \lambda ?1λ1λ \dfrac{1}{\lambda}

13 probability  poisson-distribution  unbiased-estimator  estimators  iid 

У R (2.15.2) я встановив один раз ARIMA (3,1,3) на часовій серії та один раз ARMA (3,3) на колись різнилися часові серії. Встановлені параметри відрізняються, що я відніс до методу підгонки в ARIMA. Крім того, встановлення ARIMA (3,0,3) на ті ж дані, що й ARMA (3,3), не призведе до однакових …

13 r  time-series  arima  fitting  arma 

Я працюю над логістичною моделлю, і у мене виникають певні труднощі з оцінкою результатів. Моя модель - двочленний логіт. Мої пояснювальні змінні: категорична змінна з 15 рівнями, дихотомна змінна та 2 безперервні змінні. Мій N великий> 8000. Я намагаюся моделювати рішення фірм інвестувати. Залежна змінна - це інвестиція (так / …

13 r  logistic  goodness-of-fit  roc 

Я працюю над чимось подібною проблемою. У мене є маса користувачів і N книг. Кожен користувач створює упорядкований рейтинг усіх прочитаних книг (що, ймовірно, підмножина N книг), наприклад, Книга 1> Книга 40> Книга 25. Тепер я хочу перетворити ці індивідуальні рейтинги користувачів в єдиний упорядкований рейтинг усіх книг. Чи є …

13 multiple-comparisons  ranking  recommender-system  bradley-terry-model 

Я часто використовував для діагностування своїх багатоваріантних даних за допомогою PCA (дані omics із сотнями тисяч змінних і десятки чи сотні зразків). Дані часто походять від експериментів з декількома категоричними незалежними змінними, що визначають деякі групи, і мені часто доводиться пройти кілька компонентів, перш ніж я зможу знайти ті, які …

13 pca  linear-model  r-squared  discriminant-analysis 

Мабуть, випадок, що якщо , тоXi∼N(0,1)Xi∼N(0,1)X_i \sim N(0,1) X1X2+X3X4∼Laplace(0,1)X1X2+X3X4∼Laplace(0,1)X_1 X_2 + X_3 X_4 \sim \mathrm{Laplace(0,1)} Я бачив документи про довільні квадратичні форми, що завжди призводить до жахливих не центральних виразів у формі квадрата. Наведені вище прості відносини мені не здаються очевидними, тому (якщо це правда!) Хтось має просте доказ сказаного?

13 normal-distribution  proof  quadratic-form  laplace-distribution