Статистика та великі дані

Я початківець, який намагається скласти свій перший проект. Я мав на увазі проект класифікації пісень, але оскільки мене благали вручну, я міг лише розумно зібрати близько 1000 пісень або 60 годин музики. Я б класифікував декілька класів, тому можливо, що один клас мав би менше 50-100 пісень у навчальному наборі …

14 neural-networks 

Напевно, я не маю чіткого розуміння парадоксу Сімпсона . Неофіційно мені відомо, що середнє значення відповіді Y1, згруповане за всіма можливими рівнями фактора А, може бути вище, ніж середнє значення відповіді Y2 для всіх рівнів А, навіть якщо середнє значення Y1 для кожного рівня А (для кожної групи) становить завжди …

14 mathematical-statistics  simpsons-paradox 

У мене є кілька цікавих даних про найпопулярніших музичних артистів, розподілених за місцем розташування на близько 200 округів Конгресу. Я хочу побачити, чи можна опитати людину на її музичні уподобання та визначити, чи він «вона слухає, як демократ», або «слухає як республіканець». (Природно, це легке серце, але в даних є …

14 correlation  prediction  pooling  weighted-data 

Чи правда, що є неупередженим оцінником для ? Тобто ρ X , Y E [ R X , Y ] = ρ X , Y ?RХ, YRХ,YR_{X,Y}ρХ, YρХ,Y\rho_{X,Y}E [ RХ, Y] = ρХ, Y?Е[RХ,Y]=ρХ,Y?\mathbf{E}\left[R_{X,Y}\right]=\rho_{X,Y}? Якщо ні, то який об'єктивний оцінювач для ? (Можливо, є стандартний неупереджений оцінювач, який використовується? Також, …

14 correlation 

Чи може хтось пояснити головну ідею методів Гамільтоніана Монте-Карло і в яких випадках вони дадуть кращі результати, ніж методи Маркова Ланцюга Монте-Карло?

14 bayesian  mcmc  hmc 

У певних випадках Джефріс до повної багатовимірної моделі в цілому вважається неадекватним, це, наприклад, у випадку: (де ε ∼ N ( 0 , σ 2 ) , з µ і σ невідомо), де кращим є наступний пріоритет (до повного Джеффрі до π ( μ , σ ) ∝ σ - …

14 distributions  bayesian  estimation  prior  jeffreys-prior 

Чи проводилися широкомасштабні дослідження методів MCMC, які порівнюють продуктивність декількох різних алгоритмів набір тестової щільності? Я маю на увазі щось еквівалентне документу Ріоса та Сахінідіса (2013), який є ретельним порівнянням великої кількості оптимізаторів чорних коробок без похідних у кількох класах тестових функцій. Для MCMC ефективність може бути оцінена, наприклад, в …

14 machine-learning  bayesian  references  mcmc 

Примітка: SSTSSTSST = сума квадратів Всього, = сума помилок у квадраті , і = сума регресії квадратів. Рівняння в заголовку часто записується як:SSESSESSESSRSSRSSR ∑i=1n(yi−y¯)2=∑i=1n(yi−y^i)2+∑i=1n(y^i−y¯)2∑i=1n(yi−y¯)2=∑i=1n(yi−y^i)2+∑i=1n(y^i−y¯)2\sum_{i=1}^n (y_i-\bar y)^2=\sum_{i=1}^n (y_i-\hat y_i)^2+\sum_{i=1}^n (\hat y_i-\bar y)^2 Досить просте запитання, але я шукаю інтуїтивне пояснення. Інтуїтивно мені здається, що мав би більше сенсу. Наприклад, припустімо, що …

14 regression  least-squares  r-squared 

Це питання стосується оцінки обмеженої максимальної вірогідності (REML) у певній версії лінійної моделі, а саме: Y=X(α)β+ϵ,ϵ∼Nn(0,Σ(α)),Y=X(α)β+ϵ,ϵ∼Nn(0,Σ(α)), Y = X(\alpha)\beta + \epsilon, \\ \epsilon\sim N_n(0, \Sigma(\alpha)), де - матриця ( ), параметризована , як і . - невідомий вектор неприємних параметрів; інтерес полягає в оцінці , і ми маємо . Оцінка …

14 mixed-model  maximum-likelihood  linear-model  optimization  reml 

У мене є деякі дані, які я хотів би вирівняти, щоб згладжені точки монотонно зменшувалися. Мої дані різко зменшуються, а потім починають плато. Ось приклад використання R df <- data.frame(x=1:10, y=c(100,41,22,10,6,7,2,1,3,1)) ggplot(df, aes(x=x, y=y))+geom_line() Яка хороша техніка розгладження я могла використовувати? Крім того, було б непогано, якщо я можу змусити …

14 regression  smoothing 

Я читав про оптимізацію недоброзичливої ​​проблеми в комп’ютерному зорі і натрапив на пояснення нижче щодо оптимізації у Вікіпедії. Я не розумію, чому вони називають цю оптимізацію " мінімізацією енергії " в "Комп'ютерному баченні"? Проблема оптимізації може бути представлена ​​наступним чином: Дано: функція від деякого набору A до реальних чиселf:A→Rf:A→Rf: A …

14 machine-learning  optimization  computer-vision 

Це запитання випливає із запитання: Коли (якщо взагалі колись) є частотистський підхід істотно кращий, ніж байєсівський? Як я публікував у своєму вирішенні цього питання, на мою думку, якщо ви є частою діяльністю, вам не доведеться вірити / дотримуватися принципу ймовірності, оскільки часто методи лікарів-чатувальників порушують це. Однак, і це, як …

14 bayesian  likelihood  likelihood-principle 

У мисленні, швидкому і повільному , Даніель Канеман ставить таке гіпотетичне запитання: (С. 186) Наразі Джулі є старшим в державному університеті. Вона читала вільно, коли їй було чотири роки. Який середній бал за її оцінку (GPA)? Його наміром є проілюструвати, як ми часто не доводимо до регресу до середнього значення, …

14 standard-deviation  regression-coefficients  regression-to-the-mean 

Підведемо підсумок потоку випадкових величин, X i i i d ∼ U ( 0 , 1 )Xi∼iidU(0,1)X_i \overset{iid}\sim \mathcal{U}(0,1) ; нехай YYY - кількість доданків, яких нам потрібно, щоб загальна сума перевищила один, тобто YYY - найменше число, таке, що X 1 + X 2 + ⋯ + X Y …

14 probability  self-study  expected-value  uniform 

Моделі гауссових сумішей (ГММ) привабливі, оскільки з ними просто працювати як аналітично, так і на практиці, і здатні моделювати деякі екзотичні розподіли без надмірної складності. Є декілька аналітичних властивостей, яких слід очікувати, які загалом не зрозумілі. Зокрема: Скажімо, SnSnS_n - клас усіх гауссових сумішей з nnn компонентами. Чи гарантуємо нам, …

14 probability  normal-distribution  references  gaussian-mixture  information-theory