Статистика та великі дані

Питання та відповіді для людей, зацікавлених у статистиці, машинному навчанні, аналізі даних, інтелектуальному аналізу даних та візуалізації даних

4
Кластеризація кореляційної матриці
У мене є кореляційна матриця, яка визначає, як кожен елемент співвідноситься з іншим елементом. Отже, для N елементів я вже маю кореляційну матрицю N * N. Використовуючи цю кореляційну матрицю, як я кластеризую N елементів у M-бункерах, щоб я міг сказати, що Nk-елементи в kth bin поводяться однаково. Прошу допомогти …

3
Чому в теорезі Байєса необхідний нормуючий фактор?
Теорема Байєса йде P(model|data)=P(model)×P(data|model)P(data)P(model|data)=P(model)×P(data|model)P(data) P(\textrm{model}|\textrm{data}) = \frac{P(\textrm{model}) \times P(\textrm{data}|\textrm{model})}{P(\textrm{data})} Це все добре. Але я десь читав: В основному P (дані) - це не що інше, як нормалізуюча константа, тобто константа, яка змушує задню щільність інтегруватися в одну. Ми знаємо, що і . 0≤P(model)≤10≤P(model)≤10 \leq P(\textrm{model}) \leq 10≤P(data|model)≤10≤P(data|model)≤1 0 \leq P(\textrm{data}|\textrm{model}) …

4
"Загальна площа під функцією густини ймовірності дорівнює 1" - відносно чого?
Концептуально я розумію значення фрази "загальна площа під PDF - 1". Це має означати, що шанси на те, що результат буде в загальному інтервалі можливостей, становлять 100%. Але я не можу реально зрозуміти це з "геометричної" точки зору. Якщо, наприклад, у форматі PDF вісь x являє собою довжину, чи загальна …

2
Вибір між -test та -test
Передумови: я викладаю колегам, які працюють на тестуванні гіпотез, і розумію більшу частину цього чудово, але є один аспект, який я зав’язую у вузли, намагаючись зрозуміти, а також пояснюю іншим. Це я думаю, що знаю (будь ласка, виправте, якщо не так!) Статистика, яка була б нормальною, якби відома дисперсія, слідкуйте …

2
Чи функціонує потяг для карет для перехресного підтвердження glmnet як для альфа, так і для лямбда?
Чи перекваліфікується caretпакет R як для моделі, так alphaі lambdaдля glmnetмоделі? Запустивши цей код, eGrid <- expand.grid(.alpha = (1:10) * 0.1, .lambda = (1:10) * 0.1) Control <- trainControl(method = "repeatedcv",repeats = 3,verboseIter =TRUE) netFit <- train(x =train_features, y = y_train, method = "glmnet", tuneGrid = eGrid, trControl = Control) …

2
Вказання різниці в моделях відмінностей з кількома періодами часу
Коли я оцінюю різницю в моделі відмінностей з двома часовими періодами, еквівалентною моделлю регресії буде а. Yist=α+γs∗Treatment+λdt+δ∗(Treatment∗dt)+ϵistYist=α+γs∗Treatment+λdt+δ∗(Treatment∗dt)+ϵistY_{ist} = \alpha +\gamma_s*Treatment + \lambda d_t + \delta*(Treatment*d_t)+ \epsilon_{ist} де - манекен, який дорівнює 1, якщо спостереження від групи лікуванняTreatmentTreatmentTreatment і - манекен, який дорівнює 1 за часовий період після початку обробкиddd Таким …

4
Генерування випадкових змінних із суміші нормальних розподілів
Як я можу взяти вибірку з розподілу суміші, зокрема суміші звичайних розподілів R? Наприклад, якщо я хотів зробити вибірку з: 0.3×N(0,1)+0.5×N(10,1)+0.2×N(3,.1)0.3×N(0,1)+0.5×N(10,1)+0.2×N(3,.1) 0.3\!\times\mathcal{N}(0,1)\; + \;0.5\!\times\mathcal{N}(10,1)\; + \;0.2\!\times\mathcal{N}(3,.1) як я міг це зробити?

3
Ніжчий підхід до байєсівської статистики
Нещодавно я почав читати «Вступ до байєсівської статистики» 2-го видання Bolstad. У мене був клас вступної статистики, який охоплював в основному статистичні тести і я майже через клас регресійного аналізу. Які ще книги я можу використати, щоб доповнити своє розуміння цієї? Я проробив це на перших 100-125 сторінках добре. Після …

2
Що відбувається, коли я включаю змінну у квадрат у свою регресію?
Я починаю з моєї регресії OLS: де D - фіктивна змінна, оцінки стають різними від нуля з низьким р-значенням. Потім я заздалегідь підготую тест Рамзі RESET і виявляю, що у мене є деяка помилка рівняння, я таким чином включаю квадрат x: y = β 0 + β 1 x 1 …

2
Чому зворотне розповсюдження не працює, коли ви ініціалізуєте ваги однакового значення?
Чому зворотне розповсюдження не працює, коли ви ініціалізуєте всю вагу одного і того ж значення (скажімо, 0,5), але працює добре, коли задаються випадкові числа? Чи не повинен алгоритм обчислювати помилку і працювати звідти, незважаючи на те, що ваги спочатку однакові?

3
Як інтерпретувати термін перехоплення в GLM?
Я використовую R, і я аналізував свої дані за допомогою GLM за допомогою біноміального зв'язку. Я хочу знати, яке значення перехоплює у вихідній таблиці. Перехоплення для однієї з моїх моделей суттєво відрізняється, проте змінна - ні. Що це означає? Що таке перехоплення. Я не знаю, чи я просто плутаю себе, …


5
Навіщо турбуватися з наближеннями низького рангу?
Якщо у вас є матриця з n рядками та m стовпцями, ви можете використовувати SVD або інші методи для обчислення наближення низького рангу даної матриці. Однак наближення низького рангу все одно матиме n рядків та m стовпців. Як низькі рангові наближення можуть бути корисними для машинного навчання та обробки природних …

4
Статистична інтуїція / сенс даних
Я студентка другого курсу, вивчаю математику, і я говорив з одним із своїх професорів хорошу суму про різницю між математичними здібностями та статистичними здібностями. Однією з ключових відмінностей, яку він висунув, було "сенс даних", який він пояснив як поєднання технічних можливостей під час роботи в рамках того, що я неофіційно …

5
Чи є функція R, яка обчислить матрицю невідмінності косинусів? [зачинено]
Зачинено. Це питання поза темою . Наразі відповіді не приймаються. Хочете вдосконалити це питання? Оновіть питання, щоб воно було тематичним для перехресної перевірки. Закритий минулого року . Я хотів би зробити теплову карту з кластеризацією рядків на основі косинусних відстаней. Я використовую R і heatmap.2()для виготовлення фігури. Я бачу, що …

Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.