Статистика та великі дані

Питання та відповіді для людей, зацікавлених у статистиці, машинному навчанні, аналізі даних, інтелектуальному аналізу даних та візуалізації даних

2
Яке обґрунтування функції коваріації Матерна?
Коваріаційна функція Матерна зазвичай використовується як функція ядра в Гауссовому процесі. Визначається так Cν(d)=σ221−νΓ(ν)(2ν−−√dρ)νKν(2ν−−√dρ)Cν(d)=σ221−νΓ(ν)(2νdρ)νKν(2νdρ) {\displaystyle C_{\nu }(d)=\sigma ^{2}{\frac {2^{1-\nu }}{\Gamma (\nu )}}{\Bigg (}{\sqrt {2\nu }}{\frac {d}{\rho }}{\Bigg )}^{\nu }K_{\nu }{\Bigg (}{\sqrt {2\nu }}{\frac {d}{\rho }}{\Bigg )}} де - функція відстані (наприклад, евклідова відстань), - це гамма-функція, - модифікована функція Бесселя …

1
Чому оцінку Джеймса-Штейна називають оцінкою "усадки"?
Я читав про оцінку Джеймса-Штейна. У цій примітці вона визначена як θ^= ( 1 - р - 2∥ X∥2) Xθ^=(1-p-2‖Х‖2)Х \hat{\theta}=\left(1 - \frac{p-2}{\|X\|^2}\right)X Я прочитав доказ, але не розумію наступного твердження: Геометрично оцінювач Джеймса – Штейна зменшує кожну складову напрямку походження ...ХХX Що саме означає "скорочення кожного компонента ХХX до …

4
Проблема чарівного грошового дерева
Я думав про цю проблему під душем, її надихнули інвестиційні стратегії. Скажімо, там було чарівне грошове дерево. Щодня ви можете пропонувати грошову деревню кількість грошей, і вона або потроїть її, або знищить її з імовірністю 50/50. Ви відразу помічаєте, що в середньому ви заробляєте гроші, роблячи це, і хочете скористатися …


6
Чи настроювання гіперпараметра на вибірці набору даних є поганою ідеєю?
У мене є набір даних 140000 прикладів і 30 функцій, для яких я навчаю декілька класифікаторів для двійкової класифікації (SVM, Logistic Regression, Random Forest тощо) У багатьох випадках налаштування гіперпараметрів у всьому наборі даних за допомогою Grid або Random пошуку занадто дорого за часом. Я почав використовувати наступну техніку Sub …

5
Інтуїція (геометрична чи інша)
Розглянемо елементарну ідентичність дисперсії: Var(X)===E[(X−E[X])2]...E[X2]−(E[X])2Var(X)=E[(X−E[X])2]=...=E[X2]−(E[X])2 \begin{eqnarray} Var(X) &=& E[(X - E[X])^2]\\ &=& ...\\ &=& E[X^2] - (E[X])^2 \end{eqnarray} Це проста алгебраїчна маніпуляція визначення центрального моменту на нецентральні моменти. Це дозволяє зручно маніпулювати в інших контекстах. Він також дозволяє обчислити дисперсію за допомогою одного проходу над даними, а не через два …


2
Методика прогнозування VAR
Я будую модель VAR, щоб прогнозувати ціну активу і хотів би знати, чи є мій метод статистично обгрунтованим, чи є тести, які я включив, чи є відповідні, і чи потрібно більше, щоб забезпечити надійний прогноз на основі вхідних змінних. Нижче наведено мій поточний процес перевірки наявності Грінджера причинності та прогнозування …
19 r  forecasting  modeling  var 

4
Найкращий спосіб боротьби з гетероцедастичністю?
У мене є графік залишкових значень лінійної моделі у функціонуванні встановлених значень, де гетероскедастичність дуже чітка. Однак я не впевнений, як мені діяти зараз, тому що, наскільки я розумію, ця гетероскедастичність робить мою лінійну модель недійсною. (Це так?) Використовуйте надійну лінійну підгонку, використовуючи rlm()функцію MASSупаковки, оскільки це, мабуть, надійно для …


1
Добре підходить і яка модель вибрати лінійну регресію або Пуассона
Мені потрібні поради щодо двох головних дилем у моєму дослідженні - це тематичне дослідження трьох великих фармацевтичних препаратів та інновацій. Кількість патентів на рік є залежною змінною. Мої запитання є Які найважливіші критерії для хорошої моделі? Що більше / менш важливо? Хіба що більшість чи всі змінні будуть значущими? Це …

11
Чому логістичну регресію називають алгоритмом машинного навчання?
Якщо я правильно зрозумів, в алгоритмі машинного навчання модель має вчитися на своєму досвіді, тобто коли модель дає неправильний прогноз для нових випадків, вона повинна адаптуватися до нових спостережень, і з часом модель стає все кращою . Я не бачу, щоб логістична регресія мала цю характеристику. То чому це все …

5
Як перекодувати категоричну змінну в числову змінну при використанні SVM або нейронної мережі
Для використання SVM або нейронної мережі йому потрібно перетворити (кодувати) категоричні змінні в числові змінні, нормальним методом у цьому випадку є використання 0-1 двійкових значень з k-м категоричним значенням, перетвореним у (0,0, .. ., 1,0, ... 0) (1 знаходиться на k-й позиції). Чи є інші методи для цього, особливо коли …

3
Чи може бути кілька локальних оптимальних рішень, коли ми вирішуємо лінійну регресію?
Я читаю це твердження на одному старому істинному / хибному іспиті: Ми можемо отримати декілька локальних оптимальних рішень, якщо вирішити задачу лінійної регресії шляхом мінімізації суми помилок у квадраті за допомогою градієнтного спуску. Рішення: помилкове Моє запитання, яка частина цього питання неправильна? Чому це твердження хибне?

2
Моделі структурних рівнянь (SEM) та Баєсові мережі (BN)
Термінологія тут - безлад. "Структурне рівняння" є настільки ж розпливчастим, як "архітектурний міст", а "Байєсова мережа" не є по суті байєсівською . Ще краще, що Бог-беззастережність Юдея Перл каже, що дві школи моделей майже однакові. Отже, які важливі відмінності? (Дивно, як на мене, сторінка Вікіпедії для SEM навіть не включає …

Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.