Статистика та великі дані

Я знаю визначення матриці симетричного позитивного певного (SPD), але хочу зрозуміти більше. Чому вони такі важливі, інтуїтивно? Ось що я знаю. Що ще? Для даних даних матриця ко-дисперсії - SPD. Матриця ко-дисперсії є важливою метрикою, див. Цей чудовий пост для інтуїтивного пояснення. Квадратична форма випукла, якщо SPD. Опуклість - це …

20 mathematical-statistics  optimization  covariance-matrix  intuition  linear-algebra 

Якщо це відомі щільності, з яких я можу імітувати, тобто для яких доступний алгоритм. і якщо продукт інтегрується, чи існує загальний підхід до моделювання з цієї щільності продукту за допомогою тренажери від 's?k ∏ i = 1 f i ( x ) α if1,…,fkf1,…,fkf_1,\ldots,f_kf i∏i=1kfi(x)αiα1,…,αk>0∏i=1kfi(x)αiα1,…,αk>0\prod_{i=1}^k f_i(x)^{\alpha_i}\qquad \alpha_1,\ldots,\alpha_k>0fifif_i

20 simulation  monte-carlo  geometric-mean  scalability  finite-mixture-model 

Дослідження з машинного навчання часто трактують навчання та умовиводи як два окремі завдання, але мені не зовсім зрозуміло, у чому полягає відмінність. Наприклад, у цій книзі вони використовують статистику Баєса для обох видів завдань, але не дають мотивації для цього розрізнення. У мене є кілька розпливчастих ідей, про що це …

20 machine-learning  terminology 

Я треную нейронну мережу (деталі не важливі), де цільові дані - вектор кутів (між 0 і 2 * пі). Я шукаю поради щодо кодування цих даних. Ось що я зараз намагаюся (з обмеженим успіхом): 1) Кодування 1-С: Я розбиваю задані можливі кути на 1000 або близько дискретних кутів, а потім …

20 neural-networks  circular-statistics 

Ми всі знайомі з ідеєю, добре зафіксованою в літературі, що оптимізація LASSO (заради простоти обмежує увагу тут випадком лінійної регресії) еквівалентно лінійній моделі з гауссовими помилками, в яких параметри задаються Laplace prior \ exp (- \ lambda \ | \ beta \ | _1) Ми також усвідомлюємо, що вища встановлює …

20 lasso  laplace-distribution 

Я не можу бути конкретним щодо характеру даних, оскільки вони є власними, але припустимо, у нас є такі дані: Щомісяця деякі люди підписуються на послугу. Тоді, у кожному наступному місяці, ці люди можуть оновити послугу, припинити послугу або відмовити у послузі (наприклад, за несплату). Для найбільш ранньої когорти в наших …

20 panel-data  splines  mars 

Я беру курс Ендрю Нґ з машинного навчання через Coursera . Для рівнянь замість підписок використовуються суперскрипти. Наприклад, у наступному рівнянні замість використовується : x iх( i )x(i)x^{(i)}хixix_i J( θ0, θ1) = 12 м∑i = 1м( годθ( х( i )) - у( i ))2J(θ0,θ1)=12m∑i=1m(hθ(x(i))−y(i))2J(\theta_0, \theta_1) = \frac{1}{2m} \sum\limits_{i=1}^{m}{(h_\theta(x^{(i)}) - y^{(i)})^2} …

20 machine-learning  notation 

Я точно не розумію, що розуміється під розміром вузла. Я знаю, що таке вузол рішення, але не той розмір вузла.

20 machine-learning  random-forest  bagging 

Мені це стало трохи шоком, коли я вперше зробив моделювання нормального розподілу Монте-Карло і виявив, що середнє значення стандартних відхилень від зразків, які мають розмір вибірки лише , виявилося значно меншим ніж, тобто, усереднюючи разів, використовується для генерування населення. Однак це добре відомо, якби рідко згадували, і я начебто знав, …

20 normal-distribution  standard-deviation  expected-value  unbiased-estimator  umvue 

Дивіться це питання на Math SE . Коротка історія: я прочитав «Елементи статистичного навчання» і розчарувався, коли намагався перевірити деякі результати, наприклад, заданий тоді I Я шукаю матричну книгу обчислення, яка написана як ваша традиційна книга обчислення (тобто докази теорем, приклади, вправи на обчислення тощо). Я вже бачив це питанняRSS …

20 references  matrix  matrix-calculus 

Існує багато методик екологічної статистики для розвідувального аналізу даних багатовимірних даних. Вони називаються методами «висвячення». Багато хто однаковий або тісно пов'язаний із поширеними методами в статистиці. Можливо, прототипним прикладом буде аналіз основних компонентів (PCA). Екологи можуть використовувати PCA та пов'язані з ними методи для дослідження «градієнтів» (мені не зовсім зрозуміло, …

20 pca  eda  ecology  correspondence-analysis 

Я звідти прочитав, що стандартна помилка дисперсії вибірки SЕс2= 2 σ4N- 1------√SЕс2=2σ4N-1SE_{s^2} = \sqrt{\frac{2 \sigma^4}{N-1}} Яка стандартна похибка стандартного відхилення вибірки? Мені б здогадатися і сказати, що але я не впевнений.SЕс= SЕс2----√SЕс=SЕс2SE_{s} = \sqrt{SE_{s^2}}

20 sampling  standard-deviation  standard-error 

Парадокс Штейна показує, що коли оцінюються одночасно три чи більше параметрів, існують комбіновані оцінки в середньому точніші (тобто мають нижчу очікувану середню квадратичну помилку), ніж будь-який метод, який обробляє параметри окремо. Це дуже контрінтуїтивний результат. Чи є той самий результат, якщо замість норми (очікувана середня помилка у квадраті) ми використовуємо …

20 paradox  steins-phenomenon 

У мене є одне питання щодо необхідності використання методів вибору функцій (значення випадкових лісів, значення важливості функції або методи вибору функцій Univariate тощо) перед запуском алгоритму статистичного навчання. Ми знаємо, щоб уникнути перевитрати, ми можемо ввести штраф за регуляризацію вагових векторів. Отже, якщо я хочу зробити лінійну регресію, то я …

20 regression  machine-learning  feature-selection  lasso  regularization 

У мене створена нейронна мережа, щоб передбачити щось, де вихідна змінна є порядковою. Я опишу нижче, використовуючи три можливі виходи A <B <C. Цілком очевидно, як використовувати нейронну мережу для виведення категоричних даних: вихід - це лише програмна макс останнього (зазвичай повністю підключеного) шару, по одному на категорію, а передбачувана …

20 neural-networks  ordinal-data  softmax