Запитання з тегом «mathematical-statistics»

Я читаю книгу: Бішоп, розпізнавання образів та машинне навчання (2006) що визначає експонентну сім'ю як розподіли форми (урівень 2.194): p(x|η)=h(x)g(η)exp{ηTu(x)}p(x|η)=h(x)g(η)exp⁡{ηTu(x)}p(\mathbf x|\boldsymbol \eta) = h(\mathbf x) g(\boldsymbol \eta) \exp \{\boldsymbol \eta^\mathrm T \mathbf u(\mathbf x)\} Але я не бачу обмежень щодо h(x)h(x)h(\mathbf x) або u(x)u(x)\mathbf u(\mathbf x) . Чи не означає …

18 mathematical-statistics  exponential-family 

Я стежу за AW van der Vaart, асимптотичною статистикою (1998). Він розповідає про статистичні експерименти, стверджуючи, що вони відрізняються від статистичної моделі, але не визначає жодного. Моє запитання: Що таке (1) статистичний експеримент, (2) статистична модель та (3), що є ключовим інгредієнтом, який завжди відрізнятиме статистичний експеримент від будь-якої статистичної …

17 mathematical-statistics  inference  experiment-design  descriptive-statistics  model 

Я вела дискусію зі своїм професором статистики на рівні випускників про "нормальні розподіли". Я стверджую, що для дійсного отримання нормального розподілу необхідно мати середній = середній = режим, всі дані повинні міститись під кривою дзвону та ідеально симетрично навколо середнього. Тому технічно практично немає нормальних розподілів у реальних дослідженнях, і …

17 mathematical-statistics  descriptive-statistics 

Мені було задано це питання на днях і ніколи раніше його не розглядали. Моя інтуїція випливає з переваг кожного оцінювача. Максимальна ймовірність є переважно тоді, коли ми впевнені в процесі генерації даних, оскільки, на відміну від методу моментів, він використовує знання всього розподілу. Оскільки оцінювачі MoM використовують лише інформацію, що …

17 mathematical-statistics  maximum-likelihood  estimators  method-of-moments 

Я думав над тим, щоб написати публікацію в блозі про цей цікавий аналіз Клейнберга (2002), який досліджує труднощі кластеризації. Кляйнберг окреслює три, здавалося б, інтуїтивні дезидерати для функції кластеризації, а потім доводить, що такої функції не існує. Існує багато алгоритмів кластеризації, які задовольняють два з трьох критеріїв; однак жодна функція …

17 mathematical-statistics  clustering  intuition  hierarchical-clustering 

Я (приблизно) чув, що: пакетування - це методика зменшення дисперсії алгоритму прогнозування / оцінки / навчання. Однак я ніколи не бачив формального математичного підтвердження цього твердження. Хтось знає, чому це математично вірно? Це, мабуть, є таким широко прийнятим / відомим фактом, що я очікую прямого посилання на це. Я був …

17 machine-learning  mathematical-statistics  bagging 

Я відкладаю "відповідь" на питання, яке я дав десь два тижні тому: Чому корисність "Джеффріс" корисна? Це справді було питання (і я тоді не мав права публікувати коментарі), тому я сподіваюся, що це нормально: У посиланні вище обговорюється, що цікавою особливістю Джефріса до цього є те, що при перемодуванні моделі …

17 bayesian  mathematical-statistics  fisher-information  jeffreys-prior  invariance 

Я читав таке обґрунтування (із записів до курсу cs229) про те, чому ми ділимо вихідні дані на його стандартне відхилення: незважаючи на те, що я розумію, про що йдеться в поясненні, мені незрозуміло, чому поділ на стандартне відхилення дозволить досягти такої мети. Це говорить так, що всі більше на тій …

17 machine-learning  pca  mathematical-statistics 

Перш ніж я поставити своє запитання, дозвольте трохи ознайомитись із тим, що я знаю про статистику, щоб ви краще розуміли типи ресурсів, які я шукаю. Я аспірант з психології, і як такий я майже кожен день використовую статистику. На сьогоднішній день я знайомий з досить широким спектром методів, здебільшого, оскільки …

17 mathematical-statistics  references 

Перш за все, я цього не запитую: Чому нульова кореляція не передбачає незалежності? Це вирішено (досить приємно) тут: /math/444408/why-does-zero-correlation-not-imply-independence Що я прошу - це протилежне ... скажімо, дві змінні повністю незалежні одна від одної. Чи не могли вони мати крихітний кореляційний зв’язок випадково? Чи не повинно бути ... незалежність передбачає …

16 correlation  mathematical-statistics  covariance  independence 

Це питання було натхнене двома останніми взаємодіями, які я мав, одна тут у резюме , а інша на економ.се. Там, я відправив відповідь на відомий «Конверт парадоксу» (зауважте, не як на «правильну відповідь» , але в якості відповіді , що випливають з конкретних припущень про структуру ситуації). Через деякий час …

16 bayesian  mathematical-statistics  prior  theory  philosophical 

Ця проблема пов'язана з дослідженнями моєї лабораторії з роботизованого покриття: Довільно намалюйте чисел із безлічі без заміни та сортуйте числа у порядку зростання. .nnn{1,2,…,m}{1,2,…,m}\{1,2,\ldots,m\}1≤n≤m1≤n≤m1\le n\le m З цього відсортованого списку чисел генерують різницю між послідовними числами та межами: . Це дає прогалини.{a(1),a(2),…,a(n)}{a(1),a(2),…,a(n)}\{a_{(1)},a_{(2)},…,a_{(n)}\}g={a(1),a(2)−a(1),…,a(n)−a(n−1),m+1−a(n)}g={a(1),a(2)−a(1),…,a(n)−a(n−1),m+1−a(n)}g = \{a_{(1)},a_{(2)}−a_{(1)},\ldots,a_{(n)}−a_{(n-1)},m+1-a_{(n)}\}n+1n+1n+1 Який розподіл максимального проміжку? P(max(g)=k)=P(k;m,n)=?P(max(g)=k)=P(k;m,n)=?P(\max(g) = …

16 probability  mathematical-statistics  uniform  combinatorics  order-statistics 

(Спочатку розміщено на MSE.) Я бачив, як багато евристичних дискусій класичної теореми про центральну межу говорять про нормальний розподіл (або будь-який із стабільних розподілів) як про «атрактор» у просторі ймовірностей щільності. Наприклад, розгляньте ці пропозиції у верхній частині звернення Вікіпедії : У більш загальному використанні центральною граничною теоремою є будь-яка …

16 probability  mathematical-statistics  convergence  central-limit-theorem  convolution 

Для нормального розподілу існує неупереджений оцінювач стандартного відхилення, заданий: σ^unbiased=Γ(n−12)Γ(n2)12∑k=1n(xi−x¯)2−−−−−−−−−−−−√σ^unbiased=Γ(n−12)Γ(n2)12∑k=1n(xi−x¯)2\hat{\sigma}_\text{unbiased} = \frac{\Gamma(\frac{n-1}{2})}{\Gamma(\frac{n}{2})} \sqrt{\frac{1}{2}\sum_{k=1}^n(x_i-\bar{x})^2} Причина цього результату не так відома, здається, це те, що це скоріше цікавість, а не питання великого імпорту . Доказ висвітлюється на цій нитці ; він користується ключовою властивістю нормального розподілу: 1σ2∑k=1n(xi−x¯)2∼χ2n−11σ2∑k=1n(xi−x¯)2∼χn−12 \frac{1}{\sigma^2} \sum_{k=1}^n(x_i-\bar{x})^2 \sim \chi^{2}_{n-1} Звідти …

16 mathematical-statistics  standard-deviation  unbiased-estimator 

Нехай YYY позначає медіану, а ˉ XX¯\bar{X} позначає середнє значення випадкової вибірки розміром n = 2 k + 1n=2k+1n=2k+1 з розподілу, який дорівнює N ( μ , σ 2 )N(μ,σ2)N(\mu,\sigma^2) . Як я можу обчислити ? E ( Y | ˉ X = ˉ x )E(Y|X¯=x¯)E(Y|\bar{X}=\bar{x}) Інтуїтивно, через припущення про …

16 self-study  normal-distribution  mathematical-statistics  expected-value  conditional-expectation