Запитання з тегом «probability-inequalities»

Я шукаю певні нерівності ймовірності для сум необмежених випадкових величин. Я був би дуже вдячний, якщо хтось може надати мені деякі думки. Моя проблема полягає у знаходженні верхньої межі експоненції над ймовірністю того, що сума необмежених iid випадкових величин, які насправді є множенням двох iid Гауссана, перевищує деяке певне значення, …

37 probability  mathematical-statistics  probability-inequalities  mgf 

Мене цікавить наступна однобічна версія Кантеллі про нерівність Чебишева : P(X−E(X)≥t)≤Var(X)Var(X)+t2.P(X−E(X)≥t)≤Var(X)Var(X)+t2. \mathbb P(X - \mathbb E (X) \geq t) \leq \frac{\mathrm{Var}(X)}{\mathrm{Var}(X) + t^2} \,. В основному, якщо ви знаєте середню сукупність та дисперсію, ви можете обчислити верхню межу щодо ймовірності спостереження певного значення. (Це було принаймні моє розуміння.) Однак я …

32 probability  mathematical-statistics  probability-inequalities  mean 

Нехай позначає функцію розподілу біномів (DF) з параметрами і оціненими за : \ початок {рівняння} B (n, p, r) = \ sum_ {i = 0} ^ r \ binom {n} {i} p ^ i (1-p) ^ {ni}, \ end {рівняння } і нехай F (\ nu, r) позначає DF Пуассона …

30 binomial  poisson-distribution  convergence  probability-inequalities 

У класичній проблемі колекціонера купонів добре відомо, що час необхідний для заповнення набору випадково вибраних купонів, задовольняє , і .TTTnnnE[T]∼nlnnE[T]∼nln⁡nE[T] \sim n \ln n Var(T)∼n2Var(T)∼n2Var(T) \sim n^2Пр ( Т&gt; n lnn + c n ) &lt; e- cPr(T&gt;nln⁡n+cn)&lt;e−c\Pr(T > n \ln n + cn) < e^{-c} Ця верхня межа краща …

20 probability  probability-inequalities  coupon-collector-problem 

Розглянемо проблему класифікації набору даних MNIST. Згідно з веб-сторінкою MNIST Янна Лекуна , "Ciresan та ін." отримали 0,23% помилок на тестовому наборі MNIST за допомогою Convolutional Neural Network. Позначимо навчальний набір MNIST як , тестовий набір MNIST як D t e s t , остаточну гіпотезу, яку вони отримали, використовуючи …

16 machine-learning  classification  overfitting  probability-inequalities 

Я переглядаю документ, який використовує нерівність оракул, щоб довести щось, але я не в змозі зрозуміти, що він навіть намагається зробити. Коли я шукав в Інтернеті про "нерівність Oracle", деякі джерела направили мене до статті "Candes, Emmanuel J." Сучасна статистична оцінка через нерівності оракул ". "які можна знайти тут https://statweb.stanford.edu/~candes/papers/NonlinearEstimation.pdf …

15 mathematical-statistics  estimation  probability-inequalities  inequality  oracle 

Це запитання виникає з того, що тут задають питання про функції, що генерують момент (MGF). Припустимо, ХХX - обмежена нульова середня випадкова величина, що приймає значення у [ - σ, σ][-σ,σ][-\sigma, \sigma] і нехай є її MGF. З прив’язки, що використовується у доказі нерівності Геффдінга , ми маємо, що де …

14 probability  probability-inequalities  mgf 

Примітка: Лорма Борель-Кантеллі говорить про це ∑n=1∞P(An)&lt;∞⇒P(limsupAn)=0∑n=1∞P(An)&lt;∞⇒P(limsupAn)=0\sum_{n=1}^\infty P(A_n) \lt \infty \Rightarrow P(\lim\sup A_n)=0 ∑n=1∞P(An)=∞ and An's are independent⇒P(limsupAn)=1∑n=1∞P(An)=∞ and An's are independent⇒P(limsupAn)=1\sum_{n=1}^\infty P(A_n) =\infty \textrm{ and } A_n\textrm{'s are independent} \Rightarrow P(\lim\sup A_n)=1 Потім, якщо ∑n=1∞P(AnAcn+1)&lt;∞∑n=1∞P(AnAn+1c)&lt;∞\sum_{n=1}^\infty P(A_nA_{n+1}^c )\lt \infty за допомогою леми Бореля-Кантеллі Я хочу це показати по-перше, limn→∞P(An)limn→∞P(An)\lim_{n\to \infty}P(A_n) …

13 probability  self-study  stochastic-processes  probability-inequalities 

Якщо - розподіл ймовірності з ненульовими значеннями на , для якого типу (s) існує константа така, що для всіх ?p(x)p(x)p(x)[0,+∞)[0,+∞)[0,+\infty)p(x)p(x)p(x)c&gt;0c&gt;0c\gt 0∫∞0p(x)logp(x)(1+ϵ)p(x(1+ϵ))dx≤cϵ2∫0∞p(x)log⁡p(x)(1+ϵ)p(x(1+ϵ))dx≤cϵ2\int_0^{\infty}p(x)\log{\frac{ p(x)}{(1+\epsilon)p({x}(1+\epsilon))}}dx \leq c \epsilon^20&lt;ϵ&lt;10&lt;ϵ&lt;10\lt\epsilon\lt 1 Нерівність, наведена вище, насправді є дивергенцією Кулбека-Лейблера між розподілом та стислим його варіантом . Я з’ясував, що ця нерівність стосується розподілів експоненціальної, гамма та …

12 probability  stochastic-processes  kullback-leibler  probability-inequalities 

Нехай {Xn}n≥1{Xn}n≥1\{X_n\}_{n\geq 1} - послідовність випадкових змінних st Xn→aXn→aX_n \to a з імовірністю, де a&gt;0a&gt;0a>0 - фіксована константа. Я намагаюся показати таке: Xn−−−√→a−−√Xn→a\sqrt{X_n} \to \sqrt{a} і aXn→1aXn→1\frac{a}{X_n}\to 1 імовірність. Я тут, щоб перевірити, чи була моя логіка здоровою. Ось моя робота ATTEMPT Для першої частини у нас |Xn−−−√−a−−√|&lt;ϵ⟸|Xn−a|&lt;ϵ|Xn−−−√+a−−√|=ϵ|(Xn−−−√−sqrta)+2a−−√||Xn−a|&lt;ϵ⟸|Xn−a|&lt;ϵ|Xn+a|=ϵ|(Xn−sqrta)+2a||\sqrt{X_n}-\sqrt{a}|<\epsilon \impliedby |X_n-a|<\epsilon|\sqrt{X_n}+\sqrt{a}|=\epsilon|(\sqrt{X_n}-sqrt{a})+2\sqrt{a}| …

12 random-variable  convergence  asymptotics  probability-inequalities  coverage-probability 

Припустимо, у нас є IID випадкові величини з розподілом B e r ( θ ) . Ми будемо спостерігати зразок X я «S наступним чином: нехай Y 1 , ... , Y п незалежні В е г ( 1 / +2 ) випадкові величини, припустимо , що всі X я …

12 probability-inequalities 

В дусі цього питання Розуміючи докази леми, що використовується в нерівності Геффдінга , я намагаюся зрозуміти кроки, які призводять до нерівності Геффдінга. Найбільш загадковою для мене є доказ - це частина, де обчислюються експоненціальні моменти для сукупності змінних iid, після яких застосовується нерівність Маркова. Моя мета полягає в тому, щоб …

12 probability  probability-inequalities 

Чи є аналог вищому моменту нерівності Чебишева в однобічному випадку? Нерівність Чебишева-Кантеллі, здається, працює лише на дисперсію, тоді як нерівність Чебишева може бути легко вироблена для всіх показників. Хтось знає про однобічну нерівність із використанням вищих моментів?

12 approximation  moments  probability-inequalities 

Я вивчаю лекції Ларрі Вассермана щодо статистики, в яких основним текстом використовується Казелла та Бергер. Я працюю над його конспектом лекцій 2 і застряг у виведенні леми, що використовується в нерівності Геффдінга (с. 2-3). Я відтворюю доказ у примітках нижче, а після підтвердження я зазначу, де я застряг. Лема Припустимо, …

11 probability  probability-inequalities 

З огляду на два безперервні розподіли FXFX\mathcal{F}_X і FYFY\mathcal{F}_Y , мені незрозуміло, чи є відношення домінування опуклої між ними: (0)FX&lt;cFY(0)FX&lt;cFY(0)\quad \mathcal{F}_X <_c \mathcal{F}_Y Має на увазі, що (1)F−1Y(q)≤F−1X(q),∀q∈[0.5,1](1)FY−1(q)≤FX−1(q),∀q∈[0.5,1](1)\quad F_Y^{-1}(q) \leq F_X^{-1}(q),\quad \forall q\in[0.5,1] має місце, або якщо потрібна ще якась гіпотеза, якщо має бути дотримано?(1)(1)(1) Визначення домінування опуклості. Якщо два …

10 probability  probability-inequalities  distributions