Запитання з тегом «exponential-family»

Я зіткнувся із зауваженням хімічного статистика, що медіана вибірки часто може бути вибором для достатньої статистики, але, крім очевидного випадку одного чи двох спостережень, коли вона дорівнює середній вибірці, я не можу придумати ще одне нетривіальне та iid випадок, коли медіана вибірки достатня.

21 median  exponential-family  sufficient-statistics  chemistry 

Так ось я вивчаю умовиводи. Я хотів би, щоб хтось міг перерахувати переваги експоненціальної родини. Під експонентною сім'єю я маю на увазі розподіли, які задаються як f( Х | & thetas ; ) = ч ( х ) ехр{ η( θ ) Т( x ) - B ( θ ) …

19 self-study  exponential-family 

Я читаю книгу: Бішоп, розпізнавання образів та машинне навчання (2006) що визначає експонентну сім'ю як розподіли форми (урівень 2.194): p(x|η)=h(x)g(η)exp{ηTu(x)}p(x|η)=h(x)g(η)exp⁡{ηTu(x)}p(\mathbf x|\boldsymbol \eta) = h(\mathbf x) g(\boldsymbol \eta) \exp \{\boldsymbol \eta^\mathrm T \mathbf u(\mathbf x)\} Але я не бачу обмежень щодо h(x)h(x)h(\mathbf x) або u(x)u(x)\mathbf u(\mathbf x) . Чи не означає …

18 mathematical-statistics  exponential-family 

Розподіл Пуассона може вимірювати події за одиницю часу, а параметр - . Експонентний розподіл вимірює час до наступної події параметром . Можна перетворити один розподіл в інший, залежно від того, чи легше моделювати події чи час.1λλ\lambda1λ1λ\frac{1}{\lambda} Тепер гамма-пуассон - це "розтягнутий" пуассон з більшою дисперсією. Розподіл Вейбула - це "розтягнута" …

16 poisson-distribution  negative-binomial  gamma-distribution  exponential-family 

Мої запитання: Чи гарантовано узагальнені лінійні моделі (ГЛМ) наближаються до глобального максимуму? Якщо так, то чому? Крім того, які обмеження існують у функції зв'язку для забезпечення опуклості? Моє розуміння GLM полягає в тому, що вони максимізують дуже нелінійну функцію вірогідності. Таким чином, я б міг уявити, що існує кілька локальних …

16 generalized-linear-model  optimization  convergence  exponential-family 

\newcommand{\E}{\mathbb{E}} Як A(⋅)=∫duV1/3(μ)A(⋅)=∫duV1/3(μ)A(\cdot) = \displaystyle\int\frac{du}{V^{1/3}(\mu)} нормалізує перетворення для експонентної сім'ї похідне? Більш конкретно : я спробував виконати ескіз розширення Тейлора на сторінці 3, слайд 1 тут, але у мене є кілька питань. З XXX з експоненціальної родини, перетворення h(X)h(X)h(X) та κiκi\kappa _i що позначає купілятор ithithi^{th} , слайди стверджують, що: …

15 data-transformation  residuals  asymptotics  exponential-family 

Вибираючи параметризацію розподілу гами Γ(b,c)Γ(b,c)\Gamma(b,c) за допомогою pdf g(x;b,c)=1Γ(c)xc−1bce−x/bg(x;b,c)=1Γ(c)xc−1bce−x/bg(x;b,c) = \frac{1}{\Gamma(c)}\frac{x^{c-1}}{b^c}e^{-x/b} Розбіжність Куллбека-Лейблера міжΓ(bq,cq)Γ(bq,cq)\Gamma(b_q,c_q)іΓ(bp,cp)Γ(bp,cp)\Gamma(b_p,c_p)задається [1], як KLGa(bq,cq;bp,cp)=(cq−1)Ψ(cq)−logbq−cq−logΓ(cq)+logΓ(cp)+cplogbp−(cp−1)(Ψ(cq)+logbq)+bqcqbpKLGa(bq,cq;bp,cp)=(cq−1)Ψ(cq)−log⁡bq−cq−log⁡Γ(cq)+log⁡Γ(cp)+cplog⁡bp−(cp−1)(Ψ(cq)+log⁡bq)+bqcqbp\begin{align} KL_{Ga}(b_q,c_q;b_p,c_p) &= (c_q-1)\Psi(c_q) - \log b_q - c_q - \log\Gamma(c_q) + \log\Gamma(c_p)\\ &\qquad+ c_p\log b_p - (c_p-1)(\Psi(c_q) + \log b_q) + \frac{b_qc_q}{b_p} \end{align} Я здогадуюсь, що -функція digamma. Ψ(x):=Γ′(x)/Γ(x)Ψ(x):=Γ′(x)/Γ(x)\Psi(x):= \Gamma'(x)/\Gamma(x) Це дано без …

15 kullback-leibler  gamma-distribution  exponential-family 

Чи має сім'я з розподілу інше визначення статистики, ніж в інших дисциплінах? Взагалі сімейство кривих - це сукупність кривих, кожна з яких задається функцією або параметризацією, в якій змінюється один або кілька параметрів. Такі сім'ї використовуються, наприклад, для характеристики електронних компонентів . Для статистики сім'я за одним джерелом є результатом …

14 distributions  terminology  parametric  exponential-family 

Припустимо, скалярна випадкова величина належить до експоненціальної родини векторних параметрів з pdfXXX fX(x|θ)=h(x)exp(∑i=1sηi(θ)Ti(x)−A(θ))fX(x|θ)=h(x)exp⁡(∑i=1sηi(θ)Ti(x)−A(θ)) f_X(x|\boldsymbol \theta) = h(x) \exp\left(\sum_{i=1}^s \eta_i({\boldsymbol \theta}) T_i(x) - A({\boldsymbol \theta}) \right) де θ=(θ1,θ2,⋯,θs)Tθ=(θ1,θ2,⋯,θs)T{\boldsymbol \theta} = \left(\theta_1, \theta_2, \cdots, \theta_s \right )^T - вектор параметрів і T(x)=(T1(x),T2(x),⋯,Ts(x))TT(x)=(T1(x),T2(x),⋯,Ts(x))T\mathbf{T}(x)= \left(T_1(x), T_2(x), \cdots,T_s(x) \right)^T - спільна достатня статистика. Можна показати, …

11 variance  mean  exponential-family  sufficient-statistics 

У GLM, припускаючи скалярні і θ для базового розподілу з pdf f Y ( y | θ , τ ) = h ( y , τ ) exp ( θ y - A ( θ )YYYθθ\theta Можна показати, щоμ=E(Y)=A′(θ). Якщо функція зв'язкуg(⋅)задовольняє наступному,g(μ)=θ=X′β,деX′βє лінійним предиктором, тоg(⋅)називається канонічною функцією зв'язку для …

11 generalized-linear-model  exponential-family 

Для гауссового розподілу з невідомими середніми та дисперсійними показниками достатньою статистикою у стандартній експоненціальній формі сім'ї є . У мене є розподіл, який має , де N такий, як параметр проектування. Чи існує відповідний відомий розподіл для цього виду достатнього вектора статистики? Мені потрібні зразки з цього розподілу, тому для …

10 normal-distribution  sampling  exponential-family 

Дозволяє X1,X2,...,XnX1,X2,...,XnX_1, X_2, . . . , X_n не бути випадковими змінними, що мають pdf fX(x∣θ)=θ(1+x)−(1+θ)I(0,∞)(x)fX(x∣θ)=θ(1+x)−(1+θ)I(0,∞)(x)f_X(x\mid\theta) =\theta(1 +x)^{−(1+\theta)}I_{(0,\infty)}(x) де θ>0θ>0\theta >0. Дайте UMVUE від1θ1θ\frac{1}{\theta} і обчислити її дисперсію Я дізнався про два таких методи для отримання UMVUE: Нижня межа Крамер-Рао (CRLB) Леманн-Шеффем Я збираюся спробувати це, використовуючи колишнє з двох. …

10 self-study  estimation  inference  exponential-family  umvue 

Нехай є випадковою вибіркою, яка містить розподіл для . Тобто,X1,...,XnX1,...,Xn X_1, ...,X_nGeometric(θ)Geometric(θ)Geometric(\theta)0&lt;θ&lt;10&lt;θ&lt;10<\theta<1 pθ(x)=θ(1−θ)x−1I{1,2,...}(x)pθ(x)=θ(1−θ)x−1I{1,2,...}(x)p_{\theta}(x)=\theta(1-\theta)^{x-1} I_{\{1,2,...\}}(x) Знайдіть неупереджений оцінювач з мінімальною дисперсією дляg(θ)=1θg(θ)=1θg(\theta)=\frac{1}{\theta} Моя спроба: Оскільки геометричний розподіл походить від родини експонентів, статистика є повною і достатньою для . Крім того, якщо є оцінкою для , воно є неупередженим. Тому за теоремою …

10 probability  self-study  estimation  unbiased-estimator  exponential-family 

Моє запитання виникає при читанні читання "Мінки Діріхле" розподілу Мінки , в якому зазначено наступне без доказів у контексті отримання оцінки максимальної ймовірності розподілу Діріхле на основі спостережень за випадковими векторами: Як і завжди з експоненціальною сім'єю, коли градієнт дорівнює нулю, очікувана достатня статистика дорівнює достатній статистиці, що спостерігається. Я …

10 self-study  maximum-likelihood  exponential-family  sufficient-statistics 

В аналізі виживання ви припускаєте, що час виживання rv буде експоненціально розподілений. Враховуючи тепер, що у мене є "результати" iid rv . Тільки деяка частка цих результатів насправді "повністю реалізована", тобто решта спостережень все ще "живі".XiXiX_ix1,…,xnx1,…,xnx_1,\dots,x_nXiXiX_i Якщо я хотів виконати оцінку ML для параметра швидкості розподілу, як я можу використовувати …

9 maximum-likelihood  references  survival  censoring  exponential-family