Концептуально завантажувальний завантаження проти Bayesian Bootstrapping?

У мене виникають проблеми з розумінням того, що таке процес Bayesian Bootstrapping, і чим це буде відрізнятися від вашого звичайного завантаження. І якби хтось міг запропонувати інтуїтивний / концептуальний огляд та порівняння обох, це було б чудово.

Візьмемо приклад.

Скажімо, у нас є набір даних X, що становить [1,2,5,7,3].

Якщо ми відбираємо вибірку із заміною кілька разів, щоб створити розміри вибірки, що дорівнюють розміру X (так, [7,7,2,5,7], [3,5,2,2,7] тощо), і тоді ми обчислити засоби кожного, чи означає середній розподіл вибірки вибірки?

Яке було б байєсівське розповсюдження завантажувальної програми?

І як аналогічно здійснюється розподіл інших байесівських завантажувальних параметрів (дисперсія тощо)?

"Частістська" завантажувальна програма сприймає дані як розумне наближення до невідомого розподілу населення. Тому розподіл вибірки статистики (функція даних) можна наблизити шляхом багаторазового перекомпонування спостережень із заміною та обчисленням статистики для кожного вибірки.

Нехай позначають вихідні дані. (У наведеному прикладі n = 5. ) Нехай y b = ( y b 1 , … , y b n ) позначає зразок завантажувальної програми. Такий зразок, ймовірно, матиме деякі спостереження, повторені один чи кілька разів, а інші спостереження відсутні. Середнє значення зразка завантажувального пристрою задається m b = $y = (y_1,\ldots,y_n)$$n=5$$y^b = (y_1^b, \ldots, y_n^b)$Саме розподілmbпо ряду реплікацій завантажувального пристрою використовується для наближення розподілу вибірки з невідомої сукупності.

$$m_b = \frac{1}{n} \sum_{i=1}^n y_i^b.$$ $m_b$

Для того, щоб зрозуміти зв’язок між частою завантажувальною стрічкою та байєсівською завантажувальною стрічкою, доцільно подивитися, як обчислити з іншого погляду.$m_b$

У кожному зразку завантажувальної програми , кожне спостереження y i відбувається десь від 0 до n разів. Нехай h b i позначає кількість разів, коли y i виникає у y b , і нехай h b = ( h b 1 , … , h b n ) . Таким чином, h b i ∈ { 0 , 1 , … , n - 1 , n $y^b$$y_i$$n$$h_i^b$$y_i$$y^b$$h^b = (h_1^b, \ldots, h_n^b)$$h_i^b \in \{0, 1, \ldots, n-1,n\}$і . З огляду на h b , ми можемо побудувати сукупність негативних ваг, що дорівнюють одному: w b = h b / n , де w b i = h b i / n . За допомогою цього позначення ми можемо повторно виразити середнє значення зразка завантажувальної програми як m b = n ∑ i = 1 w b $\sum_{i=1}^n h_i^b = n$$h^b$$w^b = h^b/n$$w_i^b = h_i^b/n$

$$m_b = \sum_{i=1}^n w_i^b\, y_i.$$

Спосіб вибору спостережень для вибірки завантажувального пристрою визначає спільне розподіл для . Зокрема, h b має багаточленове розподіл і, таким чином, ( $w^b$$h^b$Тому ми можемо обчислити m b , витягнувши w b з його розподілу і обчисливши крапковий добуток з y . З цієї нової точки зору виявляється, що спостереженняфіксуються,коли ваги змінюються.

$$(n\,w^b) \sim \textsf{Multinomial}(n,(1/n)_{i=1}^n).$$ $m_b$$w^b$$y$

За байєсівським висновком, спостереження справді приймаються як фіксовані, тому ця нова перспектива видається спільною з байєсівським підходом. Дійсно, обчислення середньої величини за байесівською завантажувальною стрічкою відрізняється лише розподілом ваг. (Тим не менш, з концептуальної точки зору байєсівська завантажувальна стрічка сильно відрізняється від частістської версії.) Дані є фіксованими, а ваги w - невідомі параметри. Нас може зацікавити деякий функціонал даних, який залежить від невідомих параметрів: μ = n ∑ i = 1 w $y$$w$

$$\mu = \sum_{i=1}^n w_i\, y_i.$$

Ось ескіз ескізу моделі за байєсівською завантажувальною стрічкою: розподіл вибірки для спостережень є багаточленом, а попередній для ваг є обмежуючим розподілом Діріхле, який надає всю свою вагу вершинам симплексу. (Деякі автори називають цю модель як мультиноміальну модель вірогідності .)

$$w \sim \textsf{Dirichlet}(1,\ldots,1).$$

$\mu$$w$$y$

$$\sum_{i=1}^n w_i\, g(y_i,\theta) = \underline 0,$$ $g(y_i,\theta)$$\theta$$\underline 0$$\theta$$y$$w$$w$емпірична ймовірність і з узагальненим методом моментів (GMM).)

$$\sum_{i=1}^n w_i\,(y_i - \mu) = 0.$$ $\theta = (\mu,v)$ $$g(y_i,\theta) = \begin{pmatrix} y_i - \mu \\ (y_i - \mu)^2 - v \end{pmatrix}.$$