Розподіл на підмножини

Мені цікаво, чи є якісь стандартні розподіли на підмножини цілих чисел . Еквівалентно, ми могли б виразити це як розподіл на довжині вектора бінарних результатів, наприклад, якщо то відповідає вектору .$\{1, 2, ..., J\}$$J$$J = 5$$\{1, 3, 5\}$$(1, 0, 1, 0, 1)$

В ідеалі те, що я шукаю, - це деякий розподіл , що походить із сім'ї, індексованої кінцевим розмірним параметром , яка розподілила б його масу таким чином, щоб два двійкові вектори і мали подібний ймовірність, якщо вони "близько" разом, тобто і мають однакові ймовірності. Дійсно, те, що я маю надію зробити, є пріоритетом на таким чином, що якщо я знаю, є досить великим, то , ймовірно, великий відносно векторів, далеких від .$\nu_\theta (\cdot)$$\theta$$r_1$$r_2$$r_1 = (0, 0, 1, 0, 1)$$r_2 = (0, 0, 1, 1, 1)$$\theta$$\nu_\theta (r_1)$$\nu_\theta (r_2)$$r_1$

Однією з стратегій, яка спадає на думку, буде поставити метрику чи якусь іншу міру дисперсії на на а потім взяти або щось подібне. Явним прикладом буде аналогічно нормальному розподілу. Це добре, але я сподіваюся, що є щось стандартне і піддається байєсівському аналізу; з цим я не можу записати нормалізуючу константу.$d_\theta$$\{0, 1\}^J$$\nu_\theta (r) \propto \exp (-d_\theta (r, \mu))$$\exp\left\{-\|r - \mu\|^2 / (2 \sigma^2)\right\}$

Ви можете віддати перевагу сімей місцеположень на основі відстані Хеммінга через їх багатство, гнучкість та обчислюваність.

Позначення та визначення

Нагадаємо , що у вільному скінченномірному модулі з базисом , то відстані Хеммінга між двома векторами і є кількість місць де .$V$$\left(\mathbf{e}_1, \mathbf{e}_2, \ldots, \mathbf{e}_J\right)$ $\delta_H$$\mathbf{v}=v_1 \mathbf{e}_1 + \cdots + v_J\mathbf{e}_J$$\mathbf{w}=w_1 \mathbf{e}_1 + \cdots + w_J\mathbf{e}_J$$i$$v_i \ne w_i$

З огляду на будь-яке походження , розділення відстані Хеммінга на сфери , , де . Коли в заземленому кільці є елементів, має елементів, а має елементи. (Це негайно випливає із спостереження, що елементи відрізняються від в саме місцях, з яких є$\mathbf{v}_0\in V$$V$$S_i(\mathbf{v}_0)$$i=0, 1, \ldots, J$$S_i(\mathbf{v}_0) = \{\mathbf{w}\in V\ |\ \delta_H(\mathbf{w}, \mathbf{v}_0) = i\}$$n$$V$$n^J$$S_i(\mathbf{v})$$\binom{J}{i}\left(n-1\right)^i$$S_i(\mathbf{v})$$\mathbf{v}$$i$$\binom{J}{i}$можливості - і що для кожного місця є незалежно вибір значень.)$n-1$

Африканський переклад у діє, природно, на його розповсюдження, щоб дати родинам розташування. Зокрема, коли - будь-який розподіл на (що означає трохи більше , для всіх і ) і - будь-який елемент , тоді також є розподілом де$V$$f$$V$$f:V\to [0,1]$$f(\mathbf{v})\ge 0$$\mathbf{v} \in V$$\sum_{\mathbf{v}\in V}f(\mathbf{v})=1$$\mathbf{w}$$V$$f^{(\mathbf{w})}$

для всіх . Розташування сім'ї розподілів інваріантна щодо цієї дії: означає для всіх .$\mathbf{v}\in V$ $\Omega$$f\in \Omega$$f^{(\mathbf{v})}\in \Omega$$\mathbf{v}\in V$

Будівництво

Це дозволяє нам визначити потенційно цікаві та корисні сім’ї дистрибутивів, вказавши їх форми в одному фіксованому векторі , який для зручності я вважаю , і переклад цих "генеруючих розподілів" під дією щоб отримати повне сімейство . Щоб досягти бажаної властивості, щоб має мати порівнянні значення в сусідніх точках, просто вимагайте цього властивості всіх генеруючих розподілів.$\mathbf{v}$$\mathbf{0} = (0,0,\ldots,0)$$V$$\Omega$$f$

Щоб побачити, як це працює, давайте побудуємо сімейство локацій усіх розподілів, які зменшуються зі збільшенням відстані. Оскільки можливі лише відстані Hamming, розглянемо будь-яку зменшувану послідовність негативних дійсних чисел = . Встановити$J+1$$\mathbf{a}$$0 \ne a_0 \ge a_1 \ge \cdots \ge a_J \ge 0$

і визначте функцію by$f_\mathbf{a}:V\to [0,1]$

Тоді, як нескладно перевірити, є розподілом на . Крім того, тоді і лише тоді, коли є додатним кратним (як вектори в ). Таким чином, якщо нам подобається, ми можемо стандартизувати до .$f_\mathbf{a}$$V$$f_\mathbf{a} = f_{\mathbf{a}'}$$\mathbf{a}'$$\mathbf{a}$$\mathbb{R}^{J+1}$$\mathbf{a}$$a_0=1$

Відповідно, ця конструкція дає явну параметризацію всіх таких розподільних інваріантних розподілів, які зменшуються з відстані Хеммінга: будь-який такий розподіл має форму для деякої послідовності і деякий вектор .$f_\mathbf{a}^{(\mathbf{v})}$$\mathbf{a} = 1 \ge a_1 \ge a_2 \ge \cdots \ge a_J \ge 0$$\mathbf{v}\in V$

Ця параметризація може забезпечити зручну специфікацію пріорів: розподіліть їх на пріоритетне місце розташування та пріоритетне на форму . (Звичайно, можна розглянути більший набір пріорів, де розташування та форма не залежать, але це було б складнішим завданням.)$\mathbf{v}$$\mathbf{a}$

Генерація випадкових значень

Один із способів вибірки з полягає в етапах шляхом розподілу факторів на розподіл по сферичному радіату та інший умовний розподіл на кожну сферу:$f_\mathbf{a}^{(\mathbf{v})}$

1. Накресліть індекс з дискретного розподілу на заданому ймовірностями , де визначено як раніше .$i$$\{0,1,\ldots,J\}$$\binom{J}{i}(n-1)^i a_i / A$$A$

2. Індекс відповідає набору векторів, що різняться від в саме місцях. Таким чином, вибрати ті розміщую з можливі підмножини, даючи кожну рівну ймовірність. (Це тільки зразок Нижні індекси з без заміни.) Нехай це підмножина місце записується .$i$$\mathbf{v}$$i$$i$$\binom{J}{i}$$i$$J$ $i$$I$

3. Намалюйте елемент , незалежно вибравши значення рівномірно з набору скалярів, не рівних для всіх інакше встановіть . Еквівалентно створіть вектор , вибравши рівномірно з ненульових значень, коли інакше встановивши . Встановіть .$\mathbf{w}$$w_j$$v_j$$j\in I$$w_j=v_j$$\mathbf{u}$$u_j$$j\in I$$u_j=0$$\mathbf{w} = \mathbf{v} + \mathbf{u}$

Крок 3 є непотрібним у двійковому випадку.

Приклад

Ось Rреалізація для ілюстрації.

rHamming <- function(N=1, a=c(1,1,1), n=2, origin) {
  # Draw N random values from the distribution f_a^v where the ground ring
  # is {0,1,...,n-1} mod n and the vector space has dimension j = length(a)-1.
  j <- length(a) - 1
  if(missing(origin)) origin <- rep(0, j)

  # Draw radii `i` from the marginal distribution of the spherical radii.
  f <- sapply(0:j, function(i) (n-1)^i * choose(j,i) * a[i+1])
  i <- sample(0:j, N, replace=TRUE, prob=f)

  # Helper function: select nonzero elements of 1:(n-1) in exactly i places.
  h <- function(i) {
    x <- c(sample(1:(n-1), i, replace=TRUE), rep(0, j-i))
    sample(x, j, replace=FALSE)
  }

  # Draw elements from the conditional distribution over the spheres
  # and translate them by the origin.
  (sapply(i, h) + origin) %% n
}

Як приклад його використання:

test <- rHamming(10^4, 2^(11:1), origin=rep(1,10))
hist(apply(test, 2, function(x) sum(x != 0)))

На це знадобилося секунди, щоб отримати елементів iid з розподілу де , (двійковий випадок), і експоненціально зменшується.$0.2$$10^4$$f_{\mathbf{a}}^{(\mathbf{v})}$$J=10$$n=2$$\mathbf{v}=(1,1,\ldots,1)$$\mathbf{a}=(2^{11},2^{10},\ldots,2^1)$

(Цей алгоритм не вимагає, щоб зменшувався; таким чином, він буде генерувати випадкові величини з будь-якого сімейства місцеположень, а не лише з одномодальних.)$\mathbf{a}$

Вибірка з k-детермінантного точкового процесу моделює розподіл за підмножинами, що заохочує різноманітність, таким чином, що подібні елементи рідше трапляються разом у вибірці. Зверніться до вибіркового відбору процесу з детермінантною точкою від Алекса Кулеші, Бена Таскара.