Розподіл за відсортованими списками

10

Скажімо, у нас є упорядкований список предметів

[a, b, c, ... x, y, z, ...]

Я шукаю сімейство дистрибутивів із підтримкою в списку вище, яким керується деякий параметр альфа, так що:

Для альфа = 0 він призначає ймовірності 1 першому пункту, a вище, а 0 іншому. Тобто, якщо ми зразок із цього списку, із заміною ми завжди отримуємо a.
У міру збільшення альфа ми призначаємо більш високі та більш високі ймовірності для решти списку, дотримуючись впорядкованості списку, слідуючи ~ експоненціальному розпаду.
Коли альфа = 1, ми призначаємо однакову ймовірність для всіх елементів у списку, тому вибірки зі списку схожі на ігнорування його впорядкування.

Це дуже схоже на геометричний розподіл, але є деякі помітні відмінності:

Геометричний розподіл розподілу визначається за всіма натуральними числами. У моєму випадку вище, список має фіксований розмір.
Геометричний розподіл не визначено для альфа = 0.

distributions sampling discrete-data

— Амеліо Васкес-Рейна
джерело

1

Здається, ви описуєте сімейство усічених геометричних розподілів. Однак є нескінченно багато сімей, які якісно поводяться як ваш опис. Більше того, було б пояснити, для чого ви хочете використовувати таку сім’ю.

— whuber

Дякую @whuber Так, я розумію, існує нескінченно багато дистрибутивів, які відповідають цьому опису. Якісь конкретні, які приходять на думку? У мене зараз система, яка вибирає перший елемент цього списку (представляє бали), але я хочу рандомізувати цей вибір (і параметризувати цю рандомізацію). Я не шукаю конкретного типу "розпаду" на основі альфа. Поки альфа = 0 не означає рандомізації, тобто вибір першого елемента, 1 являє собою "вибрати будь-який елемент", а альфа між 0 і 1 представляє "щось середнє" між цими двома альфами, було б досить добре.

— Амеліо Васкес-Рейна

11

Припустимо, , ранг елемента списку , має значення в для списку з елементами (зв'язки можуть бути розірвані випадковим чином). Тоді ми могли б визначити ймовірність вибору як: $r_i$ $i$ $\{0, 1, \ldots, n-1\}$ $n$ $i$

p_{i} = \frac{α^{r_{i}}}{\sum_{k = 1}^{n} α^{r_{k}}}

$p_i = \frac{\alpha^{r_i}}{\sum_{k=1}^n \alpha^{r_k}}$

Це в основному лише належним чином нормалізований усічений геометричний розподіл, і це також пов'язано з функцією Softmax . У спеціальному випадку використовуйте умову . Зауважте, що знаменник завжди може бути записаний у простому виразі закритої форми. Для воно бере значення , а для воно приймає значення . $\alpha=0$ $0^0 = 1$ $\alpha < 1$ $\frac{1-\alpha^n}{1-\alpha}$ $\alpha=1$ $n$

З зрозуміло, що це просто призначає однакові ймовірності для кожного елемента. Як , це наближається до надання всієї маси ймовірностей першому елементу. $\alpha=1$ $\alpha\rightarrow 0$

У списку з 10 елементами грубо експоненціальне зменшення, яке ви запитували, чітке з : $\alpha=0.5$

p_{0} \approx 0.5005 p_{1} \approx 0.2502 p_{2} \approx 0.1251 p_{3} \approx 0.0626 p_{4} \approx 0.0313 p_{5} \approx 0.0156 p_{6} \approx 0.0078 p_{7} \approx 0.0039 p_{8} \approx 0.0020 p_{9} \approx 0.0010

$p_0 \approx 0.5005 \\ p_1 \approx 0.2502 \\ p_2 \approx 0.1251 \\ p_3 \approx 0.0626 \\ p_4 \approx 0.0313 \\ p_5 \approx 0.0156 \\ p_6 \approx 0.0078 \\ p_7 \approx 0.0039 \\ p_8 \approx 0.0020 \\ p_9 \approx 0.0010$

Наведено нижче графіки, як вірогідність вибору першого елемента змінюється на основі , використовуючи список довжиною 10. $\alpha$

— джослібер
джерело

Приємно. Це шлях розумніший, ніж я міг колись сподіватися.

— Метью Друрі

@Matthew Це усічені геометричні розподіли, про які я згадував раніше.

— whuber

4

Я спробую побудувати приклад з перших принципів.

Візьмемо три розподіли як наші будівельні блоки:

P - розподіл, що присвоює ймовірності один до першого елемента списку, нульовий всім іншим.
E - розподіл, що призначає ймовірність до першого елемента списку, до наступного тощо. Оскільки список є кінцевим, вони не будуть дорівнювати , але ми можемо нормалізуватися, щоб отримати розподіл ймовірностей. $\frac{1}{2}$ $\frac{1}{4}$ $1$
U - рівномірний розподіл за списком.

Тепер ми хочемо взяти однопараметричне сімейство позитивних опуклих комбінацій цих розподілів

α (т) П + β (т) Е + γ (т) U

$\alpha(t) P + \beta(t) E + \gamma(t) U$

де для всіх , з додатковою властивістю, що і . $\alpha(t) + \beta(t) + \gamma(t) = 1$ $t \in [0, 1]$ $\alpha(0) = 1$ $\gamma(1) = 1$

Геометрично ми хочемо простежити криву в рівносторонній трикутник, що проходить між точками який починається в першому куті, а закінчується і в останньому. Крім того, оскільки ми хочемо, щоб розподіл виглядав "експоненціальним" в середні часи, ми хотіли б, щоб крива займала внутрішню частину трикутника за часом . $(\alpha(t), \beta(t), \gamma(t))$ $(1, 0, 0), (0, 1, 0), (0, 0, 1)$ $t \in (0, 1)$

Ось варіант кривої:

(1 - т (1 - т)) (1 - т, 0, т) + т (1 - т) (\frac{1}{3}, \frac{1}{3}, \frac{1}{3})

$(1 - t(1-t)) \left(1 - t, 0, t \right) + t(1 - t) \left(\frac{1}{3}, \frac{1}{3}, \frac{1}{3} \right)$

Я сконструював цю роботу назад із властивостей, які ми хотіли б. Крива проходить по краю трикутника між початковою і закінчуючою вершинами. Решта формули - це просто опукла сума цієї крайової кривої та єдиної точки , яка штовхає криву вздовж краю у внутрішню частину часу . $(1-t, 0, t)$ $\left(\frac{1}{3}, \frac{1}{3}, \frac{1}{3} \right)$ $t \in (0, 1)$

— Метью Друрі
джерело