Розподіл імовірностей та складність обчислень

Це питання стосується перетину теорії ймовірностей та обчислювальної складності. Одним із ключових спостережень є те, що деякі дистрибуції легше генерувати, ніж інші. Наприклад, проблема

Давши число , поверніть рівномірно розподілене число з . $n$ $i$ $0 \leq i < n$

легко вирішити. З іншого боку, наступна проблема є або видається набагато важче.

Враховуючи число , поверніть число таке, що (число Геделя) є дійсним доказом довжини n в арифметиці Peano. Більше того, якщо кількість таких доказів є , то ймовірність отримати якесь конкретне доказ довжини повинна бути . $n$ $i$ $i$ $pr(n)$ $n$ $\frac{1}{pr(n)}$

Це підказує мені, що розподіл ймовірностей відбувається з поняттям обчислювальної складності. Більше того, ця складність, ймовірно, тісно пов'язана з основними проблемами рішення (будь то субрекурсивні, наприклад, , , рекурсивні, рекурсивно численні чи гірші). $P$ $EXP$

Моє запитання: як можна визначити обчислювальну складність розподілів ймовірностей, особливо там, де основна проблема рішення не вирішується. Я впевнений, що це вже було досліджено, але я не знаю, де його шукати.

— Мартін Бергер
джерело

Ще один цікавий приклад (але який можна вирішити) - це перетворення квантового фур'є. Дано

f (k) = a^{k} \mod b

$f(k)=a^k \mod b$ повернути номер

l \in [0, N]

$l \in [0,N]$ такий, що ймовірність

l

$l$ пропорційна

| F (l) |

$\left|F(l)\right|$ ,

F (l) = \sum_{k = 0}^{N} f (k) e^{- 2 π i k l / N}

$F(l) = \sum_{k=0}^N f(k) e^{-2\pi ikl/N}$ .

— Мандрівна логіка

Обидва ваші приклади - дискретні рівномірні розподіли. Я думаю, що різні складності полягають у тому, наскільки важко порахувати

| χ |

$|\chi|$ де

χ

$\chi$ є підтримка.

— Ніколас Манкузо

@NicholasMancuso Я погоджуюся, що підрахунок + неформальний вибір завжди можна використовувати. Тож у деякому сенсі це дає верхню межу. Це все, що можна сказати? Де в літературі це було досліджено?

— Мартін Бергер

@NicholasMancuso Наведені приклади - рівномірні розподіли. Але можна задати те саме питання щодо нерівномірного розподілу. Можна також дивуватися дистрибуціям на

R

$\mathbb{R}$ . Що стосується дискретних розподілів: prima facie, підрахунок здається недостатньо загальним, ви також повинні мати можливість генерувати

i

$i$ -елемент, після того, як ви рівномірно обрали

i

$i$ . З огляду на це, може бути так, що підрахунок є сутністю проблеми.

— Мартін Бергер

@NikosM. Дякую, але це посилання теж нічого не говорить про складність базового розподілу. Довідка говорить про трансформацію

ϕ

$\phi$ про рівномірний розподіл. Але ця трансформація може бути важкою / або легкою у обчисленні.

— Мартін Бергер

Складність розподілів ймовірностей виникає, особливо, при вивченні проблем розподілу, таких як DistNP в теорії складності середнього випадку Левіна .

Розподіл P-обчислюється, якщо його функція кумулятивної щільності може бути оцінена в поліноміальний час.

Розподіл є P-зразковим, якщо ми можемо відібрати з них у многочлен.

Якщо розподіл є P-обчислювальним, то він є P-вибірним. Зворотне значення не відповідає дійсності певних односторонніх функцій.

Ви можете поширити визначення на інші класи складності.

Од Голдрайх має приємні вступні примітки до теми, яку ви, можливо, захочете перевірити.

— Каве
джерело

Дякую, я думаю, що теорія

P

$P$ -прості розподіли - це щось на зразок того, що я шукав. Але немає жодних причин обмежувати увагу

P

$P$ , можна визначити

C

$C$ -мовірні розподіли для будь-якого класу складності

C

$C$ . З недавнім зростанням ймовірнісних мов програмування стає все більш важливим.

— Мартін Бергер

@Martin, так. На NIPS 2015. був підручник з імовірнісного програмування ( слайди , відео також буде розміщено). Я чув, що люди, які відвідували, вважають це дуже цікавим. Приємно бачити людей, які працюють на перехресті ML / Stats та PL. :)

— Kaveh

Так, і головна проблема полягає в тому, що такі мови (= загальні, програмовані вибірки) повільні. Як ми можемо їх пришвидшити?

— Мартін Бергер