Створюйте рівномірний шум із кулі p-норми ( )

Я намагаюся написати функцію, яка генерує рівномірно розподілений шум, який походить від кулі p-норми розмірів: $n$

| | x | |_{p} \leq r

$\begin{equation} ||x||_p \leq r \end{equation}$

Я знайшов можливі рішення для кіл ( ) ( http://mathworld.wolfram.com/DiskPointPicking.html ), проте у мене виникають проблеми з розширенням цього значення для різних значень . $p = 2$ $p$

Я спробував це зробити, просто намалювавши випадкову вибірку з рівномірного розподілу і перемалювавши, коли він не відповідає заданому обмеженню. Однак, окрім того, що це некрасиве рішення, воно також стає обчислимо нездійсненним для великих розмірів.

simulation noise

— Таеке де Хаан
джерело

Відповідь можна знайти тут для сфери з n розмірами за допомогою евклідової відстані (p = 2) math.stackexchange.com/questions/87230/… Я все ж не впевнений, як це використовувати для різних p-норм, чи можу я просто змінити використану евклідову відстань на інше відношення до відстані?

— Таеке де Хаан

Документів багато, але більшість - за платною стіною : link.springer.com/article/10.1007/s00184-011-0360-x або дивіться google.com/…

— kjetil b halvorsen

"Уніфікований" щодо якої метрики обсягу? Зрештою, якщо ви використовуєте -ball, чому б евклідовий об'єм представляв би інтерес?

p

$p$

— whuber

@whuber Я, чесно кажучи, не впевнений, оскільки це не чітко зазначено у присвоєнні, але я би сподівався на p-норму, оскільки будь-яка інша метрика здається довільною у цьому випадку.

— Таеке де Хаан

Проблема випливає із завдання машинного навчання; "Проблема - це класова класифікаційна проблема в 204 вимірах. Малий навчальний набір з міткою має розмір 50 зразків на клас. Незазначені дані забезпечують 20000 додаткових зразків. Однак ці зразки зазнали певної пошкодження. Єдина додаткова інформація, яку ми маємо щодо цієї корупції, - це те, що це аддитивний рівномірний шум і що шум походить від фіксованої кулі p-норми, , де і і радіус невідомі. " Мені потрібно отримати найнижчий показник помилок на незазначених даних.

| | x | |_{p} \leq r

$||x||_p \leq r$

p

$p$

r

$r$

— Таке де Хаан

Відповіді:

Я знайшов повне рішення у статті, запропонованому kjetil b halvorsen ( https://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=758215 ). Я, чесно, маю проблеми з розумінням математики за нею, але можливий алгоритм досить простий. якщо у нас розмірів, радіус і норма ніж: $n$ $r$ $p$

1) генерують незалежних випадкових реальних скалярів , де - узагальнений розподіл Гаусса (з різною потужністю в показник замість просто ) $n$ $\varepsilon_i = \bar{G}(1/p, p)$ $\bar{G}(\mu, \sigma^2)$ $e^{−|x|^p}$ $p=2$

2) вектор компонентів , де - незалежні випадкові знаки $x$ $s_i * \varepsilon_i$ $s_i$

3) Утворіть , де - випадкова величина, рівномірно розподілена в інтервалі [0, 1]. $z = w^{1/n}$ $w$

4) повернути $y = r z \frac{x}{||x||_p}$

— Таеке де Хаан
джерело

Для повноти ви могли б сказати, що у вашій відповіді?

G

$G$

— Стефан Лоран

Він був оновлений

— Taeke de Haan

G - узагальнений гауссовий розподіл (з різною силою в експоненті замість просто ). Це зробить розподіл для вектора , що складається з декількох незалежних узагальнених гауссових розподілених змінних , що є добутком єдиних pdfs, залежним від p-норми.

e^{- | x |^{p}}

$e^{-|x|^p}$

p = 2

$p=2$

x

$\mathbf{x}$

x_{i}

$x_i$

f (x) \propto e^{- | x |_{p}^{p}}

$f(\mathbf{x}) \propto e^{-\vert \mathbf{x} \vert_p^p}$

— Sextus Empiricus

@MartijnWeterings Дякую велике, воно було оновлено.

— Таке де Хаан

Дякую. Для отримання інформації, є пробник цього розподілу в R пакет pgnorm .

— Стефан Лоран

Використання однорідно розподілених багатоваріантних змінних

Taeke надає посилання на статтю, текст якої нижче робить інтуїтивнішим, пояснюючи конкретно 2-нормові та 1-нормові випадки.

2-норма $\Vert x \Vert_2 \leq r$

напрямок вибірки

Ви можете використовувати цей результат http://mathworld.wolfram.com/HyperspherePointPicking.html

Багатоваріантна гауссова розподілена змінна (з матрицею коваріації тотожності) залежить лише від відстані або суми квадратів. $X$

f (X_{1}, X_{2}, . . ., X_{n}) = \prod_{1 \leq i \leq n} \frac{1}{\sqrt{2 π}} e^{\frac{1}{2} x_{i}^{2}} = \frac{1}{\sqrt{2 π}} e^{\frac{1}{2} \sum_{1 \leq i \leq n} x_{i}^{2}}

$f(X_1,X_2,...,X_n) = \prod_{1\leq i \leq n} \frac{1}{\sqrt{2\pi}}e^{\frac{1}{2}x_i^2} = \frac{1}{\sqrt{2\pi}}e^{\frac{1}{2}\sum_{1 \leq i \leq n} x_i^2}$

Таким чином рівномірно розподілений на поверхні n-мірної гіперсфери. $\frac{X}{\Vert X \Vert_2}$

зразок відстані

Для завершення потрібно лише пробити відстань, змінити однорідний розподіл на кулі на однорідний розподіл у кулі. (який більш-менш схожий на ваш зв'язаний приклад для вибору точки диска)

Якщо ви просто зразок як рівномірний розподіл, то у вас буде відносно більша щільність поблизу центру (масштаб масштабу як тому частка точок закінчиться об'ємом , який є більш щільним поблизу центру і не означатиме рівномірного розподілу) $r$ $r^n$ $r$ $r^n$

Якщо замість цього ви використовуєте -й корінь змінної, відібраної з рівномірного розподілу, ви отримаєте рівномірний розподіл. $n$

1-норма $\Vert x \Vert_1 \leq r$

напрямок

У цьому випадку ви вибираєте з розподілу Лапласа замість розподілу Гаусса і ділиться на 1-норму. рівномірно розподілена на п-мірний 1-норма сфери. $X$ $\frac{X}{\vert X \vert_1}$

У мене немає офіційного доказу, просто інтуїція

^{(оскільки pdf не залежить від позиції, ви очікуєте, що будь-яка нескінченно мала область / об'єм з однаковою 1-нормою матиме однакову ймовірність і коли ви згортаєте її на одиницю поверхні того ж ) $f(x) dV$ $f(x) dA$}

але тестування з імітацією виглядає добре.

library(rmutil)
x <- abs(rlaplace(20000))
y <- abs(rlaplace(20000))
z <- abs(rlaplace(20000))
rn <- abs(x)+abs(y)+abs(z)

xi <- (x/rn)
yi <- (y/rn)
zi <- (z/rn)
plot(sqrt(0.5)*(xi-yi),
     sqrt((0.5-0.5*(xi+yi))^2+zi^2),
     pc=21,bg=rgb(0,0,0,0.02), col=rgb(0,0,0,0),cex=1)

відстань

Відстань йде аналогічно, як у випадку з 2-ма нормами (гучність все ще масштабується як ). $r^n$

p-норма $\Vert x \Vert_p \leq r$

У цьому випадку, якщо ви хочете керуватися тим самим принципом, вам потрібно буде взяти вибірку з розподілів з (я гіпотезую). Це узагальнені нормальні розподіли і, ймовірно, стосуються розподілу згаданого Таеке. $f(x) \propto e^{\vert x \vert^p}$ $G()$

— Секст Емпірік
джерело

Не могли б ви детальніше розповісти, як ви укладаєте, що одиничні вектори розподілені рівномірно? До речі, я вважаю , ви хочете взяти е корінь.

p

$p$

— whuber

Дякуємо за вашу допомогу, тут я знайшов повне рішення: ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=758215 ). Я, чесно, маю проблеми з розумінням математики за нею, але можливий алгоритм досить простий. якщо у нас розмірів, радіус та норма ніж: 1) генеруємо n незалежних випадкових дійсних скалярів E_i = G (1 / p, p) 2) побудуємо вектор x компонентів s_i * E_i, де E_i - незалежні випадкові знаки 3) Утворіть , де - випадкова величина, рівномірно розподілена в інтервалі [0, 1]. 4) повернути

n

$n$

r

$r$

p

$p$

z = w^{1 / n}

$z = w^{1/n}$

w

$w$

y = r z \frac{x}{| | x | |_{p}}

$y = r z \frac{x}{||x||_p}$

— Таке де Хаан

Створюйте рівномірний шум із кулі p-норми ( )

Використання однорідно розподілених багатоваріантних змінних

2-норма∥x∥2≤r‖x‖2≤r\Vert x \Vert_2 \leq r

напрямок вибірки

зразок відстані

1-норма∥x∥1≤r‖x‖1≤r\Vert x \Vert_1 \leq r

напрямок

відстань

p-норма∥x∥p≤r‖x‖p≤r\Vert x \Vert_p \leq r

2-норма $\Vert x \Vert_2 \leq r$

1-норма $\Vert x \Vert_1 \leq r$

p-норма $\Vert x \Vert_p \leq r$