Як імітувати дані, що задовольняють конкретним обмеженням, таким як специфічне середнє та стандартне відхилення?

Це питання мотивоване моїм питанням про метааналіз . Але я думаю, що це також було б корисно в навчанні контекстів, де ви хочете створити набір даних, який би точно відображав наявний опублікований набір даних.

Я знаю, як генерувати випадкові дані із заданого розподілу. Наприклад, якщо я прочитав про результати дослідження, яке мало:

• середнє значення 102,
• стандартне відхилення 5,2 і
• розмір вибірки 72.

Я міг би генерувати подібні дані за допомогою rnormР. Наприклад,

set.seed(1234)
x <- rnorm(n=72, mean=102, sd=5.2)

Звичайно, середнє значення і значення SD не було б точно рівним 102 і 5.2 відповідно:

round(c(n=length(x), mean=mean(x), sd=sd(x)), 2)
##     n   mean     sd 
## 72.00 100.58   5.25 

Взагалі мене цікавить, як імітувати дані, які задовольняють набір обмежень. У вищенаведеному випадку контейнери - це розмір вибірки, середнє значення та стандартне відхилення. В інших випадках можливі додаткові обмеження. Наприклад,

• мінімум і максимум в даних або базовій змінній можуть бути відомі.
• може бути відомо, що змінна може приймати лише цілі значення або лише негативні значення.
• дані можуть включати кілька змінних із відомими взаємозв'язками.

Запитання

• Як правило, як я змоделюю дані, які точно задовольняють набір обмежень?
• Чи про це написано статті? Чи є в R програми, які роблять це?
• Для прикладу, як я міг і чи повинен я імітувати змінну, щоб вона мала конкретне значення та sd?

Загалом, щоб середнє значення та дисперсія вибірки були точно рівними заздалегідь заданим значенням, ви можете відповідним чином змістити та масштабувати змінну. Зокрема, якщо є вибіркою, то нові змінні$X_1, X_2, ..., X_n$

$$Z_i = \sqrt{c_{1}} \left( \frac{X_i-\overline{X}}{s_{X}} \right) + c_{2}$$

де - вибіркове середнє значення, а - дисперсія вибірки є такою, що середнє значення вибірки 'є рівно а їх дисперсія вибірки - рівно . Аналогічно побудований приклад може обмежувати діапазон -s 2 X =$\overline{X} = \frac{1}{n} \sum_{i=1}^{n} X_i$Zic2c$s^{2}_{X} = \frac{1}{n-1} \sum_{i=1}^{n} (X_i - \overline{X})^2$$Z_{i}$$c_2$$c_1$

$$B_i = a + (b-a) \left( \frac{ X_i - \min (\{X_1, ..., X_n\}) }{\max (\{X_1, ..., X_n\}) - \min (\{X_1, ..., X_n\}) } \right)$$

створить набір даних який обмежений інтервалом . $B_1, ..., B_n$$(a,b)$

Примітка. Ці типи зсуву / масштабування, як правило, змінять сімейство розподілу даних, навіть якщо вихідні дані походять із сімейства масштабів місцеположення.

В контексті нормального розподілуmvrnorm функція R дозволяє моделювати нормальні (або багатовимірні нормальні) дані з наперед визначеним зразком означають / ковариацию шляхом установки empirical=TRUE. Зокрема, ця функція імітує дані з умовного розподілу нормально розподіленої змінної, враховуючи середнє значення вибірки та (спів) дисперсію, що дорівнює заздалегідь заданому значенню . Зауважте, що граничні розподіли, які виникають в результаті, не є нормальними, на що вказував @whuber у коментарі до головного питання.

Ось простий універсальний приклад, коли середнє значення вибірки (від вибірки ) обмежено рівним 0, а стандартне відхилення вибірки - 1. Ми можемо бачити, що перший елемент набагато більше схожий на рівномірний розподіл, ніж нормальний розподіл:$n=4$

library(MASS)
 z = rep(0,10000)
for(i in 1:10000)
{
    x = mvrnorm(n = 4, rep(0,1), 1, tol = 1e-6, empirical = TRUE)
    z[i] = x[1]
}
hist(z, col="blue")

$\ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ $

Щодо Вашого запиту на документи, є:

• Chatterjee, S. & Firat, A. (2007). Генерування даних із однаковою статистикою, але різною графікою: подання даних до набору даних Anscombe. Американський статистик, 61 , 3, с. 248-254.

Це не зовсім те, що ви шукаєте, але може служити приводом для млина.

---

Є ще одна стратегія, яку, схоже, ніхто не згадував. Можна згенерувати (псевдо) випадкові дані з набору розміру таким чином, що весь набір відповідає обмеженням до тих пір, поки решта даних фіксуються у відповідних значеннях. Необхідні значення повинні бути вирішені за допомогою системи рівнянь, алгебри та деякої ліктьової змазки. $N-k$$N$$k$$k$$k$

Наприклад, щоб генерувати набір даних із звичайного розподілу, який матиме задану середню вибірку та дисперсію, , вам потрібно буде зафіксувати значення двох точок: та . Оскільки середнє значення вибірки: має бути: Дисперсія вибірки: таким чином (після заміни вищевказаного на , складання / розповсюдження та перестановки ... ) ми отримуємо: $N$$\bar x$$s^2$$y$$z$

$$\bar x = \frac{\sum_{i=1}^{N-2}x_i\; + \;y\!+\!z}{N}$$ $y$ $$y = N\bar x\; - \;\left(\sum_{i=1}^{N-2}x_i\!+\!z\right)$$ $$s^2 = \frac{\sum_{i=1}^{N-2}(x_i - \bar x)^2\; + \;(y - \bar x)^2\!+\!(z - \bar x)^2}{N-1}$$ $y$ $$2(N\bar{x}\! - \!\sum_{i=1}^{N-2}x_i)z - 2z^2 = N\bar{x}^2(N\!-\!1) + \sum_{i=1}^{N-2}x_i^2 + \left[\sum_{i=1}^{N-2}x_i\right]^2 - 2N\bar{x}\sum_{i=1}^{N-2}x_i - (N\!-\!1)s^2$$ Якщо візьмемо , , і як заперечення РЗС ми можемо вирішити для використовуючи квадратичну формулу . Наприклад, у , може бути використаний такий код: $a=-2$$b=2(N\bar{x} - \sum_{i=1}^{N-2}x_i)$$c$$z$R

find.yz = function(x, xbar, s2){
  N    = length(x) + 2
  sumx = sum(x)
  sx2  = as.numeric(x%*%x)          # this is the sum of x^2
  a    = -2
  b    = 2*(N*xbar - sumx)
  c    = -N*xbar^2*(N-1) - sx2 - sumx^2 + 2*N*xbar*sumx + (N-1)*s2
  rt   = sqrt(b^2 - 4*a*c)

  z    = (-b + rt)/(2*a)
  y    = N*xbar - (sumx + z)
  newx = c(x, y, z)
  return(newx)
}

set.seed(62)
x    = rnorm(2)
newx = find.yz(x, xbar=0, s2=1)
newx                                # [1] 0.8012701  0.2844567  0.3757358 -1.4614627
mean(newx)                          # [1] 0
var(newx)                           # [1] 1

Щодо цього підходу слід зрозуміти. По-перше, це не гарантовано працює. Наприклад, можливо, що ваші початкові дані такі, що не існує значень і які зроблять дисперсію отриманого набору рівним . Поміркуйте: y z s $N-2$$y$$z$$s^2$

set.seed(22)    
x    = rnorm(2)
newx = find.yz(x, xbar=0, s2=1)
Warning message:
In sqrt(b^2 - 4 * a * c) : NaNs produced
newx                                # [1] -0.5121391  2.4851837        NaN        NaN
var(c(x, mean(x), mean(x)))         # [1] 1.497324

По-друге, хоча стандартизація робить граничні розподіли всіх ваших змінних більш рівномірними, такий підхід впливає лише на два останні значення, але робить їх граничні розподіли перекошеними:

set.seed(82)
xScaled = matrix(NA, ncol=4, nrow=10000)
for(i in 1:10000){
  x           = rnorm(4)
  xScaled[i,] = scale(x)
}

set.seed(82)
xDf = matrix(NA, ncol=4, nrow=10000)
i   = 1
while(i<10001){
  x       = rnorm(2)
  xDf[i,] = try(find.yz(x, xbar=0, s2=2), silent=TRUE)  # keeps the code from crashing
  if(!is.nan(xDf[i,4])){ i = i+1 }                      # increments if worked
}

По-третє, отриманий зразок може виглядати не дуже нормально; це може виглядати так, що у нього є "чужі люди" (тобто пункти, що надходять з іншого процесу генерування даних, ніж решта), оскільки це, по суті, так. Це менш ймовірно, що це проблема з більшими розмірами вибірки, оскільки статистика вибірки з генерованих даних повинна збігатися до необхідних значень і, таким чином, потребувати менших коригувань. При менших зразках, ви завжди можете поєднувати цей підхід з прийняттям / відхиленням алгоритму , який намагається знову , якщо згенерований зразок має статистичні форми (наприклад, асиметрія і ексцес) , які виходять за межі допустимих меж (див, @ кардинальські коментарів ), або продовжити цей підхід для створення вибірки з фіксованою середньою, дисперсією, косою такуртоз (хоча алгебру я залишаю тобі). Крім того, ви можете генерувати невелику кількість зразків і використовувати один з найменшими (скажімо) статистикою Колмогорова-Смірнова.

library(moments)
set.seed(7900)  
x = rnorm(18)
newx.ss7900 = find.yz(x, xbar=0, s2=1)
skewness(newx.ss7900)                       # [1] 1.832733
kurtosis(newx.ss7900) - 3                   # [1] 4.334414
ks.test(newx.ss7900, "pnorm")$statistic     # 0.1934226

set.seed(200)  
x = rnorm(18)
newx.ss200 = find.yz(x, xbar=0, s2=1)
skewness(newx.ss200)                        # [1] 0.137446
kurtosis(newx.ss200) - 3                    # [1] 0.1148834
ks.test(newx.ss200, "pnorm")$statistic      # 0.1326304 

set.seed(4700)  
x = rnorm(18)
newx.ss4700 = find.yz(x, xbar=0, s2=1)
skewness(newx.ss4700)                       # [1]  0.3258491
kurtosis(newx.ss4700) - 3                   # [1] -0.02997377
ks.test(newx.ss4700, "pnorm")$statistic     # 0.07707929S

Загальною технікою є "Метод відхилення", де ви просто відхиляєте результати, які не відповідають вашим обмеженням. Якщо у вас є якісь вказівки (наприклад, MCMC), ви можете створити безліч випадків (залежно від сценарію), які відхиляються!

Якщо ви шукаєте щось на зразок середнього і стандартного відхилення, і ви можете створити якусь метрику відстані, щоб сказати, наскільки ви віддалені від своєї мети, ви можете використовувати оптимізацію для пошуку вхідних змінних, які дають бажаний вихід значення.

Як потворний приклад, коли ми будемо шукати випадковий рівномірний вектор довжиною 100, який має середнє значення = 0 і стандартне відхилення = 1.

# simplistic optimisation example
# I am looking for a mean of zero and a standard deviation of one
# but starting from a plain uniform(0,1) distribution :-)
# create a function to optimise
fun <- function(xvec, N=100) {
  xmin <- xvec[1]
  xmax <- xvec[2]
  x <- runif(N, xmin, xmax)
  xdist <- (mean(x) - 0)^2 + (sd(x) - 1)^2
  xdist
}
xr <- optim(c(0,1), fun)

# now lets test those results
X <- runif(100, xr$par[1], xr$par[2])
mean(X) # approx 0
sd(X)   # approx 1

Чи є в R програми, які роблять це?

Пакет Runuran R містить безліч методів для генерування випадкових величин. Він використовує бібліотеки C проекту UNU.RAN (Універсальний нерівномірний генератор випадкових чисел). Мої власні знання в області генерації випадкових змінних обмежені, але віньєтка Runuran дає хороший огляд. Нижче наведено доступні методи пакету Runuran, взяті з віньєтки:

Постійні дистрибуції:

• Адаптивний вибір відхилення
• Відхилення від зворотної трансформованої щільності
• Поліноміальна інтерполяція зворотного CDF
• Простий метод співвідношення уніформ
• Відхилення від трансформованої щільності

Дискретні розподіли:

• Дискретна автоматична інверсія відхилення
• Метод Псевдонім-Урна
• Метод посібника-таблиці для дискретної інверсії

Багатовимірні розподіли:

• Алгоритм натискання та запуску методом Ratio-of-Uniforms
• Метод багатовимірного наївного співвідношення уніформ

Приклад:

Для швидкого прикладу, припустимо, ви хотіли створити нормальний розподіл, обмежений між 0 і 100:

require("Runuran")

## Normal distribution bounded between 0 and 100
d1 <- urnorm(n = 1000, mean = 50, sd = 25, lb = 0, ub = 100)

summary(d1)
sd(d1)
hist(d1)

urnorm()Функція є зручною функцією обгортки. Я вважаю, що за лаштунками він використовує поліноміальну інтерполяцію зворотного методу CDF, але не впевнений. Для чогось більш складного, скажімо, дискретного нормального розподілу, обмеженого між 0 і 100:

require("Runuran")

## Discrete normal distribution bounded between 0 and 100
# Create UNU.RAN discrete distribution object
discrete <- unuran.discr.new(pv = dnorm(0:100, mean = 50, sd = 25), lb = 0, ub = 100)

# Create UNU.RAN object using the Guide-Table Method for Discrete Inversion
unr <- unuran.new(distr = discrete, method = "dgt")

# Generate random variates from the UNU.RAN object
d2 <- ur(unr = unr, n = 1000)

summary(d2)
sd(d2)
head(d2)
hist(d2)

Схоже, існує пакет R, який відповідає вашій вимозі, опублікований лише вчора! Сімстуді Кіт Голдфельд

Моделює набори даних, щоб вивчити методи моделювання або краще зрозуміти процеси генерації даних. Користувач визначає набір відносин між коваріатами та генерує дані на основі цих специфікацій. Кінцеві набори даних можуть представляти дані з рандомізованих контрольних випробувань, повторних вимірювань (поздовжніх) проектів та кластеризованих рандомізованих випробувань. Відсутність може бути створена за допомогою різних механізмів (MCAR, MAR, NMAR).

Ця відповідь приходить так пізно, що, мабуть, безглузда, але завжди існує рішення MCMC. А саме, спроектувати щільність з'єднання вибірки на колектор, визначений обмеженнями, наприклад Єдине питання полягає в моделюванні значень над цим колектором, тобто знаходження параметризації правильного виміру. 2015 документ з досліджень Bornn, Шепард і Solgi це дуже проблема (з цікавим , якщо не остаточною відповіддю ).

$$\prod_{i=1}^n f(x_i)$$ $$\sum_{i=1}^n x_i=\mu_0\qquad\sum_{i=1}^n x_i^2=\sigma_0^2$$

Ця відповідь розглядає інший підхід до випадку, коли ви хочете змусити змінні лежати у визначеному діапазоні та додатково продиктувати середнє та / або відхилення.

Обмежте нашу увагу на одиничному інтервалі . Давайте скористаємось середньозваженим середнім для загальності, тому зафіксуйте деякі ваги допомогою , або встановіть якщо ви хочете стандартного зважування. Припустимо, величини та являють собою бажану (зважену) середню і (зважену) дисперсію відповідно. Верхня межа необхідна, оскільки це максимально можлива дисперсія на одиничному інтервалі. Нам цікаво намалювати деякі змінні з з цими обмеженнями.$[0,1]$$w_k\in[0,1]$$\sum_{k=1}^Nw_k=1$$w_k=1/N$$\mu\in(0,1)$$0<\sigma^2<\mu(1-\mu)$$\sigma^2$$x_1,...,x_N$$[0,1]$

Спочатку ми намалюємо деякі змінні з будь-якого розподілу, наприклад . Цей розподіл вплине на форму остаточного розподілу. Тоді ми обмежуємо їх одиничним інтервалом використовуючи логістичну функцію:$y_1,...,y_N$$N(0,1)$$[0,1]$

$$x_k=\frac{1}{1+e^{-(y_k v-h)}}$$

Перш ніж ми зробимо це, однак, як видно з рівняння вище, ми перетворимо з перекладом і масштабом . Це аналогічно першому рівнянню у відповіді @ Макроса. Тепер полягає в тому, щоб вибрати і щоб перетворені змінні мали бажаний момент (и). Тобто, нам потрібно тримати одне або обидва з наступного: $y_k$$h$$v$$h$$v$$x_1,...,x_N$

$$\mu=\sum_{k=1}^N \frac{w_k}{1+e^{-(y_k v-h)}} \\ \sigma^2=\sum_{k=1}^N \frac{w_k}{(1+e^{-(y_k v-h)})^2} - \left( \sum_{k=1}^N \frac{w_k}{1+e^{-(y_k v-h)}} \right)^2$$

Інвертувати аналітичні рівняння для і не представляється можливим, але чисельно це робити прямо вперед, тим більше, що похідні відносно і легко обчислити; потрібно лише кілька ітерацій методу Ньютона.$v$$h$$v$$h$

В якості першого прикладу, скажімо, ми дбаємо лише про обмеження середньозваженої середньої величини, а не відхилення. Виправити , , , . Тоді для базових розподілів , та ми закінчуємо наступними гістограмами відповідно та таким чином, що середнє значення змінних рівно (навіть для малих ):v = 1 w k = 1 / N N = 200000 N ( 0 , 1 ) N ( 0 , 0,1 ) Unif ( 0 , 1 ) 0,8 $\mu=0.8$$v=1$$w_k=1/N$$N=200000$$N(0,1)$$N(0,0.1)$$\text{Unif}(0,1)$ $0.8$$N$

Далі обмежимо як середнє, так і дисперсійне. Візьміть , , і розгляньте три бажаних стандартних відхилення . Використовуючи той самий базовий розподіл , ось гістограми для кожної:w k = 1 / N N = 2000 σ = 0,1 , 0,05 , 0,01 N ( 0 , 1 $\mu=0.2$$w_k=1/N$$N=2000$$\sigma=0.1,0.05,0.01$$N(0,1)$

Зауважте, що вони можуть виглядати дещо бета-розподіленими, але це не так.

У своїй відповіді тут я перерахував три пакети R для цього:

• SimCorrMix
• SimMultiCorrData
• simrel