Як я можу аналітично довести, що випадкове ділення суми призводить до експоненціального розподілу (наприклад, доходу та багатства)?

У цій нинішній статті в НАУКІ пропонується наступне:

Припустимо, ви випадковим чином розділите 500 мільйонів доходу серед 10000 людей. Є лише один спосіб надати кожному рівну, 50 000 частку. Тож якщо ви долі заробляєте випадковим чином, рівність навряд чи є. Але є незліченна кількість способів дати кілька людей багато грошей, а багатьом мало або нічого. Насправді, з огляду на всі способи, як можна було б розкрити дохід, більшість з них виробляє експоненціальний розподіл доходу.

Я зробив це за допомогою наступного коду R, який, начебто, підтверджує результат:

library(MASS)

w <- 500000000 #wealth
p <- 10000 #people

d <- diff(c(0,sort(runif(p-1,max=w)),w)) #wealth-distribution
h <- hist(d, col="red", main="Exponential decline", freq = FALSE, breaks = 45, xlim = c(0, quantile(d, 0.99)))

fit <- fitdistr(d,"exponential")
curve(dexp(x, rate = fit$estimate), col = "black", type="p", pch=16, add = TRUE)

Моє запитання
Як я можу аналітично довести, що отриманий розподіл справді експоненціальний?

Додаток
Дякую за відповіді та коментарі. Я подумав про проблему і придумав такі інтуїтивні міркування. В основному трапляється таке (Остерігайтеся: надмірне спрощення вперед): Ви наче йдете за сумою і кидаєте (упереджену) монету. Щоразу, коли ви отримуєте, наприклад, голови, ви ділите суму. Ви поширюєте отримані розділи. У дискретному випадку, коли метання монети відбувається за біноміальним розподілом, перегородки розподіляються геометрично. Неперервними аналогами є розподіл пуассона та експоненціальний розподіл відповідно! (З тих же міркувань також стає зрозумілим, чому геометричний та експоненціальний розподіл мають властивість безпам’ятності - адже монета також не має пам’яті).

Для спрощення проблеми розглянемо випадок, коли дозволені значення частки кожної людини дискретні, наприклад, цілі числа. Еквівалентно також можна уявити розподіл "осі доходу" на однаково розташовані інтервали та наближення всіх значень, що потрапляють до заданого інтервалу, до середини.

Позначаючи загальний дохід як , s -му дозволене значення як x s , загальну кількість людей як N , і, нарешті, кількість людей з частками x s як n s , повинні бути виконані такі умови: C 1 ( { n s } ) ≡ ∑ s n s - N = 0 , і C 2 ( { n s } ) ≡ ∑ s n $X$$s$$x_{s}$$N$$x_{s}$$n_{s}$

$$\begin{equation} C_{1} (\{n_{s}\})\equiv\sum_{s} n_{s} - N = 0, \end{equation}$$ $$\begin{equation} C_{2} (\{n_{s}\})\equiv \sum_{s} n_{s} x_{s} - X = 0. \end{equation}$$

Зауважте, що багато різних способів поділу частки можуть представляти один і той же розподіл. Наприклад, якби ми розглядали поділ $ 4 між двома людьми, даючи 3 доларів Алісі та 1 долар Бобу, і навпаки, і те, і інше дало б однакові розподіли. Оскільки поділ є випадковим, найкращий шанс відбутися розподілу з максимальною кількістю відповідних способів поділу частки.

Для отримання такого розподілу треба максимізувати за двома наведеними вище обмеженнями. Метод множників Лагранжа є канонічним підходом до цього. Крім того, можна вибрати роботу зlnWзамість самогоW, оскільки "ln" є монотонною функцією збільшення. Тобто ∂ln

$$\begin{equation} W(\{n_{s}\}) \equiv \frac{N!}{\prod_{s} n_{s}!}, \end{equation}$$ $\ln W$$W$$\ln$ деλ1,2- множники Лагранжа. Зауважте, що заформулою Стірлінга, lnn! ≈nlnn-n, що веде до dlnn $$\begin{equation} \frac{\partial \ln W}{\partial n_{s}} = \lambda_{1} \frac{\partial C_{1}}{\partial n_{s}} + \lambda_{2} \frac{\partial C_{1}}{\partial n_{s}} = \lambda_{1} + \lambda_{2} x_{s}, \end{equation}$$ $\lambda_{1,2}$ $$\begin{equation} \ln n! \approx n\ln n - n, \end{equation}$$ Таким чином, ∂ln $$\begin{equation} \frac{d\ln n!}{dn} \approx \ln n. \end{equation}$$ Потім випливає, що ns≈exp(-λ1-λ2xs), що є експоненціальним розподілом. Можна отримати значення множників Лагранжа, використовуючи обмеження. Від першого обмеження $$\begin{equation} \frac{\partial \ln W}{\partial n_{s}} \approx -\ln n_{s}. \end{equation}$$ $$\begin{equation} n_{s} \approx \exp\big(-\lambda_{1} - \lambda_{2} x_{s}\big), \end{equation}$$ деΔx- інтервал між дозволеними значеннями. Аналогічно $$\begin{equation} \begin{split} N &= \sum_{s} n_{s} \approx \sum_{s} \exp\big(-\lambda_{1} - \lambda_{2} x_{s}\big)\\ &\approx \frac{1}{\Delta x} \int_{0}^{\infty} \exp\big(-\lambda_{1} - \lambda_{2} x\big) \,\,dx\\ &=\frac{1}{\lambda_{2}\Delta x}\exp\big(-\lambda_{1}\big), \end{split} \end{equation}$$ $\Delta x$ Тому маємо exp(-λ1)=N2Δ $$\begin{equation} \begin{split} X &= \sum_{s} n_{s}x_{s} \approx \sum_{s} x_{s}\,\exp\big(-\lambda_{1} - \lambda_{2} x_{s}\big)\\ &\approx \frac{1}{\Delta x} \int_{0}^{\infty} x\,\exp\big(-\lambda_{1} - \lambda_{2} x\big) \,\,dx\\ &=\frac{1}{\lambda_{2}^{2}\,\Delta x}\exp\big(-\lambda_{1}\big). \end{split} \end{equation}$$ і λ2= $$\begin{equation} \exp\big(-\lambda_{1}\big) = \frac{N^{2} \Delta x}{X}, \end{equation}$$ Що це дійсно максимум, а не мінімум чи точка сідла, можна побачити з гессеяlnW-λ1C1-λ2C2. ОскількиC1,2лінійні вns, то це те саме, щоlnW: ∂ 2 ln $$\begin{equation} \lambda_{2} = \frac{N}{X}. \end{equation}$$ $\ln W - \lambda_{1} C_{1} - \lambda_{2} C_{2}$$C_{1,2}$$n_{s}$$\ln W$ і ∂2ln $$\begin{equation} \frac{\partial^{2} \ln W}{\partial n_{s}^{2}} = -\frac{1}{n_{s}} < 0, \end{equation}$$ Отже, гессієць увігнутий, і те, що ми знайшли, справді максимум. $$\begin{equation} \frac{\partial^{2} \ln W}{\partial n_{s}\partial n_{r}} = 0 \quad (s\neq r). \end{equation}$$

$W(\{n_{s}\})$$W(\{n_{s}\})$$n_{s}\gg 1$$n_{s}$ прагне до нуля, ця умова завжди судилася провалитися.

$N\sim 10^{23}$

Насправді ви можете довести, що це насправді не експоненціально, майже тривіально:

$500$$500$

Однак не так вже й важко зрозуміти, що для прикладу вашої рівномірної прогалини він повинен бути близьким до експоненціального.

Розглянемо процес Пуассона - де події відбуваються випадковим чином у деякому вимірі. Кількість подій на одиницю інтервалу має розподіл Пуассона, а розрив між подіями експоненціальний.

Якщо взяти фіксований інтервал, то події в процесі Пуассона, які потрапляють в нього, розподіляються рівномірно в інтервалі. Дивіться тут .

[Однак зауважте, що оскільки інтервал є кінцевим, ви просто не можете спостерігати прогалини, що перевищують довжину інтервалу, і прогалини, майже такі великі, будуть малоймовірними (врахуйте, наприклад, в одиничному інтервалі - якщо ви бачите прогалини в 0,04 і 0,01, наступний проміжок, який ви бачите, не може бути більшим за 0,95).]

Тож крім впливу обмеження уваги на фіксований інтервал на розподіл прогалин (що зменшиться для великих $n$, кількість точок в інтервалі), ви б очікували, що ці прогалини будуть розподілені експоненціально.

Тепер у своєму коді ви розділяєте одиничний інтервал, розміщуючи формений одяг, а потім знаходячи прогалини в послідовній статистиці замовлень. Тут одиничний інтервал не є часом або простором, але являє собою розмір грошей (уявіть гроші як 50000 мільйонів центів, розкладених з кінця в кінець, і назвіть відстань, яку вони покривають одиничним інтервалом; хіба що тут ми можемо мати частки цента); ми лягаємо$n$ позначок, і це розділяє інтервал на $n+1$"акції". Через зв’язок між процесом Пуассона та рівномірними точками в інтервалі, прогалини в статистиці порядку уніформи будуть виглядати експоненціально, до тих пір, поки$n$ не надто малий.

Більш конкретно, будь-який проміжок, який починається в інтервалі, розміщеному над процесом Пуассона, має шанс бути «цензурованим» (фактично, скоротити коротше, ніж це було б інакше), запустивши в кінець інтервалу.

$\hspace{1cm}$

Більш довгі прогалини швидше це робитимуть, ніж короткі, а більше проміжків в інтервалі означає, що середня довжина зазору повинна зменшуватися - більше коротких проміжків. Ця тенденція до «обрізання», як правило, впливатиме на розподіл довших прогалин більше, ніж коротких (і немає шансів, що якийсь проміжок, обмежений інтервалом, перевищить довжину інтервалу - тому розподіл розміру зазору повинен плавно зменшуватися до нуля при розмірі всього інтервалу).

На діаграмі довгий інтервал в кінці був скорочений, а відносно коротший інтервал на початку також коротший. Ці ефекти відволікають нас від експоненційності.

( Фактичний розподіл прогалин між ними$n$статистика єдиного порядку - Beta (1, n). )

Тож ми повинні бачити розподіл у цілому $n$ виглядають експоненціально в малих значеннях, а потім менш експоненціальні при більших значеннях, оскільки щільність при його найбільших значеннях скоротиться швидше.

Ось моделювання розподілу прогалин для n = 2:

Не дуже експоненціальна.

Але для n = 20 він починає виглядати досить близько; насправді як$n$ зростає великим, він буде добре наближений до експоненціалу із середнім значенням $\frac{1}{n+1}$.

Якщо це насправді було експоненціальним із середнім значенням 1/21, то $\exp(-21x)$ було б рівномірним ... але ми можемо бачити, що це не зовсім:

Нерівномірність низьких значень там відповідає великим значенням прогалин - чого ми могли б очікувати від вищезгаданої дискусії, оскільки ефект "відсікання" процесу Пуассона на кінцевий інтервал означає, що ми не бачимо найбільші прогалини. Але якщо ви приймаєте все більше і більше значень, це йде далі в хвіст, і тому результат починає виглядати майже більш рівномірно. В$n=10000$еквівалентне відображення було б важче відрізнити від рівномірного - прогалини (що представляють частки грошей) повинні бути дуже близькими до експоненціально розподілених, за винятком дуже малоймовірних, дуже вельми великих значень.

Припустимо, гроші нескінченно поділяються, тому ми можемо мати справу з реальними числами, а не цілими числами.

Тоді рівномірний розподіл $t=500000000$ розділені поперек $n=10000$ люди дадуть граничну щільність для кожної людини

$$p(x)=\frac{n-1}{t}\left(1-\frac{x}{t}\right)^{n-2}$$ для $0 \le x \le t$, і гранична сукупна ймовірність для кожної людини $$P(X \le x)=1 - \left(1-\frac{x}{t}\right)^{n-1}.$$

Якщо ви хочете застосувати це, то використовуйте граничний розподіл, щоб виділити випадкову суму $X$ будь-якій людині, то зменшіть $t$ до $t-X$ і $n$ до $n-1$і повторити. Зауважте, що коли$n=2$це дало б кожному окремому рівномірному граничному розподілу на суму, що залишилася, стільки, скільки можна було очікувати; коли$n=1$ Ви віддаєте всі гроші, що залишилися, єдиній людині, що залишилася.

Ці вирази є многочленними, а не експоненціальними, але великими $n$ можливо, вам буде важко відрізнити їх ефекти від експоненціального розподілу з параметром, близьким до $\frac{n}{t}$. Розподіл асимптотично експоненціальний, оскільки$\left(1-\frac{y}{m}\right)^{m} \to \exp(-y)$ як $m \to \infty$.

Скажімо, "припустимо, ви випадковим чином розділите 500 мільйонів доходу серед 10 000 людей" недостатньо специфічно, щоб відповісти на питання. Існує багато різних випадкових процесів, які можна використати для виділення фіксованої суми грошей фіксованій кількості людей, і кожен матиме свої особливості для отриманого розподілу. Ось три генераційні процеси, про які я міг би придумати, і розподіл багатства, який кожен створює.

library(MASS)

w <- 500000000 #wealth
p <- 10000 #people

Метод 1, розміщений ОП:

Виберіть числа "p" з [0, w) навмання рівномірно. Сортуйте ці. Додайте "0" спереду. Роздайте суми в доларах, представлені різницею між послідовними елементами цього списку.

d <- diff(c(0,sort(runif(p-1,max=w)),w)) #wealth-distribution
h <- hist(d, col="red", main="Exponential decline", freq = FALSE, breaks = 45,
     xlim = c(0, quantile(d, 0.99)))
fit <- fitdistr(d,"exponential")
curve(dexp(x, rate = fit$estimate), col = "black", type="p", 
      pch=16, add = TRUE)

Спосіб 2:

Вибирають 'p' числа з [0, w) рівномірно випадково. Розглянемо ці "ваги", тому "w" насправді не має значення на цьому етапі. Нормалізуйте ваги. Роздайте суми в доларах, представлені часткою 'w', що відповідає кожній вазі.

d <- runif(p,max=w) #weigh-distribution
d <- d/sum(d)*w #wealth-distribution
h <- hist(d, col="red", main="pretty uniform", freq = FALSE, breaks = 45, 
          xlim = c(0, quantile(d, 0.99)))

Спосіб 3:

Почніть з 'p' 0. w разів, додайте 1 до одного з них, вибраного рівномірно рівномірно.

d <- rep(0, p)
for( i in 1:5000000){ ## for-loops in R are terrible, but this gives the idea.
    k <- floor(runif(1, max=p)) + 1    
    d[k] = (d[k] + 1)
}
h <- hist(d, col="red", main="kinda normalish?", freq = FALSE, breaks = 45,
          xlim = c(0, quantile(d, 0.99)))

Дозвольте додати щось стосовно вашого доповнення.

У безперервному випадку, як вказували Glen_b та Henry, точний PDF за сумою, яку отримує кожна людина

$$\begin{equation} p(x) = \frac{N-1}{X}\left(1-\frac{x}{X}\right)^{N-2}, \end{equation}$$ де $N$ - кількість людей, і $X$ - загальна сума грошей.

У дискретному випадку, якщо припустити, що існують $M$ монети для розповсюдження, ймовірність отримання певною людиною $m$ монети є

$$\begin{equation} p(m) = \frac{N-1}{M+1}\prod_{j=0}^{N-3}\left(1-\frac{m}{M-j}\right)^{N-2}. \end{equation}$$ Коли $M\gg N$, два випадки узгоджуються між собою. Для досить великих$N$ і поки ми тримаємось подалі від хвоста, вони виглядають як експоненціальні розподіли.

В обох випадках, як ми беремо вибірку $N$ разів від цього справжнього розподілу ймовірності буде помилка, пов'язана з кінцевим розміром вибірки.

Однак, аналіз аналізу помилок не здається простим, оскільки різні вибірки в цьому випадку не є незалежними. Вони повинні підсумовувати загальну суму, а скільки отримує перша людина, впливає на розподіл ймовірностей для другої людини тощо.

Моя попередня відповідь не страждає від цього питання, але я вважаю, що було б корисно подивитися, як це можна вирішити при такому підході.

Хороший теоретичний аналіз, зроблений за обґрунтованими відповідями. Однак ось мій простий, емпіричний погляд на те, чому розподіл експоненціальний.

Коли ви розподіляєте гроші випадковим чином , давайте розглянемо, що ви робите це по одному. Нехай S - початкова сума.

Для першого чоловіка потрібно вибрати випадкову суму між 0 і S. Таким чином, в середньому ви виберете S / 2 і залишитеся з S / 2.

Для другого чоловіка ви вибрали б випадково між 0 і, в середньому, S / 2. Таким чином, в середньому ви виберете S / 4 і залишитесь з S / 4.

Отже, ви в основному розділяєте суму вдвічі (статистично кажучи).

Хоча в прикладі реального життя у вас не буде постійно вдвічі менших значень, це показує, чому слід очікувати, що розподіл буде експоненціальним.