Чому суміш двох нормально розподілених змінних є лише бімодальною, якщо їхні значення відрізняються щонайменше вдвічі від загального стандартного відхилення?

28

Під сумішшю двох нормальних розподілів:

https://en.wikipedia.org/wiki/Multimodal_distribution#Mixture_of_two_normal_distributions

"Суміш двох нормальних розподілів має п'ять параметрів для оцінювання: два засоби, дві дисперсії та параметр змішування. Суміш двох нормальних розподілів з рівними стандартними відхиленнями є бімодальною, лише якщо їхні значення відрізняються щонайменше вдвічі від загального стандартного відхилення . "

Я шукаю виведення або інтуїтивне пояснення, чому це правда. Я вважаю, що це може бути пояснено у вигляді тесту з двох зразків:

\frac{μ_{1} - μ_{2}}{σ_{p}}

$\frac{\mu_1-\mu_2}{\sigma_p}$

де - об'єднане стандартне відхилення. $\sigma_p$

bimodal

— М Ваз
джерело

1

інтуїція полягає в тому, що якщо засоби занадто близькі, то в масі 2 щільності буде занадто багато перекриттів, тому різниця в засобах не буде помічена, оскільки різниця просто загрожує масі двох щільності. Якщо два засоби досить різні, то маси цих двох густин не будуть накладатися на стільки, і різниця в засобах буде помітна. Але я хотів би бачити математичне підтвердження цього. Це нетересна заява. Я ніколи цього не бачив.

— mlofton

2

Більш офіційно, для суміші 50:50 двох нормальних розподілів з однаковим SD

σ,

$\sigma,$ якщо записати щільність

f (x) = 0.5 g_{1} (x) + 0.5 g_{2} (x)

$f(x) = 0.5g_1(x) + 0.5g_2(x)$ у повному вигляді, що показує параметри, ви побачимо, що його друга похідна змінює знак у середині точки між обома засобами, коли відстань між засобами збільшується знизу

2 σ

$2\sigma$ до вище.

— BruceET

1

Див. "Критерій Релея", en.wikipedia.org/wiki/Angular_resolution#Explanation

— Carl Witthoft

53

Ця цифра з паперу, зв'язаного у цій статті Вікі, є чудовою ілюстрацією:

Доказ, який вони надають, ґрунтується на тому, що нормальні розподіли є увігнутими в межах однієї SD від їх середньої величини (SD є точкою перегину нормального pdf, де він переходить від увігнутого до опуклого). Таким чином, якщо ви додасте два звичайних pdfs разом (у рівних пропорціях), то поки їхні засоби відрізняються менше ніж на два SD, сума-pdf (тобто суміш) буде увігнутою в області між двома засобами, і отже глобальний максимум повинен бути в точці між двома засобами.

Довідка: Шиллінг, М. Ф., Уоткінс, А. Е., і Уоткінс, В. (2002). Чи бімодальний зріст людини? Американський статистик, 56 (3), 223–229. doi: 10.1198 / 00031300265

— Рубен ван Берген
джерело

11

+1 Це приємний, незабутній аргумент.

— whuber

2

Заголовок фігури також дає гарну ілюстрацію того, що лігатура 'fl' перетворюється на помилку в «перегині» :-P

— некоматичний

2

@Axeman: Дякую за те, що я додав цю довідку - оскільки це трохи підірвало, я сам планував її додати, оскільки я справді просто повторюю їх аргументи, і я не хочу брати за це занадто велику суму.

— Рубен ван Берген

14

Це випадок, коли зображення можуть бути оманливими, оскільки цей результат є особливою характеристикою звичайних сумішей: аналог не обов'язково має місце для інших сумішей, навіть коли компоненти симетричні одномодальні розподіли! Наприклад, рівномірна суміш двох розподілів Стьюдента t, розділених трохи менше, ніж удвічі більше їх загального стандартного відхилення, буде бімодальною. Для реального розуміння тоді нам потрібно зробити певну математику або звернутися до спеціальних властивостей нормальних розподілів.

Виберіть одиниці вимірювання (від центрування і перемасштабування по мірі необхідності) для розміщення коштів складових розподілів на $\pm\mu,$ $\mu\ge 0,$ і зробити їх загальну дисперсію єдності. Нехай $p,$ $0 \lt p \lt 1,$ буде сума більшого середнього компонента в суміші. Це дозволяє нам виразити щільність суміші в повній загальності як

\sqrt{2 π} f (х; мк, p) = p досвід (- \frac{(х - мк)^{2}}{2}) + (1 - p) досвід (- \frac{(х + мк)^{2}}{2}) .

$\sqrt{2\pi}f(x;\mu,p) = p \exp\left(-\frac{(x-\mu)^2}{2}\right) + (1-p) \exp\left(-\frac{(x+\mu)^2}{2}\right).$

Оскільки обидві щільності компонентів збільшуються там, де $x\lt -\mu$ а зменшуються там, де $x\gt \mu,$ є єдино можливі режими, де $-\mu\le x \le \mu.$ Знайдіть їх, диференціюючи $f$ відносно $x$ і встановивши його на нуль. Очищення будь-яких отриманих позитивних коефіцієнтів

0 = - е^{2 х мк} p (х - мк) + (1 - p) (х + мк) .

$0 = -e^{2x\mu} p(x-\mu) + (1-p)(x+\mu).$

$f$ $e^{2x\mu}$

f^{''} (х; мк, p) \propto \frac{(1 + х^{2} - {мк}^{2})}{х - мк} .

$f^{\prime\prime}(x;\mu,p) \propto \frac{(1+x^2-\mu^2)}{x-\mu}.$

$-\mu\lt x \lt \mu,$ $f^{\prime\prime}$ $-(1-\mu^2 + x^2).$ $\mu\le 1,$ $\mu$ $1$

$2\mu,$

Суміш нормальних розподілів є немодальним, коли засоби відокремлюються не більше ніж удвічі, ніж загальне стандартне відхилення.

Це логічно рівнозначно твердженню у питанні.

— дзижчати
джерело

12

Коментар зверху, вставлений тут для наступності:

f (х) = 0,5 г_{1} (х) + 0,5 г_{2} (х)

$f(x)=0.5g_1(x)+0.5g_2(x)$

Продовження коментаря:

$\sigma=1.$ $3\sigma, 2\sigma,$ $\sigma,$

R код для фігури:

par(mfrow=c(1,3))
  curve(dnorm(x, 0, 1)+dnorm(x,3,1), -3, 7, col="green3", 
    lwd=2,n=1001, ylab="PDF", main="3 SD: Dip")
  curve(dnorm(x, .5, 1)+dnorm(x,2.5,1), -4, 7, col="orange", 
    lwd=2, n=1001,ylab="PDF", main="2 SD: Flat")
  curve(dnorm(x, 1, 1)+dnorm(x,2,1), -4, 7, col="violet", 
    lwd=2, n=1001, ylab="PDF", main="1 SD: Peak")
par(mfrow=c(1,3))

— Брюсет
джерело

1

всі відповіді були чудовими. Спасибі.

— mlofton

3

2 / 3

$2/3$

0.001.

$0.001.$

1

0.1 %

$0.1\%$

f

$f$

x_{0})

$x_0)$

f (х_{0}) - f (х) \leq 0,001 f (х_{0}) ⟺ | х - х_{0} | \leq 0,333433,

$f(x_0)-f(x)\le 0.001 f(x_0)\ \iff\ |x-x_0|\le 0.333433,$

0.001

$0.001$

0.95832

$0.95832$

f (х_{0}) - f (х) \leq 0,001 ⟺ | х - х_{0} | \leq 0,47916.

$f(x_0)-f(x)\le 0.001\ \iff\ |x-x_0|\le 0.47916.$

Хороші бали. Власне, те, що я мав на увазі під скороченою мовою 'плоский', було нульовою другою похідною точно в середині точки.

— BruceET