Асимптотичні препарати для взяття проб з гіперкуба

Я намагаюся створити доказ проблеми, над якою я працюю, і одне з припущень, які я роблю, - це те, що набір точок, з яких я відбираю, є щільним на всьому просторі. Практично я використовую відбір з латинських гіперкубів, щоб отримати мої точки за весь пробний простір. Що я хотів би знати, якщо зразки латинських гіперкубів є щільними на всьому просторі, якщо ви дозволите, що розмір вибірки має тенденцію до ? Якщо так, цитування цього факту було б дуже вдячне. $\infty$

— kjetil b halvorsen
джерело

Так, припускаючи безперервний розподіл, тому що для будь-якого ви можете встановити кількість поділів таким, що всі інтервали на змінну мають ширину . Таким чином, принаймні один гіперінтервал (тобто об'єм вибірки) суворо міститься в гіперкубі ширини навколо будь-якої обраної вами точки. (Коментар, а не відповідь, оскільки все, що я знаю про LHS, походить з Вікіпедії станом на десять хвилин тому ...)

ϵ > 0

$\epsilon>0$

< ϵ / 2

$<\epsilon/2$

ϵ

$\epsilon$

— Креозот

Це правда, але я не думаю, що його можна легко використати для виявлення щільності великих зразків латинських гіперкубів. Причиною цього є те, що вибіркові точки в LHS не є незалежними: існування вибіркової точки всередині конкретного гіперінтервалу не дозволяє будь-яким іншим точкам вибірки з’являтися в тому ж рядку / стовпці (або будь-який багатовимірний термін для цього) .

— S. Catterall Відновити Моніку

@Creosote, ви думаєте, ви могли б більше формалізувати свою відповідь?

@RustyStatistician, будь ласка, розгорніть своє вступне повідомлення, щоб пояснити, формально, як цього вимагає ваш доказ, що ви маєте на увазі під "набором балів, з яких я відбираю вибір, щільним по всьому простору". Дякую.

— Креозот

Якщо я візьму початковий зразок латинської гіперкуби, де настільки великий, ми вважаємо це нечітким, чи є цей зразок щільним? "

n

$n$

Відповіді:

Коротка відповідь: Так, ймовірнісно. Можна показати, що, враховуючи будь-яку відстань , будь-яке кінцеве підмножина пробного простору та будь-який встановлений 'допуск' , для відповідних великих розмірів вибірки ми можемо бути упевнений , що ймовірність того, що є зразок точка на відстані від є для всіх . $\epsilon>0$ $\{x_1,…,x_m\}$ $\delta>0$ $\epsilon$ $x_i$ $>1-\delta$ $i=1,…,m$

Довга відповідь: я не знаю жодного прямо релевантного цитування (але дивіться нижче). Більшість літератури про латинські проби гіперкуба (LHS) стосуються його властивостей зменшення дисперсії. Інше питання полягає в тому, що означає говорити про те, що розмір вибірки має тенденцію до ? Для простого випадкового відбору IID вибірку розміру можна отримати з вибірки розміром шляхом додавання подальшої незалежної вибірки. Що стосується LHS, я не думаю, що ви можете це зробити, оскільки кількість зразків зазначається заздалегідь у рамках процедури. Виходить, що ви повинні взяти послідовність незалежних вибірок LHS розміру . $\infty$ $n$ $n-1$ $1,2,3,...$

Існує також необхідний спосіб інтерпретувати "щільний" межа, оскільки розмір вибірки має тенденцію до . Схоже, щільність не визначається детерміновано для LHS, наприклад, у двох вимірах, ви можете вибрати послідовність зразків LHS розміром така, що всі вони дотримуються діагоналі . Тож якесь імовірнісне визначення видається необхідним. Нехай для кожного , бути зразком розміру генерується в відповідно до деякого стохастическим механізмом. Припустимо, що для різних ці вибірки є незалежними. Тоді для визначення асимптотичної щільності нам може знадобитися це для кожного і для кожного $\infty$ $1,2,3,...$ $[0,1)^2$ $n$ $X_n=(X_{n1},X_{n2},...,X_{nn})$ $n$ $n$ $\epsilon>0$ $x$ у просторі вибірки (вважається ) маємо ( як ). $[0,1)^d$ $P(min_{1\leq k\leq n} \|X_{nk}-x\|\geq \epsilon)\to0$ $n\to \infty$

Якщо вибірка отримана шляхом взяття незалежних зразків з розподілу ('IID випадкова вибірка'), тоді де - об'єм -вимірної кулі радіуса . Тож звичайно IID випадкова вибірка є асимптотично щільною. $X_n$ $n$ $U([0,1)^d)$

P (m i n_{1 \leq k \leq n} ‖ X_{n k} - x ‖ \geq ϵ) = \prod_{k = 1}^{n} P (‖ X_{n k} - x ‖ \geq ϵ) \leq (1 - v_{ϵ} 2^{- d})^{n} \to 0

$P(min_{1\leq k\leq n} \|X_{nk}-x\|\geq \epsilon)=\prod_{k=1}^n P(\|X_{nk}-x\|\geq \epsilon)\leq (1-v_\epsilon 2^{-d})^n \to 0$

v_{ϵ}

$v_\epsilon$

d

$d$

ϵ

$\epsilon$

Тепер розглянемо випадок, що зразки отримані LHS. Теорема 10.1 у цих примітках зазначає, що всі члени вибірки розподіляються як . Однак перестановки, які використовуються у визначенні LHS (хоча і незалежні для різних розмірів), викликають деяку залежність між членами вибірки ( ), тому менш очевидно, що властивість асимптотичної щільності має місце. $X_n$ $X_n$ $U([0,1)^d)$ $X_{nk}, k\leq n$

Виправити і . Визначте . Хочемо показати, що . Для цього ми можемо скористатись пропозицією 10.3 у цих записках , яка є своєрідною теоремою про центральну межу для вибірки латинської гіперкуби. Визначте по якщо знаходиться в кулі радіуса навколо , іншому випадку. Тоді пропозиція 10.3 повідомляє нам, що де і $\epsilon\gt 0$ $x\in [0,1)^d$ $P_n=P(min_{1\leq k\leq n} \|X_{nk}-x\|\geq \epsilon)$ $P_n\to 0$ $f:[0,1]^d\to\mathbb{R}$ $f(z)=1$ $z$ $\epsilon$ $x$ $f(z)=0$ $Y_n:=\sqrt n (\hat{\mu}_{LHS}-\mu)\xrightarrow{d} N(0,\Sigma)$ $\mu=\int_{[0,1]^d} f(z) dz$ $\hat{\mu}_{LHS}=\frac{1}{n}\sum_{i=1}^n f(X_{ni})$ .

Візьміть . Врешті-решт, для досить великого нас з'явиться . Отже, зрештою у нас буде . Тому , де стандартний звичайний cdf. Оскільки було довільним, то випливає, що як потрібно. $L>0$ $n$ $-\sqrt n\mu\lt -L$ $P_n=P(Y_n=-\sqrt n \mu)\le P(Y_n\lt -L)$ $\limsup P_n\le \limsup P(Y_n\lt -L)=\Phi(\frac{-L}{\sqrt\Sigma})$ $\Phi$ $L$ $P_n\to 0$

Це доводить асимптотичну щільність (як визначено вище) як для iid випадкового вибірки, так і для LHS. Неофіційно це означає, що з урахуванням будь-якого та будь-якого у просторі вибірки ймовірність потрапляння вибірки в межах з може бути зроблена наближення до 1, наскільки Ви хочете, вибравши розмір вибірки достатньо великий. Легко розширити поняття асимптотичної щільності так, щоб застосувати до кінцевих підмножин вибіркового простору - застосовуючи те, що ми вже знаємо, до кожної точки кінцевого підмножини. Більш формально це означає, що ми можемо показати: для будь-якого і будь-якого кінцевого підмножини зразкового простору, $\epsilon$ $x$ $\epsilon$ $x$ $\epsilon>0$ $\{x_1,...,x_m\}$ $min_{1\leq j\leq m} P(min_{1\leq k\leq n} \|X_{nk}-x_j\|\lt \epsilon)\to 1$ (як ). $n\to\infty$

— S. Catterall Відновлення Моніки
джерело

У мене є два питання: 1) Якщо у вас просто вибірка розміру де є великим, чи змінює це аргумент? І 2) Зразки латинських гіперкубів можуть знаходитись у будь-якому діапазоні значень (не обов'язково просто (0,1)), так чи це також змінює їх відповідь?

n

$n$

n

$n$

Також ви хочете пояснити, чому для досить великого нас буде ? Я припускаю , що означає , що при великому , прагне до нуля, так як в розподілі це ?

n

$n$

- \sqrt{n} μ

$-\sqrt{n}\mu$

n

$n$

{\hat{μ}}_{L H S}

$\hat\mu_{LHS}$

N (0, Σ)

$N(0,\Sigma)$

@RustyStatistician Все визначається у вигляді кінцевих вибірок, тобто але великих. Я додав додаткове пояснення наприкінці, щоб пояснити, що відбувається. Інші діапазони значень можуть бути легко розміщені ((0,1) не є спеціальним), якщо об'єм простору для вибірки є кінцевим.

n < \infty

$n\lt\infty$

— S. Catterall Reinstate Monica

Чи можете ви детальніше розглянути свою коротку відповідь?

@RustyStatistician Коротка відповідь - це неофіційний підсумок моєї довгої відповіді, який, я думаю, погодьтесь, вже досить детальний! Отже, як було запропоновано вище, було б добре, якщо ви зможете переписати своє запитання більш формальними термінами, щоб я знав, чи відповідає моя спроба відповіді правильно (з точки зору відповіді на ваше намічене запитання) чи ні.

— S. Catterall Відновіть Моніку

Я не впевнений, чи це саме те, що ти хочеш, але ось що.

Ви скажете LHS- точок з , скажімо. Ми будемо дуже неофіційно стверджувати, що для будь-якого очікувана кількість порожніх (гіпер) кубоїдів розміром у кожному вимірі переходить до нуля як . $n$ $[0,1)^d$ $\epsilon>0$ $\epsilon$ $n\to\infty$

Нехай так що якщо ми розділимо рівномірно на крихітні кубоїди - мікрокубоїди , скажімо, - шириною то кожна кубічна ширина- містить хоча б одну мікрокубоїду. Отже, якщо ми можемо показати, що очікувана кількість безпробних мікрокубоїдів дорівнює нулю, в граничній мірі як , ми закінчили. (Зверніть увагу, що наші мікрокубої розташовані на звичайній сітці, але -cuboids може знаходитися в будь-якому положенні.) $m=\lceil 2/\epsilon \rceil$ $[0,1)^d$ $m^d$ $1/m$ $\epsilon$ $n\to\infty$ $\epsilon$

Шанс повністю пропустити дану мікрокубоїду з першою точкою вибірки становить , незалежно від , оскільки перший набір координат вибірки (перша точка вибірки) може бути вибраний вільно. Зважаючи на те, що перші кілька точок вибірки пропустили цю мікрокубоїду, наступні вибіркові бали буде важче пропустити (в середньому), тому ймовірність пропуску всіх очок менша . $1-m^{-d}$ $n$ $d$ $n$ $(1-m^{-d})^n$

У є мікрокубоїди , тому очікуване число, яке пропущено, обмежене вище - тому що очікування додають - що є нуль в обмеженні як . $m^d$ $[0,1)^d$ $m^d(1-m^{-d})^n$ $n\to\infty$

Оновлення ...

(1) Ось малюнок, який показує, як для даного ви можете вибрати достатньо великого розміру, щоб сітка "мікрокубоїдів" (квадрати на цій двовимірній ілюстрації) гарантувала наявність принаймні однієї мікросхеми в межах будь-який регіон розміром . Я показав дві "випадкові" області -chosen і пофарбував у фіолетовий колір дві мікрокубоїди, які вони містять. $\epsilon$ $m$ $m\times m$ $\epsilon\times\epsilon$ $\epsilon\times\epsilon$

(2) Розгляньте будь-яку конкретну мікрокубоїд. Він має об'єм , частка всього простору. Тож перший зразок LHS - який єдиний обраний абсолютно вільно - пропустить його з вірогідністю . Єдиний важливий факт - це фіксоване значення (будемо нехай , але збережемо постійним), що менше . $(1/m)^d$ $m^{-d}$ $1-m^{-d}$ $n\to\infty$ $m$ $1$

(3) Тепер подумайте про кількість точок вибірки . Я проілюстрував на малюнку. LHS працює в тонкій сітці цих надмаленьких розмірів "нанокубоїдів" (якщо ви хочете), не більших "Мікрокубоїди" розміром , але насправді це не важливо для підтвердження. Доказ потребує лише злегка розмахуючи рукою, що в середньому стає поступово важче, щоб не пропустити дану мікрокубоїд, коли ви скидаєте більше очок. Таким чином , це була ймовірність для перших LHS точки відсутня, але менше , ніж для всіх з них відсутню: Це нуль в межі $n>m$ $n=6m$ $n^{-1}\times n^{-1}$ $m^{-1}\times m^{-1}$ $1-m^{-d}$ $(1-m^{-d})^n$ $n$ $n\to\infty$ .

(4) Усі ці епілони чудово підтверджують, але не чудові для вашої інтуїції. Отже, ось декілька зображень, що ілюструють та зразкових точок, з найбільшою порожньою прямокутною площею. (Сітка - це сітка для відбору проб LHS - згадані раніше "нанокубоїди".) Має бути "очевидним" (в якомусь невиразному інтуїтивному розумінні), що найбільша порожня область скоротиться довільно невеликого розміру, як кількість точок вибірки . $n=10$ $n=50$ $n\to\infty$

— Креозот
джерело

Чи справедливий цей аргумент для будь-якого загального інтервалу? Замість ?

[0, 1)

$[0,1)$

Так, для будь-яких кінцевих розмірів. Тепер має бути зрозуміліше, коли я зафіксував доказ.

— Креозот

чи можна дати 1-d або навіть 2-d картину цього доказу? Я в цьому сильно загубився.

Зроблено. Раді прийняти додаткові запитання, якщо буде потреба.

— Креозот

Дивовижне дякую! Це, безумовно, допомагає зараз з інтуїцією.