Показано, що 100 вимірювань для 5 суб'єктів дають набагато менше інформації, ніж 5 вимірювань для 100 предметів

На конференції я почув таке твердження:

100 вимірювань для 5 суб'єктів дають набагато менше інформації, ніж 5 вимірювань для 100 предметів.

Це начебто очевидно, що це правда, але мені було цікаво, як можна це довести математично ... Я думаю, що можна використовувати лінійну змішану модель. Однак я не знаю багато про математику, яка використовується для їх оцінки (я просто бігаю lmer4для ЛММ та bmrsГЛММ :) Чи не могли б ви показати мені приклад, де це правда? Я вважаю за краще відповідь з деякими формулами, ніж просто якийсь код у Р. Сміливо вважати просту настройку, наприклад, наприклад, лінійну змішану модель з нормально розподіленими випадковими перехопленнями та нахилами.

PS відповідь на основі математики, яка не передбачає LMM, також буде нормально. Я подумав про ЛММ, тому що вони здалися мені природним інструментом для пояснення, чому менше заходів з більшої кількості предметів краще, ніж більше заходів з кількох предметів, але я можу помилитися.

— DeltaIV
джерело

+1. Я думаю, що найпростішим параметром було б розглянути завдання визначення середньої сукупності коли у кожного суб'єкта є своє середнє значення і кожне вимірювання цього предмета розподіляється як . Якщо ми візьмемо вимірювань від кожного з предметів, то що оптимальний спосіб набору і заданих постійної продукти .

μ

$\mu$

a \sim N (μ, σ_{a}^{2})

$a \sim \mathcal N(\mu, \sigma_a^2)$

x \sim N (a, σ^{2})

$x \sim \mathcal N(a, \sigma^2)$

n

$n$

m

$m$

n

$n$

m

$m$

n m = N

$nm=N$

— амеба каже, що повернеться Моніка

"Оптимальний" у сенсі мінімізації дисперсії середньої вибірки набутих точок даних.

N

$N$

— амеба каже, що повернеться Моніка

Так. Але для вашого питання нам не потрібно дбати про те, як оцінити відхилення; ваше запитання (тобто цитата у вашому запитанні) - це я вважаю лише щодо оцінки глобальної середньої і здається очевидним, що найкращий оцінювач задається великою середньою усіх балів у вибірці. Тоді питання: заданий , , , і , яка дисперсія ? Якщо ми це знаємо, ми зможемо мінімізувати його відносно урахуванням обмеження

μ

$\mu$

\bar{x}

$\bar x$

N = n m

$N=nm$

μ

$\mu$

σ^{2}

$\sigma^2$

σ_{a}^{2}

$\sigma^2_a$

n

$n$

m

$m$

\bar{x}

$\bar x$

n

$n$

n m = N

$nm=N$

— Амеба каже, що повернеться до Моніки

Я не знаю, як отримати щось із цього, але я погоджуюся, що це здається очевидним: для оцінки дисперсії помилок найкраще було б виконати всі вимірювань з одного предмета; і для оцінки варіабельності предмета найкраще було б (мабуть?) різних суб'єктів з 1 вимірюванням у кожному. Це не так зрозуміло середнє значення, але моя інтуїція підказує мені, що найкраще мати також предметів з 1 вимірюванням. Цікаво, чи це правда ...

N

$N$

N

$N$

N

$N$

— Амеба каже: Відновити Моніку

Можливо, щось подібне: вибірки на предмет суб'єкта повинна бути , де перший доданок є дисперсією предмета, а другий - дисперсією оцінки середнього значення кожного суб'єкта. Тоді дисперсія середнього суб'єкта (тобто велика середня ) буде який до мінімуму , коли .

σ_{a}^{2} + σ^{2} / n

$\sigma^2_a + \sigma^2/n$

(σ_{a}^{2} + σ^{2} / n) / m = σ_{a}^{2} / m + σ^{2} / (n m) = σ_{a}^{2} / m + σ^{2} / N = σ_{a}^{2} / m + c o n s t,

$(\sigma^2_a + \sigma^2/n)/m = \sigma^2_a/m + \sigma^2/(nm) = \sigma^2_a/m + \sigma^2/N = \sigma^2_a/m + \mathrm{const},$

m = N

$m=N$

— амеба каже, що поверніть Моніку

Коротка відповідь , що ваше припущення вірне тоді і тільки тоді, коли існує позитивна кореляція внутріклассових в даних . Емпірично кажучи, більшість кластерних наборів даних більшість часу демонструють позитивну внутрішньокласну кореляцію, що означає, що на практиці ваша думка зазвичай відповідає дійсності. Але якщо внутрішньокласова кореляція дорівнює 0, то два згадані вами випадки однаково інформативні. І якщо внутрішньокласова кореляція негативна , то насправді менш інформативно проводити менше вимірювань на більшій кількості предметів; ми насправді вважаємо за краще (що стосується зменшення дисперсії оцінки параметра) проводити всі наші вимірювання на одному предметі.

Статистично Є дві точки зору , з якої ми можемо думати про це: а випадкові ефекти (або змішаної ) моделі , які ви згадуєте в своєму питанні, або гранична модель , яка в кінцевому підсумку бути трохи більш інформативними тут.

Модель випадкових ефектів (змішана)

Скажімо, у нас є набір з яти предметів, від яких ми проводили вимірювань кожен. Тоді проста модель випадкових ефектів го вимірювання з го предмета може бути де - фіксований перехоплення, - ефект випадкового суб'єкта (з варіація ), - термін помилки на рівні спостереження (з дисперсією ), і останні два випадкові доданки незалежні. $n$ $m$ $j$ $i$

у_{i j} = β + у_{i} + е_{i j},

$y_{ij} = \beta + u_i + e_{ij},$

β

$\beta$

u_{i}

$u_i$

σ_{u}^{2}

$\sigma^2_u$

e_{i j}

$e_{ij}$

σ_{e}^{2}

$\sigma^2_e$

У цій моделі представляє середнє значення сукупності, і при збалансованому наборі даних (тобто рівному числі вимірювань від кожного суб'єкта) найкраща наша оцінка є просто середньою вибіркою. Отже, якщо ми беремо "більше інформації" для меншої дисперсії для цієї оцінки, то в основному ми хочемо знати, як дисперсія середнього зразка залежить від та . З трохи алгебри ми можемо це зробити $\beta$ $n$ $m$

\begin{aligned} вар (\frac{1}{н м} \sum_{i} \sum_{j} у_{i j}) & = вар (\frac{1}{н м} \sum_{i} \sum_{j} β + у_{i} + е_{i j}) \\ = \frac{1}{н^{2} м^{2}} вар (\sum_{i} \sum_{j} у_{i} + \sum_{i} \sum_{j} е_{i j}) \\ = \frac{1}{н^{2} м^{2}} (м^{2} \sum_{i} вар (у_{i}) + \sum_{i} \sum_{j} вар (е_{i j})) \\ = \frac{1}{н^{2} м^{2}} (н м^{2} σ_{у}^{2} + н м σ_{е}^{2}) \\ = \frac{σ_{у}^{2}}{н} + \frac{σ_{е}^{2}}{н м} . \end{aligned}

$\begin{aligned} \text{var}(\frac{1}{nm}\sum_i\sum_jy_{ij}) &= \text{var}(\frac{1}{nm}\sum_i\sum_j\beta + u_i + e_{ij}) \\ &= \frac{1}{n^2m^2}\text{var}(\sum_i\sum_ju_i + \sum_i\sum_je_{ij}) \\ &= \frac{1}{n^2m^2}\Big(m^2\sum_i\text{var}(u_i) + \sum_i\sum_j\text{var}(e_{ij})\Big) \\ &= \frac{1}{n^2m^2}(nm^2\sigma^2_u + nm\sigma^2_e) \\ &= \frac{\sigma^2_u}{n} + \frac{\sigma^2_e}{nm}. \end{aligned}$ Вивчаючи цей вираз, ми можемо побачити, що коли є будь-яка дисперсія предмета (тобто ), збільшення кількості предметів ( ) зробить обидва ці терміни меншими, збільшуючи при цьому кількість вимірювань на предмет (

σ_{u}^{2} > 0

$\sigma^2_u>0$

n

$n$

m

$m$ ) зробить лише другий член меншим. (Про практичне значення цього для розробки проектів реплікації на багатьох сайтах дивіться у цій публікації в блозі, про яку я писав деякий час тому .)

Тепер ви хотіли знати, що відбувається, коли ми збільшуємо або зменшуємо або , утримуючи постійну загальну кількість спостережень. Тож для цього ми вважаємо постійною, так що весь вираз дисперсії просто виглядає як що є максимально можливим, коли є великим можливо (до максимуму ; в цьому випадку , тобто ми беремо по одному виміру з кожного предмета). $m$ $n$ $nm$

\frac{σ_{у}^{2}}{н} + постійний,

$\frac{\sigma^2_u}{n} + \text{constant},$

n

$n$

n = n m

$n=nm$

m = 1

$m=1$

Моя коротка відповідь стосувалася внутрішньокласової кореляції, тож де це вміщується? У цій простій моделі випадкових ефектів внутрішньокласова кореляція є (ескіз деривації тут ). Отже, можемо записати рівняння дисперсії вище як Це насправді не додає жодного розуміння того, що ми вже бачили вище, але це нас змушує замислитись: оскільки внутрішньокласова кореляція - це добросовісний коефіцієнт кореляції, а коефіцієнти кореляції можуть бути негативними, що трапиться (і що це означатиме), якщо внутрішньокласний кореляція була негативною?

ρ = \frac{σ_{у}^{2}}{σ_{у}^{2} + σ_{е}^{2}}

$\rho = \frac{\sigma^2_u}{\sigma^2_u + \sigma^2_e}$

вар (\frac{1}{н м} \sum_{i} \sum_{j} у_{i j}) = \frac{σ_{у}^{2}}{н} + \frac{σ_{е}^{2}}{н м} = (\frac{ρ}{н} + \frac{1 - ρ}{н м}) (σ_{у}^{2} + σ_{е}^{2})

$\text{var}(\frac{1}{nm}\sum_i\sum_jy_{ij}) = \frac{\sigma^2_u}{n} + \frac{\sigma^2_e}{nm} = \Big(\frac{\rho}{n} + \frac{1-\rho}{nm}\Big)(\sigma^2_u+\sigma^2_e)$

У контексті моделі випадкових ефектів від'ємна кореляція у внутрішньому класі насправді не має сенсу, оскільки це означає, що предметна дисперсія є якимось негативним (як ми бачимо з рівняння наведеного вище, і як пояснено тут і тут ) ... але відхилення не можуть бути негативними! Але це не означає, що концепція негативної внутрішньокласової кореляції не має сенсу; це просто означає, що модель випадкових ефектів не має жодного способу виразити це поняття, що є невдачею моделі, а не поняття. Щоб адекватно висловити це поняття, нам потрібно розглянути граничну модель. $\sigma^2_u$ $\rho$

Маргінальна модель

Для цього ж набору даних ми могли б розглянути так звану граничну модель , де в основному ми відтіснили ефект випадкового предмета від раніше в термін помилки так що у нас . У випадкових ефектів моделі ми розглянули два випадкових умови і , щоб бути н.о.р. , але в маргінальному моделі ми замість того, щоб розглядати слідувати блочно-діагональна матриця ковариаций подібно до $y_{ij}$

у_{i j} = β + е_{i j}^{*},

$y_{ij} = \beta + e^*_{ij},$

u_{i}

$u_i$

e_{i j}

$e_{ij}$

e_{i j}^{*} = u_{i} + e_{i j}

$e^*_{ij} = u_i + e_{ij}$

u_{i}

$u_i$

e_{i j}

$e_{ij}$

e_{i j}^{*}

$e^*_{ij}$

C

$\textbf{C}$

С = σ^{2} [\begin{matrix} R & 0 & \dots & 0 \\ 0 & R & \dots & 0 \\ ⋮ & ⋮ & ⋱ & ⋮ \\ 0 & 0 & \dots & R \end{matrix}], R = [\begin{matrix} 1 & ρ & \dots & ρ \\ ρ & 1 & \dots & ρ \\ ⋮ & ⋮ & ⋱ & ⋮ \\ ρ & ρ & \dots & 1 \end{matrix}]

$\textbf{C}= \sigma^2\begin{bmatrix} \textbf{R} & 0& \cdots & 0\\ 0& \textbf{R} & \cdots & 0\\ \vdots & \vdots & \ddots & \vdots \\ 0& 0& \cdots &\textbf{R}\\ \end{bmatrix}, \textbf{R}= \begin{bmatrix} 1 & \rho & \cdots & \rho \\ \rho & 1 & \cdots & \rho \\ \vdots & \vdots & \ddots & \vdots \\ \rho & \rho & \cdots &1\\ \end{bmatrix}$ Словом, це означає, що під граничною моделлю ми просто вважаємо - очікувана кореляція між двома s від одного предмета (вважаємо, що кореляція між предметами дорівнює 0). Коли

ρ

$\rho$

e^{*}

$e^*$

ρ

$\rho$ позитивно, два спостереження, проведені з одного і того ж предмета, як правило, є більш схожими (ближче один до одного), в середньому, ніж два спостереження, проведені випадковим чином із набору даних, ігноруючи кластеризацію за суб'єктами. Коли є негативним , два спостереження , зроблені з того ж предмета , як правило, менш схожі (далі один від одного), в середньому, ніж двох спостережень повністю складених у випадковому порядку. (Більше інформації про це тлумачення у запитанні / відповіді тут .)

ρ

$\rho$

Отже, коли ми дивимось на рівняння дисперсії середнього зразка за граничною моделлю, маємо - це той самий вираз дисперсії, який ми отримали вище для моделі випадкових ефектів, лише за допомогою , що відповідає нашій примітці вище, що

\begin{aligned} var (\frac{1}{n m} \sum_{i} \sum_{j} y_{i j}) & = var (\frac{1}{n m} \sum_{i} \sum_{j} β + e_{i j}^{*}) \\ = \frac{1}{n^{2} m^{2}} var (\sum_{i} \sum_{j} e_{i j}^{*}) \\ = \frac{1}{n^{2} m^{2}} (n (m σ^{2} + (m^{2} - m) ρ σ^{2})) \\ = \frac{σ^{2} (1 + (m - 1) ρ)}{n m} \\ = (\frac{ρ}{n} + \frac{1 - ρ}{n m}) σ^{2}, \end{aligned}

$\begin{aligned} \text{var}(\frac{1}{nm}\sum_i\sum_jy_{ij}) &= \text{var}(\frac{1}{nm}\sum_i\sum_j\beta + e^*_{ij}) \\ &= \frac{1}{n^2m^2}\text{var}(\sum_i\sum_je^*_{ij}) \\ &= \frac{1}{n^2m^2}\Big(n\big(m\sigma^2 + (m^2-m)\rho\sigma^2\big)\Big) \\ &= \frac{\sigma^2\big(1+(m-1)\rho\big)}{nm} \\ &= \Big(\frac{\rho}{n}+\frac{1-\rho}{nm}\Big)\sigma^2, \end{aligned}$

σ_{e}^{2} + σ_{u}^{2} = σ^{2}

$\sigma^2_e+\sigma^2_u=\sigma^2$

e_{i j}^{*} = u_{i} + e_{i j}

$e^*_{ij} = u_i + e_{ij}$ . Перевага цієї (статистично еквівалентної) точки зору полягає в тому, що тут ми можемо думати про негативну внутрішньокласну кореляцію, не потребуючи посилань на будь-які дивні поняття, такі як негативна дисперсія предмета. Негативні внутрішньокласові кореляції просто природно вписуються в ці рамки.

(BTW, лише швидкий бік, щоб зазначити, що другий-останній рядок деривації вище означає, що ми повинні мати , інакше все рівняння від'ємне, але варіації не може бути негативним! Отже, існує нижня межа внутрішньокласової кореляції, яка залежить від того, скільки вимірювань у нас на кластері. Для (тобто ми вимірюємо кожен предмет двічі), внутрішньокласова кореляція може перейти аж до ; для він може опускатися лише до ; і т. д. Факт забав!) $\rho \ge -1/(m-1)$ $m=2$ $\rho=-1$ $m=3$ $\rho=-1/2$

Отже, нарешті, розглядаючи загальну кількість спостережень як постійну, ми бачимо, що другий-останній рядок виведення вище просто виглядає як Отже, коли , маючи якнайменше (щоб ми зробили менше вимірювань більшої кількості предметів - в межах, 1 вимірювання кожного предмета) робить дисперсію оцінки якомога меншою. Але коли , ми насправді хочемо, щоб було якомога більшим (таким чином, щоб ми обмежили всі вимірювань з одного предмета), щоб зробити дисперсію якомога меншою. І коли $nm$

(1 + (m - 1) ρ) \times positive constant .

$\big(1+(m-1)\rho\big) \times \text{positive constant}.$

ρ > 0

$\rho>0$

m

$m$

ρ < 0

$\rho<0$

m

$m$

n m

$nm$

ρ = 0

$\rho=0$ , дисперсія оцінки є лише постійною, тому наш розподіл і не має значення.

m

$m$

n

$n$

— Джейк Вестфалл
джерело

+1. Чудова відповідь. Я маю визнати, що друга частина, про , є досить неінтуїтивною: навіть при величезній (або нескінченній) загальній кількості спостережень найкраще, що ми можемо зробити, - це розподілити всі спостереження на один предмет, тобто стандартна помилка середнього значення буде і в принципі неможливо більше її зменшувати. Це просто так дивно! Істинна залишається непізнаваною, які б ресурси ви не вимірювали. Чи правильне це тлумачення?

ρ < 0

$\rho<0$

n m

$nm$

σ_{u}

$\sigma_u$

β

$\beta$

— Амеба каже, що поверніть Моніку

А, ні. Сказане вище не є правильним, тому що, як збільшується до нескінченності, не може залишатися негативним і повинен наближатися до нуля (відповідає нульовій дисперсії предмета). Хм. Ця негативна кореляція - це смішна річ: вона насправді не є параметром генеративної моделі, оскільки вона обмежена розміром вибірки (тоді як зазвичай можна очікувати, що генеративна модель зможе генерувати будь-яку кількість спостережень, незалежно від параметрів). Я не зовсім впевнений, що є правильним способом думати про це.

m

$m$

ρ

$\rho$

— Амеба каже, що повернеться до Моніки

@DeltaIV Що таке "коваріаційна матриця випадкових ефектів" у цьому випадку? У змішаній моделі, написаній Джейком вище, є лише один випадковий ефект, і тому насправді немає "матриці коваріації", а лише одне число: . На що ви посилаєтесь?

σ_{u}^{2}

$\sigma^2_u$

Σ

$\Sigma$

— амеба каже, що повернеться до Моніки

@DeltaIV Ну, загальний принцип - en.wikipedia.org/wiki/Inverse-variance_weighting , а дисперсія середнього зразка суб'єкта задається (саме тому Джейк писав вище, що ваги повинні залежати від оцінки дисперсії між предметами). Оцінка дисперсії всередині предмета визначається дисперсією об'єднаних відхилень у предметі, оцінка дисперсії між суб'єктами - це дисперсія засобів суб'єктів, використовуючи все, що можна обчислити вагами. (Але я не впевнений, чи це на 100% еквівалент тому, що зробить Лмер.)

σ_{u}^{2} + σ_{e}^{2} / m_{i}

$\sigma^2_u + \sigma^2_e/m_i$

— говорить Амеба Reinstate Monica

Джейк, так, це саме це жорстке кодування в , який мене турбує. Якщо це "розмір вибірки", він не може бути параметром базової системи. Моє сьогоднішнє мислення полягає в тому, що негативне насправді повинно вказувати на наявність ще одного всередині предмета, який ігнорується / невідомий нам. Наприклад, це може бути до і після деякого втручання, і різниця між ними настільки велика, що вимірювання негативно співвідносяться. Але це означало б, що - це насправді не розмір вибірки, а кількість рівнів цього невідомого чинника, і це, безумовно, може бути важко закодовано ...

m

$m$

ρ

$\rho$

m

$m$

— Амеба каже, що повертається Моніка