Правила великого пальця для мінімального розміру вибірки для багаторазової регресії

У контексті дослідницької пропозиції із соціальних наук мені поставили таке питання:

Я завжди йшов на 100 + м (де m - кількість предикторів) при визначенні мінімального розміру вибірки для множинної регресії. Чи підходить це?

У мене дуже часто виникають подібні запитання, часто з різними правилами. Я також дуже багато читав подібні правила в різних підручниках. Іноді мені цікаво, чи популярність правила в частині цитат базується на тому, наскільки низьким є стандарт. Однак я також усвідомлюю цінність хорошої евристики для спрощення прийняття рішень.

Запитання:

• У чому полягає корисність простих правил для мінімальних розмірів вибірки в контексті прикладних дослідників, які розробляють дослідницькі дослідження?
• Ви б запропонували альтернативне правило для мінімального розміру вибірки для багаторазової регресії?
• В якості альтернативи, які альтернативні стратегії ви б запропонували визначити мінімальний розмір вибірки для множинної регресії? Зокрема, було б добре, якби значення було присвоєне тій мірі, до якої будь-яка стратегія може бути легко застосована нестатистом.

Я не прихильник простих формул для створення мінімальних розмірів вибірки. Принаймні, будь-яка формула повинна враховувати розмір ефекту та питання, що цікавлять вас. І різниця між обома сторонами відсікання мінімальна.

Розмір вибірки як проблема оптимізації

• Більш великі зразки - кращі.
• Розмір вибірки часто визначається прагматичними міркуваннями.
• Розмір вибірки повинен розглядатись як один з аспектів проблеми оптимізації, коли вартість часу, грошей, зусиль тощо для отримання додаткових учасників відміряється від переваг від наявності додаткових учасників.

Грубе правило великого пальця

З точки зору дуже грубих правил в рамках типового контексту спостережливих психологічних досліджень, що включають такі речі, як тести здібностей, шкали ставлення, заходи особистості тощо, я іноді думаю про:

• n = 100 як достатня
• n = 200 як добре
• n = 400 + як великий

Ці норми ґрунтуються на 95% довірчих інтервалах, пов'язаних з кореляціями на цих відповідних рівнях, та на ступінь точності, яку я хотів би теоретично зрозуміти відносини, що цікавлять. Однак це лише евристика.

G Потужність 3

• Я зазвичай використовую G-Power 3 для розрахунку потужності на основі різних припущень см мій пост .
• Дивіться цей підручник із сайту G Power 3, характерного для багаторазової регресії
• Харчування Грунтовка також є корисним інструментом для прикладних дослідників.

Множинна регресія перевіряє кілька гіпотез

• Будь-яке питання аналізу потужності вимагає врахування розмірів ефекту.

• Аналіз потужності для багаторазової регресії ускладнюється тим, що існує кілька ефектів, включаючи загальний r-квадрат і один для кожного індивідуального коефіцієнта. Крім того, більшість досліджень включають більш ніж одну множинну регресію. Для мене це додаткова причина більше покладатися на загальну евристику та думати про мінімальний розмір ефекту, який ви хочете виявити.

• Щодо множинної регресії, я часто буду думати більше щодо ступеня точності при оцінці основної кореляційної матриці.

Точність в оцінці параметрів

Мені також подобається, як Кен Келлі та колеги обговорювали Точність в оцінці параметрів.

• Дивіться на веб-сайті Кен Келлі публікації
• Як згадували @Dmitrij, Kelley та Maxwell (2003) БЕЗКОШТОВНА версія PDF має корисну статтю.
• Кен Келлі розробив MBESSпакет R для проведення аналізів, що стосуються розміру вибірки та точності в оцінці параметрів.

Я не вважаю за краще вважати це питанням влади, а радше задаю питання "наскільки великим має бути щоб очевидним можна було довіряти"? Одним із способів підходу є розгляд співвідношення або різниці між та , останній є скоригованим заданим і формує більш неупереджену оцінку "справжнього" .$n$$R^2$$R^2$$R_{adj}^{2}$$R^2$$1 - (1 - R^{2})\frac{n-1}{n-p-1}$$R^2$

Деякі R-коди можуть бути використані для вирішення для коефіцієнта що повинен бути таким, що є лише коефіцієнтом меншим, ніж або лише меншим на . $p$$n-1$$R_{adj}^{2}$$k$$R^2$$k$

require(Hmisc)
dop <- function(k, type) {
  z <- list()
  R2 <- seq(.01, .99, by=.01)
  for(a in k) z[[as.character(a)]] <-
    list(R2=R2, pfact=if(type=='relative') ((1/R2) - a) / (1 - a) else
         (1 - R2 + a) /  a)
  labcurve(z, pl=TRUE, ylim=c(0,100), adj=0, offset=3,
           xlab=expression(R^2), ylab=expression(paste('Multiple of ',p)))
}
par(mfrow=c(1,2))
dop(c(.9, .95, .975), 'relative')
dop(c(.075, .05, .04, .025, .02, .01), 'absolute')

Легенда: Деградація в що досягає відносного падіння від до за вказаним відносним фактором (ліва панель, 3 фактори) або абсолютною різницею (права панель, 6 декрементів).$R^{2}$$R^{2}$$R^{2}_{adj}$

Якщо хтось бачив це вже в друку, будь ласка, дайте мені знати.

(+1) для дійсно важливого, на мою думку, питання.

У макроеконометрії у вас зазвичай значно менші розміри вибірки, ніж у мікро-, фінансових чи соціологічних експериментах. Дослідник відчуває себе досить добре, коли він може дати хоча б здійсненні оцінки. Моє найменше особисте правило: ( ступеня свободи на один оцінений параметр). В інших прикладних галузях дослідження вам зазвичай більше щастить з даними (якщо це не надто дорого, просто збирайте більше точок даних), і ви можете запитати, який оптимальний розмір вибірки (не просто мінімальне значення для таких). Останнє питання випливає з того, що більш низькі (шумні) дані не кращі, ніж менші вибірки високоякісних.$4\cdot m$$4$

Більшість розмірів вибірки пов'язані з потужністю тестів для гіпотези, яку ви збираєтеся перевірити, після того як ви підходите до моделі множинної регресії.

Є хороший калькулятор, який може бути корисним для декількох моделей регресії та деякою формулою за кадром. Я думаю, що такий апріорний калькулятор може легко застосувати нестатист.

Можливо K.Kelley і SEMaxwell стаття може бути корисним , щоб відповісти на інші питання, але мені потрібно більше часу , щоб вивчити першу проблему.

Ваше правило не особливо добре, якщо дуже великий. Візьміть : ваше правило стверджує, що нормально відповідати змінним із лише спостереженнями. Я навряд чи так думаю!$m$$m=500$$500$$600$

Для багаторазової регресії у вас є теорія, яка дозволяє запропонувати мінімальний розмір вибірки. Якщо ви збираєтесь використовувати звичайні найменші квадрати, то одне з припущень, яке вам потрібно, - це те, щоб "справжні залишки" були незалежними. Тепер, коли ви прилаштовуєте модель найменших квадратів до змінних, ви накладаєте лінійні обмеження на ваші емпіричні залишки (задані найменшими квадратами або "нормальними" рівняннями). Це означає, що емпіричні залишки не є незалежними - як тільки ми знаємо з них, можна вивести решту , де - розмір вибірки. Тож ми маємо порушення цього припущення. Тепер порядок залежності . Отже, якщо ви виберете$m$$m+1$$n-m-1$$m+1$$n$$O\left(\frac{m+1}{n}\right)$$n=k(m+1)$ для деякого числа , тоді порядок задається . Отже, вибираючи , ви вибираєте, скільки залежності ви готові терпіти. Я вибираю так само, як і для застосування "центральної граничної теореми" - це добре, і у нас є правило "підрахунку статистики" (тобто система підрахунку статистиків ).$k$$O\left(\frac{1}{k}\right)$$k$$k$$10-20$$30\equiv\infty$$1,2,\dots,26,27,28,29,\infty$

У галузі психології:

Грін (1991) вказує, що (де m - кількість незалежних змінних) потрібно для тестування множинної кореляції та для тестування окремих предикторів.$N > 50 + 8m$$N > 104 + m$

Інші правила, якими можна скористатися, є ...

Гарріс (1985) каже, що кількість учасників повинна перевищити кількість прогнозів як мінімум на .$50$

Van Voorhis & Morgan (2007) ( pdf ), використовуючи 6 і більше прогнозів, абсолютний мінімум учасників повинен бути . Хоча краще поїхати по учасників за змінну.$10$$30$

Я згоден, що калькулятори потужності корисні, особливо для того, щоб побачити вплив різних факторів на потужність. У цьому сенсі калькулятори, що містять більше вхідної інформації, набагато кращі. Для лінійної регресії, мені подобається регресійний калькулятор тут , який включає в себе такі чинники, як помилки в Xs, кореляція між Xs, і багатьма іншими.

Я знайшов цей досить недавній документ (2015) , в якому оцінюється, що достатньо лише 2 спостережень на змінну, якщо наш інтерес полягає в точності оцінених коефіцієнтів регресії та стандартних помилок (і в емпіричному висвітленні отриманих довірчих інтервалів), і ми використовувати скоригований :$R^2$

( pdf )

Звичайно, як також визнано в роботі, (відносна) неупередженість не обов'язково означає наявність достатньої статистичної сили. Однак розрахунки потужності та розміру вибірки, як правило, проводяться шляхом уточнення очікуваних ефектів; у випадку множинної регресії це означає гіпотезу про значення коефіцієнтів регресії або про матрицю кореляції між регресорами та результатом. На практиці це залежить від сили кореляції регресорів з результатом і між собою (очевидно, чим сильніше, тим краще для співвідношення з результатом, тоді як при поліколінеарності все погіршується). Наприклад, у крайньому випадку двох ідеально колінеарних змінних, ви не можете виконати регресію незалежно від кількості спостережень і навіть лише з двома коваріатами.