Рандомізація у невипадковому зразку все ще може виявити ефект, не обґрунтовано пояснений випадковими варіаціями.
Наприклад, уявіть, що у нас є популяція з двома нерозпізнаними підгрупами (з дещо різними характеристиками *) приблизно однакового розміру, але ваш зразок є невипадковим, що дає розділення 80/20. Уявімо 2 групи лікування однакового розміру. Рандомізація (принаймні, з пристойними розмірами вибірки) буде, як правило, наближатись до розділення 80/20 у кожній групі, так що ефекти лікування викликані лікуванням, а не неоднаковим розподілом гетерогенних груп для лікування.
* припустимо до різних базових засобів, скажімо
Проблема виникає, коли ви хочете розширити висновок на деяку цільову сукупність, крім того, на що представлений ваш зразок (самовибірники); для цього потрібні припущення / аргумент, для яких у вас може бути ніяких доказів (наприклад, припущення, що, скажімо, відмінності в лікуванні будуть послідовними для всіх підмножин населення).
Для подібної ситуації уявіть тестування препарату на гіпертонію лише на чоловіках, порівняно зі стандартним лікуванням та плацебо. Припустимо, чоловіки належним чином рандомізовані до групи лікування. Ефект лікування буде реальним в тому сенсі, що він дійсно описує ефект у чоловіків. Складність виникне при спробі поширити цей висновок на жінок .
Тож якщо вони будуть належним чином проведені та рандомізовані, крім набору, помітний значний ефект буде тим, що здається, але це стосуватиметься того, що ви насправді взяли на вибірку, а не обов'язково того, що було бажаною метою - перетину розриву між двома вимагають ретельного аргументу; такий аргумент часто відсутній.
Коли я був студентом, то досить часто проводилися експерименти з психології на студентах психології, які, як очікувалося, піти на волю протягом певної кількості годин таких експериментів (це все ще може бути, але я не маю регулярних контактів з психологами хто більше не робить експерименти). Якщо рандомізувати лікування, то висновки можуть бути справедливими (залежно від того, що було зроблено), але вони стосуватимуться місцевого населення самообраних магістрантів із психології (оскільки вони, як правило, обирають, на які експерименти потрібно записатися), які дуже далекі від випадкова вибірка широкої сукупності.