Тестування гіпотез схоже на проблему Класифікації. Отже, скажімо, у нас є 2 можливі мітки для спостереження (суб'єкта) - "Винні проти Невинні". Нехай невинувачений є нікчемною гіпотезою. Якщо ми розглянули проблему з точки зору Класифікації, ми би підготували Класифікатор, який би передбачив ймовірність приналежності суб'єкта в кожному з 2 класів за даними Дані. Тоді ми б вибирали Клас з найбільшою ймовірністю. У цьому випадку 0,5 ймовірності буде природним порогом. Ми можемо змінювати поріг у випадку, якщо ми поклали різні витрати на помилки False Positive vs. False Negative. Але рідко ми могли би бути настільки екстремальними, як встановлення порогу в 0,05, тобто призначити предмет класу "Винні", лише якщо ймовірність становить 0,95 або вище. Але якщо я добре розумію, це те, що ми робимо як стандартну практику, коли ми розглядаємо ту ж проблему, що і проблему тестування гіпотези. В останньому випадку ми не будемо присвоювати мітку "Невинувачений" - рівнозначну присвоєнню мітки "Винний" - лише в тому випадку, якщо ймовірність бути "Невинуватою" менше 5%. І, можливо, це може мати сенс, якщо ми справді хочемо уникати засудження невинних людей. Але чому це правило має панувати у всіх Доменах та всіх випадках?
Вирішення, яку гіпотезу прийняти, еквівалентно визначенню Оцінювача Істини за даними Дані. Оцінюючи максимальну ймовірність, ми приймаємо гіпотезу, яка з більшою ймовірністю надається Даними - не обов'язково, хоча і переважно більш імовірно. Дивіться графік нижче:
Використовуючи підхід максимальної ймовірності, ми б віддавали перевагу Альтернативній гіпотезі в цьому прикладі, якби значення предиктора було вище 3, наприклад, 4, хоча ймовірність того, що це значення було виведене з нульової гіпотези, було б більше 0,05.
І хоча приклад, з якого я почав цю посаду, може бути емоційно зарядженим, ми могли б подумати про інші випадки, наприклад, технічне вдосконалення. Чому ми повинні надавати таку перевагу Status Quo, коли Дані говорять нам, що ймовірність того, що нове рішення є поліпшенням, більша, ніж ймовірність того, що його немає?