Чи є більше ймовірності, ніж байєсіанство?

Будучи студентом фізики, я пережив лекцію "Чому я баєс", мабуть, півдесятка разів. Це завжди те саме - ведучий самовдоволено пояснює, наскільки байєсівська інтерпретація перевершує частотулістську інтерпретацію, якою нібито користуються маси. Вони згадують правління Байєса, маргіналізацію, пріори та постеріори.

Яка реальна історія?

Чи існує законна область застосунку для частотистської статистики? (Безумовно, при відборі проб або прокату штампу багато разів це необхідно застосовувати?)

Чи є корисні імовірнісні філософії поза "байєсівською" та "частою"?

Байєсівського тлумачення ймовірності достатньо для практичних цілей. Але навіть з урахуванням байєсівської інтерпретації ймовірності, до статистики є більше, ніж до ймовірності , тому що основою статистики є теорія рішень, а теорія рішень вимагає не тільки класу імовірнісних моделей, але й конкретизації критеріїв оптимальності для правила прийняття рішення. Відповідно до критеріїв Байєса, оптимальні правила рішення можна отримати за допомогою правила Байєса; але багато частістські методи виправдані під мінімакс та інші критерії рішення.

"Баєсійський" і "частістський" не є "імовірнісними філософіями". Вони школи статистичної думки та практики, що стосуються переважно кількісного визначення невизначеності та прийняття рішень, хоча вони часто асоціюються з певними тлумаченнями ймовірності. Напевно, найпоширенішим сприйняттям, хоча воно і неповне, є ймовірність як суб'єктивне кількісне визначення віри проти ймовірностей як довгострокових частот. Але навіть вони насправді не є взаємовиключними. І ви, можливо, цього не знаєте, але є байєси, які не погоджуються з певними філософськими питаннями щодо ймовірності.

Баєсівська статистика і частолістська статистика також не є ортогональними. Здається, що "частіст" став означати "не баєсівський", але це неправильно. Наприклад, цілком розумно задавати питання про властивості байєсівських оцінювачів та довірчі інтервали під час повторного відбору проб. Це хибна дихотомія, яка хоча б частково увійшла в відсутність загального визначення термінів байесів і частолістів (нам статистикам ніхто не винен, крім нас самих).

Для кумедної, гострої та продуманої дискусії я б запропонував Гельмана "Заперечення проти Байєсової статистики", коментарі та реплікацію, доступні тут:

http://ba.stat.cmu.edu/vol03is03.php

Існує навіть деяка дискусія щодо довірчих інтервалів у фізиці IIRC. Для більш поглиблених дискусій ви можете ознайомитись із посиланнями на них. Якщо ви хочете зрозуміти принципи байєсівського висновку, я б запропонував книгу Бернандо і Сміта, але є багато-багато інших хороших посилань.

Погляньте на цей документ Косма Шалізі та Ендрю Гелмана про філософію та байєсіанство. Гельман - видатний байєсиан, а Шалізі - частіст!

Погляньте також на цю коротку критику Шалізі, де він вказує на необхідність перевірки моделі та знущання з аргументації голландської книги, якою користуються деякі байєси.

І останнє, але не менш важливе, я вважаю, що, оскільки ви фізик, вам може сподобатися цей текст , де автор вказує на «теорію обчислювального навчання» (про яку я відверто нічого не знаю), що може бути альтернативою байєсіанству , наскільки я це можу зрозуміти (не дуже).

пс .: Якщо ви переходите за посиланнями, особливо останніми та маєте думку про текст (та дискусії, що стежили за текстом у блозі автора )

пс.2: Моя власна думка щодо цього: забудьте про питання об'єктивної та суб'єктивної вірогідності, принцип ймовірності та аргумент про необхідність бути узгодженим. Баєсові методи хороші, коли вони дозволяють добре моделювати свою проблему (наприклад, використовуючи перед тим, як викликати одномодальний задній, коли є бімодальна ймовірність тощо), і те саме стосується частолістських методів. Також забудьте про матеріали про проблеми з p-значенням. Я маю на увазі, значення p відстойне, але врешті-решт вони є мірою невизначеності, в дусі того, як Фішер думав про це.

Для мене важливим, що стосується байєсіанства, є те, що він вважає ймовірність такою ж мірою, яку ми інтуїтивно застосовуємо в повсякденному житті, а саме ступінь правдоподібності істинності пропозиції. Дуже мало хто з нас справді використовує ймовірність, щоб означати строго тривалу частоту в повсякденному використанні, хоча б тому, що нас часто цікавлять конкретні події, які не мають довгострокової частоти, наприклад, яка ймовірність того, що викиди викопного палива спричиняють значні зміни клімату ? З цієї причини баєсівська статистика значно менше схильна до неправильного тлумачення, ніж частофілістська статистика.

Байєсіанство також має маргіналізацію, пріорі, максимум, групи трансформації тощо. Усі вони мають своє використання, але для мене ключовою перевагою є те, що визначення ймовірності є більш відповідним для тих проблем, які я хочу вирішити.

Це не робить баєсівські статистичні показники кращими, ніж частофілістська статистика. Мені здається, що частофілістська статистика добре підходить для проблем контролю якості (де ви повторно відбираєте вибірки з населення) або де ви розробляли експерименти, а не аналізу заздалегідь зібраних даних (хоча це лежить далеко за межами мого досвіду, так це просто інтуїція).

Як інженер, це питання "коней на курси", і у мене в наборі інструментів є обидва набори інструментів, і я обидва використовую регулярно.

Існують небасейські системи або філософії вірогідності - баконівська і паскальська, наприклад, якщо ви перебуваєте в гносеології та філософії науки, ви можете насолоджуватися дебатами - інакше ви похитаєте головою і зробите висновок, що насправді байєсівська інтерпретація - це все є.

Для хороших дискусій

• Коен, Л. Дж. Вступ до філософії індукції та ймовірності, (Clarendon Press; Oxford University Press, Oxford New York, 1989)
• Шум, Д.А. Доказові основи ймовірнісних міркувань (Wiley, New York, 1994).