Чи визнає Байєс, що існує одне фіксоване значення параметра?

У баєсівському аналізі даних параметри трактуються як випадкові величини. Це випливає з байєсівської суб'єктивної концептуалізації ймовірності. Але чи теоретично байєси визнають, що в реальному світі є одне справжнє фіксоване значення параметра?

Здається, очевидною відповіддю є «так», тому що тоді намагатися оцінити параметр було б майже безглуздим. Цитувальна академічна цитата на цю відповідь буде дуже вдячна.

ІМХО «так»! Ось одна з моїх улюблених цитат Гренландії (2006: 767):

Часто говорять (неправильно), що "параметри трактуються як фіксовані частолістськими, але як випадкові байєсівські". Для часто відвідувачів і байєсів значення параметра може бути зафіксовано з самого початку або може бути сформовано за допомогою фізично випадкового механізму. В будь-якому випадку обидва припускають, що він набув певного значення, яке ми хотіли б знати. Байєсські використовують формальні моделі ймовірності, щоб висловити особисту невпевненість у цьому значенні. «Випадковість» у цих моделях представляє особисту невизначеність щодо значення параметра; це не властивість параметра (хоча ми сподіваємось, що він точно відображає властивості механізмів, які створили параметр).

Гренландія, С. (2006). Байєсські перспективи епідеміологічних досліджень: I. Основи та основні методи. Міжнародний журнал епідеміології , 35 (3), 765–774.

Байєсівська концепція ймовірності не обов'язково є суб'єктивною (пор. Jaynes). Важливою відмінністю тут є те, що Байєс намагається визначити свій стан знань щодо значення параметра, поєднуючи попередній розподіл для його правдоподібного значення з ймовірністю, яка узагальнює інформацію, що міститься в деяких спостереженнях. Отже, як баєсів, я б сказав, що я задоволений думкою про те, що параметр має справжнє значення, яке точно не відомо, і мета заднього розподілу полягає в тому, щоб узагальнити те, що я знаю про його правдоподібні значення, виходячи з моїх попередніх припущень та спостережень.

Тепер, коли я роблю модель, модель не є реальністю. Так, в деяких випадках відповідний параметр існує насправді (наприклад, середня вага матки), а в деяких питаннях він не відповідає (наприклад, справжнє значення параметра регресії - модель регресії є лише моделлю результату фізичні закони, що керують системою, які фактично можуть не бути повністю зафіксовані моделлю регресії). Отже, щоб сказати, що в реальному світі є одне справжнє значення фіксованого параметра, необов'язково істинно.

З іншого боку, я б припустив, що більшість лікарів-лікарів скажуть, що існує одна справжня цінність для статистики, але вони також не знають, що це таке, але вони мають оцінювачі для цього та довірчі інтервали, які оцінюють (у певному сенсі) ) кількісно оцінює їхню непевність щодо правдоподібності різних значень (але частофілістське уявлення про ймовірність заважає їм виражати це як прямо).

На вашу думку, в Bayesian Data Analysis (3-е видання, 93) також пише Гельман

З точки зору аналізу даних Баєса, ми часто можемо інтерпретувати класичні точкові оцінки як точні або приблизні задні підсумки на основі якоїсь неявної моделі повної ймовірності. Насправді, в межах великого розміру вибірки, ми можемо використовувати асимптотичну теорію для побудови теоретичного байєсівського обґрунтування класичного максимуму імовірності висновку.

Тож, можливо, не байєзці повинні "визнати", що насправді є єдині реальні значення параметрів, але часто відвідувачі, які повинні звернутися до байєсівської статистики, щоб виправдати свої процедури оцінки! (Я кажу це язиком твердо в щоку.)

Як осторонь, я заперечую проти твердої заяви про те, що байєсівська статистика базується на суб'єктивній ймовірності, і на думку про те, що Байєс є суб'єктивним, а інші інфекційні парадигми - ні. Це, безумовно, один аргумент, який може бути викладений, можливо, також включає перспективу аргументації "узгодженості ставок", але див. Гельман, який тут визначає "Баєсіан" як статистик, який використовує задній розподіл , і тут, де він заперечує надмірно обмежувальні визначення.$\Pr(\theta|y)$

Але думка про існування одиничних параметрів у природі або в соціальних системах - лише спрощення припущення. Можливо, є якийсь вишуканий процес, що дасть спостережувані результати, але виявити цю систему надзвичайно складно; припустимо, що існує одне значення фіксованого параметра, значно спрощує проблему. Я думаю, що це вирішує основну частину вашого питання: Байєси не повинні «визнавати» здійснення цього спрощення більше, ніж слід часто.

Як ви вважаєте, чи існує єдиний «справжній фіксований параметр» для чогось такого, як внесок випивання молока у ріст дитини? Або для зменшення розміру пухлини в залежності від кількості хімічної речовини X, яку ви вводите в організм пацієнта? Виберіть будь-яку модель, з якою ви знайомі, і запитайте себе, чи дійсно ви вірите, що існує одне справжнє, універсальне, точне і фіксоване значення для кожного параметра, навіть теоретично.

Ігноруйте помилку вимірювання, просто подивіться на свою модель так, ніби всі вимірювання були ідеально точними та нескінченно точними. З огляду на вашу модель, чи вважаєте ви, що кожен параметр реально має певне бальне значення?

Той факт, що у вас є модель, свідчить про те, що ви залишаєте деякі деталі. Ваша модель матиме точну точність, оскільки ви усереднюєте параметри / змінні, які ви залишили, щоб зробити модель - спрощене представлення реальності. (Так само, як ви не робите карту планети 1: 1 з усіма деталями, а скоріше карту 1: 10000000, або якесь таке спрощення. Карта є моделлю.)

З огляду на те, що ви усереднюєте ліві змінні параметри, параметрами змінних, які ви включаєте у свою модель, будуть розподіли, а не балові значення.

Це лише частина байєсівської філософії - я ігнорую теоретичну невизначеність, невизначеність вимірювань, пріори тощо, але мені здається, що думка про те, що ваші параметри мають розподіли, має інтуїтивний сенс так само, як і описова статистика розповсюдження.

Але чи теоретично байєси визнають, що в реальному світі є одне справжнє фіксоване значення параметра?

На мою думку, відповідь - так. Існує невідоме значення параметра і попередній розподіл описує наші знання / невизначеність щодо нього. У байєсівському математичному моделюванні розглядається як реалізація випадкової величини після попереднього розподілу.$\theta_0$$\theta_0$

Якщо ми з’єднаємо байєсіанство з детермінованим всесвітом (перш ніж ти скажеш що-небудь із словом "квант" в ньому, принизи гумором і згадаймо, що це не Physics.stackexchange), ми отримаємо цікаві результати.

Робіть наші припущення явними:

1. У нас є байєсівський агент, який є частиною та спостерігає за детермінованою всесвітом.
2. Агент має обмежені обчислювальні ресурси.

Тепер детермінований Всесвіт може бути таким, де атоми є маленькими більярдними кульками ньютонів. Це може бути зовсім не квантовим. Скажімо, так і є.

Агент зараз гортає справедливу монету. Подумайте про це на секунду, що являє собою справедлива монета у детермінованому Всесвіті? Монета, яка має коефіцієнт ймовірності 50/50?

Але це детерміновано! Маючи достатню обчислювальну потужність, ви зможете точно розрахувати, як приземлиться монета, чисто імітуючи модель монети, яка перевертається таким же чином.

У детермінованому Всесвіті справедливою монетою був би диск з металу однакової щільності. Жодна сила не змушує її проводити більше часу однією обличчям вниз, ніж іншою (подумайте, як функціонує зважена кістка.)

Так агент перекидає справедливу монету. І все-таки агент не досить потужний. У нього недостатньо гострих очей, щоб виміряти, як монета крутиться при переверненні, вона бачить, але не розмиття.

І так сказано: "Ця монета приземлить голови з 50% ймовірністю". Брак інформації призводить до ймовірностей.

Ми можемо подивитися на фазовий простір того, як кидається монета. Велика багатовимірна система координат з осями, що відносяться до напрямку кидка, сили кидання, віджиму монети, швидкості та напрямку вітру тощо. Єдина точка в цьому просторі відповідає одному можливому монетному перевороту.

Якщо ми попросимо агента раніше зафарбовувати в системі координат градієнт сірого масштабу, відповідний призначенню агентом ймовірності головок за кожен заданий кидок, він найбільше забарвить його в рівномірний відтінок сірого.

Якщо ми поступово надамо йому більш потужні внутрішні комп’ютери, за допомогою яких можна обчислити ймовірності голів, він зможе робити все більш вибагливі забарвлення. Коли ми, нарешті, подаруємо йому найпотужніший внутрішній комп'ютер, зробивши його всезнаючим, він ефективно намалювати дивну шахівницю.

Ярмарок монет не складається з вірогідностей, вони виготовлені з металу. Ймовірності існують лише в обчислювальних структурах. Так каже байєсів.

Є неправі пріори, наприклад, Джеффріс, який має певне відношення до матриці інформації Fisher. Тоді це не суб’єктивно.