Вибірковий розподіл коефіцієнтів регресії

Раніше я дізнався про вибіркові розподіли, які давали результати, що стосуються оцінки, з точки зору невідомого параметра. Наприклад, для вибіркових розподілів та в моделі лінійної регресії $\hat\beta_0$ $\hat\beta_1$ $Y_i = \beta_o + \beta_1 X_i + \varepsilon_i$

{\hat{β}}_{0} \sim N (β_{0}, σ^{2} (\frac{1}{n} + \frac{{\bar{x}}^{2}}{S_{x x}}))

$\hat{\beta}_0 \sim \mathcal N \left(\beta_0,~\sigma^2\left(\frac{1}{n}+\frac{\bar{x}^2}{S_{xx}}\right)\right)$ і

{\hat{β}}_{1} \sim N (β_{1}, \frac{σ^{2}}{S_{x x}})

$\hat{\beta}_1 \sim \mathcal N \left(\beta_1,~\frac{\sigma^2}{S_{xx}}\right)$

де $S_{xx} = \sum_{i=1}^n (x_i^2) -n \bar{x}^2$

Але зараз я побачив у книзі таке :

Припустимо, ми підходимо до моделі як мінімум квадратів звичайним способом. Розгляньте байєсівський задній розподіл і виберіть пріори так, щоб це було рівнозначно звичайному частому розподілу вибірки, тобто ......

$(\begin{matrix} β_{0} \\ β_{1} \end{matrix}) \sim N_{2} [(\begin{matrix} {\hat{β}}_{1} \\ {\hat{β}}_{2} \end{matrix}), {\hat{σ}}^{2} {(\begin{matrix} n & \sum_{i = 1}^{n} x_{i} \\ \sum_{i = 1}^{n} x_{i} & \sum_{i = 1}^{n} x_{i}^{2} \end{matrix})}^{- 1}]$ $\left( \begin{matrix} \beta_0 \\ \beta_1 \end{matrix} \right) \sim \mathcal N_2\left[\left(\begin{matrix} \hat{\beta}_1 \\ \hat{\beta}_2 \end{matrix} \right),~\hat{\sigma}^2 \left(\begin{matrix} n & \sum_{i=1}^{n}x_i \\ \sum_{i=1}^{n}x_i & \sum_{i=1}^{n}x_i^2 \end{matrix} \right) ^{-1}\right]$

Це мене бентежить, бо:

Чому оцінки з'являються на лівій частині (lhs) перших двох виразів, а на правій (rhs) останнього виразу?
Чому бета-шапки в останньому виразі мають 1 та 2 підписки замість 0 та 1?
Це просто різні уявлення одного і того ж? Якщо вони є, чи може хтось показати мені, наскільки вони рівноцінні? Якщо ні, то хтось може пояснити різницю?
Чи буває так, що останній вираз - це "інверсія" перших двох? Це тому матриця 2x2 в останньому виразі інвертується і оцінки / параметри перемикаються з rhs lhs? Якщо так, міг би хтось показати мені, як пройти від одного до іншого? $\leftrightarrow$

— Джо Кінг
джерело

Ця частина стосується насамперед вашого першого, третього та четвертого запитання:

Існує принципова відмінність між байєсівською статистикою та частою статистикою.

Статистична статистика дозволяє робити висновки про те, які фіксовані значення параметрів відповідають даним, що розглядаються як випадкові, як правило, з вірогідністю. Ви приймаєте (деякий параметр або параметри) як фіксований, але невідомий, і бачите, які з них роблять дані більш імовірними; він розглядає властивості вибірки з деякої моделі з урахуванням параметрів, щоб зробити висновок про те, де можуть бути параметри. (Баєсійський може сказати, що частістський підхід базується на "частотах того, що не відбулося") $\theta$

Байєсівська статистика розглядає інформацію про параметри з точки зору розподілу ймовірностей на них, яка оновлюється даними, імовірно. Параметри мають розподіли, тому ви дивитесь на . $P(\theta|\underline{x})$

Це призводить до того, що часто виглядають схожими, але там, де змінні в одному погляді "неправильно обертаються", переглядаються через об'єктив іншого способу мислення про це.

Отже, принципово вони дещо різні речі, і те, що речі, які знаходяться на LHS одного, є на RHS іншого, не випадково.

Якщо ви зробите якусь роботу з обома, це незабаром стане зрозуміло.

Друге питання, як мені здається, стосується просто друку.

---

твердження "еквівалентно звичайному частому розподілу вибірки, тобто": Я вважав, що це означає, що автори констатували розподіл частотних вибірок. Чи читав я це неправильно?

Там відбуваються дві речі - вони висловлюють щось дещо вільно (люди роблять цей особливий вид надмірно вираженого вираження весь час), і я думаю, ви також інтерпретуєте це по-різному від наміру.

Що саме означає вираз, який вони дають тоді?

Сподіваємось, обговорення нижче допоможе з’ясувати намічений сенс.

Якщо ви можете надати посилання (преф. В Інтернеті, оскільки я не маю хорошого доступу до бібліотеки), де це слово виведене, я буду вдячний.

Звідси випливає:

http://en.wikipedia.org/wiki/Bayesian_linear_regression

беручи плоскі пріори на і я думаю, що квартира до також. $\beta$ $\sigma^2$

Причина полягає в тому, що задня частина, таким чином, пропорційна ймовірності, і інтервали, що утворюються з плакатів на параметрах, відповідають частото-довірчим інтервалам параметрів.

Перші кілька сторінок тут також можуть бути корисними.

— Glen_b -Встановити Моніку
джерело

Дякую, це корисно. Я вже зробив невелику статистику Баєса. Я все ще дещо розгублений через твердження "еквівалентному звичайному частому розподілу вибірки, тобто" : я сприйняв це так, що автори констатували поширений розподіл вибірки. Чи читав я це неправильно? Що саме означає вираз, який вони дають тоді? Якщо ви можете надати посилання (преф. В Інтернеті, оскільки я не маю хорошого доступу до бібліотеки), де це слово виведене, я буду вдячний.

— Джо Кінг

Джо - дивіться мою

— редакцію