Що має бути неінформативним попереднім для схилу при лінійній регресії?


10

Виконуючи байєсівську лінійну регресію, потрібно призначити пріоритет для схилу і перехрестити b . Оскільки b - параметр розташування, має сенс призначити рівномірний попередній; однак, мені здається, що a схожий на параметр масштабу, і видавати уніформу перед ним видається неприродно.абба

З іншого боку, не зовсім правильно видавати звичайний неінформативний попередній Джефрі ( ) для нахилу лінійної регресії. Для одного це може бути негативно. Але я не бачу, що ще могло бути.1/а

Отже, що є "правильним" неінформативним для схилу байєсової лінійної регресії? (Будь-які посилання будуть вдячні.)


Нахил не дуже схожий на параметр масштабу - наприклад, він може бути негативним. Не існує "належного" неінформативного ("низька інформація" може бути кращим терміном) раніше. Є декілька загальних варіантів, які можуть відповідати різним людям або різним ситуаціям.
Glen_b -Встановіть Моніку

Відповіді:



9

Зазвичай байєси вибирають пріорів, які полегшують життя, що переживає математику, легше. Це означає гауссових пріорів, якщо модель абсолютно не забороняє це. Пам’ятайте, що у вашій ситуації вам потрібна біваріантність, оскільки вам доведеться моделювати співвідношення між нахилом і місцем розташування, а також їх граничною поведінкою. Багатоваріантний нормальний - ваш квиток.

Попередній параметр Гаусса за параметрами добре поєднується з (безперечно) гауссовою помилкою вимірювання, яку вже має ваша модель регресії.

До речі, я не пов'язую схили з параметрами масштабу, оскільки нахили можуть бути негативними, а параметри масштабу не можуть.

Зараз розподіл гаусів не є неінформативним попередженням, але якщо ви дійсно не маєте попередньої інформації, можливо, ви повинні піти часто. Або використовувати гаусса з дуже великою дисперсією.

Я не знаю сучасного посилання на байєсівські умовиводи. Ризикуючи використовувати базуку для відстрілу кролика, ви можете шукати Расмуссена та Вільямса, які доступні в Інтернеті . У першому розділі глави 2 детально проходить байєсівська регресія.


Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.