Сплайнс проти Гауссової регресії процесу

15

Мені відомо, що Гауссова процесова регресія (GPR) - це альтернатива використанню сплайнів для встановлення гнучких нелінійних моделей. Мені хотілося б знати, в яких ситуаціях одна була б більш придатною, ніж інша, особливо в байєсівській регресії.

Я вже розглядав, які переваги / недоліки використання сплайнів, згладжених сплайнів та емуляторів процесів Гаусса? але на GPR, схоже, немає нічого в цьому пості.

— ved
джерело

Я б сказав, що GP - це більш орієнтований на підхід до встановлення нелінійної функції. Шпонки, як правило, обмежені n-м поліномом. ГП можуть моделювати більш складні функції, ніж поліноми (хоча не на 100% впевнені).

— Владислав Довгалеч

15

Я згоден з відповіддю @j __.

Однак я хотів би підкреслити той факт, що сплайни - це лише особливий випадок регресії / крігінгу Гауссового процесу .

Якщо ви берете певний тип ядра в регресії процесу Гаусса, ви точно отримаєте модель підгонки сплайну.

Цей факт доведений у цій роботі Кімдельдорфа та Вахби (1970) . Він є досить технічним, оскільки використовує зв'язок між ядрами, які використовуються для кригінгу та відтворення просторів ядра Гільберта (RKHS).

— Поп
джерело

2

Наприклад, в одновимірному випадку модель GP для відомого згладжуючого сплайнера - це просто подвійний інтегрований шум Гауса Белого. Це використовували Крейг Анслі та Роберт Кон, щоб створити ефективні алгоритми наприкінці 1980-х. Я вважаю, що цю еквівалентність можна частково зрозуміти без дайвінгу в глибокій математиці RKHS.

— Ів

Це дуже гарна відповідь.

— Астрід

6

Дуже цікаве питання: еквівалент між гауссовими процесами та згладжуючими сплайнами був показаний у Kimeldorf та Wahba 1970. Узагальнення цього листування у випадку обмеженої інтерполяції було розроблено у Bay та ін. 2016 рік.

Bay та ін. 2016. Узагальнення листування Кімдельдорфа-Вахби для обмеженої інтерполяції. Електронний журнал статистики.

У цій роботі обговорюється перевага байєсівського підходу.

— маатук Хассан
джерело

2

Я погоджуюся з коментарем @ xeon також GPR ставить розподіл ймовірностей на нескінченну кількість можливих функцій, а середня функція (яка є сплайніном) є лише оцінкою MAP, але у вас також є розбіжність щодо цього. Це дозволяє отримати великі можливості, такі як експериментальне проектування (вибір вихідних даних, які є максимально інформативними). Крім того, якщо ви хочете виконати інтеграцію (квадратуру) моделі GP, то буде отриманий гауссовий результат, який дозволяє надати впевненості вашому результату. Принаймні, зі стандартними моделями сплайну це неможливо.

На практиці GPR дає більш інформативний результат (на моєму досвіді), але, як здається, сплайн-моделі здаються швидшими.

— j__
джерело