Сплайни в GLM та GAM

Чи не так, що сплайни доступні лише в GAM-моделях, а не в GLM-моделях? Я почув це деякий час назад і замислювався, чи це просто помилкова думка, чи є якась правда в цьому. Ось ілюстрація:

generalized-linear-model splines

— HeyJane
джерело

Відповіді:

Ви помиляєтесь. Шпонки мають лінійне подання з використанням похідних коваріатів. Як приклад, квадратична тенденція є нелінійною, але може бути змодельована у лінійній моделі, взявши: , таким чином і його квадрат вводяться в лінійну модель. $E[Y|X] = \beta_0 + \beta_1 X + \beta_2 X^2$ $X$

Шпону можна просто розглядати як складну параметризацію одного або декількох безперервно чи псевдо-безперервно оцінених коваріатів.

— АдамО
джерело

Дякую за відповідь! Отже, кажучи, що я помиляюся, ви маєте на увазі, що сплайни можна використовувати в GLM, правда? Не зрозумів повністю.

— HeyJane

Так абсолютно. У R імпортувати пакет splines, а запущене bs(...)дозволяє створити лінійне представлення сплайну із заданим користувачем ступенем полінома та вузловими точками.

— AdamO

Я багато писав про це питання тут: madrury.github.io/jekyll/update/statistics/2017/08/04/…

— Меттью Друрі

Дякую вам обом! Я бачу це зараз, Адамо! Чудова сторінка, Метью, я все прочитаю! :)

— HeyJane

@ Відповідь AdamO правильна, оскільки підходи на основі сплайну, безумовно, можна зробити в стандартних рамках GLM. Це не означає, що GAM - це лише особливий випадок використання GLM! Хоча є ряд моделей, які точно ідентичні і можуть бути опрацьовані як GAM або як GLM з розширенням сплайну коваріатів, є деякі моделі GAM, які не доступні в стандартних рамках GLM.

Наприклад, можна помістити модель GAM, використовуючи згладжуючий сплайн для кожного з коваріатів. Це в основному призводить до сплайну розширення змінних, але з покаранням за другими похідними. Це призводить до появи моделі, яка знаходиться трохи поза стандартними рамками GLM.

Крім того, це часто вважається стандартною процедурою, і вона вбудована в більшість бібліотек GAM, щоб підходити до параметрів згладжування (тобто градуйованих ступенів свободи тощо) шляхом оптимізації різних заходів вибіркових помилок, тоді як рецептура GLM зазвичай враховує коваріаційний простір фіксований.

— Кліф АВ
джерело

Я б хотів, щоб я міг вас підтримати, але мені не вистачає балів. Дякуємо за ваш внесок. Я не впевнений, що я розумію ваш другий абзац: ви говорите, що згладжувальні шліци можуть відповідати лише GAM? Не могли б ви пояснити, яка саме різниця між звичайним кубічним сплайном і згладжуючим кубічним сплайном? Я розумію, що це багато запитати.

— HeyJane

@HeyJane: якщо ви подивитеся на сторінку вікіпедії, ви помітите, що ці сплайни караються їх другою похідною. Це дозволяє контролювати плавність безперервного штрафу, а не цілих ступенів свободи. Як така, це скоріше пеніалізована проблема максимальної ймовірності, а не стандартна максимальна ймовірність. Це означає, що ви не можете підходити їх безпосередньо до glmфункції R , на відміну від використання стандартних кубічних сплайнів з glm.

— Кліф АВ

Ага! Я розумію! Отже, замість регулярного кубічного сплайну, кажучи, що ми просто хочемо, щоб другі похідні були рівними у вузлах, ми хочемо накласти деяку властивість другій похідній, тобто друга похідна не має високого рівня, отже, термін штрафу?

— HeyJane

@HeyJane: так, я б сказав, що це хороший підсумок.

— Cliff AB