Якщо інтерес представляє лише прогнозування, навіщо використовувати ласо через хребет?

На сторінці 223 у вступі до статистичного навчання автори узагальнюють відмінності між регресією хребта та ласо. Вони наводять приклад (рис. 6.9) того, коли "ласо має тенденцію перевершити регресію хребта в плані зміщення, дисперсії та MSE".

Я розумію, чому ласо може бути бажаним: це призводить до рідкісних рішень, оскільки він зменшує багато коефіцієнтів до 0, в результаті чого виникають прості та інтерпретаційні моделі. Але я не розумію, як він може перевершити гребінь, коли цікавлять лише прогнози (тобто як у прикладі отримується істотно нижчий MSE).

Якщо хребет, якщо багато передбачувачів майже не впливають на реакцію (коли кілька прогнозів мають великий ефект), їх коефіцієнти просто не будуть зменшені до невеликої кількості, дуже близької до нуля ... в результаті чого вийде щось дуже схоже на ласо ? То чому б фінальна модель мала гірші показники, ніж ласо?

Ви маєте рацію задати це питання. Взагалі, коли використовується правильне оцінювання точності (наприклад, середня помилка передбачення в квадраті), регресія хребта буде перевершувати ласо. Лассо витрачає частину інформації, намагаючись знайти «правильних» прогнокторів, і це навіть не чудово в багатьох випадках. Відносна продуктивність обох буде залежати від розподілу істинних коефіцієнтів регресії. Якщо у вас є невелика частка ненульових коефіцієнтів, правда, ласо може працювати краще. Особисто я використовую хребет майже весь час, коли цікавлюсь точністю прогнозування.

Я думаю, що конкретна установка прикладу, на який ви посилаєтесь, є ключовим для розуміння того, чому ласо перевершує гребінь: лише 2 з 45 прогнозів насправді актуальні.

Це межує з патологічним випадком: ласо, спеціально призначене для того, щоб зробити скорочення до нуля легко, виконує саме так, як задумано, тоді як хребет повинен мати справу з великою кількістю марних термінів (навіть їх вплив зводиться закритим до нуля, це все одно ненульовий ефект).