Чи дійсно парситизм все-таки повинен бути золотим стандартом?

Просто думка:

Парсимоніальні моделі завжди були типовим методом вибору моделі, але наскільки цей підхід застарів? Мені цікаво, наскільки наша тенденція до парсингу - це пережиток часу правил abaci і slide (або, що серйозніше, не сучасних комп'ютерів). Сьогоднішня обчислювальна потужність дозволяє нам будувати все більш складні моделі з все більшою здатністю до прогнозування. Внаслідок цього зростаючої стелі в обчислювальній потужності нам справді ще потрібно тяжіти до простоти?

Звичайно, простіші моделі легше зрозуміти та інтерпретувати, але в епоху постійно зростаючих наборів даних із більшою кількістю змінних та зрушенням у напрямку більшої уваги до можливостей прогнозування це може бути навіть не досяжним чи необхідним.

Думки?

@ Оригінальна відповідь Метта чудово справляється з описом однієї з переваг парсингу, але я не думаю, що він насправді відповідає на ваше запитання. Насправді паршість не є золотим стандартом. Ні зараз, ні ще ніколи не було. "Золотим стандартом", пов'язаним з парситивом, є помилка узагальнення. Ми хотіли б розробити моделі, які не підходять. Вони такі ж корисні для прогнозування (або як інтерпретація, або з мінімальною помилкою) поза вибіркою, як і у вибірці. Виявляється (через речі, викладені вище), що парсинг насправді є досить хорошим проксі для помилки узагальнення, але аж ніяк не єдиний.

Дійсно, подумайте, чому ми використовуємо перехресну перевірку чи завантажувальний або тренінговий / тестовий набори. Мета - створити моделі з хорошою точністю узагальнення. Багато разів ці способи оцінки вибіркових характеристик закінчують вибір моделей з меншою складністю, але не завжди. Як крайній приклад, уявіть, що оракул передає нам справжню, але надзвичайно складну модель і бідну, але всемогутню модель. Якби парцювання насправді була нашою метою, ми б вибрали другу, але насправді перше - це те, чого ми хотіли б дізнатися, якби могли. На жаль, багато часу, коли останнє речення є кікером, "якби ми могли".

Парсимоніальні моделі бажані не лише завдяки обчислювальним вимогам, але і для узагальнення продуктивності. Неможливо досягти ідеалу нескінченних даних, які повністю та точно охоплюють вибірковий простір, а це означає, що непармонізовані моделі мають потенціал для подолання та моделювання шуму чи ідіосинкразії у вибірковій сукупності.

Звичайно, можна побудувати модель з мільйонами змінних, але ви використовуєте змінні, які не впливають на вихід, для моделювання системи. Ви можете домогтися великих прогнозованих показників на своєму навчальному наборі даних, але ці невідповідні змінні більш ніж ймовірно знизять вашу ефективність на небаченому тестовому наборі.

Якщо вихідна змінна справді є результатом мільйона вхідних змінних, то вам було б добре включити їх у свою прогнозну модель, але тільки якщо у вас є достатня кількість даних . Щоб точно побудувати модель такого розміру, вам знадобиться мінімум кілька мільйонів точок даних. Парсимоніальні моделі приємні тим, що в багатьох реальних системах набір даних такого розміру просто недоступний, і, крім того, вихід в значній мірі визначається порівняно невеликою кількістю змінних.

Я думаю, що попередні відповіді добре допомагають робити важливі моменти:

• Парсимоніальні моделі мають кращі узагальнюючі характеристики.
• Потворність - це справді не золотий стандарт, а лише розгляд.

Я хочу додати кілька коментарів, які виходять із мого щоденного досвіду роботи.

Узагальнення аргументації точності прогнозування, звичайно, є сильним, але в його фокусі є академічна упередженість. Загалом, при розробці статистичної моделі економіки не такі, що прогнозована ефективність є повністю домінуючим фактором. Дуже часто існують великі зовнішні обмеження щодо того, як виглядає корисна модель для даної програми:

• Модель повинна бути реалізованою в існуючих рамках або системі.
• Модель повинна бути зрозумілою нетехнічному суб'єкту.
• Модель повинна бути ефективно обчислювальною.
• Модель повинна бути документальною .
• Модель повинна нести регуляторні обмеження .

У реальних областях застосувань багато, якщо не всі ці міркування виникають раніше , а не після , прогнозованої продуктивності - і оптимізація форми моделі та параметрів обмежується цими бажаннями. Кожне з цих обмежень схиляє вченого до спокою.

Може бути правдою, що в багатьох сферах ці обмеження поступово скасовуються. Але справді щасливому вченому доводиться ігнорувати їх, зосереджуючись виключно на мінімізації помилок узагальнення.

Це може бути дуже неприємно для першого вченого, свіжого поза школою (це, безумовно, було для мене і продовжує бути, коли я відчуваю, що обмеження, поставлені на моїй роботі, не виправдані). Зрештою, наполегливо працювати над створенням неприйнятного продукту - це марно, і це відчуває себе гірше, ніж жало до вашої наукової гордості.

Я думаю, що це дуже гарне питання. На мою думку, парсистика завищена. Природа рідко парсимонічна, тому ми не повинні сподіватися, що точні прогнозні чи описові моделі також будуть такими. Що стосується питання інтерпретації, якщо ви обираєте простішу модель, яка лише скромно відповідає дійсності лише тому, що ви можете її зрозуміти, що саме ви розумієте? Якщо припустити, що більш складна модель має кращу прогнозуючу силу, вона все одно буде ближче до фактичних фактів.

Потворність - це не золотий початок. Це аспект моделювання. Моделювання та, особливо, прогнозування не можуть бути написані, тобто ви не можете просто передати сценарій, який слід виконати. Ви краще визначите принципи, на яких повинен базуватися процес моделювання. Отже, парсимент - це один із цих принципів, застосування яких не можна писати (знову ж таки!). Моделер буде враховувати складність при виборі моделі.

Обчислювальна потужність мало стосується цього. Якщо ви в галузі, ваші моделі будуть споживатися діловими людьми, людьми з продуктів, хто б їх не називав. Ви повинні пояснити їм свою модель, вона повинна мати сенс для них. Наявність парсимоніальних моделей допомагає в цьому плані.

Наприклад, ви прогнозуєте продаж продукції. Ви повинні бути в змозі описати, що є рушіями продажів та як вони працюють. Вони повинні бути пов'язані з концепціями, з якими працює бізнес, і кореляції повинні бути зрозумілі та прийняті бізнесом. Зі складними моделями може бути дуже важко інтерпретувати результати моделі або пов'язувати відмінності з фактичними. Якщо ви не можете пояснити свої моделі бізнесу, ви не оціните це.

Ще одне, що особливо важливо для прогнозування. Скажімо, ваша модель залежить від N екзогенних змінних. Це означає, що вам потрібно спочатку отримати прогнози цих змінних, щоб прогнозувати залежну змінну. Малі менші N полегшують ваше життя, тому простіша модель легша у використанні.

Можливо, перегляньте інформаційний критерій Akaike - концепцію, яку я лише вчора виявив у серендіпіті. АПК прагне визначити, яка модель та скільки параметрів є найкращим поясненням для спостережень, що є у вас, а не будь-який базовий бритв Оккама чи підхід парсингу.