Запитання з тегом «regression»

Припустимо наступне лінійне співвідношення: , де - залежна змінна, - одна незалежна змінна та - термін помилки.Yi=β0+β1Xi+uiYi=β0+β1Xi+uiY_i = \beta_0 + \beta_1 X_i + u_iYiYiY_iXiXiX_iuiuiu_i Згідно зі словами Stock & Watson (Вступ до економетрії; Глава 4 ), припущення третього найменшого квадрата - це те, що четверті моменти та є ненульовими та …

9 regression  least-squares  assumptions  bias  consistency 

Одне з припущень лінійної регресії полягає в тому, що має існувати постійна дисперсія в термінах помилки і що довірчі інтервали та тести гіпотез, пов'язані з моделлю, покладаються на це припущення. Що саме відбувається, коли умови помилки не мають постійної дисперсії?

9 regression  heteroscedasticity  assumptions  robust-standard-error 

Скажімо, я лінійну регресію, що має вигляд .у=β0+β1A +β2В +β3A B + ϵy=β0+β1A+β2B+β3AB+ϵy = \beta_0 + \beta_1A+\beta_2B+\beta_3AB +\epsilon Якщо є позитивним, чи означає це позитивну кореляцію між A і B ? (І навпаки, негативна кореляція, якщо \ beta_3 від'ємна?)β3β3\beta_3АAAБBBβ3β3\beta_3

9 regression  interaction 

У мене є набір даних із залежною та незалежною змінною. Обидва - це не часовий ряд. У мене 120 спостережень. Коефіцієнт кореляції 0,43 Після цього розрахунку я додав стовпчик для обох змінних із середнім значенням на кожні 12 спостережень, у результаті чого з’явилися 2 нові колонки зі 108 спостереженнями (пари). …

9 regression  correlation  mean  predictor  cross-section 

Мені потрібно вирішити складну проблему регресії на одиничному диску. Оригінальне запитання привернуло кілька цікавих коментарів, але на жаль жодної відповіді. Тим часом я дізнався щось більше про цю проблему, тому спробую розділити початкову проблему на підпрограми та побачити, чи мені в цей час пощастить більше. У мене 40 датчиків температури …

9 regression  spatial  circular-statistics 

Я знаю, як реалізувати лінійну цільову функцію та лінійні прискорення в XGBoost. Моє конкретне питання: коли алгоритм підходить до залишкового (або від'ємного градієнта), це використання однієї функції на кожному кроці (тобто універсарна модель) або всіх функцій (багатоваріантна модель)? Будь-яке посилання на документацію про лінійні підсилення в XGBoost буде оцінено. EDIT: …

9 regression  machine-learning  boosting  xgboost 

Я намагаюся інтерпретувати результати статті, де вони застосували багаторазову регресію для прогнозування різних результатів. Однакββ\beta's (стандартизовані коефіцієнти B, визначені як βх1=Бх1⋅S Dх1S Dуβx1=Bx1⋅SDx1SDy\beta_{x_1} = B_{x_1} \cdot \frac{\mathrm{SD}_{x_1}}{\mathrm{SD}_y} де уyy є залежною змінною і х1x1x_1 є прогнозом) повідомляється, схоже, не відповідає повідомленому R2R2R^2: Попри ββ\beta з -0,83, -0,29, -0,16, -0,43, 0,25 …

9 regression  regression-coefficients  multicollinearity  r-squared 

Оскільки звичайна помилка лінійної регресії зазвичай задається для змінної реакції, мені цікаво, як отримати довірчі інтервали в іншому напрямку - наприклад, для перехоплення x. Я вмію уявити, що це може бути, але я впевнений, що для цього повинен бути простий спосіб. Нижче наводиться приклад в R, як це візуалізувати: set.seed(1) …

9 r  regression  confidence-interval  bootstrap 

Чи може хто-небудь сказати мені, чому я отримую різні результати від Rзважених найменших квадратів та ручного рішення за допомогою матриці ? Зокрема, я намагаюся вручну вирішити , де - діагональна матриця на вагах, - матриця даних, - відповідь вектор. WAx=WbWAx=Wb\mathbf W \mathbf A\mathbf x=\mathbf W \mathbf bWW\mathbf WAA\mathbf Abb\mathbf b …

9 r  regression  least-squares  weighted-regression  weighted-data 

Нещодавно мій друг запитав, що таке звичайне, про звичайні найменші квадрати. Ми, здається, ніде не потрапляли в дискусію. Ми обоє погодилися, що OLS - це особливий випадок лінійної моделі, він має багато застосувань, добре відомий і є особливим випадком багатьох інших моделей. Але це насправді все? Тому я хотів би …

9 regression  linear-model  least-squares  terminology 

Як надати більше ваги останнім спостереженням в R? Я вважаю це запитанням чи бажанням, але мені важко зрозуміти, як саме це здійснити. Я намагався багато шукати для цього, але не можу знайти хорошого практичного прикладу. У моєму прикладі я мав би великий набір даних із часом. Хочу сказати, застосувати якесь …

9 r  time-series  regression  random-forest 

У моделях часових рядів, таких як ARMA-GARCH, для вибору відповідного відставання або порядку моделі використовуються різні інформаційні критерії, такі як AIC, BIC, SIC тощо. Моє запитання дуже просте, чому ми не використовуємо скоригований для вибору відповідної моделі? Ми можемо вибрати модель, яка призводить до більш високого значення скоригованого . Оскільки …

9 regression  time-series  model-selection  aic  bic 

Використовуючи R на деяких даних і намагаючись зрозуміти, чи є мої дані гетероскедастичними, я знайшов дві реалізації тесту Брейша-Язичника , bptest (пакет lmtest) і ncvTest (пакетний автомобіль). Однак вони дають різні результати. Яка різниця між ними? Коли слід вибрати те чи інше? > model <- lm(y ~ x) > bp …

9 r  regression  heteroscedasticity  assumptions  breusch-pagan 

Припустимо, маємо матрицю даних , яка -by- , і вектор мітки , який -by-one. Тут кожен рядок матриці є спостереженням, і кожен стовпець відповідає розмірності / змінній. (припустимо )ХX\mathbf{X}нnnpppYYYнnnn > pn>pn>p Тоді що data space, variable space, observation space, model spaceзначить? Чи простір, що охоплюється вектором стовпців, є (виродженим) -D …

9 regression  multiple-regression  terminology  geometry  biplot 

Типові значення AIC, які я бачив для логістичних моделей, є тисячами, принаймні сотнями. наприклад, на http://www.r-bloggers.com/how-to-perform-a-logistic-regression-in-r/ AIC становить 727,39 Хоча завжди кажуть, що AIC слід використовувати лише для порівняння моделей, я хотів зрозуміти, що означає конкретне значення AIC. Відповідно до формули, AIC=−2log(L)+2KAIC=−2log⁡(L)+2KAIC= -2 \log(L)+ 2K Де L = максимальна ймовірність …

9 regression  model-selection  aic  accuracy