Методи встановлення "простої" моделі помилки вимірювання

Я шукаю методи, які можна використовувати для оцінки моделі помилки вимірювання "OLS".

y_{i} = Y_{i} + e_{y, i}

$y_{i}=Y_{i}+e_{y,i}$

x_{i} = X_{i} + e_{x, i}

$x_{i}=X_{i}+e_{x,i}$

Y_{i} = α + β X_{i}

$Y_{i}=\alpha + \beta X_{i}$

Де помилки є незалежними нормальними з невідомими відхиленнями і . "Стандартний" OLS в цьому випадку не працюватиме. $\sigma_{y}^{2}$ $\sigma_{x}^{2}$

У Вікіпедії є кілька непривабливих рішень - ці два змушують вас припускати, що або "коефіцієнт дисперсії" або " коефіцієнт надійності " відомо, де - дисперсія справжнього регресора . Мене це не влаштовує, бо як може хтось, хто не знає відхилень, знати їх співвідношення? $\delta=\frac{\sigma_{y}^{2}}{\sigma_{x}^{2}}$ $\lambda=\frac{\sigma_{X}^{2}}{\sigma_{x}^{2}+\sigma_{X}^{2}}$ $\sigma_{X}^2$ $X_i$

Як би там не було, крім цих двох інших рішень, які не вимагають від мене нічого "знати" про параметри?

Рішення для просто перехрестя і нахилу чудово.

regression estimation errors-in-variables

— ймовірністьіслогічна
джерело

сама стаття у Вікіпедії дає вам відповідь на це питання. Якщо ви припускаєте нормальність «справжнього» регресора, тоді вам потрібні подальші умови щодо розподілу помилок. Якщо справжній регресор не Гаусс, то ви маєте надію. Див. Рейерсол (1950) .

— кардинал

також, що ви маєте на увазі під "Рішення для просто перехоплення та нахилу - це добре". Це твої лише два параметри! Або ви сподівалися спробувати відмовитись від "справжнього" регресора?

— кардинал

@cardinal - Я мав на увазі, що я не особливо переймався двома параметрами шкали, і, як ви кажете, "справжнім" регресором .

X_{i}

$X_{i}$

— ймовірністьілогічний

Я бачу. Що має сенс.

— кардинал

Існує цілий ряд можливостей, описаних JW Gillard в Історичному огляді лінійної регресії з помилками в обох змінних.

Якщо вас не цікавлять деталі чи причини вибору одного методу над іншим, просто перейдіть до найпростішого, який полягає в проведенні лінії через центр з нахилом , тобто відношення спостережуваних стандартних відхилень (що робить знак нахилу таким же, як знак коваріації і ); як ви, напевно, можете розробити, це дає перехоплення на -осі $(\bar{x},\bar{y})$ $\hat{\beta}=s_y/s_x$ $x$ $y$ $y$ $\hat{\alpha}=\bar{y}-\hat{\beta}\bar{x}.$

Заслуги цього конкретного підходу є

він дає той самий рядок, порівнюючи проти як проти , $x$ $y$ $y$ $x$
це інваріантність масштабів, тому вам не потрібно турбуватися про одиниці,
він лежить між двома звичайними лінійними регресійними лініями
вона перетинає їх там, де вони перетинають один одного в центрі спостережень, і
це дуже легко обчислити.

Ухил - це геометричне середнє значення схилів двох звичайних схилів лінійної регресії. Це також, що ви отримаєте, якби стандартизували спостереження і , намалювали лінію на 45 ° (або 135 °, якщо є негативна кореляція), а потім де-стандартизували лінію. Це також можна розглядати як рівнозначне неявним припущенням, що дисперсії двох наборів помилок пропорційні дисперсії двох наборів спостережень; наскільки я можу сказати, ви стверджуєте, що не знаєте, в який спосіб це неправильно. $x$ $y$

Ось декілька код R для ілюстрації: червона лінія на графіку - це OLS регресія на , синя лінія - OLS регресія на , а зелена лінія - це простий метод. Зверніть увагу, що нахил повинен бути приблизно 5. $Y$ $X$ $X$ $Y$

X0 <- 1600:3600
Y0 <- 5*X0 + 700
X1 <- X0 + 400*rnorm(2001)
Y1 <- Y0 + 2000*rnorm(2001)
slopeOLSXY  <- lm(Y1 ~ X1)$coefficients[2]     #OLS slope of Y on X
slopeOLSYX  <- 1/lm(X1 ~ Y1)$coefficients[2]   #Inverse of OLS slope of X on Y
slopesimple <- sd(Y1)/sd(X1) *sign(cov(X1,Y1)) #Simple slope
c(slopeOLSXY, slopeOLSYX, slopesimple)         #Show the three slopes
plot(Y1~X1)
abline(mean(Y1) - slopeOLSXY  * mean(X1), slopeOLSXY,  col="red")
abline(mean(Y1) - slopeOLSYX  * mean(X1), slopeOLSYX,  col="blue")
abline(mean(Y1) - slopesimple * mean(X1), slopesimple, col="green")

— Генрі
джерело

@ Генрі, твоє визначення не має для мене сенсу. Деякі "шапки" відсутні?

\hat{β}

$\hat{\beta}$

— кардинал

Це означає середнє спостережуване стандартне відхилення поділене на спостережуване стандартне відхилення . Я зміню на

{y_{i}}

$\{y_i\}$

{x_{i}}

$\{x_i\}$

σ

$\sigma$

s

$s$

— Генрі

@ Генрі, ти можеш уточнити деякі свої коментарі? Щось вражає мене як відключене, грунтуючись на вашому поточному описі. Нехай - нахил, припускаючи, що - відповідь, а - предиктор. Нехай - нахил, припускаючи, що - відповідь, а - провісник. Тоді та , де - співвідношення вибірки між і . Звідси середнє геометричне значення цих двох оцінок нахилу просто .

{\hat{β}}_{x y}

$\hat{\beta}_{xy}$

y

$y$

x

$x$

{\hat{β}}_{y x}

$\hat{\beta}_{yx}$

x

$x$

y

$y$

{\hat{β}}_{x y} = \hat{ρ} s_{y} / s_{x}

$\hat{\beta}_{xy} = \hat{\rho}s_y / s_x$

{\hat{β}}_{y x} = \hat{ρ} s_{x} / s_{y}

$\hat{\beta}_{yx} = \hat{\rho} s_x / s_y$

\hat{ρ}

$\hat{\rho}$

x

$x$

y

$y$

\hat{ρ}

$\hat{\rho}$

— кардинал

@cardinal: Ні - коли я бачу я маю на увазі нахил оскільки його можна переписати як . Якщо ви намагаєтеся намалювати дві лінії OLS на одному графіку разом із спостережуваними точками (наприклад, з на вертикальній осі та на горизонтальній осі), ви повинні перевернути один з нахилів. Отже, я мав на увазі, що ви берете середнє геометричне значення та , що просто . Або, якщо ви нетрадиційні, щоб побудувати і навпаки обох прямих і спостережуваних точок, ви отримаєте зворотну частину цього як нахил.

x = b y + c

$x = by+c$

1 / b

$1/b$

y = x / b - c / b

$y=x/b-c/b$

y

$y$

x

$x$

\hat{ρ} s_{y} / s_{x}

$\hat{\rho}s_y/s_x$

s_{y} / \hat{ρ} s_{x}

$s_y/\hat{\rho}s_x$

s_{y} / s_{x}

$s_y/s_x$

y

$y$

x

$x$

— Генрі

@ Генрі - це досить цікава відповідь. Я не обов'язково сумніваюся в його достовірності, але одне, що мене дивує, - це те, що кореляція / коваріація між та повністю відсутня у відповіді. Звичайно, це має відповідати відповіді?

Y

$Y$

X

$X$

— ймовірністьлогічний