Зворотна трансформація коефіцієнтів регресії

Я роблю лінійну регресію з перетвореною залежною змінною. Наступне перетворення було зроблено для того, щоб було допущено нормальність залишків. Нетрансформована залежна змінна була негативно перекошена, і наступне перетворення зробило її близькою до нормальної:

Y = \sqrt{50 - Y_{o r i g}}

$Y=\sqrt{50-Y_{orig}}$

де є залежною змінною у вихідній шкалі. $Y_{orig}$

Я думаю, що є сенс використовувати деяке перетворення на коефіцієнти щоб повернутись до початкової шкали. Використовуючи наступне рівняння регресії, $\beta$

Y = \sqrt{50 - Y_{o r i g}} = α + β \cdot X

$Y=\sqrt{50-Y_{orig}}=\alpha+\beta \cdot X$

і, фіксуючи , маємо $X=0$

α = \sqrt{50 - Y_{o r i g}} = \sqrt{50 - α_{o r i g}}

$\alpha=\sqrt{50-Y_{orig}}=\sqrt{50-\alpha_{orig}}$

І, нарешті,

α_{o r i g} = 50 - α^{2}

$\alpha_{orig}=50-\alpha^2$

Використовуючи ту ж логіку, я знайшов

β_{o r i g} = α (α - 2 β) + β^{2} + α_{o r i g} - 50

$\beta_{orig}=\alpha\space(\alpha-2\beta)+\beta^2+\alpha_{orig}-50$

Зараз все дуже добре працює для моделі з 1 або 2 провісниками; коефіцієнти зворотного перетворення нагадують вихідні, тільки тепер я можу довіряти стандартним помилкам. Проблема виникає при включенні терміна взаємодії, наприклад

Y = α + X_{1} β_{X_{1}} + X_{2} β_{X_{2}} + X_{1} X_{2} β_{X_{1} X_{2}}

$Y=\alpha+X_1\beta_{X_1}+X_2\beta_{X_2}+X_1X_2\beta_{X_1X_2}$

Тоді зворотна трансформація для s не настільки близька до вихідної шкали, і я не впевнений, чому це відбувається. Я також не впевнений, що формула для зворотного перетворення бета-коефіцієнта є корисною, як для 3-го (для терміну взаємодії). Перш ніж піти в божевільну алгебру, я думав, що попрошу поради ... $\beta$ $\beta$

regression data-transformation

— Домінік Комтуа
джерело

Як ви визначаєте

та

α_{o r i g}

$\alpha_{orig}$

β_{o r i g}

$\beta_{orig}$

— mar999

Як значення альфа-та бета-версії на оригінальній шкалі

— Домінік Комтуа

Але що це означає?

— mar999

Я б ризикнув чимось на кшталт: оцінки, які ми отримаємо, - це оригінальні дані, придатні до лінійної регресії.

— Домінік Комтуа

Мені це здається безглуздою концепцією. Я згоден з відповіддю Гунга.

— mark999

Відповіді:

Одна проблема полягає в тому, що ви написали

Y = α + β \cdot X

$Y=α+β⋅X$

Це проста детермінована (тобто невипадкова) модель. У такому випадку ви могли б перетворити коефіцієнти на початкову шкалу, оскільки це лише питання простої алгебри. Але у звичайній регресії у вас є лише ; ви залишили термін помилки у вашій моделі. Якщо перетворення від назад до є нелінійним, у вас може виникнути проблема, оскільки $E(Y|X)=α+β⋅X$ $Y$ $Y_{orig}$ , загалом. Я думаю, що це може мати відношення до розбіжності, яку ви бачите. $E\big(f(X)\big)≠f\big(E(X)\big)$

Редагувати: Зауважте, що якщо перетворення лінійне, ви можете повернути перетворення, щоб отримати оцінки коефіцієнтів за початковою шкалою, оскільки очікування лінійне.

— Макрос
джерело

+1, щоб пояснити, чому ми не можемо перетворити бета-версії.

— gung - Відновіть Моніку

Я вітаю ваші зусилля тут, але ви гавкаєте неправильне дерево. Ви не повертаєте бета-версію для перетворення. Ваша модель утримується у світі перетворених даних. Якщо ви хочете , щоб зробити прогноз, наприклад, ви назад перетворення , але це так. Звичайно, ви також можете отримати інтервал передбачення, обчисливши високі та низькі граничні значення, а потім перетворіть їх також назад, але ні в якому разі не повертайте назад бета-версії. $\hat{y}_i$

— gung - Відновити Моніку
джерело

Що робити з того, що коефіцієнти зворотного перетворення наближаються до тих, що отримуються при моделюванні неперетвореної змінної? Чи не дозволяє це зробити певний висновок у вихідній шкалі?

— Домінік Комтуа

Я точно не знаю. Це може залежати від будь-якої кількості речей. Моя перша здогадка полягає в тому, що вам пощастило з вашою першою парою бета-версій, але тоді ваша удача закінчується. Я повинен погодитись w / @ mark999, що "оцінки, які ми отримали б оригінальними даними, придатними до лінійної регресії", насправді не мають сенсу; Я б хотів, щоб він це зробив і, схоже, спочатку почервонів, але, на жаль, це не так. І це не дає жодних висновків на оригінальній шкалі.

— gung - Відновіть Моніку

@gung для нелінійних перетворень (скажімо, box cox): я можу повернути перетворені пристосовані значення, а також інтервали прогнозування, але я не можу перетворити бета-версію чи інтервали коефіцієнтів для бета-версій. Чи варто мати на увазі якесь додаткове обмеження? btw, це дуже цікава тема, де я можу краще зрозуміти?

— mugen

@mugen, важко сказати, що ще слід знати. Можливо мати на увазі одне, що заднє перетворення y-hat дає вам умовну серединку, тоді як не-перетворена (bleck) y-hat - умовна середня. Крім цього, цей матеріал повинен бути охоплений у хорошому підручнику з регресії.

— gung - Відновіть Моніку

@mugen, ласкаво просимо. Не соромтеся задавати більше питань за допомогою звичайних механізмів (клацання ASK QUESTION); буде більше ресурсів для відповідей, ви отримаєте увагу більшої кількості резюме, і інформація буде краще доступною для нащадків.

— gung - Відновити Моніку