Як обчислити смуги прогнозування для нелінійної регресії?

Сторінка довідки для призми дає наступне пояснення того, як вона обчислює смуги прогнозування для нелінійної регресії. Вибачте, будь ласка, довгу цитату, але я не дотримуюся другого абзацу (це пояснює, як визначено $G|x$ і $dY/dP$ обчислюється). Будь-яка допомога буде дуже вдячна.

Розрахунок смуг довіри та прогнозування є досить стандартним. Прочитайте детальніше про те, як Призм обчислює смуги прогнозування та довіри нелінійної регресії.

Спочатку визначимо G | x, який є градієнтом параметрів при певному значенні X та використовуючи всі найкращі значення параметрів. Результат - вектор, з одним елементом на параметр. Для кожного параметра він визначається як dY / dP, де Y - значення Y кривої з урахуванням конкретного значення X та всіх значень параметрів, що найкраще підходять, а P - один із параметрів.)

G '| x - перенесений вектор градієнта, тож це стовпець, а не ряд значень.

Cov - матриця коваріації (перевернута Гессіана від останньої ітерації). Це квадратна матриця з кількістю рядків і стовпців, що дорівнює кількості параметрів. Кожен елемент матриці є коваріацією між двома параметрами.

Тепер обчисліть c = G '| x * Cov * G | x. Результат - це єдине число для будь-якого значення X.

Діапазони достовірності та прогнозування зосереджені на кривій найкращого прилягання, а над кривою і нижче кривої на рівну суму.

Діапазони довіри простягаються вище та нижче кривої на: = sqrt (c) * sqrt (SS / DF) * CriticalT (Довіра%, DF)

Діапазони прогнозування простягаються на подальшу відстань вище та нижче кривої, що дорівнює: = sqrt (c + 1) * sqrt (SS / DF) * CriticalT (впевненість,%, DF)

Це називається методом Дельта.

Припустимо, у вас є деяка функція ; зауважте, що G ( ⋅ ) - це функція параметрів, які ви оцінюєте, β , і значень ваших прогнозів, x . Спочатку знайдіть похідну цієї функції щодо вашого вектора параметрів, β : G ′ ( β , x $y = G(\beta,x) + \epsilon$$G(\cdot)$$\beta$$x$$\beta$$G^\prime(\beta, x)$. Це говорить, якщо змінити параметр трохи, наскільки зміниться ваша функція? Зауважте, що ця похідна може бути функцією самих ваших параметрів, а також прогнозів. Наприклад, якщо , то похідною є x exp ( β x ) , що залежить від значення β та значення x . Щоб оцінити це, ви підключаєте в оцінці р тому , що процедура дає, р , а значення прогнозуючої $G(\beta,x) = \exp (\beta x)$$x \exp (\beta x)$$\beta$$x$$\beta$$\hat{\beta}$$x$ де потрібно прогнозування.

Дельта Метод, отриманий з максимальних процедур правдоподібності, стверджує , що дисперсія буде G ' ( β , х ) Т вар ( β ) G ' ( β , х ) , де вар ( β$G\left(\hat{\beta}, x\right)$

$$G^\prime\left(\hat{\beta},x\right)^T \text{Var}\left(\hat{\beta}\right) G^\prime\left(\hat{\beta},x\right),$$ $\text{Var}\left(\hat{\beta}\right)$є дисперсійно-коваріаційною матрицею ваших оцінок (це дорівнює оберненій Гессі --- другий похідний функції ймовірності за вашими оцінками). Функція, яку використовують ваші статистичні пакети, обчислює це значення для кожного різного значення предиктора . Це просто число, а не вектор, для кожного значення x .$x$$x$

Це дає дисперсію значення функції в кожній точці, і вона використовується так само, як і будь-яка інша дисперсія при обчисленні довірчих інтервалів: візьміть квадратний корінь цього значення, помножте на критичне значення для нормального чи застосовного розподілу t, відповідного для a конкретного рівня довіри, і додайте та відніміть це значення до оцінки у точці.$G(\cdot)$

Для інтервалів прогнозування нам потрібно врахувати дисперсію результату, враховуючи прогнози , Var ( y ∣ x ) ≡ σ 2 . Отже, ми повинні збільшити нашу дисперсію від методу Delta нашої оцінки дисперсії е , σ 2 , щоб отримати дисперсію у , а не дисперсію очікуваної величини у , яка використовується для довірчих інтервалів. Зауважимо , що σ 2 являє собою суму квадратів помилок ( в довідковому файлі нотації) , розділена на ступенів свободи ( ).$x$$\text{Var}(y \mid x) \equiv \sigma^2$$\epsilon$$\hat{\sigma}^2$$y$$y$$\hat{\sigma}^2$SSDF

c$\sigma^2$$\sigma^{-2}$$\sigma$c*SS/DF

c$\left(x^\prime x\right)^{-1}$$\text{Var}\left(\hat{\beta}\right) = \sigma^2 \left(x^\prime x\right)^{-1}$