Залишки завантаження: Чи я це роблю правильно?

Насамперед: З того, що я зрозумів, залишкові завантажувальні роботи залишаються таким чином:

1. Підходить модель до даних
2. Обчисліть залишки
3. Перекомпонуйте залишки та додайте їх до 1.
4. Підібрати модель до нового набору даних з 3.
5. Повторіть nрази, але завжди додайте залишки, що перекомпоновані, у відповідність з 1.

Чи правильно це поки що?

Що я хочу зробити, це щось трохи інше:

Я хочу оцінити невизначеність параметрів та прогнозування для алгоритму, який оцінює деяку змінну середовища.

У мене є часовий ряд без помилок (від моделювання) цієї змінної x_true, до якої я додаю шум, x_noiseщоб створити синтетичний набір даних x. Потім я намагаюся знайти оптимальні параметри, встановлюючи мій алгоритм сумою квадратів sum((x_estimate - x_true)^2)(! Не x_estimate - x!) Як цільову функцію. Для того, щоб побачити, як працює мій алгоритм, і створити зразки розподілу моїх параметрів, я хочу перевпорядкувати x_noise, додати його x_true, знову підходити до своєї моделі, промивати та повторювати. Це правильний підхід до оцінки невизначеності параметрів? Чи можу я інтерпретувати пристосування до завантажених наборів даних як невизначеність прогнозування, чи потрібно дотримуватися процедури, яку я розмістив вище?

/ редагувати: Я думаю, я не дуже зрозумів, що робить моя модель. Подумайте про це, як по суті, як про метод знеструмлення. Це не прогностична модель, це алгоритм, який намагається отримати основний сигнал шумних часових рядів даних про навколишнє середовище.

/ edit ^ 2: Для користувачів MATLAB там я записав короткий та брудний приклад лінійної регресії того, що я маю на увазі.

Це те, що я вважаю "звичайним" завантаженням залишків (будь ласка, виправте мене, якщо я помиляюся): http://pastebin.com/C0CJp3d1

Це те, що я хочу зробити: http://pastebin.com/mbapsz4c

Ось загальний (напівпараметричний-завантажувальний) алгоритм більш докладно:

$\text{B}$ = кількість завантажувальних програм

модель:
$y = x\beta + \epsilon$

нехай є залишками$\hat{\epsilon}$

1. Запустіть регресію та отримайте оцінювач (і) та залишки .$\hat\beta$$\hat\epsilon$
2. Перекомпонуйте залишки із заміною та отримайте залишковий завантажений залишковий вектор .$\hat\epsilon_\text{B}$
3. Отримайте залежну змінну, завантажену завантаженням, помноживши оцінювач (и) на (1) з вихідними регресорами та додавши залишковий завантажений залишок: .$y_\text{B} = x\hat\beta + \hat\epsilon_\text{B}$
4. Запустіть регресію за допомогою залежних змінних, що завантажуються, та оригінальних регресорів, це дає оцінювач завантаження, тобто регрес на , це дає .$y_B$$x$$\hat\beta_\text{B}$
5. Повторіть процедуру -раз, повернувшись до (2).$\text{B}$

Я не впевнений, що моє розуміння правильне. Але ось моя пропозиція змінити ваш код ("звичайне завантаження залишків", рядки 28-34) на:

for i = 2:n_boot  
x_res_boot = x_residuals( randi(n_data,n_data,1) );  
x_boot = x_res_boot+ x_best_fit;  
p_est(:, i) = polyfit( t, x_boot, 1 );  
x_best_fit2 = polyval( p_est(:, i), t );  
x_residuals = x_best_fit2 - x_boot;
x_best_fit=x_best_fit2;
end  

Ідея полягає в тому, що кожен раз, коли ви використовуєте залишки не з першого запуску, а з попереднього придатного завантажувача. Що стосується мене, то, здається, всі інші справедливі.

Це переглянута версія, яка була перевірена в MATLAB. Виправлено дві помилки.

Щоб побачити, як працює алгоритм з точки зору точності прогнозування / середньої квадратичної помилки, вам, ймовірно, потрібна завантажувальна програма «оптимізму» Efron-Gong. Це реалізовано для зручного використання в rmsпакеті R. Див своїх функцій ols, validate.ols, calibrate.