Легко зрозумілий аргумент про те, що звичайні методи Runge

Наївним підходом до розв’язання стохастичних диференціальних рівнянь (SDE) був би:

скористатися звичайним багатоступеневим методом Рунге-Кутта,
використовувати достатньо тонку дискретизацію основного процесу Вінера,
зробити кожен крок методу Рунге – Кутта аналогічним Ейлеру – Маруямі.

Тепер це не вдається на кількох рівнях, і я розумію, чому. Однак тепер я маю на меті переконати людей у цьому факті, які мало знають про методи Рунге-Кутти та стохастичні диференціальні рівняння. Усі аргументи, про які я усвідомлюю, - це ніщо, з чим я можу добре спілкуватися в даному контексті. Отже, я шукаю легко зрозумілий аргумент, що вищезазначений підхід приречений.

runge-kutta education stochastic-ode

— Wrzlprmft
джерело

@BiswajitBanerjee: Я це усвідомлюю і дійсно не стверджую, що я зрозумів це якомога глибше. Але я не думаю, що надання всіх аргументів тут покращить відповідь, оскільки ті, хто може надати відповідь, про них знають. Більше того, цей випадок є дещо особливим, оскільки йдеться про пояснення, чому щось не працює, на що, природно, є багато відповідей, починаючи з того, що "ми це перевірили, і це не вдалося".

— Wrzlprmft

Я говорив не про експертів зі стохастичних ODE, а про середнього читача, який розуміє випадкові змінні та РК, коли я сказав "ми". Однак я не буду вас більше турбувати, якщо ви не хочете навести приклад свого мислення.

— Biswajit Banerjee

Візьмемо стохастичне диференціальне рівняння:

Х_{т} = f (т, Х_{т}) г т + г (т, Х_{т}) г W_{т}

$X_t = f(t,X_t)dt + g(t,X_t)dW_t$

Ось кілька різних аргументів, які призводять до інтуїтивного розуміння того, чому необхідна математика за методами вищого порядку. Я буду обговорювати з точки зору сильного порядку, що те саме, що сказати "для даного броунівського руху $W(t)$ , наскільки добре числовий інтеграл вирішує цю траєкторію? "

Правильність рівняння

Перш за все, запропонований вами метод не враховує той факт $X_t$ не є постійно диференційованим. Насправді, ви можете використовувати результати Росслера, щоб показати, що розширення звичайних методів РК, як ви запропонували, призведе до конвергентних методів, але вони матимуть лише сильний порядок 0,5. Причина полягає в тому, що вони були отримані за допомогою обчислення з $X_t$ бути диференційованим і мати серію Тейлора. Броунівський рух не є диференційованим, а натомість має тривалість Холдера $\alpha < 0.5$ як

Однак, як і в теорії збурень, процеси, які є недостатньо регулярними, не розширюються з точки зору серії Тейлора, але з регулярністю Холдера $\alpha$ їх можна розширити з точки зору серії Puiseux з термінами $\alpha$ , тобто для броунівського руху існує розширення до поняття серії Тейлора, яке розгорнуте в плані чогось подібного $\frac{1}{2}$ похідні. Як і в звичайному обчисленні, перший термін - це "лінійний термін", тобто зміна $dt$ до $\Delta t$ і $dW_t$ до $N(0,dt)$ і ви щось розумієте правильно. Ось чому методи, включаючи такі речі, як Ейлер-Маруяма, зближуються із сильним порядком 0,5: вони отримують перший член у серії Тейлора правильним. Однак умови вищого порядку повинні виправляти той факт $X_t$ не є постійно диференційованим, через що звичайні методи не роблять цього.

Миттєві кореляції та ітеровані інтеграли

Це швидке евристичне пояснення, але в цьому є трохи більше. Давайте розглянемо кілька інших деталей. Серія Тейлора - це не просто розширення з точки зору похідних, але це також може вважатися числом термінів вищого порядку для інтеграції. $X_t = X_0 + \Delta t f(t,X_t)$ інтегрується один раз. Але якщо ви додасте $dt^2$ Термін, щоб визначити правильність одиниць, потрібно зробити подвійні інтеграли. $dt^2$ легко інтегрувати двічі, але що таке $dW_t^i dW_t^j$ ? Це миттєві співвідношення між броунівськими рухами. Вам потрібно знати це для обчислення подвійного інтеграла. Якщо ви дивитесь лише на середні показники, можете зняти це. Але в будь-якій траєкторії є кореляції між різними броунівськими рухами системи диференціальних рівнянь. Якщо припустити, що немає кореляційних зв'язків між броунівськими рухами, це ще один спосіб характеризувати розширення Маруями детермінованих методів, але щоб отримати наступний член у серії (термін 1,0), ви повинні отримати це право. Виправлення Мільштейна саме додає ці кореляційні терміни. Коли шум є діагональним, це рівнозначно розумінню того, що кореляції, крім самого себе, немає, але кореляція з самими собою - це лише дисперсія, яка є $dt$ , і тому має бути виправлення $dW_t^2$ проти $dt$ , тобто $dW^2 - dt$ . Коли виникає недіагональний шум, ці подвійні інтеграли повинні бути наближені таким чином, щоб враховувати миттєві кореляції броунівських рухів, і загальне наближення тут є наближенням Вікторссона, і саме це робить недіагональне моделювання шуму настільки складним (оскільки немає навіть аналітичного рішення для подвійних інтегралів).

Середній ефект дифузії

Але це призводить нас до іншого способу мислення щодо проблеми. Думаючи про розширення з точки зору моментів, в деякому евристичному сенсі термін першого порядку, сильний порядок 1,0 або $\mathcal{O}(\Delta t)$ Термін, повинен мати правильні середні рухи, правда? Ось питання: від чого похідна $g$ вчасно? Найпростішою відповіддю було б визначити похідну нормальним способом:

але це насправді не правильно під час розміщення $g$ в контекст SDE. Якщо ми подумаємо про похідну від $g$ з точки зору того, наскільки це змінюється $X_t$ , це не завжди в середньому вказує в одному напрямку, оскільки він завжди множиться на цей випадковий коефіцієнт $dW_t$ . Питання: який середній розмір у цьому $dW_t$ ? Дифузія має зміни в середньому за шкалою $\sqrt{\Delta t}$ , так що насправді це впливає $g(t,X_t)$ є більше схожий

\frac{г (т + Δ т, Х_{т + Δ т}) - г (т, Х_{т})}{\sqrt{Δ т}}

$\frac{g(t+\Delta t,X_{t+\Delta t}) - g(t,X_t)}{\sqrt{\Delta t}}$

Ви можете більш жорстко показати, що числова похідна повинна бути такою $X_{t + \Delta t} = X_t + g(t,X_t)\sqrt{\Delta t}$ як "провісник вперед у часі".

Але інтуїтивно це просто розуміння середнього ефекту, який $g$ має на траєкторії с $X_t$ : о $g(t,X_t)\sqrt{\Delta t}$ . У методі Рунге-Кутта - внутрішній крок за часом $c_i$ повинно бути наближенням значення $X_{t + c_i\Delta t}$ Але навіть з цього швидкого фізичного евристичного аргументу про дифузію ми бачимо, що просте розширення методу Рунге-Кутти вже в середньому неправильне: це неправильно $g(t,X_t)\sqrt{c_i \Delta t}$ це ще один спосіб пояснити, чому це максимум сильний порядок 0,5 (дивно, що методи все ще працюють! Але ви можете віднести це до того, що сума етапів у методі RK повинна бути 1, і ця помилка дещо скасовується вихід). Цікаво, що цей евристичний аргумент йде досить глибоко, оскільки стохастичні методи Рунге-Кутти вищого порядку, такі як Росслер, мають виправлення, які точно пов'язані з $g(t,X_t)\sqrt{\Delta t}$ .

Висновок

Це 3 різні евристичні способи зрозуміти, чому вищі порядки повинні включати стохастичне обчислення. Вищі замовлення повинні враховувати той факт, що регулярність Холдера становить 1/2 і, отже, є додаткові терміни в серії Тейлора, вони повинні враховувати миттєві кореляції, і вони повинні принаймні враховувати середні ефекти терміну дифузії . В іншому випадку вони приречені не бути правильними $\mathcal{O}(\Delta t)$ , а натомість задовольняють лише "лінійне наближення" першого доданка і отримують $\mathcal{O}(\sqrt{\Delta t})$ .

Звичайно, за деяких обставин існують способи знайти відповідні узагальнення, які дають методи вищого порядку, але я залишу це як звисаюча нитка, тому що це один пункт статті, який я незабаром надсилаю. Сподіваюсь, це допомагає.

— Кріс Ракаукас
джерело

Легко зрозумілий аргумент про те, що звичайні методи Runge – Kutta не можна узагальнити до SDE?

Правильність рівняння

Миттєві кореляції та ітеровані інтеграли

Середній ефект дифузії

Висновок