Корінна знахідка для стохастичної функції

Припустимо, у нас є функція $f(x)$ яку ми можемо спостерігати лише через деякий шум. Ми не можемо обчислити $f(x)$ безпосередньо, тільки $f(x) + \eta$ де - якийсь випадковий шум. (На практиці: я обчислюю використовуючи деякий метод Монте-Карло.) $\eta$ $f(x)$

Які методи доступні для знаходження коренів , тобто обчислення так, що ? $f$ $x$ $f(x) = 0$

Я шукаю методи, які мінімізують кількість оцінок, необхідних для , оскільки це обчислювально дорого. $f(x)+\eta$

Мене особливо цікавлять методи, які узагальнюють до кількох вимірів (тобто вирішують ). $f(x,y) = 0, g(x,y) = 0$

Мене також цікавлять методи, які можуть використовувати деяку інформацію про дисперсію , оскільки оцінка цього може бути доступна при обчисленні за допомогою MCMC. $\eta$ $f(x)$

approximation

— Саболч
джерело

Я не впевнений, які правильні теги для цього питання, будь ласка, допоможіть у повторному тегуванні.

— Szabolcs

Справедливо кажучи, я знайшов стохастичне наближення , але дуже мало практичної інформації з прикладами або практичним обговоренням того, коли воно працює добре, а коли - ні. Більшість інформації знаходиться в наукових роботах, які, як видається, потребують небагато роботи, щоб перетворити їх у практичну програму. Ще одна річ, яку я знайшов - це ключове слово, вірогідне оцінювання, яке вирішує дуже подібну проблему, і в Інтернеті є більше практичної інформації. Є ще щось? Довідники вітаються!

— Szabolcs

цікава проблема. я гадаю, всі градієнтні методи виходять у вікно

— Аксакал

також у вашому випадку проблема складніша: ви можете керувати

через MC

v a r [η]

$var[\eta]$

— Aksakal

Я додам додаткових 50 до багатства Glen_b за гарну відповідь.

— Szabolcs

Наступні посилання можуть бути корисними:

Пасупатія, Р. та Кім, С. (2011) Стохастична коренева проблема: огляд, рішення та відкриті запитання. Угоди ACM з моделювання та комп'ютерного моделювання, 21 (3). [ DOI ] [ додрук ]

Waeber, R. (2013) Імовірнісний пошук розбиття для стохастичного кореневого пошуку. Кандидатська дисертація, Університет Корнелла, Ітака. [ pdf ]

— QuantIbex
джерело

(+1) На питання, відповіте цитатами дисертації з 2013 року, досить приголомшливо.

— Sycorax каже, що повернеться до Моніки

— Гугл

Перший документ, який ви цитуєте, є корисним, але слід зазначити, що для втілення методів у практику ще потрібно багато роботи.

— Сабольч

Було б дуже приємно, якби хтось, хто пройшов методи, міг дати оцінку, скільки роботи потрібно, щоб перейти від паперу до найпростішої реалізації. Поглянув на перший папір і він здається досить щільним.

— Рамон Мартінес

Я думаю, що для таких проблем можна використовувати стохастичний градієнтний спуск, див., Наприклад, finzi.psych.upenn.edu/R/library/sgd/html/sgd.html

— Том Вензелерс