Математична оптимізація на галасливій функції

Нехай - функція, яка є досить приємною (наприклад, безперервна, диференційована, не надто багато локальних максимумів, можливо, увігнута тощо). Я хочу знайти максимум f : значення x ∈ R d, що робить f ( x ) якомога більшим.$f:\mathbb{R}^d \to \mathbb{R}$$f$$x \in \mathbb{R}^d$$f(x)$

Якби у мене була процедура точно оцінювати на будь-якому моєму вході, я міг би використати стандартні методи математичної оптимізації : сходження на гірку, спуск по градієнту (ну, градієнтне сходження) тощо. Однак у моїй заяві у мене немає спосіб точно оцінити f ( x ) . Натомість у мене є спосіб оцінити значення f ( x ) .$f$$f(x)$$f(x)$

Зокрема, з урахуванням будь-якого і будь-якого ε , у мене є оракул, який видасть оцінку f ( x ) , і очікувана помилка якої приблизно ε . Час запуску цього оракул виклику пропорційний 1 / ε 2 . (Він реалізується за допомогою свого роду моделювання; точність моделювання зростає з квадратним коренем кількості випробувань, і я можу вибрати, скільки випробувань провести, щоб я міг вибрати бажану точність.) Отже, це дає мені спосіб отримати оцінку будь-якої точності, яку я бажаю, але чим точнішою я хочу бути, тим довше мені знадобиться.$x$$\varepsilon$$f(x)$$\varepsilon$$1/\varepsilon^2$

Враховуючи цей галасливий оракул для , чи існують методи для обчислення максимумів f якомога ефективніше? (Або, точніше, знаходження приблизних максимумів.) Чи існують варіанти сходження на пагорби, схил градієнта тощо, які працюють у цій моделі?$f$$f$

Звичайно, я міг зафіксувати дуже мале значення і застосувати сходження на схил або схил по схилу за допомогою цього оракула, зберігаючи однакове ε протягом усього часу. Однак це може виявитися невиправдано неефективним: нам може не знадобитися така точна оцінка з самого початку, тоді як точність біля кінця, коли ви занурюєтесь у рішення, важливіша. То чи є якийсь спосіб скористатися моєю здатністю динамічно контролювати точність моєї оцінки, щоб зробити процес оптимізації більш ефективним? Чи вивчали цю проблему раніше?$\varepsilon$$\varepsilon$

Точну функцію можна замінити на шумну функцію f ( x + Δ x , p + Δ p ) , де p - штучний параметр, який використовується для опису залежності шуму, таким, що Δ x і Δ p містять шум.$f(x,p)$$f(x+\Delta x, p + \Delta p)$$p$$\Delta x$$\Delta p$

• Можуть бути застосовані деякі методи, що застосовуються для стохастичної оптимізації та надійної оптимізації .
• Тому що поблизу максимумів,Δxменш небезпечний, ніжΔp.$\frac{\partial f}{\partial x}\approx 0$$\Delta x$$\Delta p$
• Іноді можна точно оцінити при оцінціf( ˜ x , ˜ p ). Часто це справедливо лише в теорії, оскільки воно не реалізоване, а деякі частини потребують особливого догляду.$\frac{\partial f}{\partial x}(\tilde{x}, \tilde{p})$$f(\tilde{x}, \tilde{p})$
• Бажана "малість" (і Δ x ) - рішення "кінцевого споживача". Можна запропонувати евристику для управління нею, але час виконання, пропорційний 1 / ϵ 2 , занадто повільний, щоб повністю автоматично керувати точністю.$\Delta p$$\Delta x$$1/\epsilon^2$
• Даний шум проти виконуваного часу - це те, що відрізняє цю проблему від краще вивчених проблем. Проблеми полягали в тому, що шум просто неминучий, вони більш поширені і краще вивчені.