Використання MCMC для оцінки очікуваного значення високовимірної функції

Я працюю над дослідницьким проектом, пов’язаним з оптимізацією, і нещодавно виникла ідея використовувати MCMC у цій обстановці. На жаль, я досить новачок у методах MCMC, тому у мене виникло кілька питань. Почну з опису проблеми, а потім задаю свої запитання.

Наша проблема зводиться до оцінки очікуваного значення функції витрат де - -розмірна випадкова величина з щільністю .ω = ( ω 1 , Q , 2 , . . . ω ч ) ч е ( ω $c(\omega)$$\omega = (\omega_1,\omega_2,...\omega_h)$$h$$f(\omega)$

У нашому випадку версії із закритою формою не існує. Це означає, що нам доведеться використовувати методи Монте-Карло для наближення очікуваного значення. На жаль, виявляється, що оцінки , які генеруються за допомогою методів MC або QMC, мають занадто велику дисперсію, щоб бути корисною в практичних умовах.E [ c ( ω ) $c(\omega)$$E[c(\omega)]$

Одна з думок, що нам довелося використовувати розподіл важливості вибірки для створення точок вибірки, які дадуть низьку оцінку дисперсії . У нашому випадку ідеальне значення розподілу вибірки, , повинно бути приблизно пропорційним . Бачачи, як відомий до постійної величини, мені цікаво, чи можу я використовувати MCMC разом із розподілом пропозиції щоб в кінцевому підсумку генерувати зразки .g ( ω ) c ( ω ) f ( ω ) g ( ω ) c ( ω ) f ( ω ) g ( ω $E[c(\omega)]$$g(\omega)$$c(\omega)f(\omega)$$g(\omega)$$c(\omega)f(\omega)$$g(\omega)$

Мої запитання тут:

• Чи можна використовувати MCMC в рамках цього налаштування? Якщо так, який метод MCMC був би доречним? Я працюю в MATLAB, тому я віддаю перевагу тому, що вже має реалізацію MATLAB.

• Чи є якісь методи, якими я можу скористатися для прискорення періоду спалювання для MCMC. І як я можу сказати, що стаціонарний розподіл досягнуто? У цьому випадку для обчислення для даної фактично потрібно небагато часу .$c(\omega)$$\omega$

Я завжди пам’ятаю, що MCMC - це лише інструмент чисельної інтеграції (і досить неефективний). Це не якась магія / містична річ. Це дуже корисно, оскільки його досить просто застосувати. Це не вимагає багато роздумів порівняно з деякими іншими методами чисельної інтеграції. Наприклад, вам не потрібно робити жодних похідних. Вам потрібно генерувати лише "випадкові числа".

Однак, як і будь-який чисельний метод інтеграції, це не універсальний інструмент спіймання всіх. Є умови, коли це корисно, і умови, коли це не так.

Можливо, буде розумніше налаштувати іншу техніку. Залежно від великої і швидкості роботи комп'ютера та скільки часу ви готові чекати результатів. Рівномірна сітка може зробити цю роботу (хоча для цього потрібні невеликі години або велика кількість очікування). "Робота" полягає в оцінці інтеграла - рівняння не байдуже, який сенс ви чи я додаєте до результату (і, отже, не байдуже, отримали ми результат випадковим чином чи ні).$h$$h$

Крім того, якщо ваші оцінки досить точні, f ( ω ) буде різко досягнутий пік і буде дуже нагадувати дельта-функцію, тому інтеграл ефективно замінює ω → ω m a x .$\omega$$f(\omega)$$\omega\rightarrow\omega_{max}$

$f(\omega)\approx f(\omega_{max})+(\omega-\omega_{max})f'(\omega_{max})+\frac{1}{2}(\omega-\omega_{max})^{2}f''(\omega_{max})+\dots$

Це корисна стратегія, коли моменти легко виходять.$\omega$

У Едвіна Джейнеса приємна цитата на це:

всякий раз, коли існує рандомізований спосіб робити щось, існує не рандомізований спосіб, який дає кращі результати, але вимагає більше мислення

Один з "більш мислячих" способів - використовувати "стратифікований MCMC", щоб зробити інтеграл. Тому замість того, щоб "випадковим чином" вибрати місце на всьому просторі параметрів: розділіть його на "прошарки". Ці "прошарки" слід підібрати так, щоб ви отримали хороший діапазон високої частини інтеграла. Потім вибірково відбирають вибірку в межах кожного шару. Але для цього знадобиться написати власний код, який я б вважав (тобто більше міркував).

Немає жодних ознак того, що ваші змінні тут корелюють, тому я не знаю, чому б ви використовували MCMC на відміну від звичайного Монте-Карло. Існує багато різних методів відбору проб, включаючи згаданий стратифікований відбір проб (латинська гіперкуба) та QMC. Методи розрідженої квадратури дуже хороші, якщо розмірність задачі не надто висока (не більше 10), оскільки розрізнені квадратурні сітки ростуть геометрично (прокляття розмірності).

Але це здається, що ви на правильному шляху щодо важливості вибірки. Ключовим тут є вибір упередженого розподілу, який має велику ймовірність, зосереджений поблизу вашого регіону, що цікавить, і який має більш товсті хвости, ніж номінальний розподіл.

Я хотів би додати, що це відкрита дослідницька проблема, тому, якщо ви можете придумати щось хороше, це зацікавило б громаду!

Оскільки, схоже, ніхто не відповідає безпосередньо на питання: так, ви можете використовувати MCMC для вибірки з . MCMC можна використовувати для вибірки з будь-якого розподілу, де розподіл відомий лише до постійної пропорційності.$g(\omega)$

Крім того, ви можете шукати методи зменшення дисперсії у полі інтеграції MC. Чудовим набором ресурсів є безкоштовні розділи книг, доступні від Art Owen у Стенфорді. Зокрема, глави 8, 9 та 10.

Там ви знайдете поглиблене лікування адаптивного відбору проб, рекурсії та інших методик.