Розмір кроку адаптивного градієнта, коли неможливо здійснити пошук рядка

У мене є об'єктивна функція залежна від значення , де є рішенням PDE. Я оптимізую за градієнтним спуском за початковою умовою PDE: . Тобто я оновлюю і потім мушу інтегрувати PDE для обчислення моєї залишкової. Це означає, що якби я здійснив пошук рядка для розміру кроку градієнта спуску (називаємо це ), для кожного потенційного значення я повинен був би знову інтегрувати PDE. $E$ $\phi(x, t = 1.0)$ $\phi(x, t)$ $E$ $\phi(x, t = 0.0)$ $\phi(x, t = 0.0)$ $\alpha$ $\alpha$

У моєму випадку це було б надзвичайно дорого. Чи є інший варіант розміру кроку адаптивного градієнта спуску?

Я не просто шукаю тут математично принципових схем (хоча, звичайно, це краще, якщо щось є), але буду задоволений усім, що, як правило, краще, ніж статичний крок.

Дякую!

optimization pde conjugate-gradient

— NLi10Me
джерело

Я не думаю, що я хочу змінити спосіб інтеграції PDE на даний момент, як на мене, це було б основним переписанням коду. Крім того, не стільки, що PDE є складним, а тим, що мені доводиться вирішувати його на дуже щільній сітці в просторі, оскільки мені потрібна дуже висока числова точність.

— NLi10Me

З іншого боку, метод BB (який я не був знайомий) здається досить непоганим; все, що я маю це зробити, щоб відстежувати стан і градієнт попередньої ітерації, і я отримую наближення другого порядку ... це здається дуже приємним. Однак деривація передбачає опуклу квадратику, і моя проблема майже точно не є. Хоча я, безумовно, знаходжу (і задоволений) місцевими, а не глобальними мінімумами. Чи знаєте ви, наскільки добре BB виступав у дуже високих задачах?

— NLi10Me

Я думаю, що я мав на увазі місцеві мінімуми, це те, що, поряд з місцевим мінімумом, функція не є приблизно квадратичною? Я думаю, що мій початковий стан достатньо близький до мінімуму, оскільки для багатьох випадків я отримую плавне зближення навіть зі статичним розміром кроку. Тож, хоч це дуже високий розмір, і взагалі, якщо врахувати весь простір пошуку, проблема неконвексована / не квадратична, чи може ББ все-таки бути хорошим вибором без пошуку рядків?

ϕ^{(0)} (x, t = 0.0)

$\phi^{(0)}(x, t = 0.0)$

— NLi10Me

Інші "інгредієнти" для це експериментальні дані зображення. намагається перевернути одне зображення, щоб "відповідати" іншому (вимірюється деяким відповідним функціоналом, таким як норма L2, інтегрована у вокселі). Для деяких пар зображень я отримую плавне зближення з (мій поточний вибір) статичним розміром кроку. Для інших пар зображень я отримую багато коливальних. Система повинна бути повністю автоматизована, тому я не можу повернутися назад і вручну редагувати розмір кроку для проблемних пар зображень.

E

$E$

ϕ (x, t = 1.0)

$\phi(x, t = 1.0)$

— NLi10Me

Правильно, мені доводиться вирішувати суміжну систему, щоб отримати градієнт (що є більш гнусною системою і займає більше часу). Гаразд, я думаю, я спробую BB із зворотним пошуком ліній. Дуже дякую за пораду; моїх радників часто важко знайти, і багато з них не зацікавлені у впровадженні настільки, як просто модель. Я вважаю, що числові методи є найважливішим компонентом для демонстрації того, чи є модель в першу чергу хорошою чи ні, тому ще раз дякую, я дуже ціную це.

— NLi10Me

Почну з загального зауваження: інформація першого порядку (тобто, використовуючи лише градієнти, що кодують нахил) може дати вам лише інформацію про спрямованість: це може сказати вам, що значення функції зменшується в напрямку пошуку, але не на скільки часу . Щоб вирішити, як далеко йти по напрямку пошуку, вам потрібна додаткова інформація (спуск градієнта з постійною довжиною кроку може вийти з ладу навіть при опуклих квадратичних задачах). Для цього у вас є два варіанти:

Використовуйте інформацію другого порядку (яка кодує кривизну), наприклад, використовуючи метод Ньютона замість спуску градієнта (для якого завжди можна використовувати довжину кроку досить близьку до мінімізатора). $1$
Пробні та помилкові (під якими я, звичайно, маю на увазі використання правильного пошуку в рядках, наприклад, Armijo).

Якщо, коли ви пишете, у вас немає доступу до другого похідного, і оцінювання функціональної функції є дуже дорогим, ваша єдина надія - це піти на компроміс: використовуйте достатню приблизну інформацію другого порядку, щоб отримати хорошу довжину кроку кандидата таким чином, що рядок для пошуку потрібні лише оцінки (тобто максимум (мала) константа, кратна зусиллям, необхідним для оцінки вашого градієнта). $\mathcal{O}(1)$

Однією з можливостей є використання довжини кроків Барзілай - Борвейна (див., Наприклад, Флетчер: Про метод Барзілай-Борвейна . Оптимізація та управління додатками, 235–256, Appl. Optim., 96, Springer, New York, 2005 ). Ідея полягає у використанні скінченної різниці наближення кривизни вздовж напрямку пошуку, щоб отримати оцінку розміру кроку. Зокрема, виберіть довільно, встановіть а потім для : $\alpha_0>0$ $g^0:=\nabla f(x^0)$ $k=0,...$

Встановіть і $s^k = -\alpha_k^{-1} g^k$ $x^{k+1}=x^k+s^k$
Оцініть і встановіть $g^{k+1}=\nabla f(x^{k+1})$ $y^k = g^{k+1}-g^{k}$
Установіть $\alpha_{k+1} = \frac{(y^k)^Ty^k}{(y^k)^Ts^k}$

Цей вибір може бути показаний для зближення (на практиці дуже швидко) для квадратичних функцій, але збіжність не є монотонною (тобто значення функції може бути більшим, ніж , але лише раз; див. сюжет на сторінці 10 у папері Флетчера). Для неквадратичних функцій вам потрібно поєднувати це з пошуком рядків, який потрібно змінити, щоб мати справу з немонотонністю. Однією з можливостей є вибір (наприклад, шляхом зворотного відстеження) таким, що де - типовий параметр Armijo і $f(x^{k+1})$ $f(x^k)$ $\sigma_k \in (0,\alpha_k^{-1})$

f (x^{k} - σ_{k} g^{k}) \leq max_{max (k - M, 1) \leq j \leq k} f (x^{j}) - γ σ_{k} (g^{k})^{T} g^{k},

$f(x^k - \sigma_k g^k) \leq \max_{\max(k-M,1)\leq j\leq k} f(x^j) - \gamma \sigma_k (g^k)^Tg^k,$

γ \in (0, 1)

$\gamma\in(0,1)$

M

$M$ контролює ступінь монотонності (наприклад, ). Існує також варіант, який використовує значення градієнта замість значень функції, але у вашому випадку градієнт оцінити навіть дорожче, ніж функцію, так що тут немає сенсу. (Примітка. Ви, звичайно, можете спробувати сліпо прийняти довжину кроків BB і довіряти вашій удачі, але якщо вам потрібна якась міцність - як ви писали у коментарях - це було б дуже поганою ідеєю.)

M = 10

$M=10$

Альтернативним (і, на мою думку, набагато кращим) підходом було б використання цього скінченного наближення різниці вже при обчисленні напрямку пошуку; це називається методом квазі-Ньютона . Ідея полягає в поступовому побудові апроксимації гессіанського , використовуючи різниці градієнтів. Наприклад, ви можете взяти (матриця ідентичності), а для вирішити і встановіть з як вище, і . (Це називається оновленням Бройдена $\nabla^2 f(x^k)$ $H_0=\mathrm{Id}$ $k=0,\dots$

\begin{matrix} (1) & H_{k} s^{k} = - g^{k}, \end{matrix}

$H_{k}s^{k} = -g^{k},\label{cc1}\tag{1}$

H_{k + 1} = H_{k} + \frac{(y^{k} - H_{k} s^{k})^{T} (s^{k})^{T}}{(s^{k})^{T} s^{k}}

$H_{k+1} = H_k + \frac{(y^k-H_ks^k)^T(s^k)^T}{(s^k)^Ts^k}$

y^{k}

$y^k$

x^{k + 1} = x^{k} + s^{k}

$x^{k+1} = x^k +s^k$ і рідко використовується на практиці; кращим, але трохи складнішим оновленням є оновлення BFGS , для якого - і більше інформації - я посилаюся на книгу Нумедала та Райт Числова оптимізація .) Мінус полягає в тому, що а) для цього потрібно вирішити лінійну систему на кожному кроці (але тільки розмір невідомого, який у вашому випадку є початковою умовою, отже, зусилля повинні домінувати при вирішенні PDE, щоб отримати градієнт; також існують правила оновлення для наближень оберненого гессіана, які вимагають лише обчислення однієї матриці -векторний продукт) і б) вам все одно потрібен пошук рядків, щоб гарантувати конвергенцію ...

На щастя, в цьому контексті існує альтернативний підхід, який використовує кожну оцінку функції. Ідея полягає в тому, що для симетричного та позитивного визначеного (що гарантується для оновлення ) розв’язування еквівалентно мінімізації квадратичної моделі У методі області довіри ви зробите це з додатковим обмеженням, що , де - це належним чином обраний радіус області довіри (який відіграє роль довжини кроку ). Основна ідея полягає в тому, щоб вибрати цей радіус адаптивно, виходячи з обчисленого кроку. Зокрема, ви дивитесь на співвідношення $H_k$ $\eqref{cc1}$

q_{k} (s) = \frac{1}{2} s^{T} H_{k} s + s^{T} g^{k} .

$q_k(s) = \frac12 s^T H_k s + s^T g^k.$

‖ s ‖ \leq Δ_{k}

$\|s\| \leq \Delta_k$

Δ_{k}

$\Delta_k$

σ_{k}

$\sigma_k$

ρ_{k} := \frac{f (x^{k}) - f (x^{k} + s^{k})}{f (x^{k}) - q_{k} (s^{k})}

$\rho_k := \frac{f(x^k)-f(x^k+s^k)}{f(x^k)-q_k(s^k)}$ фактичного та передбачуваного зменшення значення функції. Якщо дуже маленький, ваша модель погана, і ви відкиньте і повторіть спробу з . Якщо близький до , ваша модель хороша, і ви встановлюєте і збільшуєте . Інакше ви просто встановите і залишите спокої. Для обчислення фактичного мінімізатора of

ρ_{k}

$\rho_k$

s^{k}

$s^k$

Δ_{k + 1} < Δ_{k}

$\Delta_{k+1}<\Delta_k$

ρ_{k}

$\rho_k$

1

$1$

x^{k + 1} = x^{k} + s^{k}

$x^{k+1}=x^k+s^k$

Δ_{k + 1} > Δ_{k}

$\Delta_{k+1}>\Delta_k$

x^{k + 1} = x^{k} + s^{k}

$x^{k+1}=x^k+s^k$

Δ_{k}

$\Delta_k$

s^{k}

$s^k$

min_{‖ s ‖ \leq Δ_{k}} q_{k} (s)

$\min_{\|s\|\leq \Delta_k} q_k(s)$ , існує кілька стратегій, щоб уникнути необхідності вирішення повної обмеженої проблеми оптимізації; мій улюблений - урізаний метод СГ Steihaug . Для більш детальної інформації я знову звертаюся до Ноцедала та Райт.

— Крістіан Класон
джерело

Я просто зараз на це знову дивлюся і розумію, що у мене є питання. На кроці третьому для методу BB у вас є ; де і . Чисельник та знаменник у виразі для виглядають як внутрішні добутки. У моєму випадку , де - векторний простір з нетривіальною римановою метрикою: K. Тобто . Чи впливає це на визначення ?

α_{k + 1} = \frac{(y^{k})^{T} y^{k}}{(y^{k})^{T} s^{k}}

$\alpha_{k+1} = \frac{(y^k)^Ty^k}{(y^k)^Ts^k}$

y^{k} = g^{k + 1} - g^{k}

$y^{k} = g^{k+1} - g^k$

s^{k} = - α_{k}^{- 1} g^{k}

$s^k = -\alpha_k^{-1}g^k$

α_{k + 1}

$\alpha_{k+1}$

g^{k} \in V^{*}

$g^k \in V^*$

V^{*}

$V^*$

⟨ g^{k}, g^{k} ⟩_{V^{*}} = ⟨ g^{k}, K g^{k} ⟩_{L_{2}}

$\langle g^k, g^k \rangle _{V^*} = \langle g^k, Kg^k \rangle_{L_2}$

α_{k + 1}

$\alpha_{k+1}$

— NLi10Me

Так, якщо у вас є нетривіальна векторна структура простору, ви повинні це дотримуватися в алгоритмах. Зокрема, слід розрізняти внутрішні добутки двох функцій в одному просторі (наприклад, і ) та продукти подвійності між функцією в просторі і одиницею в подвійному просторі (наприклад, і ) - для останнього вам потрібно включити відображення Riesz, щоб перетворити його спочатку на внутрішній продукт. (Це можна трактувати як попередню умову.)

y^{k}

$y^k$

y^{k}

$y^k$

s^{k}

$s^k$

y^{k}

$y^k$

— Крістіан Класон

Докторе Класоне, я подаю документ до ISBI 2017, в якому детально описую деякі експерименти, які я здійснив, використовуючи метод пошуку лінії BB + для виконання завдання щодо реєстрації диференційованих зображень. Чи хотіли б ви бути автором включені до рукопису? Я ще цього не написав, але я маю більшість експериментів як завершених, так і триваючих. Будь ласка, дай мені знати.

— NLi10Me

@ NLi10Me Дякую за добру пропозицію, але я не зробив нічого, що заслуговувало б співавторства - все, що я написав, є стандартним матеріалом підручника. Якщо ви сильно ставитесь до цього, ви можете подякувати мені за "корисні зауваження щодо (що б це не допомогло)", але навіть не те, що потрібно. Знаючи, що те, що я написав, було корисним, достатньо!

— Крістіан Класон

Вибачте, ви маєте рацію, це виправлена помилка! (Умова Armijo часто записується як , де - напрямок пошуку - не обов'язково від'ємний градієнт - і розмір кроку, який повинен зрозуміти, що відбувається.)

f (x + σ s) - f (x) \leq γ \nabla f (x)^{T} (σ s)

$f(x+\sigma s) - f(x) \leq \gamma\nabla f(x)^T(\sigma s)$

s

$s$

σ

$\sigma$

— Крістіан Класон