Початкова температура в алгоритмі імітованого відпалу

14

Я провів кілька тестувань різних початкових температур у своєму алгоритмі імітаційного відпалу і помітив, що стартова температура впливає на продуктивність алгоритму.

Чи є спосіб розрахунку хорошої початкової температури?

optimization artificial-intelligence heuristics

— Не визначено
джерело

2

Початкова температура має багато спільного з проблемною областю та іншими параметрами, які ви використовуєте для алгоритму спуску градієнта. Чи можете ви дати більше контексту?

— dhj

9

Як зазначив у коментарях Томас Клімпель, часто використовується певна ймовірність прийняття, яка дорівнює . Далі наведено простий ітеративний метод пошуку відповідної початкової температури, запропонований Бен-Амером у 2004 році [1]. Далі - строго позитивний перехід, і $0.8$ $t$ $\max_t$ $\min_t$ $\delta_t$ $E_{\max_t} - E_{\min_t}$ $\pi_{\min_t} \dfrac{1}{|N(\min_t)|}$ $t$

π_{i} = \frac{| N (i) | exp (- E_{i} / T)}{\sum_{j} | N (j) | \exp (- E_{j} / T)}

$\pi_i = \dfrac{|N(i)|\text{exp}(-E_i/T)}{\sum_j |N(j)| \exp(-E_j/T)}$ , де позначає набір сусідів .

N (i)

$N(i)$

i

$i$

Нарешті, - це ймовірність прийняття позитивного переходу . Тепер ми можемо мати оцінку ймовірності прийняття на основі "випадкового" безлічі позитивних переходів: $\text{exp}(-\delta_t/T)$ $t$ $\hat{\chi}$ $\chi(T)$ $S$

\begin{array}{rcl} \hat{χ} (Т) & = & \frac{\sum_{т \in S} π_{\underset{т}{хв}} \frac{1}{| N (\underset{т}{хв}) |} досвід (- δ_{т} / Т)}{\sum_{т \in S} π_{\underset{т}{хв}} \frac{1}{| N (\underset{т}{хв}) |}} \\ = & \frac{\sum_{т \in S} досвід (- Е_{\underset{т}{макс}} / Т)}{\sum_{т \in S} досвід (- Е_{\underset{т}{хв}} / Т)} . \end{array}

$\begin{eqnarray} \hat{\chi}(T) &=& \dfrac{\sum_{t \in S} \pi_{\min_t} \dfrac{1}{|N(\min_t)|} \text{exp}(- \delta_t / T)}{\sum_{t \in S} \pi_{\min_t} \dfrac{1}{|N(\min_t)|}} \\ &=& \dfrac{ \sum_{t \in S} \text{exp}(- E_{\max_t} / T) }{ \sum_{t \in S} \text{exp}(- E_{\min_t} / T) }. \end{eqnarray}$

Ми хочемо знайти температуру такою, що , де це ймовірність прийняття. $T_0$ $\chi(T_0) = \chi_0$ $\chi_0 \in ] 0,1 [$

$T_0$ обчислюється ітераційним методом. Деякі штати і сусід для кожної держави генерується. Це дає нам безліч переходів . Енергії і відповідають станам підмножини , зберігаються. Тоді вибирається значення для , яке може бути будь-яким позитивним значенням. Тоді знаходить за допомогою рекурсивної формули $S$ $E_{\max_t}$ $E_{\min_t}$ $S$ $T_1$ $T_0$

Т_{н + 1} = Т_{н} {\frac{\ln (\hat{χ} (Т_{н}))}{\ln (χ_{0})}}^{1 / p}

$T_{n+1} = T_n \dfrac{\ln(\hat{\chi}(T_n))}{\ln(\chi_0)}^{1/p}$ , де - дійсне число .

p

$p$

\geq 1

$\geq 1$

Коли наблизиться до ми можемо зупинитися. тепер є хорошим наближенням бажаної початкової температури . Щоб отримати більше пояснень, доказів та дискусій, див. Перший розділ оригіналу статті [1]. $\hat{\chi}(T_n)$ $\chi_0$ $T_n$ $T_0$

[1] Бен-Амюр, Валід. "Обчислення початкової температури імітованого відпалу." Обчислювальна оптимізація та програми 29, вип. 3 (2004): 369-385.

— Джухо
джерело

3

це дуже просунута тема, пов’язана з отриманням дуже жорстких оптимумів. наскільки я розумію, початкова температура зазвичай вважається частиною стратегії "температурного розкладу", щодо якої є глибоке дослідження. Іншими словами, і початковий температурний стан, і алгоритм зниження температури (який ви не згадуєте) впливають на загальні результати оптимізації. прості стратегії або евристики для обох часто дають хороші або "досить хороші" результати.

Однак є принаймні один документ, який вивчає початкову температуру самостійно. [1] Суть полягає в тому, що, якщо ви не займаєтесь дуже розвиненою роботою, трактувати початкову температуру як параметр проблеми та повторити різні початкові температури як частину загальної оптимізації [після того, як це дійсно впливає на результати], це дуже розумно і ймовірно поширена практика.

або навіть вибір початкової температури, що дає хороші результати, також є загальним (це може здатися дещо дивним; не часто, коли результати оптимізації проблемних екземплярів істотно відрізняються від "кращого" початкового температурного параметра, знайденого методом проб і помилок) . як вказував dhj, деякі проблеми будуть більш чутливі, ніж інші, до початкової температури.

[1] Обчислення початкової температури імітованого відпалу Бен-Амюр 2004

[2] Ефективний графік моделювання відпалу: відведення Lam & Delosme

[3] Контроль температури для імітованого відпалу Munakata & Nakamura

— взн
джерело

див. також перекреслений stackexchange

— vzn