Доказові твердження про генетичні алгоритми


56

Генетичні алгоритми не отримують особливої ​​тяги у світі теорії, але вони є досить добре використаним метагевристичним методом (метагевристичний я маю на увазі техніку, яка загалом застосовується для багатьох проблем, таких як відпал, спуск градієнта тощо). Насправді, GA-подібний метод є досить ефективним для Евклідової TSP на практиці.

Деякі метагевристики досить добре вивчені теоретично: є робота з локального пошуку та відпалу. Ми маємо досить гарне уявлення про те, як працює чергування оптимізації ( як k-засоби ). Але наскільки я знаю, про генетичні алгоритми нічого насправді не відомо.

Чи існує якась тверда алгоритмічна / складність теорія щодо поведінки генетичних алгоритмів, будь-яким способом, формою чи формою? Хоча я чув про такі речі, як теорія схем , я виключав би це з обговорення, виходячи з мого теперішнього розуміння області, оскільки вона не є особливо алгоритмічною (але я тут можу помилитися).


5
Дещо натхнення див. Також на стор. 25–29 слайдів FCRC 2007 Пападімітріу 2007 року .
Юкка Суомела

1
@Suresh: Я вважаю за краще вважати це питанням, а не відповіддю ; Я був би радий, якби хтось інший пережив проблеми, пояснивши конкретніше, що є результатом, про який Пападімітріу має на увазі слайди. :)
Jukka Suomela

1
ось поп-науковий переказ цього твору: tinyurl.com/2f39jrb
Suresh Venkat

1
Нещодавно я пройшов курс з GA, і мій галас щодо GA зменшився, коли я засвоїв теорему без вільного обіду: en.wikipedia.org/wiki/No_free_lunch_in_search_and_optimization
Олександру

1
Олександру, чому це? Має бути досить очевидним, що майже будь-яка техніка буде краща за інших в деяких випадках і гірша в інших. Ви справді вірили, що GA буде рівномірно кращим?
Рафаель

Відповіді:


29

Ю. Рабінович, А. Вігдерсон. Методи обмеження швидкості конвергенції генетичних алгоритмів. Алгоритми випадкових структур, т. 14, вип. 2, 111-138, 1999. (Також доступно на домашній сторінці Аві Вігдерсона )


Схоже, перша посилання є неіснуючою.
Джеремі Кун

@JeremyKun: Я просто спробував це, і це спрацювало чудово ... (Мені було б сумно, якщо дой-посилання вийшов з ладу,
переможивши

Я все ще отримую помилку "Сторінка не знайдена" від бібліотеки Wiley. Чи може це бути проблемою форматування / браузера?
Джеремі Кун

@JeremyKun: Можливо. Якщо у вас є доступ до MathSciNet, спробуйте замість цього посилання: ams.org/mathscinet-getitem?mr=1667317
Джошуа Грохов

Це не проблема, оскільки посилання на його домашню сторінку працює. Я просто намагався допомогти зробити цю відповідь кращою :)
Джеремі Кун

13

Погляньте на роботу Бенджаміна Доерра з групи «Алгоритми» Макса Планка (MPI). Вся справа в спробі внести доказовий внесок в еволюційні алгоритми.

Зокрема, Doerr спільно редагував відповідну недавню книгу « Теорія рандомізованої евристики пошуку»


1
Додавання посилання покращило б цю відповідь.
Дейв Кларк

10

Окрім роботи над імітованим відпалом, Інго Вегенер мав деякі теоретичні результати щодо еволюційних алгоритмів. Теза його аспіранта Дірк Sudholt також варто подивитися.


10

Чи знаєте ви цей документ:

Йенс Ягерскюппер. Поєднання Маркова-ланцюгового аналізу та аналізу дрейфу: Перезавантажений еволюційний алгоритм (1 + 1) про лінійні функції .

Він показує очікуваний час роботи для лінійних функцій для класу еволюційних алгоритмів.O(nlogn)


10

Протягом останнього десятиліття було досягнуто значного прогресу в аналізі еволюційних алгоритмів, оптимізації колоній мурашок та інших метагевристиках. Для опитування зверніться до Oliveto та ін. (2007) .


Пер Крістіан Лере я щойно переглядав вас і бачив вашу цікаву область, тому я хотів би запитати: чи вважаєте ви, що подібні інструменти можна використовувати для аналізу алгоритмів оптимізації колоній мурашок, а також питань "Природного алгоритму" Chazelle ( швидкість зближення зграї птахів)? Зараз методики Chazelle самі собі здаються острівчиками, і мені цікаво, чи є якась більша картина.
Аарон Стерлінг

2
Так, ці методи можуть бути адаптовані для аналізу часу виконання ACO. Нещодавно я був співавтором статті про ACO для проблеми MinCut. Також дивіться опитування Witt (2009): springerlink.com/content/3727x3255r1816g4 Я не знаю жодних поточних зв’язків цього дослідження з роботою Chazelle, але це, безумовно, варто вивчити.
Пер Крістіан Лере

7

Ловаш і Вемпала (спеціальний випуск J. Comp. System Sci. FOCS 2003) використовують варіант імітованого відпалу, щоб отримати кращий ( ) алгоритм обчислення обсягу опуклого тіла. Очевидно, що вони можуть довести щось про варіант, який вони використовують, щоб отримати доказову верхню межу загального алгоритму.O(n4)


1
ей, він повернувся :)
Суреш Венкат,

6

6

Також є документ від D. BHANDARI, CA MURTHY та SK PAL (на жаль, недоступний в Інтернеті), який забезпечує докази конвергенції за двома припущеннями:

  • Елітарний відбір: найкраще рішення покоління повинно бути в поколінніt + 1tt+1
  • Оператор мутації дозволяє переходити від будь-якого рішення до іншого в кінцевій кількості кроків

Доказ конвергенції використовує модель ланцюга Маркова.

Тут посилання: Дінабандху Бхандарі, Каліфорнія Мурті: Генетичний алгоритм з елітарною моделлю та його конвергенція. IJPRAI 10 (6): 731-747 (1996)


6

Математичні моделі генетичних алгоритмів з кінцевими, але не унітарними популяціями є непростими, і до цих пір доведено, що вони не піддаються аналізу для всіх, крім самих тривіальних функцій фітнесу. Цікаво, що якщо ви готові прийняти аргумент симетрії , аргумент, інакше кажучи, не зроблений у межах формальної аксіоматичної системи, то має бути захоплюючий і прекрасний результат щодо обчислювальної сили генетичних алгоритмів.

Зокрема, генетичний алгоритм з рівномірним кросовер здатний оцінювати велику кількість розділів грубої схеми неявно і паралельно, і може ефективно ідентифікувати розділи, складові схеми яких відрізняються середніми значеннями придатності. Ця форма неявного паралелізму насправді є більш потужною, ніж описана Джоном Голландом та його учнями, і на відміну від неявного паралелізму, описаного Голландією, може бути перевірена експериментальним шляхом. (Дивіться цю публікацію в блозі.)

У наступній роботі пояснюється, як генетичні алгоритми з рівномірним кросовер-парламентом імпліцитують паралелізм у загальноприйнятий, глобальний оптимізаційний евристичний під назвою гіперклізінг :

Пояснення оптимізації в генетичних алгоритмах з рівномірним кросовером . З’явитися в матеріалах конференції «Основи генетичних алгоритмів 2013».

(Відмова: я автор статті)


це розумно / інноваційно використовувати випадковий SAT як орієнтир для GA і показує ідею, яка, здається, мало досліджено паперів. припустимо, GA може працювати на будь-якому довільному класі складності і, можливо, це справді спосіб побудови алгоритмів у "вищому" класі складності на основі результатів алгоритмів у "нижчому" класі складності .... то в певному сенсі це насправді не так є сенс проаналізувати "складність" ГС, оскільки вони можуть перевершити класифікацію класів складності ....
vzn

5

Рафаель Серф зробив докторську дисертацію з генетичних алгоритмів у Монпельє під керівництвом Алена Берлінета з математичної точки зору. Він досить старий, але, ймовірно, належав би до будь-якої бібліографії про генетичні алгоритми.

Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.