Як я можу автоматизувати вибір топології нейронної мережі для довільної задачі?

Припустимо, що я хочу вирішити проблему з нейронною мережею, що або я не можу підходити до вже існуючих топологій (перцептрон, Конохен тощо), або просто не знаю про існування таких, або я не в змозі зрозуміти їх Механіка, і я замість цього покладаюся на власне.

Як я можу автоматизувати вибір топології (тобто кількості шарів, типу активацій, типу та напрямку з'єднань тощо) нейронної мережі для довільної задачі?

Я початківець, але я зрозумів, що в деяких топологіях (або, принаймні, у перцептронах) дуже важко, якщо не неможливо зрозуміти внутрішню механіку, оскільки нейрони прихованих шарів не виражають математично значущого контексту.

Я думаю, що в цьому випадку ви, ймовірно, захочете скористатися генетичним алгоритмом для створення топології, а не працювати над собою. Мені особисто подобається NEAT (NeuroEvolution of Augmenting Topologies) .

Оригінальний папір NEAT передбачає зміни ваги для з'єднань, але якщо вам потрібна лише топологія, ви можете скористатися алгоритмом зважування. Ви також можете змішати функції активації, якщо ви не знаєте, яку використовувати. Ось приклад використання зворотного розповсюдження та декількох типів нейронів.

Інша відповідь згадує NEAT для створення ваг мережі або топологій. Стаття NeuroEvolution: Важливість еволюції функцій передачі та гетерогенних мереж , яка також дає короткий підсумок методів нейроеволюції, пропонує альтернативний підхід до NEAT. Він використовує декартову генетичну програмування для розвитку декількох функцій активації.