Порівняльне порівняння систем, що складаються з окремо підготовлених мереж відносно одиночних глибших мереж, швидше за все, не виявить найкращого варіанту, що застосовується загалом. 1 Ми можемо побачити в літературі збільшення кількості більших систем, де поєднуються кілька штучних мереж разом з іншими типами компонентів. Це варто очікувати. Модуляризація у міру того, як системи зростають складніше, а вимоги до підвищення продуктивності та можливостей є такими ж старими, як і індустріалізація.
Наша лабораторія працює з робототехнічним керуванням, термодинамічним приладом та аналізом даних, штучні мережі є компонентами цих великих системних контекстів. у нас немає жодного MLP або RNN, які самі по собі виконують будь-яку корисну функцію.
На противагу думкам про ієрархії десятиліть тому, топологічний підхід, який, здається, працює в більшості випадків, слід більш звичних взаємозв'язків системного модуля, які спостерігаються на електростанціях, автоматизованих заводах, повітроплаванні, інформаційних архітектурах підприємств та інших складних інженерних творах. З'єднання є потоковими, і якщо вони розроблені добре, функції нагляду є мінімальними. Потік відбувається між модулями, що включають протоколи зв'язку, і кожен модуль добре виконує свою функцію, інкапсулюючи нижній рівень складності та функціональні деталі. Здається, не одна мережа, яка наглядає за іншою, виявляється найбільш ефективною в практичній практиці, але баланс і симбіоз. Виявлення чіткого дизайну господаря-раба в людському мозку здається настільки ж слизьким.
Завдання полягає не у пошуку інформаційних шляхів, що складають топологію інформаційної системи. Інформаційний потік часто очевидний при аналізі проблем. Складність полягає у виявленні найкращих стратегій підготовки цих незалежних мереж. Залежності від тренувань є загальними і часто критичними, тоді як у тварин тренування відбувається in situ або взагалі немає. Ми розкриваємо умови, за яких такий спосіб навчання в наших системах практичний, і як цього досягти. Більшість наших досліджень за цими напрямками призначені для пошуку шляхів досягнення більш високої надійності та нижчого навантаження з точки зору годин дослідження для його отримання.
Вища функціональність не завжди приносить користь. Він часто забезпечує меншу надійність і споживає додаткові ресурси для розробки з невеликою віддачею. Знайдіть спосіб одружитися з автоматизацією вищого рівня, ощадливістю ресурсів та надійністю в одному процесі розробки, і ви можете виграти нагороду та почесну згадку в Інтернеті.
Паралельні системи, які мають однакову мету, є хорошою ідеєю, але не новою. В одній системі повітроплавання дев'ять паралельних систем мають одну і ту ж ціль, в групах по три. Кожна група використовує інший обчислювальний підхід. Якщо дві системи, що використовують один і той же підхід, забезпечують однаковий вихід, а третя відрізняється, використовується відповідний вихід, а різниця в третій повідомляється як несправність системи. Якщо два різних підходи дають подібні результати, а третій істотно відрізняється, використовується злиття двох подібних результатів, а третій повідомляється як випадок використання для подальшої розробки підходу, що не відповідає.
Поліпшена відмовка має відпускні витрати, ще вісім систем та пов'язані з ними обчислювальні ресурси та підключення плюс компаратори на хвості, але в системах, які є питанням життя та смерті, додаткові витрати оплачуються та надійність збільшується.
Динамічна топологічна адаптація пов'язана із надлишковими системами та толерантністю до відмов, але певним чином досить чіткою. У цій галузі розвитку наступна технологія - нейроморфні обчислення, які частково надихаються нейропластикою.
Останнє розрізнення, яке слід врахувати, - це топологія процесу, топологія даних та апаратна топологія. Ці три геометричні кадри можуть давати більшу ефективність разом, якщо їх вирівняти певними способами, які створюють більш прямі відображення між зв'язками між потоком, поданням та механікою. Однак вони є різними топологіями. Сенс узгодження може бути очевидним без глибокого заглиблення в ці поняття та деталі, які з’являються для конкретних цілей товару чи послуги.
Виноски
[1] Глибокі мережі, які навчаються як єдиний блок і функціонують без підключення до інших штучних мереж, не обов'язково є монолітними. Більшість практичних глибоких мереж мають неоднорідну послідовність шарів з точки зору їх активаційних функцій та часто їх типів клітин.