Навчання нейронної мережі згортки


11

Зараз я працюю над програмним забезпеченням для розпізнавання облич, яке використовує нейронні мережі згортки для розпізнавання облич. Спираючись на свої читання, я зрозумів, що звивиста нейронна мережа має загальну вагу, щоб заощадити час під час тренувань. Але як адаптувати зворотне розповсюдження, щоб його можна було використовувати в нейромережі згортки. Для зворотного розмноження для тренування ваг використовується формула, подібна до цієї.

New Weight  = Old Weight +  LEARNING_RATE * 1 * Output Of InputNeuron * Delta

Однак, оскільки в нейромережах, що розвиваються, ваги розділяються, кожна вага використовується з декількома нейронами, тож як я визначити, який Output of InputNeuronвикористовується?

Іншими словами, оскільки вага обмінюється, як я можу вирішити, на скільки потрібно змінити ваги?

Відповіді:


13

Спочатку потрібно обчислити всі ваші оновлення так, ніби правами не ділилися, а просто зберігати їх, насправді ще не проводити жодного оновлення.

wkIk={(i,j):wi,j=wk}Δwi,j=ηJwi,jηJwi,j

wi,j=wi,j+Δwi,j.
Δwk=(i,j)IkΔwi,j
wk=wk+Δwk.

1
Чи є у вас якісь посилання на це? Для подальшого читання
Jon
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.