2
Що означає термін насичення нелінійностей?
Я читав статтю ImageNet Classification з глибокими згортковими нейронними мережами, і в розділі 3 вони пояснювали архітектуру своєї конволюційної нейромережі. Вони пояснюють, як вони віддали перевагу використанню: ненасичуюча нелінійністьf(x)=max(0,x).f(x)=max(0,x).f(x) = max(0, x). бо швидше було тренуватися. У цій роботі вони, схоже, називають насичуючі нелінійності як більш традиційні функції, що використовуються …