Запитання з тегом «neural-networks»

Припустимо, що NN містить nnn прихованих шарів, mmm прикладів тренувань, xxx функцій та ninin_i вузлів у кожному шарі. Яка складність у часі для підготовки цього NN з використанням зворотного розповсюдження? У мене є основне уявлення про те, як вони знаходять складність часу алгоритмів, але тут є 4 різні фактори, які …

18 neural-networks  machine-learning  backpropagation  time-complexity 

Кажуть, що функції активації в нейронних мережах допомагають запровадити нелінійність . Що це означає? Що означає нелінійність у цьому контексті? Як допомагає запровадження цієї нелінійності ? Чи є інші функції функцій активації ?

18 neural-networks  deep-learning 

З Вікіпедії: Дзеркальний нейрон - це нейрон, який спрацьовує і тоді, коли тварина діє, і коли тварина спостерігає ту саму дію, яку виконує інша. Дзеркальні нейрони пов'язані з імітаційним навчанням, що є дуже корисною функцією, якої не вистачає в сучасних реалізаціях інтелектуального інтелекту в реальному світі. Замість того, щоб вчитися …

17 neural-networks  models 

Це із закритої бета-версії для AI, з цим питанням розміщується номер користувача 47. Усі кредити їм. За даними Вікіпедії , Машини Больцмана можна розглядати як стохастичний, генеративний аналог сіток Hopfield. Обидва - це періодичні нейронні мережі, які можна навчити вивчати бітові структури. Тоді при поданні з частковим малюнком мережа отримає …

17 neural-networks  comparison  recurrent-neural-networks 

Я намагаюся зрозуміти функцію втрат GAN, як це передбачено в розумінні генеративних змагальних мереж (повідомлення в блозі, написане Даніелем Сейтою). У стандартній крос-ентропійній втраті у нас є вихід, який пройшов через сигмоподібну функцію та отриману в результаті бінарну класифікацію. Сієта констатує х1х1x_1 Н( ( х1, у1) , Г ) = …

17 neural-networks  machine-learning  deep-learning  loss-functions  generative-adversarial-networks 

Просто для розваги я намагаюся розвинути нейронну мережу. Тепер для зворотного розмноження я побачив дві техніки. Перший використовується тут і в багатьох інших місцях. Що це робить: Він обчислює помилку для кожного вихідного нейрона. Він підтримує його в мережі (обчислюючи помилку для кожного внутрішнього нейрона). Він оновлює ваги формулою: (де …

17 neural-networks  machine-learning  backpropagation 

Модульні / кілька нейронних мереж (MNN) обертаються навколо навчання менших, незалежних мереж, які можуть подаватись одна в одну чи іншу вищу мережу. В принципі, ієрархічна організація могла б дати нам змогу зрозуміти складніші проблемні простори та досягти більш високої функціональності, але, здається, важко знайти приклади конкретних досліджень, зроблених у минулому …

16 neural-networks  topology  architecture  neurons  biology 

Я неодноразово чув, що «Нейронні мережі - найкраще наближення, яке ми маємо для моделювання людського мозку», і я думаю, що загальновідомо, що Нейрові мережі моделюються за нашим мозку. Я сильно підозрюю, що цю модель спростили, але наскільки? Наскільки, скажімо, ванільний NN відрізняється від того, що ми знаємо про людський мозок? …

16 neural-networks  brain  topology 

Припустимо, для використання в CNN потрібно використовувати 10К зображень розміром 2400 х 2400. На мій погляд, звичайні комп'ютери, якими користуються люди, будуть корисні. Тепер питання полягає в тому, як обробляти такі великі розміри зображень, де немає привілеїв зменшення розміру. Ось системні вимоги: - Ubuntu 16.04 64-розрядна оперативна пам'ять 16 ГБ …

15 neural-networks  deep-learning  image-recognition  convolutional-neural-networks 

Мені просто хочеться знати, чому інженери машинного навчання та програмісти AI використовують такі мови, як python, для виконання завдань AI, а не C ++, хоча C ++ технічно є більш потужною мовою, ніж python.

15 neural-networks  machine-learning  python  data-science  c++ 

Дано нейронну мережу fff яка приймає за вхід nnn точок даних: x1,…,xnx1,…,xnx_1, \dots, x_n . Ми кажемо, що fff є перестановка інваріантним , якщо f(x1...xn)=f(pi(x1...xn))f(x1...xn)=f(pi(x1...xn))f(x_1 ... x_n) = f(pi(x_1 ... x_n)) pipipi Чи може хтось порекомендувати вихідну точку (статтю, приклад чи інший документ) для перестановки інваріантних нейронних мереж?

14 neural-networks  machine-learning  reference-request 

Більшість людей намагається відповісти на питання нейронною мережею. Однак хтось придумав якісь думки про те, як змусити нейронну мережу ставити запитання замість відповіді на запитання? Наприклад, якщо CNN може вирішити, до якої категорії належить об'єкт, то він може задати якесь питання, щоб допомогти класифікації?

14 neural-networks  deep-learning 

Припустимо, що я хочу вирішити проблему з нейронною мережею, що або я не можу підходити до вже існуючих топологій (перцептрон, Конохен тощо), або просто не знаю про існування таких, або я не в змозі зрозуміти їх Механіка, і я замість цього покладаюся на власне. Як я можу автоматизувати вибір топології …

14 neural-networks  topology  neuroevolution 

Для детермінованого проблемного простору мені потрібно знайти нейронну мережу з оптимальною структурою вузла та ланки. Я хочу використовувати генетичний алгоритм для імітації багатьох нейронних мереж, щоб знайти найкращу мережеву структуру для проблемної області. Я ніколи раніше не використовував генетичні алгоритми для подібного завдання. Які практичні міркування? Зокрема, як я повинен …

14 neural-networks  ai-design  genetic-algorithms  evolutionary-algorithms  neuroevolution 

Чи використовує людський мозок специфічну функцію активації? Я спробував провести деякі дослідження, і оскільки це є порогом того, передається сигнал через нейрон чи ні, це дуже схоже на ReLU. Однак я не можу знайти жодної статті, яка підтверджувала б це. Або це більше схожа на ступінчасту функцію (вона надсилає 1, …

13 neural-networks  machine-learning  brain