Наука про дані

Я працюю над викликом Kaggle, де деякі змінні представлені рядками, а не стовпцями (Зрив мережі Telstra). Зараз я шукаю еквівалент збирання (), розділення () та поширення (), який можна знайти в інструменті R tidyr.

18 r  python  dataset  data-cleaning  pandas 

Я досить новачок у нейронних мережах, але розумію лінійну алгебру і математику згортки досить пристойно. Я намагаюся розібратися в прикладі коду, який я знаходжу в різних місцях мережі для тренування конвертної NN Keras з даними MNIST для розпізнавання цифр. Моє сподівання було б, що коли я створюю згортковий шар, мені …

18 convnet  keras 

У статті, що заглиблюється глибше, згортається опис GoogleNet, який містить оригінальні модулі створення: Зміна початкової версії v2 полягала в тому, що вони замінили згортки 5x5 двома послідовними згортками 3x3 та застосували об'єднання: Чим відрізняється Inception v2 від Inception v3?

18 image-classification  convnet  computer-vision  inception 

Я вже деякий час використовую нейронні мережі. Однак одне, з чим я постійно борюся, - це вибір оптимізатора для тренінгу в мережі (використовуючи backprop). Що я зазвичай роблю, це просто почати з одного (наприклад, стандартний SGD), а потім спробувати інші інші, майже випадковим чином. Мені було цікаво, чи є кращий …

18 neural-network  optimization  backpropagation 

Із підручника Keras RNN: "RNN - складний. Вибір розміру партії важливий, вибір втрат та оптимізатор є критично важливими тощо. Деякі конфігурації не збігаються". Отже, це більш загальне питання про налаштування гіперпараметрів LSTM-RNN на Керасі. Я хотів би знати про підхід до пошуку найкращих параметрів для вашої RNN. Я почав із …

18 python  neural-network  deep-learning  keras  hyperparameter 

Якщо у мене є роздрібний магазин і є спосіб виміряти кількість людей, що заходять у мій магазин щохвилини, і позначити ці дані, як я можу передбачити майбутній рух пішки? Я вивчив алгоритми машинного навчання, але не впевнений, який саме використовувати. За моїми тестовими даними, річна тенденція за рік є більш …

18 machine-learning  time-series 

У своєму класі я повинен створити додаток, використовуючи два класифікатори, щоб вирішити, чи є об’єкт на зображенні прикладом phylum porifera (seasponge) чи яким-небудь іншим об'єктом. Однак я повністю втрачений, коли мова йде про техніку вилучення особливостей у python. Мій радник переконав мене використовувати зображення, які не були висвітлені в класі. …

18 python  feature-extraction  image-recognition 

У мене є два речення, S1 і S2, обидва з яких мають кількість слів (як правило) нижче 15. Назвіть найбільш практично корисні та успішні алгоритми (машинне навчання), які, можливо, легко здійснити (нейронна мережа справна, якщо архітектура не така складна, як Google Inception тощо). Я шукаю алгоритм, який буде добре працювати, …

18 nlp  clustering  word2vec  similarity 

Я намагаюся видалити стоп-слова, перш ніж виконувати моделювання теми. Я помітив, що деякі заперечувальні слова (ні, ні, ніколи, ні т. Д.) Зазвичай не вважаються словами стоп. Наприклад, NLTK, spacy та sklearn містять "not" у списках стоп-слов. Однак якщо ми видалимо "не" з цих пропозицій нижче, вони втрачають значне значення, і …

18 nlp  topic-model  sentiment-analysis 

Я чув, як Ендрю Нг (у відео, якого я, на жаль, більше не можу знайти) розповів про те, як розуміння місцевих мінімумів у проблемах глибокого навчання змінилося в тому сенсі, що вони зараз вважаються менш проблематичними, оскільки у просторах з великими розмірами (зустрічаються в глибоке навчання) критичні точки, швидше, будуть …

18 machine-learning  deep-learning  optimization  convergence 

Я хотів би зробити скорочення розмірності на майже 1 мільйон векторів кожних 200 вимірювань ( doc2vec). Я використовую для цього TSNEреалізацію з sklearn.manifoldмодуля, і головна проблема - складність у часі. Навіть при method = barnes_hutцьому швидкість обчислення залишається низькою. Деякий час навіть не вистачає пам'яті. Я працюю на 48-ядерному процесорі …

18 python  bigdata  nlp  scikit-learn  dimensionality-reduction 

Припустимо, що ми маємо набір елементів E і подібність ( не відстань ) функції sim (ei, ej) між двома елементами ei, ej ∈ E . Як ми могли (ефективно) кластеризувати елементи E , використовуючи sim ? k- значить, наприклад, вимагає заданого k , для кластеризації Canopy потрібно два порогових значення. …

18 clustering  algorithms  similarity 

Я переглядав папір BERT, в якій використовується GELU (лінійна одиниця помилок Гаусса), яка визначає рівняння як що в свою чергу наближається доGELU(x)=xP(X≤x)=xΦ(x).GELU(x)=xP(X≤x)=xΦ(x). GELU(x) = xP(X ≤ x) = xΦ(x).0.5x(1+tanh[2/π−−−√(x+0.044715x3)])0.5x(1+tanh[2/π(x+0.044715x3)])0.5x(1 + tanh[\sqrt{ 2/π}(x + 0.044715x^3)]) Чи можете ви спростити рівняння та пояснити, як воно було наближене.

18 activation-function  bert  mathematics 

Я намагаюся зрозуміти роль похідної сигмоїдної функції в нейронних мережах. Спочатку я будую сигмоподібну функцію та похідну всіх точок з визначення за допомогою python. Яка саме роль цієї похідної? import numpy as np import matplotlib.pyplot as plt def sigmoid(x): return 1 / (1 + np.exp(-x)) def derivative(x, step): return (sigmoid(x+step) …

18 machine-learning  neural-network 

Розглянемо нейронну мережу: Для даного набору даних ми ділимо їх на навчальний, валідаційний та тестовий набір. Припустимо, ми робимо це в класичному співвідношенні 60:20:20, тоді ми запобігаємо надмірному встановленню, перевіряючи мережу, перевіряючи її на набір перевірки. Тоді яка необхідність перевірити його на тестовому наборі, щоб перевірити його працездатність? Чи не …

18 machine-learning  neural-network  cross-validation