Запитання з тегом «pytorch»

Мене плутає метод view()у наступному фрагменті коду. class Net(nn.Module): def __init__(self): super(Net, self).__init__() self.conv1 = nn.Conv2d(3, 6, 5) self.pool = nn.MaxPool2d(2,2) self.conv2 = nn.Conv2d(6, 16, 5) self.fc1 = nn.Linear(16*5*5, 120) self.fc2 = nn.Linear(120, 84) self.fc3 = nn.Linear(84, 10) def forward(self, x): x = self.pool(F.relu(self.conv1(x))) x = self.pool(F.relu(self.conv2(x))) x = x.view(-1, …

208 python  memory  pytorch  torch  tensor 

Я шукав альтернативні способи збереження навченої моделі в PyTorch. Поки що я знайшов дві альтернативи. torch.save () для збереження моделі та torch.load () для завантаження моделі. model.state_dict () для збереження навченої моделі та model.load_state_dict () для завантаження збереженої моделі. Я натрапив на цю дискусію, де рекомендується підхід 2 над підходом …

193 python  serialization  deep-learning  pytorch  tensor 

Мені хотілося б знати, чи pytorchвикористовується мій GPU. Можна виявити, nvidia-smiчи є якась активність від GPU під час процесу, але я хочу, щоб щось було написано в pythonсценарії. Чи є спосіб це зробити?

160 python  memory-management  gpu  nvidia  pytorch 

Чи є якийсь спосіб, я можу надрукувати резюме моделі в PyTorch, як model.summary()метод робить у Керасі наступним чином? Model Summary: ____________________________________________________________________________________________________ Layer (type) Output Shape Param # Connected to ==================================================================================================== input_1 (InputLayer) (None, 1, 15, 27) 0 ____________________________________________________________________________________________________ convolution2d_1 (Convolution2D) (None, 8, 15, 27) 872 input_1[0][0] ____________________________________________________________________________________________________ maxpooling2d_1 (MaxPooling2D) (None, …

125 python  pytorch 

Я читав документацію PyTorch і знайшов приклад, де вони пишуть gradients = torch.FloatTensor([0.1, 1.0, 0.0001]) y.backward(gradients) print(x.grad) де x була початковою змінною, з якої побудований y (3-вектор). Питання в тому, які аргументи тензора градієнтів 0,1, 1,0 та 0,0001? Документація щодо цього не дуже зрозуміла.

112 neural-network  gradient  pytorch  torch  gradient-descent 

Метод zero_grad()потрібно викликати під час навчання. Але документація не дуже корисна | zero_grad(self) | Sets gradients of all model parameters to zero. Чому нам потрібно викликати цей метод?

112 python  neural-network  deep-learning  pytorch  gradient-descent 

Як ініціалізувати ваги та упередження (наприклад, за допомогою ініціалізації He або Xavier) у мережі в PyTorch?

106 python  neural-network  deep-learning  pytorch 

Я намагався повторити Як використовувати пакування для входів послідовності змінної довжини для rnn, але, мабуть, спочатку потрібно зрозуміти, чому нам потрібно "упакувати" послідовність. Я розумію, чому нам потрібно їх "забивати", але чому "упаковка" (наскрізь pack_padded_sequence) необхідна? Будь-яке пояснення високого рівня буде вдячне!

94 deep-learning  pytorch  recurrent-neural-network  tensor  zero-padding 

У numpy ми використовуємо ndarray.reshape()для переформування масиву. Я помітив, що в pytorch люди використовують torch.view(...)з тією ж метою, але в той же час існує і така torch.reshape(...). Тому мені цікаво, в чому різниця між ними і коли я повинен використовувати будь-який з них?

93 pytorch 

Я переглядав цей приклад мовної моделі LSTM на github (посилання) . Що це взагалі робить, мені цілком зрозуміло. Але я все ще намагаюся зрозуміти, що contiguous()робить виклик , який кілька разів трапляється в коді. Наприклад, у рядку 74/75 коду створюються вхідні та цільові послідовності LSTM. Дані (що зберігаються ids) є …

90 neural-network  deep-learning  lstm  pytorch  contiguous 

Я намагаюся оновити / змінити параметри моделі нейронної сітки, а потім мати перехідний сигнал оновленої нейронної мережі в графіку обчислень (незалежно від того, скільки змін / оновлень ми робимо). Я спробував цю ідею, але всякий раз, коли я це роблю, pytorch встановлює мої оновлені тензори (всередині моделі) на листя, що …

10 python  machine-learning  neural-network  pytorch 

Я намагаюся навчити наступну CNN так, але я все одно отримую ту ж помилку щодо .cuda (), і я не знаю, як її виправити. Ось шматок мого коду поки що. import matplotlib.pyplot as plt import numpy as np import torch from torch import nn from torch import optim import torch.nn.functional …

9 python  machine-learning  gpu  pytorch