Чи можна Keras із серверною базою Tensorflow змусити використовувати CPU або GPU за власним бажанням?

У мене встановлено Keras із серверною базою Tensorflow та CUDA. Я хотів би іноді на вимогу змусити Keras використовувати центральний процесор. Чи можна це зробити, не кажучи вже про встановлення окремого процесора Tensorflow у віртуальному середовищі? Якщо так, то як? Якби заднім був Theano, прапори можна було б встановити, але я не чув про прапори Tensorflow, доступні через Керас.

Якщо ви хочете змусити Keras використовувати процесор

Шлях 1

import os
os.environ["CUDA_DEVICE_ORDER"] = "PCI_BUS_ID"   # see issue #152
os.environ["CUDA_VISIBLE_DEVICES"] = ""

до імпорту Keras / Tensorflow

Шлях 2

Запустіть свій сценарій як

$ CUDA_VISIBLE_DEVICES="" ./your_keras_code.py

Дивитися також

1. https://github.com/keras-team/keras/isissue/152
2. https://github.com/fchollet/keras/isissue/4613

Досить відокремлений спосіб зробити це - використовувати

import tensorflow as tf
from keras import backend as K

num_cores = 4

if GPU:
    num_GPU = 1
    num_CPU = 1
if CPU:
    num_CPU = 1
    num_GPU = 0

config = tf.ConfigProto(intra_op_parallelism_threads=num_cores,
                        inter_op_parallelism_threads=num_cores, 
                        allow_soft_placement=True,
                        device_count = {'CPU' : num_CPU,
                                        'GPU' : num_GPU}
                       )

session = tf.Session(config=config)
K.set_session(session)

Тут, за допомогою booleans GPUта CPU, ми вказуємо, чи хотіли б ми запустити наш код із графічним процесором чи процесором, жорстко визначивши кількість графічних процесорів та процесорів, до яких може бути доступний сеанс Tensorflow. Змінні num_GPUі num_CPUвизначають це значення. num_coresпотім встановлює кількість ядер процесора, доступних для використання через intra_op_parallelism_threadsта inter_op_parallelism_threads.

У intra_op_parallelism_threadsдиктує змінне число потоків паралельної роботи в одному вузлі в графі обчислення допускається використання (всередині). Тоді як inter_ops_parallelism_threadsзмінна визначає кількість потоків, доступних для паралельних операцій по вузлах обчислювального графіка (inter).

allow_soft_placement дозволяє виконувати операції над процесором, якщо виконується будь-який з наступних критеріїв:

1. для операції немає реалізації графічного процесора

2. немає відомих або зареєстрованих пристроїв графічного процесора

3. існує необхідність спільного пошуку з іншими входами від центрального процесора

Все це виконується в конструкторі мого класу перед будь-якими іншими операціями і повністю відокремлюється від будь-якої моделі чи іншого коду, який я використовую.

Примітка. Це вимагає tensorflow-gpuта cuda/ cudnnбути встановленим, оскільки надається можливість використовувати GPU.

Посилання:

• Що означають параметри в ConfigProto, такі як enable_soft_placement та log_device_placement?

• Значення inter_op_parallelism_threads та intra_op_parallelism_threads

Це спрацювало для мене (win10), місце до того, як імпортувати кери:

import os
os.environ['CUDA_VISIBLE_DEVICES'] = '-1'

Просто імпортуйте тензорпотік і використовуйте кери - це так просто.

import tensorflow as tf
# your code here
with tf.device('/gpu:0'):
    model.fit(X, y, epochs=20, batch_size=128, callbacks=callbacks_list)

Відповідно до підручника кераса , ви можете просто використовувати ту саму tf.deviceобласть, що і в звичайному тензорфлоу:

with tf.device('/gpu:0'):
    x = tf.placeholder(tf.float32, shape=(None, 20, 64))
    y = LSTM(32)(x)  # all ops in the LSTM layer will live on GPU:0

with tf.device('/cpu:0'):
    x = tf.placeholder(tf.float32, shape=(None, 20, 64))
    y = LSTM(32)(x)  # all ops in the LSTM layer will live on CPU:0

Я просто витратив деякий час, щоб це зрозуміти. Відповідь Томи не є повною. Скажімо, ваша програма полягає в тому test.py, що ви хочете використовувати gpu0 для запуску цієї програми, а інші gpus безкоштовні.

Вам слід написати CUDA_VISIBLE_DEVICES=0 python test.py

Зауважте, що це DEVICESне такDEVICE

Для людей, які працюють на PyCharm та для примушування процесора, ви можете додати наступний рядок у конфігурації Запуск / Налагодження у розділі Змінні середовища:

<OTHER_ENVIRONMENT_VARIABLES>;CUDA_VISIBLE_DEVICES=-1