1. 訓(xùn)練運(yùn)行時(shí)候指定GPU
運(yùn)行時(shí)候加一行代碼：
CUDA_VISIBLE_DEVICES=1 python train.py
2. 運(yùn)行過程中按需或者定量分配GPU
tensorflow直接在開啟Session時(shí)候加幾行代碼就行，而Keras指定GPU，并限制按需用量和TensorFlow不太一樣，因?yàn)閗eras訓(xùn)練是封裝好的，不好對(duì)Session操作。如下是兩種對(duì)應(yīng)的操作。
keras中的操作：
import os
import tensorflow as tf
from keras.backend.tensorflow_backend import set_session
# 指定第一塊GPU可用
os.environ["CUDA_VISIBLE_DEVICES"] = "0" #指定GPU的第二種方法
config = tf.ConfigProto()
config.gpu_options.allocator_type = 'BFC' #A "Best-fit with coalescing" algorithm, simplified from a version of dlmalloc.
config.gpu_options.per_process_gpu_memory_fraction = 0.3 #定量
config.gpu_options.allow_growth = True #按需
set_session(tf.Session(config=config))
TensorFlow中的操作：
#指定GPU
import os
os.environ["CUDA_VISIBLE_DEVICES"] = "0"
#設(shè)置GPU定量分配
config = tf.ConfigProto()
config.gpu_options.per_process_gpu_memory_fraction = 0.9 # 占用GPU90%的顯存
session = tf.Session(config=config)
#設(shè)置GPU按需分配
config = tf.ConfigProto()
config.gpu_options.allow_growth = True
session = tf.Session(config=config)
補(bǔ)充：Keras以及Tensorflow強(qiáng)制使用CPU，GPU
Keras如果是使用Theano后端的話，應(yīng)該是自動(dòng)不使用ＧＰＵ只是用ＣＰＵ的，啟動(dòng)ＧＰＵ使用Theano內(nèi)部命令即可。
對(duì)于Tensorflow后端的Keras以及Tensorflow會(huì)自動(dòng)使用可見的ＧＰＵ，而我需要其必須只運(yùn)行在ＣＰＵ上。網(wǎng)上查到三種方法，最后一種方法對(duì)我有用，但也對(duì)三種都做如下記錄：
使用tensorflow的 with tf.device('/cpu:0'):函數(shù)。簡單操作就是把所有命令都放在前面所述的域里面。
使用tensorflow聲明Session時(shí)的參數(shù)： 關(guān)于tensorflow中Session中的部分參數(shù)設(shè)置，以及Keras如何設(shè)置其調(diào)用的Tensorflow的Session，可以參見Keras設(shè)定GPU使用內(nèi)存大小(Tensorflow backend)。
對(duì)于Tensorflow，聲明Session的時(shí)候加入device_count={'gpu':0}即可，代碼如下：
import tensorflow as tf
sess = tf.Session(config=tf.ConfigProto(device_count={'gpu':0}))
對(duì)于Keras,則調(diào)用后端函數(shù)，設(shè)置其使用如上定義的Session即可，代碼如下：
import tensorflow as tf
import keras.backend.tensorflow_backend as KTF
KTF.set_session(tf.Session(config=tf.ConfigProto(device_count={'gpu':0})))
對(duì)于多線程以及ＧＰＵ內(nèi)存設(shè)置等可以參見Keras設(shè)定GPU使用內(nèi)存大小(Tensorflow backend)。
3、第三種是使用CUDA_VISIBLE_DEVICES命令行參數(shù)，代碼如下：
CUDA_VISIBLE_DEVICES="0" python3 train.py
以上為個(gè)人經(jīng)驗(yàn)，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。
您可能感興趣的文章:- TensorFlow2.0使用keras訓(xùn)練模型的實(shí)現(xiàn)
- tensorflow2.0教程之Keras快速入門
- 解決TensorFlow調(diào)用Keras庫函數(shù)存在的問題
- Keras模型轉(zhuǎn)成tensorflow的.pb操作
- 完美解決TensorFlow和Keras大數(shù)據(jù)量內(nèi)存溢出的問題
- keras和tensorflow使用fit_generator 批次訓(xùn)練操作
- 解決tensorflow 與keras 混用之坑
