Keras使用多个GPU并行

Posted star-1

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Keras使用多个GPU并行相关的知识,希望对你有一定的参考价值。

model = Model(inputs=[v_i, v_j], outputs=output_list)
model = multi_gpu_model(model,4)
model.compile(....)

主要就是第二句话中的

multi_gpu_model函数,会把数据和模型分到多个gpu上执行

有个坑,就是整个程序导入keras时要么全部from keras import ...,要么全部 from tensorflow.python.keras import ...,不能tensorflow里的keras不能和原生keras混用,
要不就会报Node‘ object has no attribute ‘output_masks的错误

以上是关于Keras使用多个GPU并行的主要内容,如果未能解决你的问题,请参考以下文章

深度学习并行运算原理 以及 keras实现GPU并行

如何使用 gpu 并行训练 tensorflow.keras 模型? TensorFlow 版本 2.5.0

keras使用多GPU并行训练模型 | keras multi gpu training

具有推理功能的 TensorFlow + Keras 多 GPU 模型

Keras强制使用CPU

如何在 Tensorflow 2.0 + Keras 中进行并行 GPU 推理?