Horovod

Posted yangwenhuan

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Horovod相关的知识,希望对你有一定的参考价值。

Horovod是一个支持TensorFlow、Keras、PyTorch和Apache MXNet的分布式训练框架。Horovod的目标 

 

 

参考链接:

https://github.com/horovod/horovod

https://arxiv.org/pdf/1802.05799.pdf

以上是关于Horovod的主要内容,如果未能解决你的问题,请参考以下文章

Horovod 通信策略

horovod使用学习之一 -- hvd.DistributedOptimizer(optimizer)

horovod使用学习之一--hvd.init()

ubuntu 配置 Horovod环境

pytorch使用horovod多gpu训练

[源码解析] 深度学习分布式训练框架 horovod --- 后台线程架构