Horovod和TensorFlow可以在AmazonSageMaker中的非GPU实例上工作吗

Question

我想在Amazon SageMaker上执行分布式培训。该代码是用TensorFlow编写的，类似于下面的代码，我认为CPU实例应该足够了：https://github.com/horovod/horovod/blob/master/examples/tensorflow_word2vec.py

Horovod与TensorFlow能否在AmazonSageMaker中的非GPU实例上工作？

Answer 1

是的，您应该能够在Amazon SageMaker上使用Horovod的CPU和GPU。对于相同的，请遵循以下示例

https://github.com/aws/amazon-sagemaker-examples/blob/main/sagemaker-python-sdk/tensorflow_script_mode_horovod/tensorflow_script_mode_horovod.ipynb