Dataproc如何仅在主节点上运行初始化操作脚本,并跳过在辅助节点上运行



我有一个用例,在这个用例中,我想利用dataproc中的初始化操作来运行一个脚本,该脚本将安装必要的项目。我在dataproc上使用了几个初始化操作脚本,它们运行良好,并且安装在主节点和工作节点上但在这里,我只想在主节点上运行它

具体来说,我安装在主节点上的yarn之上,这样它就会自动安装在其他节点(工作节点(上。

Dataproc初始化操作中是否有将跳过在工作节点上安装的标志?

Init操作不能跳过,但它们可以包括特定于节点角色的逻辑:

ROLE=$(/usr/share/google/get_metadata_value attributes/dataproc-role)
if [[ "${ROLE}" == 'Master' ]]; then
  #... master specific actions ...
else
  #... worker specific actions ...
fi

有关更多详细信息,请参阅此文档。

最新更新