为什么不在 Hadoop 节点中启用虚拟节点



在网址中: http://www.datastax.com/docs/datastax_enterprise3.2/solutions/about_hadoop

"在生产集群或数据中心启动分析/Hadoop节点之前,禁用虚拟节点配置非常重要。

如果在分析/Hadoop 节点中启用虚拟节点,会发生什么情况?

如果在 Hadoop 节点上启用虚拟节点,它将通过将映射器的数量增加到至少虚拟节点的数量来降低小型 Hadoop 作业的性能。 例如,如果使用默认的 256 个虚拟节点/物理节点设置,则每个 Hadoop 作业将启动 257 个映射器。这些映射器可能没有足够的数据来处理,服务器将花费大部分时间管理这些任务,而不是做有用的工作。

在体面的硬件上,没有数据和 256 个虚拟节点的作业可能需要大约 5-10 分钟,而配置没有虚拟节点的相同作业只需要大约 20-40 秒。

相关内容

  • 没有找到相关文章

最新更新