我有一个pig脚本,它运行多个map reduce作业。(例如:"分组依据"one_answers"排序依据",将作为两个不同的映射减少作业执行)有没有办法为不同的阶段指定不同的map reduce配置选项,而不是为整个脚本指定它们(例如:不同阶段的mapred.min.split.size的值不同)?
Pig是DAG,它逐个执行步骤。您可以为整个pig脚本提供MR配置。在Pig 中没有单独调整每个步骤的选项
我有一个pig脚本,它运行多个map reduce作业。(例如:"分组依据"one_answers"排序依据",将作为两个不同的映射减少作业执行)有没有办法为不同的阶段指定不同的map reduce配置选项,而不是为整个脚本指定它们(例如:不同阶段的mapred.min.split.size的值不同)?
Pig是DAG,它逐个执行步骤。您可以为整个pig脚本提供MR配置。在Pig 中没有单独调整每个步骤的选项
javascript python java c# php android html jquery c++ css ios sql mysql arrays asp.net json python-3.x ruby-on-rails .net sql-server django objective-c excel regex ruby linux ajax iphone xml vba spring asp.net-mvc database wordpress string postgresql wpf windows xcode bash git oracle list vb.net multithreading eclipse algorithm macos powershell visual-studio image forms numpy scala function api selenium