有什么方法可以最大限度地减少U-SQL的准备时间吗



U-SQL作业的准备时间约为30秒。有可能把它降低吗?

我的代码如下:

USE DATABASE x;
USE SCHEMA y;
@results = SELECT RowKey
FROM y.tableName
WHERE USQLApplication2.queryHelper.func().Contains(PartitionKey) AND TimestampTicks < new System.DateTime(2016,12,30).Ticks 
AND TimestampTicks > new System.DateTime(2016,12,29).Ticks;
OUTPUT @results TO "/data/output.csv"
USING Outputters.Csv();

准备时间主要包括脚本的编译、优化和代码生成。由于U-SQL目前是以批处理模式运行的,因此系统在准备过程中进行了优化,以缩短大量数据的运行时间。

在您的情况下,根据提供的脚本,我认为对用户定义函数的调用可能会增加准备时间。让我与团队核实一下,内联函数调用是否可以在该阶段节省一些时间。

编辑:根据您在另一个线程中的问题,您似乎有一个高度分区的表。如果这是正确的,那么访问分区并合并分区的编译也将增加准备时间。我们有一个积压项目来改进这方面。

最新更新