为什么路由到错误输出的文档在通过 ULTRA 任务使用时会导致管道失败?



我正在制作一个管道,并行触发几个 REST POST 调用,然后更新数据库中的表。它将通过 ULTRA 任务使用。我正在使用脚本进行某些转换和映射,而使用传统快照将无法完成,因为它们中的大多数都与 ULTRA 不兼容(例如,尾部和按字段分组(。

我知道我需要维护此类管道的世系信息才能完成 ULTRA 任务。请参阅以下文档。

脚本快照文档

每当我将结果写入输出时,我都会使用如下所示的内容。

this.output.write(doc, wrapper);

但是文档中没有提到在出现错误时维护世系信息。我在 catch 块中有一个类似的包装器,我正在写给error如下所示。

this.error.write(wrapper); 

我从此脚本收到以下错误。

Document created by 'Pre-DB Script[08755fd3-46b0-4f3a-b353-4a0685b649c4 -- 2b2bfab7-18f7-49ab-9a98-41bf0bc694eb]' does not contain lineage information and cannot be used as output from an Ultra pipeline
Resolution:
Use a Join snap to merge static documents into an Ultra input document or request that the snap be made Ultra-compatible
Reason:
The document was not created from an Ultra input document or was created by a Snap that is not Ultra-compatible

以下是相关的代码位。

var impl = {
input: input,
output: output,
error: error,
log: log,
execute: function () {
// Some variables
var error = false;
this.log.info("Executing Transform Script");
while (this.input.hasNext()) {
try {
// Read the next document, wrap it in a map and write out the wrapper
var doc = this.input.next();
// Some operations
if (!doc.successful) {
error = true;
throw { message: doc.errors.errorDetailMessage, original: doc };
}
var wrapper = new java.util.HashMap();
// Add required fields to wrapper
wrapper.put("original", doc);
if (/* Should this wrapper be sent to output? */) {
if (!error) this.output.write(doc, wrapper);
error = false;
}
this.log.info("Transform Script finished");
}
catch (err) {
var wrapper = new java.util.HashMap();
wrapper.put("error", err.message);
wrapper.put("original", err.original);
this.log.error(err);
this.error.write(wrapper);
}
}
}
};

那么,在文档路由到错误路径的情况下,如何解决世系信息问题呢?

事实证明,您可以传递类似于outputerror的世系信息。

this.error.write(doc, wrapper); 

最新更新