从Azure DataLake存储中删除Azure DataFactory Pipeline(USQL首选)中的临时文件



我们使用ADL(Azure Data Lake Storage)作为ADF(Azure Data Factory -v2)管道中的临时存储。删除暂时存储在ADL中的数据的最佳方法是什么?

u-SQL仅支持DDL,而不支持DML,因此无法使用ADLA(Azure Data Lake analytics)删除存储在ADL中的临时数据(文件)

我计划使用ADF的" Web Activity"删除方法,但这使用了到期的令牌,我必须继续更新它们。

任何人都可以让我知道我们还有什么其他选择?

最好的方法是在ADF中使用新的删除活动。在ADF UI的右上角,您可以找到代码部分,单击此处并编写JSON语法以进行删除活动(我没有找到删除活动widteg/Icon,因此我需要直接编写JSON代码)

您可以在此处查看语法

仅删除活动的示例管道

{
"name": "DeleteFilePipeline",
"properties": {
    "activities": [
        {
            "name": "DeleteActivity",
            "type": "Delete",
            "policy": {
                "timeout": "7.00:00:00",
                "retry": 0,
                "retryIntervalInSeconds": 30,
                "secureOutput": false,
                "secureInput": false
            },
            "typeProperties": {
                "dataset": {
                    "referenceName": "deleteTest",
                    "type": "DatasetReference"
                },
                "enableLogging": false,
                "maxConcurrentConnections": 1
            }
        }
    ]
}

}

数据集DeletEtest是Azure Data Lake Gen1数据集。

相关内容

  • 没有找到相关文章

最新更新