我们使用ADL(Azure Data Lake Storage)作为ADF(Azure Data Factory -v2)管道中的临时存储。删除暂时存储在ADL中的数据的最佳方法是什么?
u-SQL仅支持DDL,而不支持DML,因此无法使用ADLA(Azure Data Lake analytics)删除存储在ADL中的临时数据(文件)
我计划使用ADF的" Web Activity"删除方法,但这使用了到期的令牌,我必须继续更新它们。
任何人都可以让我知道我们还有什么其他选择?
最好的方法是在ADF中使用新的删除活动。在ADF UI的右上角,您可以找到代码部分,单击此处并编写JSON语法以进行删除活动(我没有找到删除活动widteg/Icon,因此我需要直接编写JSON代码)
您可以在此处查看语法
仅删除活动的示例管道
{
"name": "DeleteFilePipeline",
"properties": {
"activities": [
{
"name": "DeleteActivity",
"type": "Delete",
"policy": {
"timeout": "7.00:00:00",
"retry": 0,
"retryIntervalInSeconds": 30,
"secureOutput": false,
"secureInput": false
},
"typeProperties": {
"dataset": {
"referenceName": "deleteTest",
"type": "DatasetReference"
},
"enableLogging": false,
"maxConcurrentConnections": 1
}
}
]
}
}
数据集DeletEtest是Azure Data Lake Gen1数据集。