使用ADF从源和目标自动执行数据验证



我有一个备份服务器,数据来自该服务器,使用Azure数据工厂将数据转换并加载到snowflake(DB)中。因此,这里我需要验证备份服务器和snowflake之间的数据,无论数据是否移动到snowflake。移动到雪花的数据可能多或少。我们可以手动检查,但是。我需要做自动化数据验证,并通过给出任何参数自动找到更少的数据。有使用ADF的方法吗?

一开始我对它的名字感到困惑,认为它可以帮助我根据这些文件中列的所需数据类型来验证传入的源数据文件。另一方面,Validation活动作业的目标是对ADF管道的执行提供更好的控制;它作为ADF活动序列的流量控制。

您可以在ADF中创建一个验证管道,它将计数行,源和接收,并使用IF活动进行验证。

使用Azure函数编写自己的代码来查看源和接收之间的数据。

最新更新