Azure数据工厂复制活动错误记录异常处理



在复制活动中,设置中有一个功能,我们可以告诉系统如何处理错误。有3个选项可供选择。在第一条错误记录上中止,跳过所有错误行,跳过错误行并记录它们。我们能以某种方式实现以下功能吗?-如果文件中有超过10%的记录抛出错误,则跳过该文件,否则加载

提前感谢

我有一个变通方法,如果你有更好的方法,请告诉我-使用容错设置将数据加载到目标,设置为"跳过并记录不兼容的行"-我们将获得到达复制活动的总行数和进入目标的行数。根据这两个数字,我们可以计算出%。-如果该百分比超过10(或阈值(,则从目标中删除数据,并通知相关团队或将其放入审核日志

仅供参考-如果我们直接使用脚本加载数据,则雪花DW中提供了此功能。