ETL处理中记录机制的最佳实践是什么?
实际上,我们正在开发ETL应用程序。在这个应用程序中,我们希望使用日志分析来记录数据有人能按照行业标准提供日志记录机制的最佳实践吗。
我在谷歌上搜索了以下链接:https://www.timmitchell.net/post/2016/03/14/etl-logging/
任何帮助都将不胜感激。
提前感谢
我最近在一个组织中实现了一对一。这是由于技术选择而定制的。以下是日志记录中包含的内容。
- 它充当任何ETL作业的包装器,也就是说,有一个开发的模板,该模板具有内置日志记录
- 该模板具有主作业和子作业以及基于主作业或子作业的日志的功能
- 日志记录捕获以下内容:
- 作业状态-成功、失败、警告
- 源详细信息(例如文件名或源表名等(
- 数据分类标记
- 传入数据源的业务所有者
- 原始文件的行数与加载的行数
- 如果作业失败,则向通讯组列表发送警报
- 如果工作失败,通过服务台提出罚单
这取决于您的需求,您可能想要捕获更多或更少。祝好运