当多个数据流作业在GCP中并行运行时触发警报



我正在使用谷歌云数据流来执行一些资源密集型的数据流作业。在给定的时间,我的系统必须并行执行不超过2个作业。

由于每个作业都是资源密集型的,我正在寻找一种方法,在运行两个以上的数据流作业时触发警报。

我尝试实现一个custom_count,它在每个作业开始后递增。但是custom_computer仅在作业执行之后显示。到那时触发警报可能为时已晚。

您可以将项目的配额dataflow.googleapis.com/job_count修改为限制为1,并且在该项目中没有两个作业可以并行运行。配额是项目级别的,不会影响其他项目。

另一个选项是使用GCP监控系统来观察正在运行的Dataflow作业。例如,您可以使用弹性云(可通过Marketplace获得(来加载所有相关的度量和日志。Elastic可以对您感兴趣的每个状态进行可视化和警报。我发现这个地形项目对开始使用这种方法非常有帮助。

最新更新