我使用Flink将数据从源发送到接收器。我的flink应用程序从Kafka消费数据并发送到目的地。目标也是kafka主题,但主题名称不同。Flink仅用于交付目的,而不具有任何业务逻辑。
在这种情况下,我认为将链接更改为Kafka流将增加吞吐量。因为链路除了将数据从源发送到接收器之外没有任何贡献。此外,我的源和汇使用kafka,所以我认为kafka流在传输数据的情况下会更快。
如果您能对我的问题给出任何意见,我将不胜感激。
谢谢。
不能保证一个会比另一个快。您仍然需要进行JVM和网络调优。
都可以,但是Kafka Streams的限制是数据必须保持在同一个Kafka集群中。Flink没有这样的限制。
或者你可以简单地使用MirrorMaker在不同集群的Kafka主题之间移动数据。