Syslog连接器-CEF源



试图找到如何配置Confluent syslog连接器以接受CEF格式数据的示例。我已经启动并运行了syslog连接器,但在connect.log中看到这些类型的错误,就再也没有进入我的主题:

[2020-03-24 23:56:09,181] WARN decode() - Could not parse message. request = 'SyslogRequest{receivedDate=2020-03-24T23:56:09.181, remoteAddress=/<some ip>, rawMessage=Wed Mar 25 00:31:30 2020 1/1/e1 CEF:0|Gigamon|metadata|unknown|4|metadata generation|6|GigamonMdataDeltaBytesRcvd=40 GigamonMdataDeltaPKtsRcvd=1 GigamonMdataFlowStartSysUpTime=264840090 GigamonMdataFlowEndSysUpTime=264840090 proto=6 src=<some ip> dst=<some ip> spt=34846 dpt=9997 }' (io.confluent.connect.syslog.message.SyslogMessageParsingHandler)

我通过REST配置连接器,如下所示:

curl localhost:8083/connectors -X POST -H "Content-Type: application/json" -d '{"name": "connect-syslog-netflow","config": { "connector.class": "io.confluent.connect.syslog.SyslogSourceConnector", "tasks.max": "1", "topics":"syslog-netflow","syslog.port": "2055","confluent.topic.bootstrap.servers": "localhost:9092", "confluent.topic.replication.factor": "1", "type": "CEF" } }'

类型CEF在告诉它传入格式方面的尝试很弱。

运行5.0.1融合发行版,单节点开发集群。

因此,在与融合支持合作后,我们确定了问题:

rawMessage=Wed Mar 25 00:31:30 2020 ...

它的工作原理是将日期更改为:

rawMessage=Mar 25 00:31:30 ...

剥离一周和一年中的某一天。

不幸的是,我无法控制网络流源,所以我想在发送到连接器之前,我需要对数据进行某种自定义转换。

相关内容

  • 没有找到相关文章

最新更新