kafka appender的Log4j故障转移



我正在尝试设置我的应用程序,以便使用Log4j的Kafka appender将日志写入Kafka。我已经将kafka客户端添加到我的类路径中,并使用相关配置配置了kafka appender。当Kafka集群可用时,我可以接收所有日志。

但如果Kafka宕机,我必须登录到第二个位置,这样日志事件就不会丢失。为此,我使用了FailOver附加程序,但它似乎仍然不起作用。

下面是我的完整日志4j2.xml

<?xml version="1.0" encoding="UTF-8"?>
<Configuration status="WARN" monitorInterval="10">

<Properties>
<Property name="log-pattern" value="[%5.-5p]-[%d{UNIX_MILLIS}]-[%-27.-35t]-[%20c{1.}]--- %m%n" />
<Property name="log-file-location" value="${sys:user.home}/app/logs" />
<Property name="kafka-server-address" value="localhost:9092" />
<Property name="kafka-topic-name" value="app-core-logs" />
</Properties>
<Appenders>
<Kafka name="kafka" topic="${kafka-topic-name}">
<JsonLayout />
<Property name="bootstrap.servers">${kafka-server-address}</Property>
</Kafka>
<RollingFile name="rolling-file" fileName="${log-file-location}/app-core.log" filePattern="${log-file-location}/app-core-%d{MM-dd-yyyy}-%i.log.gz">
<Policies>
<OnStartupTriggeringPolicy />
<SizeBasedTriggeringPolicy size="20 MB" />
<TimeBasedTriggeringPolicy />
</Policies>
<DefaultRolloverStrategy fileIndex="nomax" />
</RollingFile>
<Console name="console">
<PatternLayout pattern="${log-pattern}" />
</Console>
<FailOver name="fail-over" primary="kafka">
<Failovers>
<AppenderRef ref="rolling-file" />
<AppenderRef ref="console" />
</Failovers>
</FailOver>
<File name="internal-logs" fileName="${log-file-location}/app-core-internal.log">
<PatternLayout pattern="${log-pattern}" />
</File>
</Appenders>
<Loggers>
<Root level="INFO" includeLocation="false">
<AppenderRef ref="fail-over" />
</Root>
<Logger name="io.netty" level="INFO" includeLocation="false" additivity="false">
<AppenderRef ref="internal-logs" />
</Logger>
<Logger name="io.vertx" level="INFO" includeLocation="false" additivity="false">
<AppenderRef ref="internal-logs" />
</Logger>
<Logger name="com.mchange" level="INFO" includeLocation="false" additivity="false">
<AppenderRef ref="internal-logs" />
</Logger>
</Loggers>
</Configuration>

由于kafka集群关闭时应用程序是在vert.x上构建的,所以我看到的只是线程块,应用程序没有响应,并且在配置的所有故障转移附加程序中都没有其他日志可用。我使用的是Log4j 2.13.0,甚至用Log4j 2.14.1进行了测试,这是目前的最新版本。

尝试添加retryIntervalSeconds属性,但没有任何区别。

它不起作用,因为默认情况下KafkaAppender会忽略异常。来自log4j2 KafkaAppender文档

ignoreExceptions boolean
默认值为true,导致在内部记录并忽略附加事件时遇到的异常。当设置为false时,异常将传播到调用方。在FailoverAppender中包装此Appender时,必须将其设置为false。

将ignoreExceptions设置为false,这样Appeder就会知道有什么问题,并将消息传播到故障转移。

最新更新