Flink Table to DataStream:如何访问列名



我想使用Flink SQL将Kafka主题消费到表中,然后将其转换回DataStream。

这是SOURCE_DDL:

CREATE TABLE kafka_source (
user_id BIGINT,
datetime TIMESTAMP(3),
last_5_clicks STRING
) WITH (
'connector' = 'kafka',
'topic' = 'aiinfra.fct.userfeature.0',
'properties.bootstrap.servers' = 'localhost:9092',
'properties.group.id' = 'test-group',
'format' = 'json'
)

使用Flink,我执行DDL。

val settings = EnvironmentSettings.newInstance.build
val streamEnv = StreamExecutionEnvironment.getExecutionEnvironment
val tableEnv = StreamTableEnvironment.create(streamEnv, settings)
tableEnv.executeSql(SOURCE_DDL)
val table = tableEnv.from("kafka_source")

然后,我将其转换为DataStream,并在map(e => ...)部分中进行下游逻辑。

tableEnv.toRetractStream[(Long, java.sql.Timestamp, String)](table).map(e => ...)

map(e => ...)部分中,我想访问列名,在本例中为last_5_clicks。为什么?因为我可能有不同的源和不同的列名(例如last_10min_page_view(,但我希望重用map(e => ...)中的代码。

有办法做到这一点吗?谢谢

从Flink 1.12开始,它可以通过Table.getSchema.getFieldNames访问。从1.13版本开始,它可以通过Row.getFieldNames访问。

最新更新