Azure 数据工厂复制活动未对 avro 应用压缩



我正在为 avro 数据集应用 "avroCompressionCodec": "snappy"。但是,Azure 数据工厂 V2 管道中的复制活动会忽略压缩。在设计时,它会显示警告 - 使用 Avro 数据集作为复制目标时,将忽略压缩类型。

在这种情况下,我们知道如何应用压缩吗?

正如官方文件中所述。AvroFormat 数据当前不支持压缩设置。

AvroFormat、OrcFormat 或 ParquetFormat 中的数据不支持压缩设置。读取这些格式的文件时,数据工厂会检测并使用元数据中的压缩编解码器。写入这些格式的文件时,数据工厂会为该格式选择默认压缩编解码器。例如,ZLIB 用于 OrcFormat,SNAPPY 用于 ParquetFormat。

您可以在此处将您的想法发布到Microsoft,要求该功能支持AvroFormat数据的压缩设置。

相关内容

  • 没有找到相关文章

最新更新