Flume 将 txt 文件更改为二进制文件
Posted
技术标签:
【中文标题】Flume 将 txt 文件更改为二进制文件【英文标题】:Flume changing txt files to binaries 【发布时间】:2014-05-07 18:53:43 【问题描述】:我正在使用 Flume 假脱机目录并将文件上传到 hdfs。这些是 txt/csv 文件,我希望它们采用 hdfs 格式。但是 Flume 将它们作为二进制文件加载...
这是我的配置:
tier1.sources = source1
tier1.channels = channel1
tier1.sinks = sink1
tier1.sources.source1.type = spooldir
tier1.sources.source1.channels = channel1
tier1.sources.source1.spoolDir = /var/data
tier1.sources.source1.fileHeader = false
tier1.sources.source1.deletePolicy = immediate
tier1.channels.channel1.type = memory
tier1.sinks.sink1.type = hdfs
tier1.sinks.sink1.channel = channel1
tier1.sinks.sink1.hdfs.path = /user/hdfs/%y-%m-%d/
tier1.sinks.sink1.hdfs.writeFormat=Text
tier1.sinks.sink1.hdfs.useLocalTimeStamp = true
tier1.sinks.sink1.hdfs.rollInterval = 30
tier1.channels.channel1.capacity = 100
要让 Flume 将 txt 文件加载为 txt 文件,我应该改变什么?
【问题讨论】:
【参考方案1】:这应该可以解决您的问题:
tier1.sinks.sink1.hdfs.fileType = 数据流
tier1.sinks.sink1.hdfs.writeFormat = 文本
【讨论】:
无论如何都不能解决这个问题,telnet 中的行保存在 HDFS 上的二进制文件中。以上是关于Flume 将 txt 文件更改为二进制文件的主要内容,如果未能解决你的问题,请参考以下文章
iTunes Connect 和 Xcode 8:您的应用程序已更改为无效的二进制文件