在 nifi tailFile 处理器中添加前缀或后缀

Posted

技术标签:

【中文标题】在 nifi tailFile 处理器中添加前缀或后缀【英文标题】:add prefix or sufix in nifi tailFile processor 【发布时间】:2018-03-03 17:08:34 【问题描述】:

在我的项目中,我使用 Nifi 从 tomcat 读取日志文件并在 spark 应用程序中处理这些数据,然后将这些处理数据插入 DB。

但我的问题是,在应用服务器级别,我在 2 个不同的框中有 4 个 tomcat 集群(4 个不同的日志文件),并且我已经在 spark 级别标记了哪些数据来自哪个集群。在我目前的设置中,我在 Nifi 中有 2 个 tailFile 处理器,它指向单个 outport ,在每个盒子中,但无法在 spark 级别识别哪些数据来自哪个集群。

tailFile 处理器中是否有任何选项可以在每条记录中添加一些后缀或前缀或文件名(或任何属性)?这样我就可以识别每条记录来自哪个集群并以这种方式保存在数据库中?

任何帮助将不胜感激......

提前致谢

【问题讨论】:

【参考方案1】:

日志文件名存储在 TailFile 处理器之后的tailfile.original.path 属性中

因此,在 TailFile 处理器之后放置另一个处理器,它将向 flowfile content 添加所需的前缀。例如,您可以使用 ReplaceText。

【讨论】:

以上是关于在 nifi tailFile 处理器中添加前缀或后缀的主要内容,如果未能解决你的问题,请参考以下文章

大数据NiFi(二十一):监控日志文件生产到Kafka

nifi从json文件中获取属性

NiFi之Processor配置

大数据NiFi:NiFi集群页面的添加配置处理器操作

大数据NiFi:NiFi集群页面的添加配置处理器操作

Nifi03 处理器