首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >nifi splitRecord hung

nifi splitRecord hung
EN

Stack Overflow用户
提问于 2022-02-01 13:55:27
回答 1查看 198关注 0票数 0

我正在用一个只有11条记录的小文件测试nifi SplitRecord,但是,SplitRecord挂起很长时间。我不知道它在做什么。洪处理器

SPlitRecord属性: 更多属性

记录每次分割是否控制最大值,或最小记录,或每分割记录的确切数量?如果记录总数少于每次拆分的记录数,那么SplitRecords的行为是什么?它是等到暂停,然后把所有的记录放在一个单独的分裂?

经过大约10分钟或随机次数的开始/停止/终止/重新启动,它可能会触发处理器更快地拆分数据。

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2022-02-01 22:11:19

每个拆分记录控制的最大值,请参阅"SplitRecord.java“的代码。如果记录少于RECORDS_PER_SPLIT值,它将立即将它们全部推送出去。

但是,它看起来确实是在创建一个新的FlowFile,即使总记录计数小于RECORDS_PER_SPLIT值,这意味着它正在进行磁盘写入,而不管是否真的发生了拆分。

我可能会调查两件事:

  1. 主机内存-主机有多少内存?有多少配置为NiFi最大堆?系统内存使用/空闲的总量是多少?当大量的系统内存留给文件缓存时,NiFi的性能最好。
  2. 主机的磁盘,特别是其中包含内容存储库的磁盘。容量?伊欧?它是否与其他服务共享?FlowFile内容被写入到content,如果磁盘与OS共享,或者其他繁忙的服务(或其他NiFi repos),它确实会减缓内容修改的速度。

注:您的NiFi版本超过3年,请考虑升级。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/70941762

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档