首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >当事件数等于或超过batchSize时,为什么Flume-NG HDFS接收器不写入文件?

当事件数等于或超过batchSize时,为什么Flume-NG HDFS接收器不写入文件?
EN

Stack Overflow用户
提问于 2013-05-15 00:31:32
回答 1查看 2.4K关注 0票数 4

我正在尝试配置Flume,使日志每小时滚动一次,或者在日志达到HDFS的默认块大小(64MB)时滚动。下面是我当前的配置:

代码语言:javascript
复制
imp-agent.channels.imp-ch1.type = memory
imp-agent.channels.imp-ch1.capacity = 40000
imp-agent.channels.imp-ch1.transactionCapacity = 1000

imp-agent.sources.avro-imp-source1.channels = imp-ch1
imp-agent.sources.avro-imp-source1.type = avro
imp-agent.sources.avro-imp-source1.bind = 0.0.0.0
imp-agent.sources.avro-imp-source1.port = 41414

imp-agent.sources.avro-imp-source1.interceptors = host1 timestamp1
imp-agent.sources.avro-imp-source1.interceptors.host1.type = host
imp-agent.sources.avro-imp-source1.interceptors.host1.useIP = false
imp-agent.sources.avro-imp-source1.interceptors.timestamp1.type = timestamp

imp-agent.sinks.hdfs-imp-sink1.channel = imp-ch1
imp-agent.sinks.hdfs-imp-sink1.type = hdfs
imp-agent.sinks.hdfs-imp-sink1.hdfs.path = hdfs://mynamenode:8020/flume/impressions/yr=%Y/mo=%m/d=%d/logger=%{host}s1/
imp-agent.sinks.hdfs-imp-sink1.hdfs.filePrefix = Impr
imp-agent.sinks.hdfs-imp-sink1.hdfs.batchSize = 10
imp-agent.sinks.hdfs-imp-sink1.hdfs.rollInterval = 3600
imp-agent.sinks.hdfs-imp-sink1.hdfs.rollCount = 0
imp-agent.sinks.hdfs-imp-sink1.hdfs.rollSize = 66584576

imp-agent.channels = imp-ch1
imp-agent.sources = avro-imp-source1
imp-agent.sinks = hdfs-imp-sink1

我看到的是,所有的数据似乎都保存在内存中,直到我在64MB以下,直到文件在1小时后滚动。为了获得我想要的行为,有没有我应该调整的设置?

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2013-11-28 03:10:06

我的回答是,Flume正在将数据批量写入HDFS。文件长度报告为打开,因为正在写入数据块。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/16548358

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档