本文描述问题及解决方法同样适用于 

最近在生产环境中遇到了一个棘手的问题：使用 Logstash 从 S3 读取数据并写入 Elasticsearch 时，Logstash 节点的磁盘空间持续增长，最终被打满。起初以为是磁盘容量不够，于是不断扩容，从几百 GB 一路扩到 2TB，结果还是被打满了。这显然不是容量问题，而是某个地方出现了资源泄漏。

经过排查发现，问题出在 Logstash 的 S3 input 插件上。该插件在处理 S3 对象时，会将文件下载到本地临时目录，但在某些情况下，这些临时文件并不会被清理，导致磁盘空间被持续占用。

要理解这个问题，我们先来看看 Logstash S3 input 插件的基本工作流程：

时间发生变化时，插件会记录一条日志说

这个文件已更新，将在下次周期处理

，但此时文件已经被下载到本地临时目录了，却没有被清理。

让我们看看相关的代码逻辑（位于

vendor/bundle/jruby/2.5.0/gems/logstash-input-s3-3.7.0/lib/logstash/inputs/s3.rb

if sincedb.last_modified < object.last_modified
  # 文件已下载到本地临时目录
  process_file(filename)
  sincedb.write(object.last_modified)
  FileUtils.remove_entry_secure(filename, true)  # 正常清理
else
  # 问题就在这里！
  @logger.info("#{log.key} is updated at #{object.last_modified} and will process in the next cycle")
  # 文件已经下载了，但没有清理！
  # 临时文件就这样留在了磁盘上
end


这个问题通常在以下场景中出现：

解决方案其实很简单，就是在检测到

变化时，也要清理已下载的临时文件：

else
  # @logger.info("#{log.key} is updated at #{object.last_modified} and will process in the next cycle")  # 注释掉原日志
  FileUtils.remove_entry_secure(filename, true)  # 添加文件清理
  sincedb.write(log.last_modified)               # 更新 sincedb
end


有人可能会问：这样修改会不会导致数据丢失？让我们分析一下：

因此，这个修复方案是安全且合理的。

# 定期检查临时目录大小
du -sh /path/to/logstash/temp/directory

# 或者设置监控告警
watch -n 300 'du -sh /path/to/logstash/temp/directory'


# 查看 sincedb 文件的更新时间
ls -lh /path/to/sincedb

# 查看 sincedb 内容
cat /path/to/sincedb


修改后，原来的日志信息被注释掉了，可以添加新的日志来跟踪清理行为：

@logger.debug("Cleaned temp file for #{log.key} due to last_modified change")

这次问题排查给我们带来了几点启示：

如果你也在使用 Logstash S3 input 插件，建议：

这个问题虽然看起来不起眼，但在生产环境中的影响却是致命的。通过深入分析代码逻辑，我们找到了问题的根源，并提出了简单有效的解决方案。希望这篇文章能帮助遇到类似问题的朋友快速定位和解决问题。

如果你有任何疑问或建议，欢迎在评论区讨论交流。

本文描述问题及解决方法同样适用于 腾讯云 Elasticsearch Service（ES）。

Logstash S3 插件磁盘爆满踩坑记：一行代码引发的血案

大数据工程师

后端

大数据

运维

Logstash S3 input插件存在磁盘空间泄漏问题，导致临时文件堆积。本文分析问题根源并提供修复方案，适用于腾讯云ES用户。解决方案包括修改插件代码清理临时文件、更新sincedb记录，并给出验证方法。帮助用户解决生产环境中Logstash节点磁盘被打满的问题。

Elasticsearch Service

数据丢失

2026新春采购季

bigdata-class

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云AI代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

功能1上新10个字符

功能2描述100个字符功能2描述100个字符功能2描述100个字符功能2描述100个字符功能2描述100个字符功能2描述100个字符功能2描述100个字符功能2描述100个字符功能2描述100个字符。

功能2上新100个字符功能2上新100个字符功能2上新100个字符功能2上新100个字符功能2上新100个字符功能2上新100个字符功能2上新100个字符功能2上新100个字符功能2上新100个字符。

功能5描述100个字符功能5描述100个字符功能5描述100个字符功能5描述100个字符功能5描述100个字符功能5描述100个字符

功能5上新100个字符功能5上新100个字符功能5上新100个字符功能5上新100个字符功能5上新100个字符功能5上新100个字符功能5上新100个字符功能5上新100个字符功能5上新100个字符功能5上新100个字符

功能4上新

文章&问答评论现已支持表情

全新交互，全新视觉，新增快捷键、悬浮工具栏、高亮块等功能并同时优化现有功能，全面提升创作效率和体验

社区富文本编辑器全新改版！诚邀体验～ 

精选全网热门MCP server，让你的AI更好用 🚀

💥开发者 MCP广场重磅上线！

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

Logstash S3 插件磁盘爆满踩坑记：一行代码引发的血案

Logstash S3 插件磁盘爆满踩坑记：一行代码引发的血案

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐