首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏让技术和时代并行

    浅谈 fluentd 使用

    ---- 1、td-agent 和 fluentd 有什么区别? td-agent 是基于 fluentd 核心功能开发,td-agent 优先考虑稳定性而不是新功能。如果您希望自己控制Fluentd功能和更新,建议使用 Fluentd gem。 如果您是第一次使用 Fluentd 或在生产环境集群环境中使用它,建议使用td-agent。每2或3个月发布一次新版本的td-agent。 3、fluentd 界面在哪里? 安装 td-agent 时候官方直接说明 td-agent 最新版本界面和后台服务已经分离。  问题来了,分离之后界面如何获取呢?不知道,没有找到文档说明。 chown td-agent:td-agent /var/ -R 或者不使用 td-agent 默认启动脚本,直接使用 td-agent 启动。本身的安装方式非常简单,当然你也可以基于镜像进行启动。

    4.8K20发布于 2020-04-28
  • 来自专栏民工哥技术之路

    号称下一代日志收集系统!来看看它有多强

    启动服务 systemctl start td-agent ? =LD_PRELOAD=/opt/td-agent/embedded/lib/libjemalloc.so Environment=GEM_HOME=/opt/td-agent/embedded/lib =/etc/td-agent/td-agent.conf Environment=FLUENT_PLUGIN=/etc/td-agent/plugin Environment=FLUENT_SOCKET =td-agent Type=forking ExecStart=/opt/td-agent/embedded/bin/fluentd --log $TD_AGENT_LOG_FILE --daemon @centos7 ~]# cd /etc/td-agent/ [root@centos7 td-agent]# ll total 4 drwxr-xr-x 2 root root 6 Jun 4

    1.1K20发布于 2021-07-16
  • 来自专栏CNCF

    Fluentd在2019年放弃旧版本的计划公告

    停止接受安全修复补丁 停止更新docker镜像 停止处理0.12版本的问题 我们建议插件开发者使用v1 API来支持完整的v1特性:) Treasure代理(td-agent) 不再支持td-agent 如果你想在fluentd v0.12中使用td-agent,请使用td-agent 2.5。td-agent 2.5使用ruby 2.5,因此td-agent 2.5比td-agent 2.3更好。 当然,我们建议使用td-agent 3, fluentd v1系列,用于新部署:) Ruby Fluentd现在支持ruby 2.1或更高版本,但使代码更难维护。 td-agent 2.5使用ruby 2.5 td-agent 3使用ruby 2.4 td-agent 4将使用ruby 2.6 Alpine docker镜像使用ruby 2.5 Debian docker

    73820发布于 2019-12-04
  • 来自专栏Fluentd学习交流

    在 Windows 系统上安装和使用 Fluentd

    1,td-agent v4(对应 Fluentd 1.11.x 版本) 安装 td-agent https://td-agent-package-browser.herokuapp.com/4/windows > winget install td-agent 从命令提示符运行 td-agent c:/opt/td-agent/etc/td-agent/td-agent.conf <source> @type 点击并打开 td-agent command prompt,输入以下命令运行 td-agent: 然后再打开一个 td-agent 命令提示符,输入以下命令向 td-agent 发送一条测试日志: 如果在 td-agent 日志(c:/opt/td-agent/td-agent.log)中看到以下输出,表明一切 ok。 td-agent 手动注册 td-agent 为系统服务 以管理员身份运行 td-agent 命令提示符,输入以下命令: 如果需要 td-agent 服务自动运行,还需要执行以下命令: 以 Windows

    3.9K20发布于 2021-02-05
  • 来自专栏Fluentd学习交流

    综合使用tail、forward、copy和stdout

    这两个节点位于同一服务器上,我们通过给td-agent指定不同的启动参数,来启动两个节点。 【部署过程】 首先,在服务器上部署nginx,并开启一个简单的http服务器。 配置文件/etc/td-agent/node_forwarder.conf内容如下: <source> @type tail path /usr/local/openresty/nginx/logs -c /etc/td-agent/node_forwarder.conf --daemon /var/run/td-agent/node_forwarder.pid -o /tmp/td-node_forwarder.log 参数说明: -c:指定td-agent使用的配置文件 --daemon:指定pid文件 -o:指定运行日志文件路径 最后,在服务器上配置node_aggregator。 @type stdout </match> 启动node_aggregator: td-agent -c /etc/td-agent/node_aggregator.conf --daemon /var

    1.5K20发布于 2020-06-10
  • 来自专栏Fluentd学习交流

    Fluentd 命令行工具 fluent-cat 介绍

    C:\opt\td-agent>fluent-cat --help Usage: fluent-cat [options] <tag> -p, --port PORT BTW,这个工具位于/opt/td-agent/embedded/bin/ 目录中。 Windows 系统打开 td-agent 命令提示符可直接使用。

    1.4K10发布于 2021-02-05
  • 来自专栏Fluentd学习交流

    使用Fluentd发送告警邮件

    【安装软件】 安装td-agent 安装插件:fluent-plugin-grepcounter td-agent-gem install fluent-plugin-grepcounter 安装插件: 【测试方法】 完成上边的配置之后,重启td-agent。 # for init.d users $ sudo /etc/init.d/td-agent restart # for systemd users $ sudo systemctl restart td-agent 如果Apache有5xx错误发生(你也可以手动向access.log追加一条5xx错误),你将会收到一封标题为"HTTP SERVER ERROR"的告警邮件。

    1.2K10发布于 2020-06-10
  • 来自专栏崔哥的专栏

    fluentd 的使用

    td-agent 是基于 fluentd 核心功能开发,td-agent 优先考虑稳定性而不是新功能。 docker logs 可以看到 <match debug.stdout> @type stdout </match> fluentd-ui fluentd-ui是一个基于浏览器的fluentd和td-agent

    77010编辑于 2022-05-25
  • 来自专栏运维之美

    再见 Logstash,是时候拥抱下一代开源日志收集系统 Fluentd 了

    配置文件位置 编辑 fluentd 配置文件的方法: vim /etc/td-agent/td-agent.conf 修改运行用户和组 默认来说 fluentd 使用 td-agent 用户启动。 After=network-online.target Wants=network-online.target [Service] User=td-agent Group=td-agent LimitNOFILE =65536 Environment=LD_PRELOAD=/opt/td-agent/embedded/lib/libjemalloc.so Environment=GEM_HOME=/opt/td-agent =/var/run/td-agent/td-agent.sock Environment=TD_AGENT_LOG_FILE=/var/log/td-agent/td-agent.log Environment =td-agent Type=forking ExecStart=/opt/td-agent/embedded/bin/fluentd --log $TD_AGENT_LOG_FILE --daemon

    3.2K70发布于 2021-07-01
  • 来自专栏JFrog杰蛙DevOps

    容器云环境,你们如何监控应用运行情况? --JFrog 云原生应用监控实践

    例如,对于运行Red Hat UBI Linux的节点,td-agent必须安装Fluentd代理。 默认情况下,对于软件包管理器根安装,该td-agent.conf文件位于中/etc/td-agent/。 $ ls -al /etc/td-agent/td-agent.conf -rw-r--r-- 1根root 8017 May 11 18:09 /etc/td-agent/td-agent.conf 运行FluentD 现在我们已经有了新的配置文件,我们可以在登录到容器后在容器上启动td-agent作为服务: $ systemctl启动td-agent 或 $ td-agent -c td-agent.conf *文件,然后启动td-agent

    1.8K10发布于 2020-07-20
  • 来自专栏云计算教程系列

    如何在Ubuntu上收集Docker日志

    第1步 - 安装Fluentd 安装Fluentd最常见的方法是通过td-agent包。 它们还提供了一个脚本来获取td-agent配置存储库并为您安装软件包的最新软件包。 : sh install-td-agent.sh 安装完成后,开始运行td-agent: sudo systemctl start td-agent 检查日志以确保已成功安装: tail /var/log 您可以在位于/etc/td-agent/td-agent.conf的Fluentd配置文件中定义这些规则。 保存新配置文件后,重新启动td-agent服务以应用更改: sudo systemctl restart td-agent 正确配置了Fluentd,让我们安装Elasticsearch来从Fluentd

    1.6K30发布于 2018-08-06
  • 来自专栏Fluentd学习交流

    Fluentd输出插件:out_elasticsearch用法详解

    ---- 【安装方法】 如果你使用的是 td-agent v3.0.1及更高版本,out_elasticsearch 插件已打包在 td-agent 的安装包中,无需手动安装。 如果不是通过 td-agent 安装的 Fluentd,可使用 fluent-gem 来安装 out-elasticsearch。 elastic/,http://host2 以下为非法配置: user demo+ password @secret ---- 【常见问题】 无法向 elasticsearch 发送日志事件 比如,当前的 td-agent # For td-agent users $ /usr/sbin/td-agent-gem list elasticsearch # For standalone Fluentd users $ fluent-gem

    2.7K10发布于 2020-12-22
  • 来自专栏Fluentd学习交流

    通过测试 grep 插件,一起了解验证插件功能的方法

    @type stdout </match> input 使用 in_forward,用于接收 fluent-cat 发送来的测试数据; output 使用 out_stdout,可直接将数据输出到 td-agent 【测试过程】 启动 Fluentd 采集服务 > fluentd -c etc\td-agent\td-agent.conf -vv ? 多次使用 fluent-cat 发送测试数据,并在 td-agent 命令提示符窗口中查看输出: 【数据分析】 输入数据(echo) 输出结果 验证的插件功能 {"message":"hello fluentd

    98710发布于 2021-02-05
  • 来自专栏Fluentd学习交流

    Fluentd输出插件:rewrite_tag_filter用法详解

    --------------------------------+ +------------------------------------------------+ 【安装说明】 td-agent 较低版本的td-agent可以通过以下命令进行安装: # for td-agent2 (with fluentd v0.12) $ sudo td-agent-gem install fluent-plugin-rewrite-tag-filter /httpd/access_log <parse> @type apache2 </parse> tag td.apache.access pos_file /var/log/td-agent

    3.2K20发布于 2020-06-10
  • 来自专栏云计算教程系列

    如何在Ubuntu 14.04上使用Fluentd和ElasticSearch集中Docker日志

    第1步 - 安装Fluentd 部署Fluentd最常见的方法是通过td-agent软件包。 目前,td-agent支持以下平台: Ubuntu:Lucid, Precise and Trusty Debian:Wheezy和Squeeze RHEL / Centos:5,6和7 Mac OSX 使用以下命令安装td-agent: curl -L http://toolbelt.treasuredata.com/sh/install-ubuntu-trusty-td-agent2.sh | sh 开始td-agent: sudo /etc/init.d/td-agent start 检查日志以确保已成功安装: tail /var/log/td-agent/td-agent.log 您应该看到类似于以下内容的输出

    1.8K00发布于 2018-09-20
  • 来自专栏后端云

    Fluentd 实现 Kubernetes Pod 日志收集

    ":"3"}' >> logs/application/registration.log.1 ubuntu@linux:~$ ls -l logs/fluentd/ -rw-r--r-- 1 td-agent td-agent 61 Apr 6 21:02 registration.log.20180406.b56933893cd87b6b8 -rw-r--r-- 1 td-agent td-agent

    3.1K30编辑于 2021-12-08
  • 来自专栏网罗开发

    【分布式日志篇】从工具选型到实战部署:全面解析日志采集与管理路径

    fluent-plugin-elasticsearch配置示例创建 Fluentd 配置文件 fluentd.conf:<source> @type tail path /var/log/app/*.log pos_file /var/log/td-agent > @type elasticsearch host 127.0.0.1 port 9200 logstash_format true</match>启动 Fluentd运行 Fluentd:td-agent

    48810编辑于 2025-01-23
  • 来自专栏Fluentd学习交流

    Fluentd输入插件:in_tail用法详解

    示例配置 <source> @type tail path /var/log/httpd-access.log pos_file /var/log/td-agent/httpd-access.log.pos 当td-agent重启时,它会从重启前的位置开始读取数据, 这个位置保存在pos_file指定的文件中。 pos_file /var/log/td-agent/tmp/access.log.pos pos_file_compaction_interval 72h <parse>指令(必需) 用于配置解析文件内容使用的解析器

    4.4K20发布于 2020-06-10
  • 来自专栏Linyb极客之路

    详解三款日志采集工具--Logstash,Fluentd, Logtail比较

    ---- 02 fluentd 开源社区中流行的日志收集工具,td-agent是其商业化版本,由Treasure Data公司维护,是本文选用的评测版本。 ?

    11.8K40发布于 2019-06-20
  • 来自专栏我的小碗汤

    kube-apiserver审计日志记录和采集

    Fluentd的配置文件在容器内的/etc/td-agent/td-agent.conf中配置,部分配置截图如下: ? 该配置由名为fluentd的ConfigMap指定: ?

    3.7K20发布于 2019-01-23
领券