- 综合排序
- 最热优先
- 最新优先
- 来自专栏以Java架构赢天下
ELK + Filebeat + Kafka 分布式日志管理平台搭建
ELK + Filebeat + Kafka 分布式日志管理平台搭建 2. ELK + Filebeat + Kafka 分布式日志管理平台搭建 列表展示 ? ELK + Filebeat + Kafka 分布式日志管理平台搭建 进入kafka01 ? ELK + Filebeat + Kafka 分布式日志管理平台搭建 新建topic ? ELK + Filebeat + Kafka 分布式日志管理平台搭建 ? ELK + Filebeat + Kafka 分布式日志管理平台搭建 到此kafka的简单使用完成 3 ELK + Filebeat + Kafka 分布式日志管理平台使用测试 Filebeat发送日志到 ELK + Filebeat + Kafka 分布式日志管理平台搭建 kabana查看日志 ?
2.7K41发布于 2020-08-21 - 来自专栏Lcry个人博客
轻量级日志管理平台Grafana Loki搭建及应用
前言 在微服务以及云原生时代，由于应用部署到遍地是，为了不像传统的方式上每台应用服务器筛选日志，那么我们可以使用日志管理平台，将所有日志都采集到统一的平台，供运维和研发人员快速排查故障，进而提升效率。 这样的日志平台云厂商有提供，比如腾讯云的日志服务CLS，阿里云日志SLS，百度云日志服务BLS，天翼云日志服务CT-LTS，谷歌云Cloud Logging等等。 /bin/bash kill -9 `cat pid` echo "关闭成功！" 执行启动 . 总结 本文通过对比不同的日志平台，最终实战搭建了Promtail + Loki + Grafana + Minio，实打实的可以用于生产，但是要注意生产环境的HA部署以及参考官方文档进行优化，比如不同租户的请求速度频率的限制大小 参考链接 Promtail+Loki+Grafana搭建轻量级日志管理平台 Request Validation and Rate-Limit Errors 日志监控系统 loki 配置文件详解 Loki
2.2K10编辑于 2024-08-31 - 来自专栏linux运维
日志管理
使用自动化工具使用自动化工具可以帮助您更高效地管理和应用安全补丁。AnsibleAnsible 是一个配置管理工具，可以用于自动化安全补丁的安装。 使用包管理器大多数操作系统都提供了包管理器，可以自动检查和安装安全补丁。 记录和审计记录和审计补丁管理过程，确保所有安全补丁都被正确安装和验证。使用日志文件大多数包管理器都会记录更新操作，可以查看日志文件以确认补丁是否成功安装。 APT 日志：cat /var/log/apt/term.log YUM 日志：cat /var/log/yum.log 使用审计工具使用审计工具（如 auditd）记录系统活动，确保补丁管理过程的透明性和可追溯性 建立补丁管理策略建立明确的补丁管理策略，确保所有系统和应用程序都能及时获得安全更新。补丁管理策略示例：定期检查更新：每周至少检查一次系统和应用程序的安全更新。
48810编辑于 2025-02-03 - 来自专栏技术杂记
日志服务器（9）
安装 LogAnalyzer LogAnalyzer 的下载地址可以参考 下载 ，安装过程可以参考 安装 ---- 下载 LogAnalyzer [root@h105 src]# wget http://download.adiscon.com/loganalyzer/loganalyzer-3.6.6.tar.gz --2016-05-10 22:15:18-- http://download.adiscon.com/loganalyzer/loganalyzer-3.6.6.tar.gz Resolv
1.2K30发布于 2021-10-20 - 来自专栏互联网老辛
日志管理及日志轮询
日志管理的意义 日志对于安全来说，非常重要，他记录了系统每天发生的各种各样的事情，你可以通过他来检查错误发生的原因，或者受到攻击时攻击者留下的痕迹。 日志主要的功能有：审计和监测。 他还可以实时的监测系统状态，监测和追踪侵入者等等 一般情况下我们的日志主要放在哪里？ /syslog.conf 配置文件： MODULES 日志的模块 $ModLoad imuxsock 支持本地系统日志的模块 $ModLoad imklog 支持内核日志的模块 $ModLoad immark 备注：对应信息：时间 - 主机-服务-进程ID -监听的相关信息 日志切割（轮转） 在linux下的日志会定期进行滚动增加，我们可以在线对正在进行回滚的日志进行指定大小的切割（动态），如果这个日志是静态的 : 当日志达到某个特定的大小,我们将日志分类,之前的日志保留一个备份,再产生的日志创建一个同名的文件保存新的日志. sshd日志回滚实战 1） 修改配置文件 [root@centos7-xinsz08
2.2K20发布于 2020-05-14 - 来自专栏销声匿迹
Core + Vue 后台管理基础框架9——统一日志
1、背景 前阵子有园友留言，提到日志相关的东西，同时，最近圈子里也有提到日志这个东西。一个充分、集中的统一日志平台还是很有必要的，否则系统出问题了只能靠猜或者干瞪眼。 何谓充分，日志记录满足最低要求、出问题方便定位、可追溯、可追责，最重要的，方便扯皮；何谓集中，各子系统或服务日志都怼到一个地方，想看日志直接去日志平台去看，且方便检索、聚类，而不是需要每个服务、每台服务器逐个远程去翻扯 这里，就结合项目实践，聊下怎么方便、快捷、低成本的实现统一日志平台。 ，F（filebeat）用于搜集本地日志发送到远程ES，K（Kibana）用于日志检索。 选择EFK是因为之前监控、PCI认证已经搭建好了ELK环境，这里就直接使用不再重复建设其他平台。 3、log4net配置 ?
1K20发布于 2020-09-03 - 来自专栏JAVA乐园
FileBeat + Kafka Logstash+ ElasticSearch+Kibana 搭建日志管理平台
管理平台流程 环境准备 elasticsearch-6.0.0.tar.gz filebeat-7.0.1-linux-x86_64.tar.gz kibana-6.0.0-linux-x86_64 ---- output.kafka: enabled: true hosts: ["127.0.0.1:9092"] topic: test # 并且修改相关配置 enabled: true # 获取日志的路径 paths: - /home/elk/log/access.log # 日志标签，在kibana中查看数据可以找到该标签，并且可以根据该tag标签过滤查找数据 tags: ["nginx-accesslog
97930编辑于 2022-03-08 - 来自专栏技术杂记
RabbitMQ管理9
运行生产脚本 [root@h102 ruby]# ruby p.rb /usr/local/rvm/rubies/ruby-2.2.1/lib/ruby/site_ruby/2.2.0/rubygems/core_ext/kernel_require.rb:54:in `require': cannot load such file -- bunny (LoadError) from /usr/local/rvm/rubies/ruby-2.2.1/lib/ruby/site_ruby/2.2.0/ru
39020编辑于 2022-04-23 - 来自专栏全栈程序员必看
Spring日志管理
SpringBoot关于日志的官方文档 1、简述 SpringBoot官方文档关于日志的整体说明 本博客基于SpringBoot_1.3.6 大家请先简单看下这篇英文的官方文档， 还是需要添加依赖所选择日志系统的配置文件。 而且日志文件会在10Mb大小的时候被截断，产生新的日志文件，默认级别为：ERROR、WARN、INFO 这时候又会有很多同学问了，那如果我要自定义输出格式怎么办呢？ 2.如果我们使用指定日志系统的配置文件， application.properties 中相关的日志配置是可以不要的。 2.如果我们使用指定日志系统的配置文件， application.properties 中相关的日志配置是可以不要的。
1.7K30编辑于 2022-08-30 - 来自专栏劝学
Nodejs日志管理之日志切割
Foreback 现在nodejs在服务器上使用越来越广了，常用的框架有express、koa、eggjs等，nodejs进程管理工具是pm2。 下面就说下nodejs在实战中的日志管理 日志管理一般有两种，一种是上传到日志服务器，一种是本地保存。 每个公司实现情况不一样，下面只说下本地保存的方案。 基础pm2的日志切割 使用pm2自带的日志切割插件，pm2-logrotate， 安装 # CLI配置 pm2 set pm2-logrotate: // ~/.pm2/module_conf.json 前后两个文件名虽然一样，但inode不一样了，所以如果是使用pm2管理，还需要重启下pm2。 实现细节是把Log日志copy一份，再把原先的日志内容清空。 好处是不需要重启Pm2，缺点是从copy到清空这一时间段的日志是会丢失的。
2K20发布于 2021-01-21 - 来自专栏Linux运维学习之路
MySQL日志管理
MySQL日志管理 错误日志 配置方法： vim /etc/my.cnf [mysqld] log-error=/tmp/mysql.log 查看配置方式： show variables like '% 例如：ELK 二进制日志 建议刚部署mysql数据库的时候就开启二进制日志 二进制日志不依赖于存储引擎的，依赖于sql层，记录和sql语句有关的信息 在sql层已经执行完成的语句，如果是事务，应当是已经完成的事务 功能作用：备份和时间点恢复、主从 二进制日志记录了什么？ show binlog events in ''; 查看文件内容 show master status; 查看当前正在使用的二进制日志文件 二进制日志管理 默认情况下，不会删除旧的日志文件。 ; reset master; 将所有binlog日志删除，并重新生成，从000001开始 根据文件名删除日志： PURGE BINARY LOGS TO 'mysql-bin.000010'; 刷新二进制日志
1.7K120发布于 2018-03-29 - 来自专栏花落的技术专栏
日志管理详解
支持的日志框架 每个公司所用的日志框架形形色色。TLog宣称支持了主流的三大日志框架：log4j，log4j2，logback 实际测试中，在这3个框架中，TLog也都能够正常打印出标签。 1"); log.info("这是业务日志2"); log.info("这是业务日志3"); log.info("这是业务日志4"); log.info ("这是业务日志5"); } 只要在方法上加一个标签，那么这个方法下面所有的日志，包括之后的N个层级，都会自动加上你定义的标签 这个功能在对日志的排版和查找上，又能增加很多个标记。 5.908489157 | 14.604699842 第7次 | 6.153151066 | 13.700609245 第8次 | 6.603960836 | 13.048889457 第9次 6.121611887 | 12.543883453 第7次 | 6.18131273 | 12.192140225 第8次 | 6.238254682 | 12.159684042 第9次
98000编辑于 2021-12-16 - 来自专栏linux技术分享
mysql日志管理
binlog 是逻辑日志 会记录整个数据库运行期间变更性的,语句 1备份恢复必须依赖二进制日志 2复制环境必须依赖二进制日志 3分析大事务 配置 log_bin binlog的开关和binlog的前缀 server_id 必须要打开 binlog_format binlog日志的格式 ROW/Statement/mixed 只影响dml语句记录格式 ddl只会记录 =1 刷新参数 1代表每次事务提交都要刷新binlog 0代表由os cache判断什么时候刷新 2多少组事务去刷磁盘 在线查看binlog show binary logs; Log_name 日志名字 File_size 日志的大小,日志量当前日志文件偏移量 Encrypted 是不是加密的 binlog使用只会使用最后一个 show master status ; 当前在使用哪个binlog 日志文件记录了,所有库所有表的日志(可以用my2sql) gtid特性 是对于一个已提交事务的编号 ,并且是一个全局唯一的编号.
2K31编辑于 2022-03-21 - 来自专栏全栈程序员必看
rsyslog日志管理
文章目录 简介 基本维护 核心概念 实例 配置客户端 日志服务器 输出日志到mysql 简介 rsyslog是一个快速的日志处理系统，具有卓越的性能和出色的安全性，采用模块化设计，他可以从各种数据源中接收输入 rsyslog是一个c/s架构，既可以作为日志客户端上报日志，也可以作为服务端接收日志 rsyslog是模块化设计，因此很多功能需要加载相关的模块 官方文档 基本维护 安装 一般主流linux系统都自带 /rpms.adiscon.com/v8-stable/rsyslog.repo yum install rsyslog 启停 systemctl start/stop rsyslog 查看日志 ,传入rsyslog的日志信息称为message，其属性有tag, facility, severity, input: 将外部数据传入rsyslog，常见输入模块如下 imfile: 处理文本类型的日志 ，常用于处理应用服务的日志 imdocker: 从docker中获取日志 imjournal: 从journal中获取日志 imtcp: 从tcp中获取日志 input(type="imfile"
2.5K10编辑于 2022-11-08 - 来自专栏开源部署
linux日志管理
为了让 管理者可以随时监控服务所产生的信息，Linux 提供了一个日志服务，该服务可以收集（Collect）任何服务传递过来的信息，储存成为记录文件（Log File） 、或直接传送给某些用户，甚至也可以传送到其他计算机的系统日志服务 二、相关软件包和文件 软件包 [root@zutuanxue ~]# rpm -qa | grep rsyslog rsyslog-gssapi-8.37.0-9.el8.x86_64 rsyslog-relp -8.37.0-9.el8.x86_64 rsyslog-8.37.0-9.el8.x86_64 rsyslog-gnutls-8.37.0-9.el8.x86_64 相关文件 配置文件：/etc/rsyslog.conf .* dnf软件包管理器相关日志 /var/log/firewalld 防火墙日志 /var/log/lastlog 所有用户最后一次登录信息,需要使用lastlog命令查看 /var/log/maillog 现在linux系统采用systemd来管理系统服务，而systemd又是第一个启动的服务，所以现在我们通过一个systemd自带的，名字叫systemd-journald的服务来协助记录日志信息。
2.1K20编辑于 2022-09-15 - 来自专栏Kevinello的技术小站
Python日志管理
前言 一个长时间运行的项目，不管是从可维护性还是其他角度来说，日志管理都是必不可少的（我相信还有不少同学是直接输出日志到控制台的吧），将日志输出到日志文件中，不仅方便我们查看程序运行时的情况，也可以让我们在项目出现故障时根据运行时产生的日志快速定位问题出现的位置 （50）；如果需要自定义日志级别时注意不要和默认的日志级别数值相同，logging 执行时输出大于等于设置的日志级别的日志信息（不重要的不归我管），如设置日志级别是 INFO，则 INFO、WARNING 、Formatter Logger：日志，暴露函数给应用程序，基于日志记录器和过滤器级别决定哪些日志有效 LogRecord ：日志记录器，将日志传到相应的处理器处理 Handler ：处理器, 将(日志记录器产生的 logging.log(level=logging.DEBUG, msg="Exception occurred", exc_info=True) 自定义Logger basicConfig()方法只能用于简单日志管理 如果将日志保存在一个文件中，那么时间一长，或者日志一多，单个日志文件就会很大，既不利于备份，也不利于查看;我们会想到能不能按照时间或者大小对日志文件进行划分呢？
90431编辑于 2022-08-19 - 来自专栏Java后端开发博客
Linux 日志管理
# Linux 日志管理 # 基本介绍 日志文件是重要的系统信息文件，其中记录了许多重要的系统事件，包括用户的登录信息、系统的启动信息、系统的安全信息、邮件相关信息、各种服务相关信息等。 ，第二次使用正确的密码登录成功看看在日志文件/var/log/secure里有没有记录相关信息 # 日志管理服务 rsyslogd CentOS7.6日志服务是rsyslogd ,CentOS6.x日志服务是 日志，这个日志中记录的是用户验证和授权方面的信息来分析如何查看 日志管理服务应用实例 在/etc/rsyslog.conf 中添加一个日志文件/var/log/frx.log,当有事件发送时(比如 ，就会进行删除 # 日志轮替文件命名 centos7使用logrotate进行日志轮替管理，要想改变日志轮替文件名字，通过/etc/logrotate.conf配置文件中"dateext"参数: 如果配置文件中有 推荐使用第二种方法，因为系统中需要轮替的日志非常多，如果全都直接写入/etc/logrotate.conf配置文件，那么这个文件的可管理性就会非常差，不利于此文件的维护。
6.1K30编辑于 2022-12-25 - 来自专栏Sign
精灵之息 开发日志（9）
另外，因为在微信小游戏平台，所以也会进一步的完善更适合小游戏平台的模式。
53720发布于 2021-08-22 - 来自专栏梦在深巷
Linux日志管理
另一种则是由 Linux distribution 提供的登 录档管理服务来统一管理。 你只要将讯息丢给这个服务后，他就会自己分门别类的将各种讯息放置 到相关的登录档去! CentOS 7.x 使用 systemd 提供的 journalctl 日志管理 CentOS 7 除了保有既有的 rsyslog.service 之外，其实最上游还使用了 systemd 自己的登录文件日志管理功能喔 记得一个好的系统管理员，要常常去『巡视』登录档的内容喔! '-20191110' glob pattern '-[0-9][0-9][0-9][0-9][0-9][0-9][0-9][0-9]' rotating log /var/log/messages, log->rotateCount is 4 dateext suffix '-20191110' glob pattern '-[0-9][0-9][0-9][0-9][0-9][0-9][0-9][
9.7K20发布于 2020-04-23 - 来自专栏北京马哥教育
MySQL日志管理
二进制日志的管理： 日志的滚动： 在my.cnf中设定max_binlog_size = 200M，表示限制二进制日志最大尺寸为200M，超过200M后进行滚动。 [root@localhost mysql]# ll mysqld-binlog.0* -rw-rw----. 1 mysql mysql 445 9月 22 15:13 mysqld-binlog 9月 22 15:13 mysqld-binlog.000004 -rw-rw----. 1 mysql mysql 171 9月 22 15:13 mysqld-binlog.000005 -rw-rw ----. 1 mysql mysql 171 9月 22 15:13 mysqld-binlog.000006 -rw-rw----. 1 mysql mysql 171 9月 22 15:13 relay_log_space_limit=# 设定用于存储所有中继日志文件的可用空间大小。默认为0，表示不限定。最大值取决于系统平台位数。作用范围为全局级别，可用于选项文件，属非动态变量。
2K60发布于 2018-05-04
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号