首页
学习
活动
专区
圈层
工具
发布

Linux系统之使用split切割日志文件

一、split命令介绍 split是一个在Unix和类Unix系统(如Linux)中非常有用的命令行工具,它用于将大文件分割成较小的片段。这对于处理大型日志文件、数据传输或存储受限的情况特别有用。...xaa xab xac xad xae xaf xag xah xai xaj xak 3.3 切割为带数字后缀的文件 使用-a与-d选项,将大文件切割为带数字后缀的小文件。..._ 3.5 定文件名的前缀 切割后的文件名后缀以000等依次命名,前缀使用split_file。...: 当按行数或字节数分割日志文件时,请注意保持日志记录的完整性。...备份原始日志文件: 在进行任何切割操作之前,务必先备份原始日志文件。虽然 split 命令不会修改源文件,但备份可以防止意外删除或其他人为错误导致的数据丢失。

3.6K00

Nginx日志文件格式及切割日志文件

作为Web服务器而言,日志是必不可少的也是需要经常查看的。此篇就来介绍下如何自定义Nginx中的日志格式以及使用crontab计划任务来做到每天切割一次日志文件从而做到方便管理。...ip问题解决  http://www.linuxidc.com/Linux/2014-12/110990.htm 通过参考上述内容可以快速的定制出来一个日志格式了,就在上一次做的虚拟主机里增加吧。...,然后重读配置文件 cd /web/vhost/test1/logs/ mv test1.access.log access.log.bak nginx -s reload    #重读配置文件 然后访问下看看日志文件是否和我们自定义的内容一样...-) 自定义日志就结束了,接下来就是切割日志文件并且每天保存一份当天的日志文件方法如下: 首先将原来的日志文件重命名 mv test1.access.log test1.2014-12-29.log nginx...  -s reload 这样就可以做到日志文件的切割。

1.8K10
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    linux日志切割神器logrotate

    logrotate 诞生于 1996/11/19 是一个 Linux 系统日志的管理工具,本文会详细介绍 Linux 日志切割神器 logrotate 的原理和配置。...Linux 日志切割神器 logrotate 原理介绍和配置详解 logrotate简介 llogrotate 是一个 linux 系统日志的管理工具。...可以对单个日志文件或者某个目录下的文件按时间 / 大小进行切割,压缩操作;指定日志保存数量;还可以在切割之后运行自定义命令。...create copytruncate Linux 文件操作机制 介绍一下相关的 Linux 下的文件操作机制。 Linux 文件系统里文件和文件名的关系如下图。...,日志切割的生效时间是在凌晨 3 点到 22 点之间,而且随机延迟时间是 45 分钟,但是这样配置无法满足我们在现实中的应用 现在的需求是将切割时间调整到每天的晚上 12 点,即每天切割的日志是前一天的

    3.1K11

    Linux系统日志切割-Logrotate

    关于日志切割 日志文件包含了关于系统中发生的事件的有用信息,在排障过程中或者系统性能分析时经常被用到。对于忙碌的服务器,日志文件大小会增长极快,服务器会很快消耗磁盘空间,这成了个问题。...除此之外,处理一个单个的庞大日志文件也常常是件十分棘手的事。 logrotate是个十分有用的工具,它可以自动对日志进行截断(或轮循)、压缩以及删除旧的日志文件。...转储后的日志文件放入指定的目录,必须和当前日志文件在同一个文件系统 noolddir 转储后的日志文件和当前日志文件放在同一个目录下...%s 配合dateext使用,紧跟在下一行出现,定义文件切割后的文件名,必须配合dateext使用,只支持 %Y %m %d %s 这四个参数 size(或minsize...logrotate生产应用 为nginx设置日志切割 防止访问日志文件过大 cat /etc/logrotate.d/nginx /application/nginx/logs/*.log {

    10.2K40

    Linux日志切割工具Logrotate配置详解

    [Linux日志切割工具Logrotate配置详解] 文章目录 [TOC] Logrotate 程序是一个日志文件管理工具。...Logrotate配置文件介绍 Linux系统默认安装logrotate,默认的配置文件: /etc/logrotate.conf /etc/logrotate.d/ logrotate.conf:为主配置文件...就是切割后的日志文件以当前日期为格式结尾,如xxx.log-20131216这样,如果注释掉,切割出来是按数字递增,即前面说的 xxx.log-1这种格式 compress //是否通过gzip压缩转储以后的日志文件...,取代默认的一周 minsize 1M //文件大小超过 1M 后才会切割 create 0664 root utmp //指定新建的日志文件权限以及所属用户和组 rotate 1 //只保留一个日志....Logrotater日志切割轮询 由于Logrotate是基于CRON运行的,所以这个日志轮转的时间是由CRON控制的,具体可以查询CRON的配置文件/etc/anacrontab,过往的老版本的文件为

    19.6K52

    日志切割

    那么其中的reopen,就是我们今天的主角,我们可以使用reopen来实现日志切割。...这是因为nginx进程读写日志文件时,是通过文件描述符去操作的,虽然我们修改了原"access.log"文件的文件名,但是原文件描述符与文件本身的对应关系仍然存在。...所以,重命名后,我们需要让nginx重新打开一个新文件,以便将新的日志写入到新文件中。...定期执行: 日志切割时企业中常规动作,我们不会每天去手工执行一遍命令,通常是让脚本自己执行,于是我们可以将这个动作写进任务计划,每天凌晨自动执行。 脚本: #!...-eq 0 ];then echo "$(date +%F) 日志切割成功" fi 写入任务计划: 在/var/spool/cron/root文件中添加如下代码,每天11:59分自动切割日志

    1.1K00

    Linux日志切割工具Logrotate配置详解

    用于分割日志文件,压缩转存、删除旧的日志文件,并创建新的日志文件,下面就对logrotate日志轮转的记录: 1.1 Logrotate配置文件介绍 Linux系统默认安装logrotate,默认的配置文件...就是切割后的日志文件以当前日期为格式结尾,如xxx.log-20131216这样,如果注释掉,切割出来是按数字递增,即前面说的 xxx.log-1这种格式 compress //是否通过gzip压缩转储以后的日志文件...,取代默认的一周 minsize 1M //文件大小超过 1M 后才会切割 create 0664 root utmp //指定新建的日志文件权限以及所属用户和组 rotate 1 //只保留一个日志....,日志切割的生效时间是在凌晨3点到22点之间,而且随机延迟时间是45分钟,但是这样配置无法满足我们在现实中的应用 现在的需求是将切割时间调整到每天的晚上12点,即每天切割的日志是前一天的0-24点之间的内容...现象说明: 使用logrotate轮询nginx日志,配置好之后,发现nginx日志连续两天没被切割,检查后确定配置文件一切正常,这是为什么呢??

    1.5K30

    Nginx 日志切割

    日志切割 当网站访问量大后,日志数据就会很多,如果全部写到一个日志文件中去,文件会变得越来越大,文件大速度就会慢下来,比如一个文件几百兆,写入日志的时候,就会影响操作速度....手动切割 --进入日志目录 cd /usr/local/nginx/logs/ --重命名日志文件 [root@host1 logs]# mv access{,....,日志目录中自动生成了一个新的'access.log'文件 /usr/local/nginx/sbin/nginx -s reopen 重命名日志文件后,'nginx'日志仍然会写入到"access.2020...重命名后,我们需要让nginx重新打开一个新文件,以便将新的日志写入到新文件中 编写脚本 --编写脚本实现日志切割,可以配合'crontab'计划任务 [root@host1 /]# vim /nginx_logs.sh...,以endscript结尾,命令需要单独成行 endscript 重启nginx日志服务,写入到新的文件中去,否则会依然写入重命名后的文件中 启动 --启动'logrotate'并且指定配置文件切割

    2.1K10

    Nginx 日志切割

    最近还在写图床工具,涉及到日志统计相关的,比如访问统计,流量统计等,看了一下七牛的实现,发现每次创建一个bucket仓库都会自动生成一个域名,该仓库下的资源都会走这个域名。...但是自己要实现这一套逻辑还是满繁琐的,所以初步还是考虑用 Nginx 的一些功能来代替,其中流量统计就考虑使用 Nginx 自带的日志来分析。...考虑到日后日志大小过大,NodeJs读取会花太多时间,所以是要按天来切割日志,刚开始我写了一个简单的脚本。利用 crontab 的定时功能。...先按日期重命名文件,然后新建一个同名的日志文件让 Nginx 来写入,实际测试发现新建的 log 并没有被写入。...但是 Nginx reload 却可以,最终网上找到了 killall -s USR1 nginx 这条命令来通知 Nginx 重新创建新的日志 #!

    1.4K50

    nginx日志切割

    背景 nginx的日志默认是不会自动切割的,所以日志体积会越来越大,因此有必要对日志进行切割 nginx日志切割实现方式 脚本切割 logrotate 脚本切割 1 2 3 4 5 6 7...https_err.log -rw-r--r-- 1 www root 623529695 Mar 2 11:48 novel2_https.log logrorate分隔 logrorate是Linux...系统日志管理工具,可以把旧的文件删除,创建新的日志文件,也就是转储,可以通过计划任务来根据日志大小按照需求进行转储,logrorate还可以用来压缩日志文件,以及发送日志到指定的邮件 logrotate...group 转储文件,使用指定的文件模式创建新的日志文件 nocreate 不建立新的日志文件 delaycompress 和 compress 一起使用时,转储的日志文件到下一次转储时才压缩 nodelaycompress...,必须和当前日志文件在同一个文件系统 noolddir 转储后的日志文件和当前日志文件放在同一个目录下 prerotate/endscript 在转储以前需要执行的命令可以放入这个对,这两个关键字必须单独成行

    1.3K50

    Mongodb日志切割

    Mongodb日志切割 依据客户端查询来设计集合的片键及索引,最近几天突然需要查询历史数据进行分析,我们的有些集合count达到亿条以上,每个文档几百个字段。...遇到问题第一反应是看日志文件,拿到notepad之后由于文件太大无法打开,只能采用重启,然后开始查询mongodb日志管理的文档。Mongodb官网提出可以对日志进行切换。...这种切换方式为:对当前的mongod或者mongos的当前日志文件进行重命名,加入当前时间,然后打开一个新的log文件,告诉所有的log写入到新的文件中。...如果希望定时生成日志文件,而不是人工的每天执行命令。...选择第一种方式进入mongodb中,编写js脚本,然后sh命令调用这个js命令,指定一个linux的任务。Linux的任务分为当前用户任务,系统用户。

    2.2K70

    Nginx 日志切割

    最近还在写图床工具,涉及到日志统计相关的,比如访问统计,流量统计等,看了一下七牛的实现,发现每次创建一个bucket仓库都会自动生成一个域名,该仓库下的资源都会走这个域名。...但是自己要实现这一套逻辑还是满繁琐的,所以初步还是考虑用 Nginx 的一些功能来代替,其中流量统计就考虑使用 Nginx 自带的日志来分析。...考虑到日后日志大小过大,NodeJs读取会花太多时间,所以是要按天来切割日志,刚开始我写了一个简单的脚本。利用 crontab 的定时功能。...先按日期重命名文件,然后新建一个同名的日志文件让 Nginx 来写入,实际测试发现新建的 log 并没有被写入。...但是 Nginx reload 却可以,最终网上找到了 killall -s USR1 nginx 这条命令来通知 Nginx 重新创建新的日志 #!

    77610

    Nginx 日志切割:按日期管理日志文件,提升运维效率

    在日常运维中,Nginx 的访问日志和错误日志会随着时间的推移不断增长,最终可能导致日志文件过大,影响管理和分析的效率。为了解决这个问题,我们可以将日志按日期切割,生成每日的独立日志文件。...这不仅方便日志的管理,还能更高效地进行问题排查和数据分析。以下是具体的操作步骤,希望能帮助到你。1. 日志切割目的将 Nginx 的访问日志和错误日志按日期切割,避免日志文件过大,方便管理和分析。...操作步骤创建日志切割脚本: 在 /usr/local/nginx/sbin/ 下创建一个日志切割脚本:vim /usr/local/nginx/sbin/cut_nginx_log.sh添加以下内容:#..._.log 和 error_.log 文件。...总结通过为 Nginx 设置日志切割脚本并配置定时任务,我们可以轻松实现日志的自动管理,避免日志文件过大带来的麻烦。这个方案简单高效,适合日常运维工作。

    1.8K20
    领券