- 综合排序
- 最热优先
- 最新优先
- 来自专栏大猪的笔记
检索日志
有时需要在大量日志中查找某个关键字。可用以下命令： find . -name "86??" |xargs grep -rn "get_web not hit cache" 从日志命名为 86xx的文件中搜索它的行号和文件名。 就是这么开心。
80240发布于 2019-11-22 - 来自专栏日志服务CLS
【日志服务CLS】Nginx 访问日志检索、分析示例
0x01.前言 看到小编鼓励作者写连载，趁着截稿日期延长并且还有Apple Watch大奖的诱惑就又有动力再肝一篇出来了 2333…… 0x02.再看日志检索 想要检索自然需要提前知道都有哪些字段，这里针对所有的键依次进行说明 请求方法 5 request_url URL 地址 6 status HTTP 请求状态码 7 body_bytes_sent 发送给客户端的字节数 8 http_referer 访问来源的页面链接地址 9 4XX状态码的日志 status:[400 TO 500} image.png 4，键值模糊搜索 举个例子，检索UA中含有baidu的日志 http_user_agent : *baidu* image.png 分析语句由检索条件和 SQL 语句组成，两者通过竖线(|)分割 [检索条件] | [SQL 语句] 摘自文档中最简单的两个示例 无检索条件，计算访问次数 PV 值 * | select count(* ，Nginx 访问日志分析案例 尝试第一个 SQL 分析示例，但是没有成功检索 带宽曲线图 * | select HISTOGRAM(CAST(msec*1000 AS TIMESTAMP), INTERVAL
1.4K21发布于 2021-05-22 - 来自专栏无量测试之道
大规模服务异常日志检索
root@ bin # more check_log.sh #检查一个目录下所有指定日志文件中的报错日志脚本 #! /usr/bin/env bash #是对shell的声明 base="/home/project" #定义一个变量，用于指定扫描日志的目录 while [[ 1 ]]; do #shell skywalking|10.8.0.37:8800" | grep -C5 -E "Exception|ERROR"` # 获取catalina.out 文件中报Exception|ERROR的日志
1.1K10编辑于 2022-07-04 - 来自专栏小明说Java
ES Serverless让日志检索更加便捷
在软件开发过程中，开发人员会在代码中添加日志记录，以记录程序的运行情况和异常信息。当程序出现问题时，就可以通过日志检索来定位。所以搭建一个高性能日志系统或者便捷查询的日志系统是十分重要的。 本文主要是讲解腾讯云大数据 ES Serverless，在日志检索的使用，并且通过案例说明ES Serverless如何做到开箱即用，0部署的，使得日志检索跟便携，对于ES小白也能得心应手。 Elasticsearch Service索引创建产品开通成功之后，进入首页，在左边菜单点击，日志分析在进行日志检索之前，需要先创建索引，在日志分析中，创建空索引，比如要检索商品，可以创建索引：product Elasticsearch Service日志检索上述是基本体验ES Serverless检索功能，ES Serverless也是在我们检索过程中会把日志记录收集起来，可以在ES Serverless控制台中日志分析进行查看了 全局日志检索在ES Serverless控制台中日志分析，进入索引，点击检索分析，就可以看到，刚刚在kibana检索的数据日志了条件日志检索重要，可以进行日期过滤筛选，比如筛选一年前的日志数据还能进行其他复杂条件过滤
94910编辑于 2023-11-30 - 来自专栏Tencent Serverless 官方专栏
腾讯云云函数 SCF 日志检索实践
如果我们能够从网关返回信息中拿到某个失败请求的 RequestId ，我们还可以根据 RequestId 检索指定请求的日志。 ? 这是最基础的日志检索使用方法。 高级日志如何使用 下面给大家分享一下已捕获的异常，查找函数运行时间大于 x 的请求，关键词组合检索中如何使用高级日志。 1. 高级日志里提供了运行时间检索的方法，比如我们想查找运行时间大于 150ms 的日志，我们可以在检索框输入 SCF_Duration>150，即可找出该时间范围的日志。 ? 时间范围和关键词检索可组合使用，在上述示例中会将所有日志都过滤出来。 高级日志服务提供了丰富的检索语法，我们可参考日志检索语法教程：https://cloud.tencent.com/document/product/583/40964 6 月 4 日（周四）20:00
3.1K102发布于 2020-06-04 - 来自专栏技术杂记
日志服务器（9）
安装 LogAnalyzer LogAnalyzer 的下载地址可以参考 下载 ，安装过程可以参考 安装 ---- 下载 LogAnalyzer [root@h105 src]# wget http://download.adiscon.com/loganalyzer/loganalyzer-3.6.6.tar.gz --2016-05-10 22:15:18-- http://download.adiscon.com/loganalyzer/loganalyzer-3.6.6.tar.gz Resolv
1.4K30发布于 2021-10-20 - 来自专栏ffffffff0x
安全蓝队 : windows日志检索和分析
前言 在运维工作过程中，如若windows服务器被入侵，往往需要检索和分析相应的安全日志。 本文将介绍windows的日志类型、存放位置、检索方案以及方便检索的工具使用方法。 --- Windows日志 在windows系统的运行过程中会不断记录日志信息，根据种类可以分为事件日志、IIS日志、FTP日志，数据库日志，邮件服务日志等。 每个记录事件的数据结构中包含了9个元素（可以理解成数据库中的字段）：日期/时间、事件类型、用户、计算机、事件ID、来源、类别、描述、数据等信息。运维人员可以根据日志取证，了解计算机所发生的具体行为。 ，事件日志的类型、级别、存放位置和ID，日志的检索方案以及检索工具sysmon和logparser的使用。
4.6K21发布于 2021-01-06 - 来自专栏Sign
精灵之息 开发日志（9）
使用各种奇淫巧技去减少资源的开销，增加资源的复用性，然后这过程总是不经意的会感叹，“原来那时候的制作者是这样的心情啊”的感觉。
69320发布于 2021-08-22 - 来自专栏腾讯技术工程官方号的专栏
企业微信万亿级日志检索系统
业界方案对比 公司内外有很多日志系统方案，根据是否对日志做全文检索可以分为两类： 全文检索的日志系统：对日志内容切分词和建倒排，通过查询关键词的倒排取交集支持模糊匹配，这类系统一般入库资源消耗较多，也不支持日志统计 ，典型实现有：ELK、Hermes 以及腾讯云日志服务(Cloud Log Service, CLS)等系统； 部分字段检索的日志系统：只对部分字段建索引，支持特定字段的快速检索，入库资源消耗较低，但是这类系统对模糊匹配未能很好支持 我们新设计的检索系统在资源消耗较小的前提下，很好满足背景所提的所有检索需求。 系统架构 企业微信日志检索系统主要分为 6 个模块： LogAgent：和业务模块同机部署，对模块内日志进行聚集，数据批量写分布式文件系统，callid 索引批量发送到 LogMergeSvr 聚集； 最终将匹配后的日志返回给 WebSvr 聚合展示给用户。 通过并发检索的优化手段，模糊查询一个模块一小时日志（12 台机器，7.95GB 日志量）耗时从 1 分钟降到 5.6 秒。
1.8K30发布于 2021-05-21 技术日志挑战——第9天：0801
今天跑来连云港出差了，说是要看一下这边后面软件开发的需求，这次老板，加我负责软件，另一个工程师负责机械，我们三个一起来看设备，了解之后的需求。
38610编辑于 2024-08-01- 来自专栏腾讯云存储
解锁数据价值：COS支持日志检索与分析功能
对话记录： 总结 通过上述实际案例，我们可以看到腾讯云“COS日志检索与分析”能力，能够记录存储桶相关的各种请求日志，并实现对日志数据的实时检索与分析。 输入检索分析语句 检索分析语句由检索条件和 SQL 语句组成，输入检索分析语句，对访问日志进行检索和统计分析。 检索条件：指定日志需要匹配的条件，返回符合该条件的日志。 例如使用status:404检索响应状态码为404的应用请求日志。检索条件为空或*时代表无检索条件，即所有日志。更多语法规则和示例信息请参见 检索条件语法。 三、输入检索分析语句，选择时间范围，单击搜索按钮即可检索该存储桶上报到 CLS 的访问日志。 查看日志检索结果、统计分析结果 检索成功后，在日志检索页面可查看访问日志的检索结果、统计分析结果。 分别对应原始日志和统计图表，支持快捷切换。详细说明如下： 原始日志：当检索分析语句仅包含检索条件时，可在原始日志中查看匹配检索条件的日志，默认按日志时间倒排。
79410编辑于 2024-03-20 - 来自专栏云开发
日志检索优化：所有字段都在，搜什么得什么
日志里明明看到一个字段（比如 memory_usage），打开检索面板却找不到这个选项 2. 好不容易写对一条 CQL 检索语句，系统却给您自动拼接 requestId、timestamp 等默认条件，结果一片空白 这次日志检索把这两个痛点一次修了。 改了什么 可视化检索字段自动同步 以前，可视化检索的字段列表靠后台版本更新维护。 现在系统动态拉取日志上报的所有 Key，新上报的日志字段会自动出现在可选列表里，不用等版本更新。 现在系统完全以您手动输入的检索语句为准，不再自动拼接任何默认条件，搜什么得什么。 怎么用 无需额外配置，直接在控制台 → 日志监控 → 日志管理使用即可。
11300编辑于 2026-07-07 - 来自专栏yeedomliu
《Prometheus监控实战》第9章 日志监控
第9章 日志监控 虽然我们的主机、服务和应用程序可以生成关键指标和事件，但它们也会生成日志，这些日志可以告诉我们其状态的有用信息 特别是对于没有设置监控或者不容易进行监控的遗留应用程序，有时重写、修补或重构该应用程序以暴露内部状态的成本绝对不是一项有利的工程投资 为了从日志条目中提取数据，我们将使用日志处理工具。 P<hostname>[0-9A-Za-z\.:-]+) / + # %h /(?P<remote_logname>[0-9A-Za-z-]+) / + # %l /(? P<remote_username>[0-9A-Za-z-]+) / + # %u /\[(? P<http_version>HTTP\/[0-9\.]+)" / + # \"%r\" /(?P<request_status>\d{3}) / + # %>s /((?
14.3K43发布于 2019-12-19 - 来自专栏有趣的django
9.Go-反射、日志和线程休眠
有三种级别日志输出 Print() 输出日志信息 Panic()打印日志信息，并处罚panic，日志信息为Panic信息 Fatal()打印日志信息后调用os.Exit(0) 所有日志信息打印时都带有时间 Learn_Go/main.go package main import ( "fmt" "time" ) func main() { fmt.Println("111") time.Sleep(2e9) //2e9 相当于2秒 fmt.Println("222") } （2）延迟执行 延迟指定时间后执行一次，但是需要注意在触发时程序没有结束 //Learn_Go/main.go package main import ( "fmt" "time" ) func main() { fmt.Println("程序开始") time.AfterFunc(3e9, func() { fmt.Println("延迟执行") }) time.Sleep(4e9) //必须阻塞4s，要不主程序执行完直接退出，不会执行“延迟执行”的代码 fmt.Println("程序结束")
61320发布于 2019-08-12 - 来自专栏悟空聊架构 | 公众号
别只会搜日志了，求你懂点检索原理吧
前言 项目中我们总是用 Kibana 界面来搜索测试或生产环境下的日志，来看下有没有异常信息。Kibana 就是 我们常说的 ELK 中的 K。 Kibana 界面如下图所示： ? 但这些日志检索原理是什么呢？这里就该我们的 Elasticsearch 搜索引擎登场了。 我会分为三篇来讲解 Elasticsearch（简称ES）的原理、实战及部署。 比如收集日志或交易数据，并且要分析和挖掘此数据以查找趋势，统计信息，摘要或异常。 Lucene 是apache软件基金会 4 的 jakarta 项目组的一个子项目，是一个开放源代码的全文检索引擎工具包，但它不是一个完整的全文检索引擎，而是一个全文检索引擎的架构，提供了完整的查询引擎和索引引擎 原始数据从多个来源 ( 包括日志、系统指标和网络应用程序 ) 输入到 Elasticsearch 中。 Elasticsearch 的数据是怎么采集的？
2.6K42发布于 2020-10-15 - 来自专栏技术面面观
日志系统rsync和日志切割logrotate-Linux每日一练(9)
扯远了，步入正题，Linux自带的 日志系统rsync 日志系统rsync Linux日志机制的核心是 rsyslog 守护进程，该服务负责监听Linux下的日志信息，并把日志信息追加到对应的日志文件中 .* /var/log/cron 日志切割 日积月累日志会越来越大，直到撑爆你的磁盘，历史日志就没有必要保留了，最好永远只保留近期的日志，超过某个大小或者某段保留时间的日志自动删除。 在 python 的日志组件中支持日志滚动，可以规定每个日志文件有多大，保留多少个文件；也可以规定保留几天内的日志。 -12:0:0 "/var/log/wtmp" 2019-12-21-12:0:0 "/var/log/spooler" 2019-12-21-12:0:0 "/var/log/btmp" 2020-9- blog.csdn.net/qq_29344757/article/details/86700898 https://medium.com/pizzas/rsyslog%E4%BB%8B%E7%B4%B9%
2.2K32发布于 2020-10-09 - 来自专栏智能时刻
Envoy架构概览(9):访问日志,MongoDB,DynamoDB,Redis
访问日志 HTTP连接管理器和tcp代理支持具有以下功能的可扩展访问日志记录： 每个连接管理器或tcp代理的任意数量的访问日志。 异步IO刷新架构。 访问日志记录不会阻塞主要的网络处理线程。 可定制的访问日志格式使用预定义的字段以及任意的HTTP请求和响应头。 可自定义的访问日志过滤器，允许将不同类型的请求和响应写入不同的访问日志。 访问日志配置。
3K30发布于 2018-04-09 - 来自专栏日志服务CLS
解锁数据价值：对象存储 COS 支持日志检索与分析功能
对话记录： 总结 通过上述实际案例，我们可以看到腾讯云“COS日志检索与分析”能力，能够记录存储桶相关的各种请求日志，并实现对日志数据的实时检索与分析。 输入检索分析语句 检索分析语句由检索条件和 SQL 语句组成，输入检索分析语句，对访问日志进行检索和统计分析。 检索条件：指定日志需要匹配的条件，返回符合该条件的日志。 例如使用status:404检索响应状态码为404的应用请求日志。检索条件为空或*时代表无检索条件，即所有日志。更多语法规则和示例信息请参见 检索条件语法。 三、输入检索分析语句，选择时间范围，单击搜索按钮即可检索该存储桶上报到 CLS 的访问日志。 查看日志检索结果、统计分析结果 检索成功后，在日志检索页面可查看访问日志的检索结果、统计分析结果。 分别对应原始日志和统计图表，支持快捷切换。详细说明如下： 原始日志：当检索分析语句仅包含检索条件时，可在原始日志中查看匹配检索条件的日志，默认按日志时间倒排。
97510编辑于 2024-03-25 - 来自专栏Apache Doris
统一全文检索与 SQL 分析：Apache Doris 日志分析实践
这两类工作看似属于同一个分析流程，但长期以来通常由不同系统完成：Elasticsearch 等搜索引擎负责全文检索，Apache Doris 等 OLAP 数据库负责聚合分析，由此形成了日志平台中较为常见的 这些问题并不会影响双引擎架构本身的可用性，但也推动分析数据库探索另一种实现方式：将全文检索直接纳入 SQL 查询执行流程。 将全文检索融入 SQL 查询Apache Doris 提供的 search() 并不是 LIKE 或正则表达式的简单封装，而是建立在原生倒排索引之上，使全文检索能够直接作为 SQL 查询条件参与执行。 常见使用场景search() 的价值并不局限于单纯的日志检索。对于同时包含非结构化文本和结构化指标的数据场景，全文检索结果可以直接参与后续聚合分析。下面以三个典型场景说明这种查询方式的应用。 只要查询同时包含“从文本中筛选目标数据”和“围绕筛选结果进行结构化分析”两个步骤，都可以考虑将全文检索直接纳入 SQL 查询流程。
6810编辑于 2026-09-02 - 来自专栏日志服务CLS
【9月新功能速递】日志下载支持字段选择
日志下载支持选择部分字段 日志服务已支持将采集到的日志数据下载至本地，在现有功能基础上，新增“选择字段”选项，支持筛选字段下载，进一步方便运维同学按需选择，数据下载更精准。 登录日志服务控制台，进入检索分析管理页面； 2. 选择需要检索的日志或日志集，输入检索条件进行检索； 3. 待检索到日志数据后，单击 图标下载日志。 4. 在弹出的下载选项中，确认需下载日志的时间范围和检索语句，并根据如下信息设置下载日志数据。 数据格式：提供了 “CSV 格式”和 “JSON 格式”两种格式，请按需选择。 日志数量：默认导出“全部日志”，您也可以选择“自定义日志数量”，自定义导出所需日志数量。 注：因下载日志数量最多为5000万， 需要下载的日志条数超出5000万时，建议缩小日志检索范围（例如采用更加精确的检索条件、缩小查询时间范围）或仅下载指定数量的日志。
53610编辑于 2024-10-11
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号