首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏about云

    日志分析实战之清洗日志小实例5:实现获取不能访问url

    about云日志分析实战之清洗日志4:统计网站相关信息 http://www.aboutyun.com/forum.php? val languageToCount = Map("Scala" -> 10, "Java" -> 20, "Ruby" -> 5) languageToCount map { case (_, count

    1K50发布于 2018-03-26
  • 来自专栏全栈程序员必看

    Windows系统日志分析_python日志采集分析

    四、Windows日志实例分析   在Windows日志中记录了很多操作事件,为了方便用户对它们的管理,每种类型的事件都赋予了一个惟一的编号,这就是事件ID。   1. 五、WEB日志文件分析   以下列日志记录为例,进行分析:   #Software: Microsoft Internet Information Services 6.0   #Version: 1.0 表示程序有错;   sc-substatus 服务端传送到客户端的字节大小;   cs–win32-statu客户端传送到服务端的字节大小;   1**:请求收到,继续处理   2**:操作成功收到,分析 、接受   3**:完成此请求必须进一步处理   4**:请求包含一个错误语法或不能完成   5**:服务器执行一个完全有效请求失败   100——客户必须继续发出请求   101——客户要求服务器根据请求转换 有时是为了防止发生系统过载   503——服务器过载或暂停维修   504——关口过载,服务器使用另一个关口或服务来响应用户,等待时间设定值较长   505——服务器不支持或拒绝支请求头中指定的HTTP版本   FTP日志分析

    2.4K10编辑于 2022-10-04
  • 来自专栏日志易的专栏

    5分钟短视频,带你走进日志易SPL,助你日志分析更容易

    日志易是一个配置灵活、功能强大、容易使用的日志管理工具,它对日志进行集中采集和实时索引,提供搜索、分析、可视化和监控告警等功能,帮助企业进行线上业务实时监控、业务异常原因定位、业务日志数据统计分析、安全与合规审计 本公司提供在大中型企业内部数据中心部署的日志易企业版,也通过公有云提供 SaaS 服务。 视频内容 日志易SaaS产品免费体验请:点我 典型应用场景 l 统一运维日志平台 l 网络设备、安全设备日志审计 l 数据脱敏及生命周期管理 l 用户行为分析 l Web 中间件运营分析 l 业务日志分析 行业案例(关注日志易公众号,回复【案例】) l 金融支付行业案例 l 商业银行案例 l 基金行业案例 l 航空行业案例 l 电力行业案例

    1.6K100发布于 2018-01-16
  • 来自专栏技术专栏

    慕课网Spark SQL日志分析 - 5.DateFrame&Dataset

    5.DateFrame&Dataset 1.DateFrame产生背景 DataFrame 不是Spark Sql提出的。而是在早起的Python、R、Pandas语言中就早就有了的。 age|count| // +----+-----+ // | 19| 1| // |null| 1| // | 30| 1| // +----+-----+ spark.stop() } } 5.

    99210发布于 2018-09-12
  • 来自专栏OneMoreThink的专栏

    应急靶场(11):【玄机】日志分析-apache日志分析

    1、提交当天访问次数最多的IP,即黑客IP 已知中间件是Linux上的Apache,常见日志路径一般是: /var/log/apache/ /var/log/apache2/ /var/log/httpd / 这里定位到日志路径是/var/log/apache2。 通过命令ls -lah根据文件大小,判断日志文件是access.log.1,因为access.log的大小是0。 需要注意的是,echo命令默认情况下会在输出的文本末尾自动添加换行符,这会影响md5值的计算结果,因此echo命令需要带上-n参数,禁止输出换行符,否则计算出的md5值是错误的。 flag{5}

    1K10编辑于 2024-10-15
  • 来自专栏程序员奇点

    GC 日志分析

    GC 日志分析 首先,如果需要查看 GC 日志,需要在 jvm 参数中加入如下参数 -XX:+PrintGCTimeStamps -XX:+PrintGCDetails -Xloggc:d:/GClogs /tomcat6-gc.log GC 日志 2016-11-23T11:01:27.738+0800: 0.150: [GC [PSYoungGen: 331K->288K(5952K)] 331K- PSPermGen: 3060K->3060K(21248K)], 0.0052429 secs] [Times: user=0.01 sys=0.00, real=0.01 secs] Young GC 日志 image Full GC 日志分析 ? image JVM 参数设置 jvm 参数对应堆内存设置 ? image 比例设置 ? 32M) -XX:MaxGCPauseMillis=500 :设置最大暂停时间(毫秒) -XX:+DisableExplicitGC:禁止显示GC的调用(即禁止开发者的 System.gc();) GC日志

    1.7K10发布于 2020-05-08
  • 来自专栏全栈程序员必看

    Window日志分析

    C、如何筛选 如果想要查看账户登录事件,在右边点击筛选当前日志,在事件ID填入4624和4625,4624 登录成功 4625 登录失败 D、事件ID及常见场景 对于Windows事件日志分析,不同的 net user USER PASSWORD /add net localgroup administrators USER /add 0x02 日志分析工具 A、Log Parser Log Parser(是微软公司出品的日志分析工具,它功能强大,使用简单,可以分析基于文本的日志文件、XML 文件、CSV(逗号分隔符)文件,以及操作系统的事件日志、注册表、文件系统、Active Directory as LoginTime,EXTRACT_TOKEN(Strings,5,'|') as username FROM c:\11.evtx where Eve ntID=4624" LogParser.exe 创建的进程过程: LogParser.exe -i:EVT –o:DATAGRID “SELECT TimeGenerated as Creationtime,EXTRACT_TOKEN(Strings,5,

    1.3K30编辑于 2022-09-07
  • 来自专栏互联网老辛

    nginx日志分析

    在nginx.conf中定义的日志格式如下: http { ... http_referer" ' '"$http_user_agent" "$http_x_forwarded_for"'; ... } 日志文件如下 10_12_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/61.0.3163.100 Safari/537.36" "-" nginx没有命令直接将日志按天分割 access-api-$(date -d "yesterday" +"%Y%m%d").log cron: 0 0 * * * /mydata/nginx/nginx.log.sh 从nginx服务器将日志数据传输到日志服务器 request_method = s.group(3) request_url = s.group(4) status = s.group(5)

    1.3K30发布于 2018-07-30
  • 来自专栏全栈程序员必看

    AWStats日志分析

    AWStats日志分析系统介绍 1.AWStats日志分析系统 (1)Peri语言开发的一款开源日志分析系统 (2)可用来分析Apache、Samba、 Vsftpd、 IIS等服务 器的访问日志 (3 )信息结合crond等计划任务服务,可对日志内容定期进行分析 部署AWStats日志分析系统 1.安装AWStats软件包 2.为要统计的站点建立配置文件 3.修改站点统计配置文件 4.执行日志分析,并设置 crontab计划任务 访问AWStats分析系统 1.查看统计页面 2.设置网页自动跳转,方便访问 具体操作: 1.安装DNS和HTTP服务软件包 [root@localhost ~]# yum install localhost named]# systemctl start httpd 4.Windows 10配置 (1)在win10主机上更改下DNS地址 (2)在浏览器上访问域名,保证能够进行对Apache访问 5. /awstats_updateall.pl now //更新数据 11.计划性任务更新数据,并启动 [root@localhost tools]# crontab -e */5 *

    93610编辑于 2022-09-13
  • 来自专栏有价值炮灰

    Nginx日志分析

    日志采用默认的格式产生,一直也没太关注, 这次正好藉着博客改版,尝试分析下近期的日志,以对网站状态有个全局的了解。 扯得有点远了,还是继续分析日志吧。 ,其中最高那里是5月31号端午节我在博客园发新博客的时候。 错误日志分析 错误日志也叫应用程序日志,主要用于方便开发者或者运维在出问题的时候排查原因。 分析 错误日志相对于访问日志要少(废话),但从中也能找到对我们有价值的信息。

    1.9K30编辑于 2023-02-12
  • 来自专栏Bypass

    Window日志分析

    0x03 事件日志分析 对于Windows事件日志分析,不同的EVENT ID代表了不同的意义,摘录一些常见的安全事件的说明: 事件ID 说明 4624 登录成功 4625 登录失败 4634 注销成功 5 服务(Service) 每种服务都被配置在某个特定的用户账号下运行。 7 解锁(Unlock) 屏保解锁。 0x04 日志分析工具 Log Parser Log Parser(是微软公司出品的日志分析工具,它功能强大,使用简单,可以分析基于文本的日志文件、XML 文件、CSV(逗号分隔符)文件,以及操作系统的事件日志 它可以像使用 SQL 语句一样查询分析这些数据,甚至可以把分析结果以各种图表的形式展现出来。 Event Log Explorer Event Log Explorer是一款非常好用的Windows日志分析工具。

    2.7K20发布于 2019-07-08
  • 来自专栏linux运维

    日志分析问题:日志文件格式复杂,难以分析

    常见的日志分析问题及解决方案2.1 日志文件格式不统一问题:日志文件格式不统一,导致难以进行统一分析。解决方案:使用日志解析工具将日志文件转换为统一格式。 :日志文件内容复杂,难以直接分析。 解决方案:使用日志分析工具提取关键信息。 解决方案:使用日志聚合和分析工具进行大规模分析。 4.2 优化分析建议:根据系统的变化和新的日志需求,及时优化日志分析工具和配置。

    61010编辑于 2025-02-07
  • 来自专栏全栈程序员必看

    Windows系统日志分析_windows日志命令

    具体链接请参考windows日志转发_leeezp的博客-CSDN博客_windows日志转发 安装 ewk (es+winlogbeat+kibana) 转发主机日志_leeezp的博客-CSDN博客 这篇文章记录windows事件和日志的对应关系。 (Windows 10) – Windows security | Microsoft Docs 登录失败如果在windows事件查看器 — Windows日志 — 安全 查看不到日志,可能是因为没有开启 在 “审核策略” — “审核登录事件” 开启 “成功” 和 “失败”的日志: 设置完再次mstsc登录失败,在安全日志可以查看到登录失败 事件ID 4625 的告警: 如果没有配置本地安全策略开启登录审计 登录失败不清楚为什么会有1149 认证成功的日志。 这个日志可以用于远程登录失败的审计,无法审计登录成功。登录成功还是需要事先开启本地安全策略审核登录事件。

    6.4K20编辑于 2022-10-04
  • 来自专栏小明说Java

    性能分析之MySQL慢查询日志分析(慢查询日志

    慢查询日志一般用于性能分析时开启,收集慢SQL然后通过explain进行全面分析,一般来说,生产是不会开启的,收集慢查询语句是十分耗性能的,但是我们在测试环境是可以模拟分析的,优化SQL语句,接下来就通过实战 ,讲解如何开启慢日志查询以及如何分析。 再一次查看cat /var/lib/mysql/dca928abb464-slow.log 文件,可以看到那个sql语句变慢了,以及耗时多久图片 只要是超过long_query_time的sql都会被记录图片5) 查看当前数据有多少条慢sql show GLOBAL STATUS like '%slow_queries%'图片 6)慢日志分析工具:mysqldumpslow,这个大家有兴趣的可以去详细了解如何使用 指定日志文件,查看记录集中最多的sqlmysqldumpslow -s r -t 10 /var/lib/mysql/dca928abb464-slow.log图片三、总结本文通过实战demo,一步一步配置分析如何利用慢日志去定位查询耗时的

    3K31编辑于 2023-09-30
  • 来自专栏全栈程序员必看

    window计算机日志分析详解,windows系统日志分析

    一、Windows日志文件的保护 日志文件对我们如此重要,因此不能忽视对它的保护,防止发生某些“不法之徒”将日志文件清洗一空的情况。 1. 修改日志文件存放目录 Windows日志文件默认路径是“%systemroot%system32config”,我们可以通过修改注册表来改变它的存储目录,来增强对日志的保护。 、安全日志、系统日志。 设置文件访问权限 修改了日志文件的存放目录后,日志还是可以被清空的,下面通过修改日志文件访问权限,防止这种事情发生,前提是Windows系统要采用NTFS文件系统格式。 二、Windows日志实例分析 在Windows日志中记录了很多操作事件,为了方便用户对它们的管理,每种类型的事件都赋予了一个惟一的编号,这就是事件ID。 1.

    2.9K10编辑于 2022-10-04
  • 来自专栏IT从业者张某某

    5-网站日志分析案例项目回顾与点击流数据分析项目介绍

    文章目录 5-网站日志分析案例项目回顾与点击流数据分析项目介绍 一、网站日志流量数据分析 1.背景: 2.日志种类 3.分析指标 4.日志流量数据分析系统 二、点击流日志数据分析 1.点击流和网站日志 2、点击流流程 3.原始数据样式: 4.页面点击流模型Pageviews表 5.点击流模型Visits表 三、如何进行数据分析 1.网站流量质量分析 3.网站内容及导航分析 4.网站转化及漏斗分析 4.1 助力和流失 4.2迷失 四、流量分析常见指标 1、常见指标 2、来源分析 五、整体技术架构流程 5-网站日志分析案例项目回顾与点击流数据分析项目介绍 参考: https://www.kancloud.cn 5.点击流模型Visits表 (按session聚集的页面访问信息) 这就是点击流模型。当WEB日志转化成点击流数据的时候,很多网站分析度量的计算变得简单了,这就是点击流的“魔力”所在。 五、整体技术架构流程 1、数据采集 2、数据预处理 3、数据入库 4、数据分析 5、数据展示 nginx:反代理服务器 生成日志文件 shell脚本 flume 日志数据采集到hdfs

    1.8K10编辑于 2022-11-12
  • 来自专栏前端迷

    webpack 5 更新日志

    (从 alpha.15 起) 内部模块(inner-module) tree-shaking webpack 4 没有分析模块 export 与 import 之间的依赖关系。 webpack 5 有一个新的选项 optimization.innerGraph,该选项在生产模式下默认启用,它对模块中的符号进行分析以找出从 export 到 import 的依赖关系。 此优化也称为深度作用域分析(Deep Scope Analysis)。 webpack 4 仅能于生成 ES5 的代码。webpack 5 现支持 ES5 或 ES2015 的代码。 默认配置将生成 ES2015 的代码。 (自 alpha.3 起) 更新解析器 enhanced-resolve 已更新至 v5

    1.7K10发布于 2019-10-22
  • 来自专栏FreeBuf

    我的日志分析之道 | 简单的Web日志分析脚本

    前言 长话短说,事情的起因是这样的,由于工作原因需要分析网站日志,服务器是windows,iis日志,在网上找了找,github找了找,居然没找到,看来只有自己动手丰衣足食。 目前分三个模块,一个日志归类模块命名为url.py,攻击分析模块attac.py, ip地理位置查询模块ipfind.py,还有一个主函数。 needlist = [] # 需要统计的 errorlist = [] # 格式错误的列表 ipdict,urldict = {},{} rizhi = str(input('请输入要分析日志文件名 而未知威胁则不同了,就好比一个0day,攻击waf没用了,日志分析看不出来了,那么只能依靠应急响应以及服务器的报警了。 具体分析:我都是用脚本跑一遍,然后按ip来看会比较方便些,而这里缺少机器识别,我单独写了一个简易的机器识别的东西,其实要实现很简单,把全部日志按时间,url,ip扔进一个列表里统计一下相同时间相同ip的就可以了

    1.9K50发布于 2018-02-23
  • 来自专栏技术杂记

    日志服务器(5

    [root@h105 rsyslog-mysql-5.8.10]# Tip: 注意到这里并没有索引,应该是和日志的 append only 属性相关 ---- 查看表结构 [root@h105 rsyslog-mysql | | mysql | | performance_schema | | test | +--------------------+ 5

    97920发布于 2021-10-19
  • 来自专栏开源部署

    GoAccess 分析 Nginx 日志

    0x00 事件 帮助朋友搭建了博客,运行过了一段时间,准备发个网站分析报告给他。 有效的数据只有 Nginx 的访问日志,于是使用决定 GoAccess 工具对这个日志进行分析, 0x01 安装 吾使用的是 CentOS,使用 yum 源进行安装即可。 : 223.104.189.167 - - [07/Aug/2019:03:03:02 +0000] "GET /favicon.ico HTTP/1.1" 200 5 "https://www.example.com --log-format 指定日志格式字符串。 --date-format 日志格式日期。它们都以百分号(%)开头。 --time-format 日志格式时间。它们都以百分比(%)开头。 3、查看分析文件 最后在浏览器中打开 test.html 文件,就能看到访问日志的具体分析: image.png image.png :

    50210编辑于 2022-07-28
领券