首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏AI机器学习与深度学习算法

    机器学习入门 4-5 超参数

    通过前面的小节,我们知道了kNN算法中k这个参数值,在sklearn中k这个值被封装成了k_neighbors参数。在前面我们随机的指定参数k的值,究竟k的值为多少的时候,模型才是最好的呢?这就涉及到了机器学习领域非常重要的问题~超参数问题。

    80330发布于 2019-11-13
  • 来自专栏Hank’s Blog

    4-5 R语言函数 split

    #split根据因子或因子列表将 向量或其他对象分组 #通常与lapply一起使用 #split(参数):split(向量/列表/数据框,因子/因子列表) > x <- c(rnorm(5),runif(5),rnorm(5,1)) > x [1] 0.61008707 0.81746169 -1.09859969 -1.78134612 -1.94262725 0.99760581 [7] 0.37793960 0.05258653 0.38525197 0.46051864 -0.

    1K40发布于 2020-09-16
  • 来自专栏大前端_Web

    javascript高级程序设计(4-5)章笔记

    版权声明:本文为吴孔云博客原创文章,转载请注明出处并带上链接,谢谢。 https://blog.csdn.net/wkyseo/article/details/51234909

    89740发布于 2018-09-27
  • 来自专栏IT技术精选文摘

    CDN日志实时分析

    热门资源 访问来源、agent、分布等 传统分析流程 现在各家CDN厂商,通常会提供基础的监控指标,比如请求次数、带宽等信息,然后,在进行定制化分析场景下,默认指标往往不能解决所有问题,需要对原始日志进行更深入的挖掘 以下是常见的处理方式: 定期下载CDN离线日志 将数据导入Hadoop 这样的数仓系统 跑各类job(或hive)对数据进行分析,将最终结果导入Mysql 对分析结果进行实时展示 对于报表场景 ,以上流程没有太大问题,可以处理海量CDN的日志,但是在实时问题定位,快速验证、试错等交互式分析强烈的场景下, 该方案的弊端就显露出来: 离线模式下,数据产出实时性无法保证,延时从半小时到几小时不等 需要维护多级Pipeline,需要有脚本或工具将其串联,有开发代价 环境维护,有运维代价,任意一个环节出问题,结果都不能产出 灵活性欠佳,无法快速响应实时交互查询需求 接下来,对于CDN数据各类分析需求 response_size) as "下载总量" group by Domain order by "下载总量" desc limit 100 接下来,我们从省份和运营商的角度,来做实时统计

    2.9K40发布于 2018-07-30
  • 实时日志分析系统

    h.kuaisou.com logger.error(f"Alert evaluation error: {e}") time.sleep(10)四、实时统计与聚合

    3510编辑于 2026-11-12
  • 来自专栏运维之路

    【每日一思】2022年第4-5周

    一直认为理想情况下的数据运营方法应该基于“贴源层数据-》指标(至少到带有主题的流水)-》洞察-》决策-》执行”的路线,这样才能减少返工的重复性工作量。

    34020编辑于 2022-03-07
  • 来自专栏iOS面试

    iOS 面试策略之算法基础4-5节

    queue.append(right) } } res.append(level) } return res } 总结 到这里为止,我们已经把重要的数据结构都分析了一遍 func merge(meetingTimes: [MeetingTime]) -> [MeetingTime] {} 下面来分析一下题目怎么解。最基本的思路是遍历一次数组,然后归并所有重叠时间。 分析这种题目,同样还是先抽象化。

    1.3K60发布于 2021-04-20
  • 来自专栏YP小站

    实时Web日志分析器

    GoAccess 是一个开源的实时Web日志分析器和交互式查看器,可在*nix系统上的终端或通过浏览器运行。它为系统管理员提供了实时而有价值的HTTP统计信息。 GoAccess 被设计为一种基于终端的快速日志分析器。 它的核心思想是无需使用浏览器就可以快速实时地实时分析和查看Web服务器统计信息(如果您想通过SSH快速分析访问日志,或者只是喜欢在终端中工作,那将是一个很好的选择)。 例如,要从goaccess启动以来通过监视日志来快速诊断问题: $ tail -f access.log | goaccess - 更妙的是,进行筛选,同时保持打开的管道保持实时分析,我们可以利用的 只--real-time-html需要使其实时即可。

    1.9K30发布于 2020-06-04
  • 来自专栏小工匠聊架构

    大厂案例 - 实时分析引擎

    基于大数据平台,通过流式实时分析技术可以对全局网络空间进行实时的分析和异常检测,解决单点很难发现和处理的安全问题。 相比与互联网公司常见的大数据实时分析场景,面向企业用户的网络安全分析场景存在很多特殊需求和挑战,本次分享将介绍网络安全领域对实时分析系统的需求,并从这些需求出发,讲解如何设计适合网络安全领域的实时分析引擎 ---- 内容 网络安全领域对实时监测系统的需求 如何选择一个适合网络安全场景的实时计算框架 如何设计网络安全领域的实时分析引擎 ---- 收获 了解如何基于 Flink 构造网络安全领域的实时分析引擎 了解实时网络安全分析引擎的架构和设计 了解构建实时网络安全分析引擎遇到的问题和解决方案 ---- 思路 ---- 建议 不要马上进行架构设计和编码

    30420编辑于 2023-07-25
  • 来自专栏大数据和云计算技术

    实时分析系统(HiveHbaseImpala)浅析

    什么是实时分析(在线查询)系统? 大数据领域里面,实时分析(在线查询)系统是最常见的一种场景,通常用于客户投诉处理,实时数据分析,在线查询等等过。因为是查询应用,通常有以下特点: a. 支持SQL(这个业界基本上达成共识了,原因是很难找到一个又会数据分析,还能写JAVA代码的分析工程师)。 传统上,常常使用数据仓库来承担这一任务,数据仓库通过创建索引来应对多维度复杂查询。 目前来完美解决实时分析的系统还在探索中,下面来讲讲hadoop领域几种常见的解决方案 2. Hive ? Map/reduce为什么只适合批量任务,这里不解释,建议大家看下相关原理,业界对这快的分析比较多,由此也诞生了spark等一系列解决方案。 3. Impala是Cloudera在受到Google的Dremel启发下开发的实时交互SQL大数据查询工具,Impala没有再使用缓慢的Hive+MapReduce批处理,而是通过使用与商用并行关系数据库中类似的分布式查询引擎

    4.4K50发布于 2018-03-07
  • 来自专栏PPV课数据科学社区

    【译文】Spark高速实时分析

    然而,越来越多的数据需要更快速的处理,这些需求来自于流技术、物联网和实时分析等领域的快速发展 。 的应用场景包括:大型技术公司通过机器学习洞察用户;金融系统在几个小时内处理数以百万计的股票交易数据,而在此之前使用Hadoop MapReduce需要近一个星期才能完成;基因组学术 研究;视频系统中流处理和数据分析 另外,为了充分利用Spark实时分析或预测分析的优势,整个数据供应链的优化是非常重要的。 1、回复“数据分析师”查看数据分析师系列文章 2、回复“案例”查看大数据案例系列文章 3、回复“征信”查看相关征信的系列文章 4、回复“可视化”查看可视化专题系列文章 5、回复“SPPS”查看SPSS系列文章

    83350发布于 2018-04-20
  • 来自专栏NetCore 从壹开始

    4-5 安装并迁移数据库:mysql

    docker volume create volume_name命令新建一个数据卷

    1K20编辑于 2023-01-09
  • 来自专栏大数据生态

    Greenplum实时查询分析最佳实践

    pg_stat_activity能为我们做什么 pg_stat_activity是一张系统统计视图,可以用于任务分析诊断。这是非常有用且功能强大的视图,其价值很难衡量。 实时查询分析 场景一:查看当前正在执行的请求 state - active:请求正在执行中 waiting - f:当前请求没有在等待 postgres=> SELECT datid, 任务分析进阶——诊断原因并修复 在上面的场景二中,我们发现了有正在等待的请求,下面我们来学习如何找出发生等待事件的根本原因。 总而言之,pg_stat_activity很强大,实属GP的分析管理利器,是GP使用者们最好的帮手。

    5.6K4016编辑于 2022-01-21
  • 来自专栏AI SPPECH

    IO竞赛2025年题目解析:基础级难度(4-5)

    2025年的IO竞赛基础级(难度系数4-5)题目开始涉及更多的数据结构和算法思想,对选手的编程能力和逻辑思维提出了更高的要求。 难度进阶路径: 入门(1-3) → 基础(4-5) → 提高(6-8) → 竞赛(9-10) 难度系数 考察重点 核心知识点 学习目标 4-5 数据结构、算法应用 栈、队列、树、图的基础应用 掌握基础数据结构的使用和简单算法的实现 ) ├── 第四章:基础级题目解题技巧总结 └── 第五章:从基础到提高的学习建议 第一章:2025年IO竞赛基础级题目概述 根据2025年NOI修订版大纲,基础级(CSP-J提高)的知识点难度系数为4- → 40% 算法设计 → 30% 数学应用 → 20% 综合问题 → 10% 基础级题目的特点: 开始涉及栈、队列、树等基础数据结构 算法复杂度开始成为需要考虑的因素 问题描述更加复杂,需要更深入的分析 分析问题本质:深入理解问题,找到问题的本质,选择合适的算法和数据结构。 优化时间空间复杂度:在设计算法时,要考虑时间和空间复杂度,选择更高效的算法。

    51110编辑于 2025-11-13
  • 来自专栏用户8644135的专栏

    Nginx日志实时分析利器(Ngxtop)

    Ngxtop实时解析nginx访问日志,并且将处理结果输出到终端,功能类似于系统命令top,所以这个软件起名ngxtop。 有了ngxtop,你可以实时了解到当前nginx的访问状况,再也不需要tail日志看屏幕刷新。 debug模式,输出每行及记录 -h或 --help 显示帮助详细 --version 显示版本信息 高级参数 -c <file>或 --config <file> 指定nginx配置文件,自动分析日志格式 另外一些变量可以在分析时用到,名字含义同日志格式里的设置:remote_addr、remote_user、time_local、request、request_path、status、body_bytes_sent 二、Ngxtop使用实例 实时监控日志 [root@localhost ~]# ngxtop -l /usr/local/nginx/logs/access.log 日志分析 [root@localhost

    2.8K40发布于 2021-07-07
  • 来自专栏云云众生s

    实时时间序列分析:持续聚合

    持续聚合是高性能的PostgreSQL物化视图,它可以提升性能,并为PostgreSQL中的时间序列数据启用实时分析。 这是一个强大的功能,当处理非常大或快速增长的数据集时,它可以帮助您大幅提高性能,使PostgreSQL能够轻松处理实时分析工作负载。让我们更详细地介绍一下。 连续聚合到底是什么? 仍然可以在此粒度较低的数据上执行历史分析或审计,同时为新记录腾出空间。 注意:每个连续聚合都可以有其自己的保留策略,以自动删除指定时间段后的一部分数据来自动实现此效果。 的数据库的数据 处理需要聚合的数百万(或更多)条现有记录 使用连续聚合 假设您需要在仪表板上显示传感器数据以分析结果。 需要实时结果?这也是可能的——您可以启用实时聚合以在结果中显示最新的原始数据。(查看有关使用实时聚合的更多信息此处。您还可以查看性能测试.)的结果。

    1.2K10编辑于 2024-12-11
  • 来自专栏暴走大数据

    Druid实时大数据分析原理

    Druid Druid是一个分布式支持实时分析的数据存储系统,为分析而生,在处理数据的规模和数据处理实时性方面比传统OLAP系统有显著的性能改进。与阿里的druid无关。 数据可以存储在本地磁盘,HDFS或云服务中;如果节点故障可借助ZK重新构造数据;Druid内置了容易并行化的集合操作,在直方图方面和去重查询方面采用近似算法保证性能,如HyperLoglog,DataSketches等 实时分析 :Kafka 批量摄入:HDFS、CSV等 数据查询 原生Json查询,Http接口 类SQL查询,支持大部分SQL语法(本书出版时还未支持) ---- 数据分析软件分类 商业软件 HP Vertica Oracle Exadata Teradata 时序数据库 OpenTSDB InfluxDB 开源分布式计算平台 Hadoop Spark 开源分析数据库 Pinot Kylin Google Dremel Apache Drill Elasticsearch(ES) SQL on Hadoop/Spark Hive Impala Presto 数据分析云服务 Redshift 阿里云 Druid架构

    4.7K30发布于 2020-06-03
  • 来自专栏铭毅天下

    干货 | ELK 日志实时分析实战

    1、日志实时分析是 Elasticsearch 三大核心业务场景之一 ? 日志实时分析场景。 商业智能 BI 场景。 2、少啰嗦,先看东西 2.1 日志数据准备 以 Python 日志作为数据源,开搞。 output:输出到 Elasticsearch,以便于后续的 Kibana 数据分析。 Kibana 可视化分析就是基于日期维度的数据源做分析。 4、小结 日志实时分析是 ELK 组件的核心业务场景之一,而核心中的核心是 Logstash 中间处理 filter 环节。 掌握了 filter 环节,就掌握了 ELK 实时日志分析的精髓。

    2.2K30发布于 2021-07-22
  • 来自专栏VoiceVista语音智能

    呼叫中心的实时语音分析

    数字通信平台(Digital Communication Platform)Twilio(www.twilio.com)于本月6日,首次发布其实时呼叫分析服务 - Media Streams。 CUSTOMER VOICE ANALYSIS AND AI 客户语音分析和人工智能 Media Stream创造了一种相对简单的方法,使其客户可以在其呼叫中心集成实时的自然语音处理和其他人工智能能力。 AI可以实时的分析用户呼入语言及其情绪,从而可以提供更多的客户服务选项。Amazon和Google均提供对话式文字转录( Conversational transcription)和分析API。 Gridspace的Sift解决方案,类似的可以实时检查对话并自动的按照对话内容和情绪匹配不同的反馈。Twilio Media Stream可以为更广泛的商业领域带来AI价值。 自然语言处理,情绪分析和其他人工智能技术,已经为商业改善其实时客户服务,创造了巨大的机会。不同的商业需要更多的了解与其用户的对话。

    5.3K10发布于 2019-08-14
  • 来自专栏个人分享

    实时交互平台流程与技术分析

    一、数据准备   1、首先,我们需要用户的所有数据,使用MapReduce进行数据处理,生成业务宽表导入hbase与Redis,用于后续实时处理直接从Redis中获取相应数据,减少读写磁盘IO的消耗。

    64610发布于 2018-09-06
领券