- 综合排序
- 最热优先
- 最新优先
- 来自专栏技术翻译
大数据Python：3大数据分析工具
在这篇文章中，我们将讨论三个令人敬畏的大数据Python工具，以使用生产数据提高您的大数据编程技能。 正如它的网站所述，Pandas是一个开源的Python数据分析库。 让我们启动IPython并对我们的示例数据进行一些操作。 现在有了Pandas，您也可以在Python中进行数据分析。数据科学家通常将Python Pandas与IPython一起使用，以交互方式分析大量数据集，并从该数据中获取有意义的商业智能。 这是来自Apache Spark项目的大数据分析库。 PySpark为我们提供了许多用于在Python中分析大数据的功能。它带有自己的shell，您可以从命令行运行它。 如果您不熟悉大数据并希望了解更多信息，请务必在AdminTome在线培训中注册我的免费大数据入门课程。
5.3K20发布于 2018-12-13 - 来自专栏安恒信息
大数据安全第3期 | 国内外大数据安全与个人隐私安全标准
下面对和大数据安全相关的传统数据安全标准、个人信息保护标准和专门为大数据应用制定的大数据安全相关标准进行梳理分析。 1500-3 《第3册 用例和一般要求》 NIST SP 1500-4 《第4册 安全和隐私保护》（由NIST NBD-PWG的安全与隐私保护小组编写。） 《信息安全技术 大数据服务安全能力要求》 《信息安全技术 大数据安全管理指南》 《大数据安全标准体系研究》 《大数据交易服务平台安全要求》 《大数据安全能力成熟度评估模型》 《大数据安全防护标准研究》 》 《大数据 数据保全概述和要求》 《大数据驱动联网要求》 《基于DPI的大数据驱动联网框架》 《应用于网络大数据语境下的深度包检测机制》 《移动互联网服务中的大数据分析安全要求和框架》 《大数据即服务的安全指南 目前下设五个工作组，分别为信息安全管理体系工作组（WG1）、密码技术与安全机制工作组（WG2）、安全评价、测试和规范工作组（WG3）、安全控制与服务工作组（WG4）和身份管理与隐私保护技术工作组（WG5
2.3K90发布于 2018-04-10 腾讯安全湖：云原生一体化安全大数据分析平台
一、 产品定位与核心亮点 腾讯安全湖是一款云原生、低成本、高性能、自研且全栈国产化的安全大数据分析产品。产品定位为 PB 级安全数据智能分析平台。 数据分析层：基于自研一体化数据引擎构建灵活实时的数据表，涵盖数据检索、监控&告警、分析&报表、可视化 BI 及安全应用开发等核心模块。 安全场景层：聚焦支撑企业的智能安全运营、安全分析与智能安全转型。 硬核指标 数据规模与性能：支持 PB 级海量数据秒级检索；支持 百亿级存量日志高效处理。 超强的数据穿透与检索能力：实现 PB 级海量数据的秒级查询，保障百亿级日志数据完整无忧，极大提升安全大数据分析效率。 通过打造一体化安全分析平台打通工作流，支持 PB 级数据分析、未知威胁发现和快速威胁狩猎。 成效： 数据吞吐：在腾讯云原生数据湖单日写入峰值超过 7.21TB。
15510编辑于 2026-05-31- 来自专栏智能大数据分析
【PySpark大数据分析概述】01 大数据分析概述
大数据是一个动态的定义，不同行业有不同的理解，衡量标准会随着技术的进步而改变。 二、大数据分析的概念 什么是大数据分析？大数据分析是指对规模巨大、海量的数据进行分析，挖掘数据蕴含的价值和知识。 大数据分析与传统数据分析的区别：传统的数据分析主要基于统计分析方法，而大数据分析则更侧重于预测性分析和预案性分析，处理大规模、多样性的复杂数据。 图1 大数据分析的思维方式转变 三、大数据分析的流程 大数据分析源于业务需求，其完整的流程包括明确目的、数据采集与存储、数据预处理、分析与建模、模型评估以及可视化应用。 1. 3. 数据预处理 数据预处理是大数据处理中不可或缺的环节。为了获得可靠的数据分析和挖掘结果，必须利用数据预处理手段来提高大数据的质量，贯彻高质量发展精神。 3. 大数据计算框架 大数据计算根据对时间性能要求分为批处理、交互式处理和实时处理。
1.9K10编辑于 2025-03-29 - 来自专栏数据科学与人工智能
【大数据分析】大数据分析方法 及 相关工具
基于此，大数据分析方法理论有哪些呢？ ? 大数据分析的五个基本方面 PredictiveAnalyticCapabilities （预测性分析能力） 数据挖掘可以让分析员更好的理解数据，而预测性分析可以让分析员根据可视化分析和数据挖掘的结果做出一些预测性的判断 AnalyticVisualizations （ 可视化 分析） 不管是对数据分析专家还是普通用户，数据可视化是数据分析工具最基本的要求。可视化可以直观的展示数据，让数据自己说话，让观众听到结果。 SemanticEngines （语义引擎） 我们知道由于非结构化数据的多样性带来了数据分析的新的挑战，我们需要一系列的工具去解析，提取，分析数据。 挖掘 与前面统计和分析过程不同的是，数据挖掘一般没有什么预先设定好的主题，主要是在现有数据上面进行基于各种算法的计算，从而起到预测的效果，从而实现一些高级别数据分析的需求。
5.1K80发布于 2018-02-27 - 来自专栏智能大数据分析
【PySpark大数据分析概述】03 PySpark大数据分析
一、PySpark简介 Python在数据分析和机器学习领域拥有丰富的库资源，如NumPy、SciPy、Pandas和Scikit-learn等，因此成为数据科学家和数据分析师处理和分析数据的热门语言。 Spark是目前处理和使用大数据的主流框架之一，其设计初衷是加速迭代计算，非常适合大数据分析、机器学习等应用场景。 （3）连接集群：SparkContext表示与Spark集群的连接，它是创建RDD（弹性分布式数据集）和广播变量的基础。 （3）设置和获取配置选项: 使用set(key, value)方法设置配置选项。使用get(key)方法获取配置选项的值。尝试获取未设置的配置选项会抛出异常。 PySpark结合了Python在数据分析和机器学习领域的丰富库资源，以及Spark处理大数据的能力。它不仅能运行在单机环境，还能在集群上运行，适合处理大规模数据或进行分布式/并行计算。
3.2K10编辑于 2025-04-13 - 来自专栏全栈程序员必看
大数据分析系统
概念、分类 数据分析系统的主要功能是从众多外部系统中，采集相关的业务数据，集中存储到系统的数据库中。 按照数据分析的时效性，我们一般会把大数据分析系统分为实时、离线两种类型。实时数据分析系统在时效上有强烈的保证，数据是实时流动的，相应的一些分析情况也是实时的。 而离线数据分析系统更多的是对已有的数据进行分析，时效性上的要求会相对低一点。时效性的标准都是以人可以接受来划分的。 2． 网站流量日志数据分析系统 2.1． Ø 技术上 可以合理修改网站结构及适度分配资源，构建后台服务器群组，比如 1、辅助改进网络的拓扑设计，提高性能 2、在有高度相关性的节点之间安排快速有效的访问路径 3、帮助企业更好地设计网站主页和安排网页内容 3、帮助企业更好地根据客户的兴趣来安排内容。 4、帮助企业对客户群进行细分，针对不同客户制定个性化的促销策略等。 终极目标是： 改善网站的运营，获取更高投资回报率（ROI）。也就是赚更多的钱。
4.6K20编辑于 2022-08-24 - 来自专栏Spark学习技巧
大数据分析流程
然后发现不清楚各种工具和模型的适用范围，也不知道数据报告需要包括哪些内容，面试的感觉就是一问三不知…… 你是一个工作了一段时间的白领，你觉得现在这份工作不适合你，你下班以后去逛知乎，在上面看到很多人在说大数据代表未来 ，数据分析师是21世纪最性感的十大职业之一……你激动了，你也要成为数据分析师，你利用空余时间补上了统计知识，学了分析工具，然后发现自己目前的工作跟数据分析没啥关系，觉得没有相关经验没公司要你…… 这些问题的根源是什么 保证数据的安全性，不对外泄露公司的任何非公开数据，是数据分析师的基本职业道德。 Step 3：数据清洗 在工作中，90%以上的情况，你拿到的数据都需要先做清洗工作，排除异常值、空白值、无效值、重复值等等。这项工作经常会占到整个数据分析过程将近一半的时间。 2月销售额有所下降，3月大幅回升，4月持续增长。 年迈的分析师：2013年1月、2月销售额去除春节因素后，1月实际同比上升20%，2月实际同比上升14%，3月、4月销售额持续增长。
4.5K41发布于 2019-08-02 - 来自专栏Spark学习技巧
何为大数据分析？
基于如此的认识，大数据分析普遍存在的方法理论有哪些呢？ 1. 可视化分析。 大数据分析的使用者有大数据分析专家，同时还有普通用户，但是他们二者对于大数据分析最基本的要求就是可视化分析，因为可视化分析能够直观的呈现大数据特点，同时能够非常容易被读者所接受，就如同看图说话一样简单明了 另外一个方面也是因为有这些数据挖掘的算法才能更快速的处理大数据，如果一个算法得花上好几年才能得出结论，那大数据的价值也就无从说起了。 3. 预测性分析。 大数据分析的基础就是以上五个方面，当然更加深入大数据分析的话，还有很多很多更加有特点的、更加深入的、更加专业的大数据分析方法。 3.
3K20发布于 2019-05-14 腾讯安全湖：云原生全栈国产化安全大数据分析产品概要
一、产品定位与核心亮点 腾讯安全湖是一款云原生、低成本、高性能、自研、全栈国产化的安全大数据分析产品，核心定位为PB级安全数据智能分析平台。 3. 0day漏洞及时响应与风险排查 适用对象：需快速响应新发漏洞、排查历史利用痕迹的企业安全团队。 痛点：新漏洞披露后，无法通过历史数据快速排查影响范围，攻击痕迹发现滞后。 数据周期：支持180天以上原始安全数据存储、回溯与分析。 解析能力：支持超16种解析方法/函数。 接入能力：单日写入峰值超7.21TB（某互联网客户实测）。 3. 成效：实现安全大数据一体化管理，提供低成本存储、高性能检索，以及丰富多样的可视化分析能力。 成效：节省80%存储成本；实现PB级数据秒级查询，提升大数据分析效率。 数据来源：腾讯安全官方产品文档
19410编辑于 2026-05-31- 来自专栏安恒信息
大数据分析防护云安全强势亮相国际反病毒大会
针对这些新挑战，国际云安全联盟提出了大数据安全分析、软件定义边界、数据自我保护以及可信身份认证四种应对方案。 ? ▲ 刘志乐介绍了如何利用大数据安全分析进行安全防护 随后刘志乐向现场的参会嘉宾详细的介绍了如何利用大数据安全分析进行安全防护。 对于内网而言，又将如何构建大数据安全智能分析能力？刘志乐在演讲中给出了答案。 以大数据分析技术为架构的AiLPHA大数据智能安全分析平台，可以集成关键安全设备的日志、告警、流量，形成全网的安全大数据中心，满足《网络安全法》存储6个月的法规要求。 同时，AiLPHA大数据安全智能平台具备对资产的自发现能力，管理员可以及时发现验证内部恶意资产的恶意行为。此外，大数据智能分析具有结合威胁情报能力，可以形成海陆空一体的安全防御能力。
1.7K40发布于 2018-04-10 - 来自专栏BestSDK
4个步骤3分钟，快速入门大数据分析
一、明确数据分析的目的 1、如果数据分析的目的是要对比页面改版前后的优劣，则衡量的指标应该从页面的点击率，跳出率等维度出发，电商类应用还要观察订单转化率，社交类应用要注重用户的访问时长、点赞转发互动等频次 3、自行参与问卷设计、用户访谈等调研，直面用户，收集一手数据，观察用户使用产品时所遇到的问题及感受。问卷需要提炼核心问题，减少问题，回收结果需剔除无效的敷衍的问卷。 3、不要过度依赖数据 过度依赖数据，一方面，会让我们做很多没有价值的数据分析；另一方面，也会限制产品经理本来应有的灵感和创意。 正像罗振宇在时间的朋友跨年演讲上提到的一样。 五、总结 美国最成功的视频网站Netflix通过基于用户习惯的分析，将大数据分析深入到电影的创作环节中，塑造了风靡一时的美剧《纸牌屋》。 然而Netflix的工作人员告诉我们，不应该迷恋大数据 如果说电视剧评分9分是精品的话，大数据可以让我们脱离低分6分以下的风险，却也会带我们按部就班的走向平庸的绝大多数7-8分之间。
1.2K40发布于 2018-02-28 - 来自专栏数据库安全防护
大数据安全
产品简介 中安威士大数据安全平台（VS-BDSG）专注于为大数据环境的数据资产提供一系列的审计、访问控制、加密、脱敏等保护措施及管控，对数据的收集、加工、存储、应用等全生命周期的每个环节进行自动监测和实时处理 产品功能 大数据安全审计 本系统支持大数据HDFS、HIVE、HBASE等组件的数据安全单向、双向审计功能，提供可视化、向导式、多层次的策略配置管理。丰富和灵活的规则体系，能够适应不同场景需求。 大数据加密 性能优异，可支持PB级的数据批量加密和解密，能极大满足上游应用端的数据供给。提供公开加密算法：3DES、AES，以及国家批准的国密算法。 应用场景 优势及特性 中安威士大数据安全平台，为Hadoop、Hortonworks、Cloudera以及国产大数据架构提供了数据访问审计、数据访问控制、数据加密、数据脱敏等安全功能。 数据安全防护手段、方法丰富适用。 自动安装和部署，无需人工在大数据集群节点进行操作。 功能齐套，集成简易，可快速构建数据安全网。 模块化设计，灵活定制和组装，适应各类场景需要。
1.3K12发布于 2019-11-21 什么是大数据分析？大数据分析技术为什么很重要？
一、大数据分析技术，到底在解决什么问题如果只从结果看，大数据分析好像就是把很多数据整理后拿来分析。但往前追一步你就会发现，真正麻烦的地方，其实发生在分析之前。 二、企业常说的大数据分析技术，通常包括哪些能力大数据分析技术听起来很大，但拆开看，其实核心能力并不难理解。一般来说，企业最常遇到的几个部分，分别是数据接入、数据处理、数据建模和分析展示。先说数据接入。 说白了，大数据分析技术一旦要落地，工具就不能只看表面好不好看，更要看整套能力是不是完整。三、为什么现在企业越来越重视大数据分析技术这一点其实和企业管理方式的变化有很大关系。 常见问答Q1：大数据分析技术和数据分析工具有什么区别？数据分析工具更偏使用层，解决的是怎么做分析、怎么展示结果；大数据分析技术更偏底层支撑，解决的是数据怎么接入、处理、统一和长期复用。 Q2：中小企业也需要关注大数据分析技术吗？需要。企业规模不是唯一标准，只要数据来源开始变多、分析需求开始频繁、人工处理开始吃力，就有必要关注这部分能力。Q3：不会编程的人能理解大数据分析技术吗？可以。
28810编辑于 2026-04-14- 来自专栏mantou大数据
【大数据安全】基于Kerberos的大数据安全方案
1.背景 互联网从来就不是一个安全的地方。很多时候我们过分依赖防火墙来解决安全的问题，不幸的是，防火墙是假设“坏人”是来自外部的，而真正具有破坏性的攻击事件都是往往都是来自于内部的。 [不安全的Hadoop集群] 要保证Hadoop集群的安全，至少要做到2个A：Authentication(认证)，Authorization(授权)。 Kerberos目前最新版本是5，1~3版本只在MIT内部发行，因为使用DES加密，早期被美国出口管制局列为军需品禁止出口，直到瑞典皇家工学院实现了Kerberos版本4，KTH-KRB。 3.Kerberos HA架构 Kerberos支持两种服务器在域内冗余方式：Master/Slave（MIT和Heimdal）和Multimaster结构（Windows Active Directory （3）运维 使用进程管理工具对Kerberos相关进程进行存活监控，当发现有进程异常退出时，邮件/微信/钉钉报警，主动再次拉起进程。
2.6K20发布于 2018-11-05 - 来自专栏全栈程序员必看
python大数据分析实例-用Python整合的大数据分析实例
用Python进行数据分析的好处是，它的数据分析库目前已经很全面了，有NumPy、pandas、SciPy、scikit-learn、StatsModels，还有深度学习、神经网络的各类包。 用Python的好处是从数据抽取、数据收集整理、数据分析挖掘、数据展示，都可以在同一种Python里实现，避免了开发程序的切换。 这里就和大家分享我做的一个应用实例。 3、建立数据库并填写数据 CREATE TABLE `sale` ( `SaleMonth` datetime DEFAULT NULL, `Sale` float DEFAULT NULL ) ENGINE += “” tmp3 += str(‘%.0f’ % t.fcst) +”,” tmp +=””+tmp1+”” tmp +=u””+tmp2+”” tmp +=u””+tmp3+””+”” tmp1 = tmp1[:-1] tmp2 = tmp2[:-1] tmp2 = tmp2.replace(‘nan’,”-”) tmp3 = tmp3[:-1] tmp=u”'{ title : {text
6K10编辑于 2022-09-03 - 来自专栏ShowMeAI研究中心
图解大数据 | 大数据分析挖掘-Spark初步
Apache Spark是一种用于大数据工作负载的分布式开源处理系统。它使用内存中缓存和优化的查询执行方式，可针对任何规模的数据进行快速分析查询。 Spark基于内存计算，提高了在大数据环境下数据处理的实时性，同时保证了高容错性和高可伸缩性，允许用户将Spark部署在大量的廉价硬件之上，形成集群。 Apache Spark 已经成为最受欢迎的大数据分布式处理框架之一。 由加州大学伯克利分校的AMPLabs开发，作为Berkeley Data Analytics Stack（BDAS）的一部分，当下由大数据公司Databricks保驾护航，更是Apache旗下的顶级项目 3）Spark作业和调度流程 Spark的作业调度主要是指基于RDD的一系列操作构成一个作业，然后在Executor中执行。
2.7K41编辑于 2022-03-08 - 来自专栏硬核项目经理的专栏
Spark快速大数据分析
一、Spark数据分析导论 1.Spark是一个用来实现快速而通用的集群计算的平台，扩展了MapReduce计算模型，支持更多计算模式，包括交互式查询和流处理 2.包括Spark Core、Spark SQL、Spark Streaming（内存流式计算）、MLlib（机器学习）、GraphX（图计算） 3.适用于数据科学应用和数据处理应用 二、Spark下载与入门 1.Spark应用都由一个驱动器程序 进行转化，以定义新的RDD 告诉Spark对需要被征用的中间结果RDD执行persist()操作 使用行动操作（例如count()和first()等）来触发一次并行计算，Spark会对计算进行优化后再执行 3. 累加器：提供了将工作节点中的值聚合到驱动器程序中的简单语法，常用于调试时对作业执行过程中的事件进行计数 2.广播变量：让程序高效地向所有工作节点发送一个较大的只读值，以供一个或多个Spark操作使用 3. 节点，工作节点称为执行器（executor）节点，能过集群管理器（Cluster Manager)的外部服务在集群中的机器上启动Spark应用 2.驱动器程序：把用户程序转为任务；为执行器节点调度任务 3.
3K20发布于 2019-08-06 - 来自专栏深度学习|机器学习|歌声合成|语音合成
大数据分析：特征工程
', 'cost_sensitivity', 'connect_num', 'freq_shopping_flag', 'recent_3month_shopping_count
2.5K10发布于 2021-01-14 - 来自专栏全栈程序员必看
大数据分析技术方案
一.目标 现在已经进入大数据时代, 数据是无缝连接网络世界与物理世界的DNA。发现数据DNA、重组数据DNA是人类不断认识、探索、实践大数据的持续过程。 大数据分析可以有效地促进营销,个性化医疗治病，帮助学生提高成绩,利于老师提高教学水平,还可以用于教学，许多产品可以用到大数据技术，如量化分析金融产品等。 必须加强大数据技术的研究并实际应用.这里对目前最流行和最实用的用户画像技术进行讲解，并分析大数据分析的常用算法。 二.用户画像 1. 可视化分析系统提供系统监控，权限多级管理，多维数据分析，等等功能，还支持自服务式报表设计和数据分析。 C4.5算法与ID3算法一样，都是数学分类算法，C4.5算法是ID3算法的一个改进。ID3算法采用信息增益进行决策判断，而C4.5采用的是增益率。 2.CART算法。
2.6K20编辑于 2022-09-20
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号