- 综合排序
- 最热优先
- 最新优先
- 来自专栏智能大数据分析
【数据采集与预处理】流数据采集工具Flume
一、Flume简介 数据流 ：数据流通常被视为一个随时间延续而无限增长的动态数据集合，是一组顺序、大量、快速、连续到达的数据序列。 （一）Flume定义 Apache Flume是一种分布式、具有高可靠和高可用性的数据采集系统，可从多个不同类型、不同来源的数据流汇集到集中式数据存储系统中。 （二）Flume作用 Flume最主要的作用就是，实时读取服务器本地磁盘的数据，可将日志采集后传输到HDFS、Hive、HBase、Kafka等大数据组件。 4、 Sink Sink 不断地轮询 Channel 中的事件且批量地移除它们，并将这些事件批量写入到存储或索引系统、或者被发送到另一个 Flume Agent。 （二）使用Flume作为Spark Streaming数据源 Flume是非常流行的日志采集系统，可以作为Spark Streaming的高级数据源。
2.2K10编辑于 2025-01-22 - 来自专栏数据库相关
vector 数据采集工具的使用
vector 官方的介绍如下： vector是使用rust编写的高性能可观测性数据管道，使组织能够控制其可观测性数据。 Vector 可以在您需要的地方（而不是在供应商最方便的地方）实现显着的成本降低、新颖的数据丰富和数据安全。开源，比任何替代方案快 10 倍。 / 生产级别大规模的数据处理流： json文件 --> vector 1 --> kafka --> vector 2 --> es 小规模的数据采集，也可以不用kafka： json文件 - %d" 4 校验配置文件 校验全部配置文件 ./bin/vector validate config/*.toml 或者校验指定的配置文件 . inputs = ["app_json_log_parser"] # required bootstrap_servers = "127.0.0.1:9092" compression = "lz4"
2.5K10编辑于 2023-12-19 - 来自专栏Java架构师必看
大数据采集工具，除了Flume，还有什么工具？
今天说一说大数据采集工具，除了Flume，还有什么工具？,希望能够帮助大家进步!!! 随着大数据越来越被重视，数据采集的挑战变的尤为突出。 ： 数据采集-->数据存储-->数据处理-->数据展现(可视化，报表和监控) 其中，数据采集是所有数据系统必不可少的，随着大数据越来越被重视，数据采集的挑战也变的尤为突出。 这其中包括： 数据源多种多样 数据量大 变化快 如何保证数据采集的可靠性的性能 如何避免重复数据 如何保证数据的质量 我们今天就来看看当前可用的六款数据采集的产品，重点关注它们是如何做到高可靠，高性能和高扩展 客户端通常和产生数据源的应用在同一个进程空间。常见的Flume 客户端有Avro，log4J，syslog和HTTP Post。另外ExecSource支持指定一个本地进程的输出作为Flume的输入。 4、Chukwa 官网：https://chukwa.apache.org/ Apache Chukwa是apache旗下另一个开源的数据收集平台，它远没有其他几个有名。
3.1K20编辑于 2022-07-06 - 来自专栏智能大数据分析
【数据采集与预处理】数据接入工具Kafka
Kafka是一种高吞吐量的分布式发布订阅消息系统，它可以处理消费者在网站中的所有动作流数据。 在流式计算中，Kafka 一般用来缓存数据，Storm 通过消费 Kafka 的数据进行计算。 1、Apache Kafka 是一个开源消息系统。 4、无论是 kafka 集群，还是 consumer 都依赖于 zookeeper 集群保存一些 meta 信息，来保证系统可用性。 Producer ：消息生产者，就是向 kafka broker 发消息的客户端； 2、Consumer ：消息消费者，向 kafka broker 取消息的客户端； 3、Topic ：可以理解为一个队列； 4、 /state"节点找到该 partition 的 leader 2）producer 将消息发送给该 leader 3）leader 将消息写入本地 log 4）followers 从 leader
64100编辑于 2025-01-22 - 来自专栏F12sec
工具分享 | FoFa采集工具
本工具来自公众号bgbing安全 工具github地址： https://github.com/bgbing/bgbingfofa 以下为bgbing安全原文： 前言：今天闲来无事，想写一个fofa采集工具 ，好用并且容易操作的工具，于是就有了bgbingfofa工具 写到后面发现自己的正则匹配并不熟悉，于是联系了刘念大佬 大佬二话不说，直接就把代码甩我脸上 然后再次请教大佬 从这一段，你们就能知道我的技术有多菜 当然最后工具还是做出来了 使用例子 如何使用？
2.1K10编辑于 2022-09-29 - 来自专栏msray
拓客必备神器：采集工具让你的数据采集更快更准
二、关键词采集工具在企业拓客中的应用Msray-plus，是一款企业级综合性爬虫/采集软件。企业官网：https://www.msray.net/支持亿级数据存储、导入、重复判断等。 图片图片关键词采集工具可以帮助企业在拓客过程中实现以下几个方面的应用：目标客户定位：关键词采集工具可以帮助企业收集与目标客户相关的关键词和搜索数据，了解目标客户的需求和行为特征，从而精准定位目标客户。 例如，假设你是一家销售智能家居产品的企业，你可以使用关键词采集工具收集与智能家居相关的关键词和搜索数据，了解目标客户的需求和行为特征，例如智能家居的功能、价格、品牌等，从而精准定位目标客户。 例如，假设你是一家销售健身器材的企业，你可以使用关键词采集工具收集与健身器材相关的关键词和搜索数据，了解目标客户的需求和偏好，从而制定相应的产品介绍和营销方案，吸引目标客户的兴趣和关注。 三、关键词采集工具的优势关键词采集工具在企业拓客中的应用有很多优势，主要体现在以下几个方面：精准定位目标客户：关键词采集工具可以帮助企业收集与目标客户相关的关键词和搜索数据，从而精准定位目标客户，提高拓客效率和成功率
73130编辑于 2023-04-07 - 来自专栏全栈程序员必看
API数据采集_数据采集接口
type=id 使用python代码获取数据、 import json from urllib.request import urlopen def getInformation(id): response result") print(getInformation("1")[0].get("artist_name")) 结果： 曾沛慈 说明： 通过调用API接口加上JSON格式解析，可以获取我们想要的任何数据
3.1K50编辑于 2022-09-28 - 来自专栏物联网wtblnet.com
数据采集网关|工业数据采集网关
数据采集网关|工业数据采集网关 随着数据量的不断增速，数据价值也逐步被许多公司所关注，尤其是偏重于业务型的企业，许多数据的发生，在未被挖掘整合的进程中通常被看作是一堆无效且占用资源的；但一旦被发掘，数据的价值将无可估计 数据采集网关，物通博联数据采集网关相关产品： 1477559252.jpg 1480315233.jpg 一、业务流程整理 在业务流程整理的进程中，咱们先预设个场景，如： 当公司运营人员提出一个订单转化率的需求 ，第一点主题模型咱们今日不做过多的介绍，侧重从2~4点剖析能够将收集体系划分为数据源装备、表结构的办理、源表办理、映射装备和收集使命办理几大模块。 4. 使命办理 主要是树立源与表，源与源的联系；一起能够对使命的履行周期来进行设置；使命装备的进程中，能够是以方针源为维度，亦能够以方针表为维度树立使命，一起可对历史使命进行监测。 4. 个人方面 对数据仓库的了解和认识上有所提高，对SQL的学习也算是一次稳固，一起在做的进程中对自己曾经遇到过的数据需求也有了一些新的思考思路和总结复盘。总之是收成满满。
2.4K40发布于 2019-12-03 - 来自专栏大数据与微服务架构
日志采集工具Flume
Flume是一个分布式、可靠、和高可用的海量日志采集、聚合和传输的系统。 支持在日志系统中定制各类数据发送方，用于收集数据;同时，Flume提供对数据进行简单处理，并写到各种数据接受方(比如文本、HDFS、Hbase等)的能力。 Flume的数据流由事件(Event)贯穿始终。 事件是Flume的基本数据单位，它携带日志数据(字节数组形式)并且携带有头信息，这些Event由Agent外部的Source生成，当Source捕获事件后会进行特定的格式化，然后Source会把事件推入 Client：生产数据，运行在一个独立的线程。 3. Source：从Client收集数据，传递给Channel。 4. Sink ：从Channel收集数据，运行在一个独立线程。 5.
90910发布于 2020-04-11 - 来自专栏geekfly
Java数据采集-4.分析常见的翻页（加载数据）方式
根据下拉网页进行加载数据 上一篇博客写的开源中国新闻列表，其加载数据方式即为下拉刷新。 此类型的网页我们可以打开浏览器的开发者工具，点击网络(Network),首先清空原有的请求，拖动网页的滚动条到底部，可看到网页新发出的Url请求，一般都会有页数等相关参数。 注意：加载数据请求一般均为Post类型 返回数据样例： 此处我们可以看出，返回的数据和上一篇博客循环解析的节点一致。 下图为请求参数： 下图为请求地址和请求方式，返回值类型： 下图为数据样例： 此类型的翻页不需要进行html的解析，但需要对返回的Json数据做解析，可使用FastJson等工具将Json数据转化为 接下来的博客针对上述三种加载数据的方式编写实际的代码抓取数据。
74720编辑于 2022-04-24 - 来自专栏大数据服务
推荐10个最好用的数据采集工具
10款最好用的数据采集工具，免费采集工具、网站网页采集工具、各行业采集工具，这是目前比较好的一些免费数据采集工具，希望可以帮助到大家。 1、八爪鱼采集器 八爪鱼是基于运营商在网实名制真实数据是整合了网页数据采集、移动互联网数据及API接口服务等服务为一体的数据服务平台。它最大的特色就是无需懂得网络爬虫技术，就能轻松完成采集。 3、近探中国 近探中国的数据服务平台里面有很多开发者上传的采集工具还有很多是免费的。 4、大飞采集器 大飞采集器可采集99%网页，他的速度是普通采集器的7倍，和复制黏贴是一样的准确，它最大的特点就是网页采集的代名词因为专注所以单一。 8、ForeSpider ForeSpider是一款非常好用的网页数据采集工具，用户使用这款工具可以帮助你自动检索网页中的各种数据信息，并且这款软件使用非常的简单，用户还能免费使用。
9.2K61发布于 2021-07-15 - 来自专栏智能大数据分析
【数据采集与预处理】数据传输工具Sqoop
一、Sqoop简介 Sqoop 是一款开源的工具，主要用于在 Hadoop（Hive）与传统的数据库（mysql、postgresql...）间进行数据的传递，可以将一个关系型数据库（例如 2 export ExportTool 将集群数据导出 3 codegen CodeGenTool 获取数据库中某张表数据生成Java并打包Jar 4 create-hive-table CreateHiveTableTool 连接关系型数据库的URL 2 –connection-manager 指定要使用的连接管理类 3 –driver Hadoop根目录 4 –help 打印帮助信息 5 –password 连接数据库的密码 4、公用参数：hive 序号 参数 说明 1 –hive-delims-replacement 用自定义的字符串替换掉数据中的\r\n和\013 \010等字符 2 –hive-drop-import-delims 在导入数据到hive时，去掉数据中的\r\n\013\010这样的字符 3 –map-column-hive 生成hive表时，可以更改生成字段的数据类型 4 –hive-partition-key
1.1K11编辑于 2025-01-22 - 来自专栏msray
全网URL采集工具，支持关键词采集，域名采集，联系人采集
**今天介绍的这款全网URL采集工具可以运用于全网域名/网址/IP信息检索、指定关键词批量数据采集、SEO、网络推广分析、内容源收集，以及为各种大数据分析等提供数据支撑。 关键词采集根据提供的关键词采集全网的数据，重复判断：可以选择根据域名或者网址进行重复判断，采集字段包括域名，网址，IP地址，IP所属国家，标题，描述，访问状态等。 图片2： URL采集根据提供的URL数据批量采集全网被收录的数据，重复判断：可以选择根据域名或者网址进行重复判断，支持线程数自定义，可根据自己机器配置调整最优采集字段包括域名，网址，IP地址，IP 电话，qq，邮箱等远程结果推送支持：可将结果推送到远程的服务器**创建联系任务**图片URL采集工具可以帮助我们进行数据**抓取、处理、分析，挖掘**。 URL采集工具帮助我们灵活迅速地抓取网页上散乱分布的数据信息，并通过一系列的分析处理，准确挖掘出所需数据。这样可以保证，数据的完整性，时效性，特征性，提高分析的准确性。
3.5K11编辑于 2022-10-17 - 来自专栏IT大咖说
大数据平台-数据采集和集成技术和工具整理
首先在这里表面一个观点，即： 不用期望通过单一的一个工具或技术来完成大数据采集和集成工作，而是需要针对数据采集的实时性需求，数据采集的类型，数据量大小等采用不同的方法和技术。 Sqoop和Flume数据采集和集成 ? 如果从Hadoop提供的标准技术架构和开源工具集，对于数据采集和集成部分重点就是两个工具，一个是Sqoop，一个是Flume。 虽然这个采集工具现在没有大范围使用，但是却对整体大数据采集和集成实施，功能扩展方面积累了相应的技术经验。 前面谈采集，可以看到在源和目标之间增加了一个采集集成工具。 即： 源端 -- 采集集成工具 -- 目标端 而流式计算框架后整个过程增加了计算环节如下： 即： 源端 -- 采集集成工具 -- 计算 - 目标端 ?
3K10发布于 2021-03-14 - 来自专栏物联网智慧生活
数据采集器 数据采集终端
TS511系列采集终端是集数据采集与2G/3G/4G/5G数据传输功能于一体的环保数据采集终端，完全符合《污染物在线自动监控(监测)系统数据传输标准》(HJ 212-2017) 和(HJ 212-2005 ;智能采集上报实时采集数据、设备监控数据等数据信息;接口丰富，可扩展性强、功能强大，组网灵活。 6.jpg 通信方式设计：多种通信，多种选择 采集和传输一体化设计，通信稳定，节省成本,集成数据采集和5G/4G DTU功能;支持GPRS/4G/5G无线蜂窝网络、短信、RS232/RS485， 数据远程操控：支持远程实时数据、历史数据查询及本地导出历史数据。远程升级、重启、故障排查等。 多达4路图像抓拍、外接显示屏，可视化数据，简单易操作! 具备4路图像抓拍、外接显示屏、平台管理、本地配置、串口配置、液晶/键盘配置 支持大容量存储，长期保存设定参数及历史数据!
3K00发布于 2021-05-18 - 来自专栏轩辕镜像
开源免费 TikTok Downloader：TikTok、抖音数据采集工具
TikTokDownloader 完全免费开源，基于 Requests 模块实现：TikTok 主页/视频/图集/原声；抖音主页/视频/图集/收藏/直播/原声/合集/评论/账号/搜索/热榜数据采集工具 项目文档 ⭐ 推荐使用 Windows 终端（Windows 11 自带默认终端） 其他说明 程序提示用户输入时，直接回车代表返回上级菜单，输入 Q 或 q 代表结束运行 由于获取账号喜欢作品和收藏作品数据仅返回喜欢 / 收藏作品的发布日期，不返回操作日期，因此程序需要获取全部喜欢 / 收藏作品数据再进行日期筛选；如果作品数量较多，可能会花费较长的时间；可通过 max_pages 参数控制请求次数 获取私密账号的发布作品数据需要登录后的 程序默认不启用请求延时，但是建议使用者编辑 src/Customizer.py 文件启用随机延时或固定延时，避免频繁请求导致被抖音风控 如果您的计算机没有合适的程序编辑 JSON 文件，建议使用 JSON 在线工具 数据采集：支持采集TikTok和抖音的详细数据，包括账号信息、评论数据、直播推流地址等。 多账号支持：支持多账号批量下载作品。 自动化功能：自动跳过已下载的文件，持久化保存采集数据。
4.4K11编辑于 2024-09-29 - 来自专栏tianfang
PHP采集工具之Querylist
ph好用的采集类最近有个朋友需要我帮他用php采集一些东西,这里我就不得不提很强大的:querylist官网:http://www.querylist.cc/简单的介绍一下：QueryList不依赖任何框架和架构 ，它可以单独使用也可以引入到任意的PHP开发框架中去使用，如：Laravel、ThinkPHP；你可以使用它来构建简单的采集系统，也可以用它才构建高可用的分布式采集系统。 // 采集所有a标签的href属性 'link' => ['a','href'], // 采集所有a标签的文本内容 'text' => ['a','text']])->query ()->getData();//打印结果print_r($data->all());/** * 在线测试采集并查看采集结果:http://querylist.cc/querylist-test */进阶上面的采集结果有很多 ;//需要采集的目标页面$page = 'http://cms.querylist.cc/news/566.html';//采集规则$reg = [ //采集文章标题 'title' =>
2.4K30编辑于 2022-09-14 - 来自专栏小轻论坛
XHS.Spider颜值超高的数据采集工具
官方网站：https://xisuo67.website/XHS-Spider-Doc/ XHS.Spider是一款颜值超高的小红书数据采集工具。 小红书数据采集、网站图片、视频资源批量下载工具，颜值超高的数据采集工具（批量下载，视频提取，图片，去水印等） 环境说明 XHS-Spider目前仅支持windows操作系统，其他操作系统不支持 XHS-Spider
1.2K10编辑于 2024-09-30 - 来自专栏有趣的django
4.alembic数据迁移工具
alembic是用来做ORM模型与数据库的迁移与映射。 charset=utf8 （4）将models所在的目录路径添加到env.py，并指定target_metadata import sys,os # 1. #2.os.path.dirname(__file__)：获取当前文件的目录 #3.os.path.dirname(os.path.dirname(__file__))：获取当前文件目录的上一级目录 #4. 解决办法：删除数据的alembic_version表中的数据，重新执行alembic upgrade head 1.3.current命令使用介绍 用alembic工具：数据库中会自动生成一张表 if __name__ == '__main__': app.run() （3）初始化 alembic init alembic （4）alembic.ini sqlalchemy.url =
2.1K30发布于 2019-02-13 - 来自专栏物联网智慧生活
5G4G数据采集遥测终端机
计讯物联5G/4G数据采集遥测终端机，丰富行业接口可对接视频监控、流量计水位计各种传感器、水电表压力计等仪表、以及plc等工业设备，完成数据存储、监测因子采集上传、管理中心远程实时在线监测、设备远程控制 图片1.png 5G/4G数据采集遥测终端机功能 数据定时采集、存储、主动上报。 预警加报。 多通讯方式，支持2.5G/3G/4G/GPRS/NB-IoT传输功能。 设备电压监测、工况监测。 显示屏RTU大容量数据存储空间。 同时支持本地控制及远程管理。 支持图像抓拍、视频数据采集上报，支持数据字符与视频叠加功能。 支持多中心通信，可同时与多个后台服务器进行通信。 5G/4G数据采集遥测终端机应用场景 一、智慧水务水利：水质、水位、水雨情、水库大坝、中小河流、城市内涝、山洪灾害等监测项目。 四、智慧城市：交通、安防、环卫等数据采集监测项目。
69320发布于 2021-08-13
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号