- 综合排序
- 最热优先
- 最新优先
- 来自专栏京东电商平台API接口开发系列
【京东】商品评价数据采集+商品评论数据采集+买家评论内容数据+行业评论数据采集
采集场景京东商品详情页中的评价，有多个分类：【全部评价】、【晒图】、【视频晒单】、【追评】、【好评】、【中评】、【差评】。其中【全部评价】默认展现，其他需点击后展现。本文以按【差评】筛选采集为例讲解。 采集字段用户名、评价正文、颜色、内存、评论时间、店铺名称、星级。图片采集结果采集结果可导出为Excel、CSV、HTML、数据库等多种格式。 导出为Excel示例：图片 JD.item_review - 获得 JD 商品评论数据接口代码展示1. 请求方式：HTTPS POST GET 2. api_nameString是API接口名称（包括在请求地址中）[item_search,item_get,item_search_shop等]cacheString否[yes,no]默认yes，将调用缓存的数据 ，速度比较快result_typeString否[json,jsonu,xml,serialize,var_export]返回数据格式，默认为json，jsonu输出的内容中文可以直接阅读langString
2.3K20编辑于 2023-04-24 - 来自专栏京东电商平台API接口开发系列
京东商品详情页数据采集+商品优惠券数据采集爬虫代码展示
采集场景打开京东商品详情页（实例网址：https://item.jd.com/10335871600.html#crumb-wrap），采集点击不同的参数（颜色、版本等）后得到的数据（商品编号、价格、主图链接等字段会随着参数变化而变化 图片采集字段商品标题、颜色、版本、价格、商品名称、商品编号、图片网址等。采集结果采集结果可导出为Excel、CSV、HTML、数据库等多种格式。 导出为Excel示例：图片JD.item_get获得JD商品详情数据接口代码展示1.请求方式：HTTP POST GET2.公共参数：名称类型必须描述keyString是调用key（必须以GET方式拼接在 api_nameString是API接口名称（包括在请求地址中）[item_search,item_get,item_search_shop等]cacheString否[yes,no]默认yes，将调用缓存的数据 ，速度比较快result_typeString否[json,jsonu,xml,serialize,var_export]返回数据格式，默认为json，jsonu输出的内容中文可以直接阅读langString
2.6K20编辑于 2023-04-24 - 来自专栏月小水长
京东商品价格和评论的数据采集监控系统
对于一个商品来说，其价格在其生命周期内几乎不可能一成不变，很多消费者需要在商品价格低于心理预期时及时收到通知，然后有概率产生购买行为，虽然这种功能可能已经在京东或者淘宝上实现了，但是对于消费者来说， 基于以上，笔者实现了一个京东商品价格和评论的采集监控系统，它具有以下功能。 可以在任意时间周期内按照一定时间间隔，采集任意指定商品的价格和最新评论，都是网页可见的公开数据，不包含任何隐私数据。 除了监控外，这个系统也会进行增量数据的持久化存储，除了价格周期，更重要的一点是，很多平台的商品评论，比如京东，只能看到最新的 1000 条，而使用定时监控、增量采集可以跳过这种限制。
1.2K30编辑于 2023-04-27 - 来自专栏机器学习AI算法工程
京东商品评论情感分析:数据采集与词向量构造方法
在此，用京东的商品评论练手，从数据采集到模型实现完整地写一遍，以备未来回顾所需。事实上，我采用的方法并不困难，甚至有点naive，所以权且作为练手吧。 数据采集 在这里为了避免人工标注的麻烦，使用的是京东iPad的用户评论 https://item.jd.com/4675696.html#none 事实上，NLP情感分析中最花时间的就是人工标注。 事实上，京东对于网络爬虫是非常宽容的，就算不加任何的速度控制也可以毫无阻碍地完成数据的采集工作。这里建议使用Python3.5，因为3.5对中文的支持比较好，另外需要额外下载Request库。 这里，我采集的数据为好评和差评各一千条，所以总共是两千条评论。事实上，如果你愿意，也可以采集更多的评论来训练分类器。京东其实是非常“乐意”被爬虫的。 至此，数据采集和构造词向量的部分就结束了。NLP情感分析中一般有两种方法，第一种是根据语义和依存关系来量化文本的情感色彩。
2.4K70发布于 2018-03-15 - 来自专栏全栈程序员必看
API数据采集_数据采集接口
type=id 使用python代码获取数据、 import json from urllib.request import urlopen def getInformation(id): response result") print(getInformation("1")[0].get("artist_name")) 结果： 曾沛慈 说明： 通过调用API接口加上JSON格式解析，可以获取我们想要的任何数据
3.3K50编辑于 2022-09-28 - 来自专栏物联网wtblnet.com
数据采集网关|工业数据采集网关
数据采集网关|工业数据采集网关 随着数据量的不断增速，数据价值也逐步被许多公司所关注，尤其是偏重于业务型的企业，许多数据的发生，在未被挖掘整合的进程中通常被看作是一堆无效且占用资源的；但一旦被发掘，数据的价值将无可估计 近段时刻有幸参与负责了一个大数据项目，今日主要对收集体系做一次简单的复盘： 数据收集体系故名思意就是将数据从数据源收集到能够支撑大数据架构环境中，从而实现数据的收集以便后期对数据的二次加工树立数据仓库。 数据采集网关，物通博联数据采集网关相关产品： 1477559252.jpg 1480315233.jpg 一、业务流程整理 在业务流程整理的进程中，咱们先预设个场景，如： 当公司运营人员提出一个订单转化率的需求 ，都需求获取哪些数据，获取到后要收集存储到哪个数据仓库的表中，终究被运用到。 数据源办理 数据源一般会分为许多种类型，因而，咱们需求树立数据源类型；如ORECAL、mysql、hive等。
2.6K40发布于 2019-12-03 - 来自专栏物联网智慧生活
数据采集器 数据采集终端
TS511系列采集终端是集数据采集与2G/3G/4G/5G数据传输功能于一体的环保数据采集终端，完全符合《污染物在线自动监控(监测)系统数据传输标准》(HJ 212-2017) 和(HJ 212-2005 适用于环境和污染源在线监测设备监测数据的采集、存储和传输。 0.jpg 集视频图像监控、数据采集、数据存储、无线通信传输于一体 TS511环保数采仪，集视频图像监控、数据采集、数据存储、无线通信传输于一体;实现环保数据的采集、存储、显示、控制、报警及加密传输等综合功能 ;智能采集上报实时采集数据、设备监控数据等数据信息;接口丰富，可扩展性强、功能强大，组网灵活。 多路采集数据存储空间自定义 支持多路采集数据存储空间自定义配置，每个采集数据的存储空间均支持自定义配置;传感器定制简单可配可选，Modbus RTU传感器不用软件定制可以兼容;海量空间，可在本机循环存储监测数据
3.2K00发布于 2021-05-18 - 来自专栏国内互联网大数据
如何通过crul库和R语结合采集京东图片
今天要给大家展示的是，使用crul库和R语言编写的一个采集京东的图片的爬虫程序，内容很简单，易学易上手，非常时候新手朋友学习，一起来看看吧。 String>::new(); let proxy_str = r.eval("get_proxy()").unwrap(); proxy_str}```这个程序首先设置用户代理，然后使用crul库采集京东的所有图像 在采集过程中，程序使用R语言调用获取代理，最后，程序将采集到的图像保存到本地。这个过程非常的简单，不过大家在实际运用的时候，也还是需要根据自己的需求，对程序稍作修改后进行使用。
33000编辑于 2023-10-23 - 来自专栏腾讯云智能·AI公有云
使用Python采集京东商品评论并保存至本地
京东作为中国最大的电商平台之一，拥有大量的商品评论数据，了解用户对商品的评价和反馈对于企业和消费者来说都非常重要。所以今天的主题就是使用Python来爬取某东商品的评价，并保存到本地。 为了采集京东商品评论，我们需要使用Python的爬虫技术。首先，我们需要确定要采集的商品的URL链接。在京东网站上，每个商品都有一个唯一的商品ID，我们可以通过该ID构建商品的URL链接。 通常，商品评论位于我们网页的特定某个位置，并且可能需要点击加载更多评论才能获取全部数据。可以使用Python的库，如BeautifulSoup或Scrapy，来解析网页并提取评论数据。 在进行数据爬取之前，为了应对京东网站的反爬，我们可以采取一些策略来降低被封禁的风险。首先，我们可以设置合理的爬取速度，避免避免间隙地发送请求。其次，我们需要设置代理信息以对抗反爬机制。 div", class_="comment-content")# 打印评论内容for comment in comments: print(comment.text)保存到本地：最后，我们可以将采集到的京东商品评论保存到本地文件中
1.6K60编辑于 2023-10-10 - 来自专栏薪火数据
数据采集来源有哪些？数据采集方式有哪些？数据采集怎么做？
数据采集是指获取和收集数据的过程。数据采集来源多种多样，包括以下几个主要方面：1. 数据采集方式有多种，根据数据来源和采集需求的不同，可以采用以下几种常见的数据采集方式：1. 手动输入：人工手动输入数据，适用于数据量较小、频次较低，且无法自动获取的情况。2. 针对数据采集的具体步骤，可以按照以下几个阶段进行：1. 规划阶段：明确数据采集目标和需求，确定数据源和采集方式，制定采集计划和时间表。2. 数据采集执行：根据采集计划和方法，执行数据采集操作，确保数据按照预定的频率和规模被获取。5. 在进行数据采集时，需要明确采集目标、选择合适的数据源和采集方式，进行数据准备和清洗，进行有效的数据采集和质量控制，并确保数据的安全和隐私保护。
9.5K10编辑于 2023-12-29 - 来自专栏极客慕白的成长之路
数据采集：如何自动化采集数据？
上一节中我们讲了如何对用户画像建模，而建模之前我们都要进行数据采集。数据采集是数据挖掘的基础，没有数据，挖掘也没有意义。 那么，从数据采集角度来说，都有哪些数据源呢？我将数据源分成了以下的四类。 ? 这四类数据源包括了：开放数据源、爬虫抓取、传感器和日志采集。它们各有特点。 开放数据源一般是针对行业的数据库。 火车采集器 火车采集器已经有13年历史了，是老牌的采集工具。它不仅可以做抓取工具，也可以做数据清洗、数据分析、数据挖掘和可视化等工作。 总结 数据采集是数据分析的关键，很多时候我们会想到Python网络爬虫，实际上数据采集的方法、渠道很广，有些可以直接使用开放的数据源，比如想获取比特币历史的价格及交易数据，可以直接从Kaggle上下载， 另一方面根据我们的需求，需要采集的数据也不同，比如交通行业，数据采集会和摄像头或者测速仪有关。对于运维人员，日志采集和分析则是关键。所以我们需要针对特定的业务场景，选择适合的采集工具。
5.1K10发布于 2020-01-02 - 来自专栏京东电商平台API接口开发系列
天猫商品详情数据上架京东店铺（无货源铺货商品数据）采集接口代码展示
图片 业务场景：大家有探讨稳定采集天猫商品详情搬货至京东店铺，采集数据包括：获取商品列表和商品详情页面数据，包括：价格，主图、价格、标题，sku，sku描述等页面上有的数据接口完整解决方案。 商品sku属性，商品图片，商品视频，商品sku属性图片，商品属性描述，商品库存，商品销量，店铺优惠券信息，商品评论日期，评论内容，评论图片，买家昵称，追评内容，商品属性，追评属性图片等商品详情页面有的数据均可以拿到 ，可以结合其他接口关键词搜索接口，详情接口，销量接口，店铺所有商品接口，店铺订单，店铺上传接口，买家订单接口，商品评论接口，图片搜索接口，淘口令接口等接口，整个平台页面上可以看的到数据均可以拿到，接口适用于淘宝天猫 ，京东，拼多多，阿里巴巴，微店，抖音，亚马逊，速卖通，lazada,shopee等全球知名的30多个电商平台，接口应用于：商品分析，竞品分析，品牌监控，商品搬家，商品上传，商城建设，淘宝客，erp选品， ，同样的方式拿数据）（点击复制获取key和secret:https://o0b.cn/iiandy) 请求参数：num_iid=652874751412&is_promotion=1 参数说明：num_iid
82900编辑于 2023-03-05 - 来自专栏短信接收服务
爬虫数据采集
这都是爬虫数据采集的功劳。 这篇文章我总结了爬虫数据采集的说有流程，从最开始的最简单的基本爬虫，到爬虫所采集到的数据如何存储，以及我们如何绕过一些反爬措施，来获取我们需要的数据，进行爬虫的数据采集： 爬虫介绍：主要介绍了什么是爬虫 爬虫所带来的道德风险与法律责任：这篇文章主要介绍了我们在做数据采集的时候，什么可以采集，什么不能采集，由于不当采集给我们带来的法律风险，我们需要注意的一些问题。 使用 API：我们在进行数据采集的时候，另外的一种方法，可以大大简化我们数据采集的难度，同时有些网站只提供 API 我们应该如何去获取数据。 数据清洗：这篇文章主要介绍了我们采集的数据，如何清洗大做进一步的处理，来达到项目的要求。 数据标准化：这篇文章主要介绍了数据清洗之后如何标准化，来达到可以做数据分析的要求。
2.8K10编辑于 2022-04-28 - 来自专栏物联网wtblnet.com
数据采集网关
数据采集网关是一种低功耗、高可靠性的无风扇配置。它具有内置的工业标准Modbus协议通信模块、主流数据库的数据采集接口和数据采集接收软件。协议模块可以扩展以支持更广泛的第三方设备、仪器和收集器。 网关在采集和接收相关变量的数据时，还可以通过配置进行复杂的业务逻辑操作，实现数据的标准化，为数据在上层管理系统中的直接应用提供了条件。 数据采集网关是一种安全稳定的工业数据采集和转换设备。 它是集数据采集、PLC远程更新、工业计算机和云服务于一体的智能设备。适用于各种设备的远程管理。 •管道传输和数据聚合 •WDCP是嵌入式对象通信和Bo-Lian管道协议，实现了对现场复杂机型的标准化访问，并将数据采集到数据中心进行计算和存储。 支持远程读取网关状态、远程控制网关、设备和变量的远程配置、远程部署、远程读取设备数据、远程写入设备数据等功能。
2.8K00发布于 2019-12-07 - 来自专栏智能大数据分析
【数据采集与预处理】流数据采集工具Flume
一、Flume简介 数据流 ：数据流通常被视为一个随时间延续而无限增长的动态数据集合，是一组顺序、大量、快速、连续到达的数据序列。 （一）Flume定义 Apache Flume是一种分布式、具有高可靠和高可用性的数据采集系统，可从多个不同类型、不同来源的数据流汇集到集中式数据存储系统中。 （二）Flume作用 Flume最主要的作用就是，实时读取服务器本地磁盘的数据，可将日志采集后传输到HDFS、Hive、HBase、Kafka等大数据组件。 Memory Channel 在不需要关心数据丢失的情景下适用。如果需要关心数据丢失，那么 Memory Channel 就不应该使用，因为程序死亡、机器宕机或者重启都会导致数据丢失。 （二）使用Flume作为Spark Streaming数据源 Flume是非常流行的日志采集系统，可以作为Spark Streaming的高级数据源。
2.9K10编辑于 2025-01-22 注塑机数据采集网关能采集什么数据？
注塑机数据采集网关作为连接注塑机与上层管理系统（如MES、ERP、工业互联网平台）的关键设备，能够实时采集注塑机运行过程中的各类核心数据，涵盖设备状态、生产参数、工艺指标、能耗信息等多个维度，主要包括以下几类 生产过程核心参数：包括周期数据（总周期及合模、射胶等阶段时间）、模具与产品信息（模具编号、产品型号、产量及不良品数据），以及核心工艺参数（射胶/保压的速度、压力、位置，料筒及模具温度，锁模力等）。 辅助与扩展数据：如设备运行时长、停机分类统计等；此外，部分网关还能通过外接传感器获取冷却水参数、机械手状态、车间环境温湿度等扩展数据。 总而言之，注塑机数据采集网关采集可以采集的数据多种多样，但其核心都在于帮助企业实现生产过程透明化、质量追溯、能耗管控及效率提升。 如果你是有相关项目需求，可以了解一下矩形科技的π-EBOX数据采集网关，该网关功能强大，兼容90%以上的注塑机品牌和协议，只需将产品与注塑机连接，即可自动采集注塑机数据，实现真正的即插即用。
30610编辑于 2025-10-31- 来自专栏不止思考
大数据之数据采集
大数据体系一般分为：数据采集、数据计算、数据服务、以及数据应用 几大层次。 在数据采集层，主要分为 日志采集 和 数据源数据同步。 事实上，统计JS在采集到数据之后，可以立即发送到数据中心，也可以进行适当的汇聚之后，延迟发送到数据中心，这个策略取决于不同场景的需求来定。 比如 清洗假流量数据、识别攻击、数据的正常补全、无效数据的剔除、数据格式化、数据隔离等。 客户端日志采集： 一般会开发专用统计SDK用于APP客户端的数据采集。 客户端数据的采集，因为具有高度的业务特征，自定义要求比较高，因此除应用环境的一些基本数据以外，更多的是从 “按事件”的角度来采集数据，比如 点击事件、登陆事件、业务操作事件 等等。 数据采集本身不是目的，只有采集到的数据是可用、能用，且能服务于最终应用分析的数据采集才是根本。
1.8K20发布于 2018-08-31 - 来自专栏Java架构师必看
数据运营平台-数据采集
今天说一说数据运营平台-数据采集[通俗易懂],希望能够帮助大家进步!!! 目录 行为数据采集 业务数据采集与转换 第三方系统API对接 用户数据关联 人工数据采集 数据输出 ---- 行为数据采集 1.埋点采集 ①跨平台打通 确定性方法识别 利用用户帐号体系中，可以是系统生成的 业务数据采集与转换 大数据平台的数据来源广泛，根据来源，大致分为两类： 1)内部 a)手工填报 b)流+实时数据采集 c)批量 2)外部 a)文件导入 b)网络爬虫 c)对外接口服务 根据以上分类提供以下方案 ： 1、实时数据采集转换 实时采集选用Flume技术、消息队列选Kafka技术，在线实时处理选用Storm技术、关系型数据库可以选MySQL、Oracle多种类型，实时内存数据库选用Redis、历史大数据存储可选用 数据采集系统体系结构如下图所示： Flume是一个分布式、高可靠和高可用的数据采集采集系统。可针对不同数据源、不同结构的海量数据进行高效收集、聚合和传输，具备良好的扩展性、伸缩性和容错性。
6.2K31编辑于 2022-07-06 - 来自专栏数据库相关
prometheus 采集 snmp 数据
因为工作需要，需要采集下交换机的网络流量情况。 查了下google，发现几个好文章。
2K20发布于 2019-09-17 - 来自专栏速入大数据
数据采集：从何开始？
数据采集：从何开始？作为大数据领域的自媒体创作者Echo_Wish，今天我想和大家聊一聊数据采集的起点。 一、明确数据采集的目标在开始数据采集之前，我们首先要明确一个问题：我们需要什么样的数据？这一步至关重要，因为它决定了后续的数据源选择、采集方法和数据处理方式。 以一家电商企业为例，其数据采集目标可能包括用户行为数据、销售数据、库存数据等。二、选择合适的数据源根据数据采集目标，我们需要选择合适的数据源。 三、数据采集工具与方法选择合适的数据源后，我们需要选用合适的数据采集工具和方法。下面以Python为例，介绍几种常见的数据采集方式：1. 结语数据采集是一项复杂而有趣的工作，从明确目标到选择数据源，再到使用合适的工具和方法进行采集，最后进行数据存储与处理，每一步都至关重要。希望本文能为大家提供一些启发，帮助大家更好地进行数据采集。
66510编辑于 2025-02-24
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号