- 综合排序
- 最热优先
- 最新优先
- 来自专栏葡萄城控件技术团队
实战分享 | 金融数据采集报送平台实践
对企业数据系统来说，数据采集填报、报表设计、校验审核、汇总上报等功能是非常常见的需求，也是业务用户使用频率最高的功能模块。 不管身处何种行业，只要有数字化转型/数据治理的需求，都需要关注这些问题的解决方案。 而银行业作为现代金融业的主体，国民经济运转的枢纽，数字化转型相当关键。 本周我们有幸邀请到葡萄城的深度合作客户——杭州明佑电子有限公司（简称明佑电子）开发部经理 杨颖，从银行业背景和业务痛点出发，分享他们对于银行业数据采集报送领域的实践经验，分析、解决以上提到的痛点问题。 明佑电子长期致力于为金融客户提供整体解决方案和软件产品，在软件研发、数据整合、技术服务、IT外包领域有多年实践经验以及成熟的解决方案。 Excel自定义报表 https://mp.weixin.qq.com/s/IbN6ljTBHGxcg-lfjt_yxw 【客户故事】希施玛数据科技 – 金融大数据处理实验实训教学平台 https://
1.1K40编辑于 2023-02-10 - 来自专栏科控自动化
地热数据采集项目7 配置记录
[C#] 地热数据采集项目6 提供规范化接口文档 1.安装 .Net6 Ubuntu18.04 二进制文件方式安装.net6.09,并建立快捷方 tar -zxvf *.tar.gz #解压tar
32540编辑于 2022-12-01 - 来自专栏数据科学与人工智能
【数据】金融领域7大数据科学案例
笔者邀请您，先思考： 1 金融领域有哪些典型数据问题？ 2 金融领域应用那些数据科学方法？ ? 近年来，数据科学和机器学习应对一系列主要金融任务的能力已成为一个特别重要的问题。 为了帮助您回答这些问题，我们准备了一份对金融行业影响最大的数据科学应用清单。 它们涵盖了从数据管理到交易策略的各种业务方面，但它们的共同点是增强金融解决方案的巨大前景。 管理客户数据 对于金融公司来说，数据是最重要的资源。因此，高效的数据管理是企业成功的关键。今天，在结构和数量上存在大量的金融数据：从社交媒体活动和移动互动到市场数据和交易细节。 我们认为，我们主要关注金融领域的7大数据科学用例，但还有很多其他值得一提的。 如果您有任何进一步的想法，请在评论部分分享您的想法。 原文链接： https://medium.com/activewizards-machine-learning-company/top-7-data-science-use-cases-in-finance
1.7K00发布于 2018-07-30 - 来自专栏八爪鱼大数据
超实用干货 | 金融界的“另类数据”采集技巧分享
以上案例分布在各行各业，但其实都与金融【另类数据】有关，可以很好地诠释【另类数据】的价值与场景。什么是金融另类数据？在过去，投资者更多的是依靠传统金融数据进行投资决策。 年报集中于3-4月披露，中报集中于7-8月披露，具有时间延后性。而通过实时监测此公司去年全年线上销售情况，投资者在1月就能知晓此公司上一年营收情况。✔ 数据种类多，结构多样：另类数据的形式结构很多样。 因为另类数据具有数据量大、实时性高、数据种类多、结构多样的特点，获取难度也比较高。金融机构一般通过以下3种方式获取另类数据：向另类数据供应商直接购买、自建爬虫团队获取、使用数据采集软件获取。 其中使用数据采集软件成本效益最明显，前期只需投入很少的资金与人力，即可快速开始探索另类数据。 八爪鱼是通用的网页数据爬取软件，拥有行业领先的数据采集能力，能够很好地解决另类数据体量大、实时性高、数据种类多、结构多样的采集痛点。
37710编辑于 2023-12-01 - 来自专栏Spark学习技巧
金融领域7大数据科学案例
涵盖了从数据管理到交易策略的各种业务方面，共同点是增强金融解决方案的巨大前景。 笔者邀请您，先思考： 1 金融领域有哪些典型数据问题？ 2 金融领域应用那些数据科学方法？ ? 为了帮助您回答这些问题，我们准备了一份对金融行业影响最大的数据科学应用清单。 它们涵盖了从数据管理到交易策略的各种业务方面，但它们的共同点是增强金融解决方案的巨大前景。 管理客户数据 对于金融公司来说，数据是最重要的资源。因此，高效的数据管理是企业成功的关键。今天，在结构和数量上存在大量的金融数据：从社交媒体活动和移动互动到市场数据和交易细节。 我们认为，我们主要关注金融领域的7大数据科学用例，但还有很多其他值得一提的。 如果您有任何进一步的想法，请在评论部分分享您的想法。 原文链接： https://medium.com/activewizards-machine-learning-company/top-7-data-science-use-cases-in-finance
2.7K40发布于 2018-06-22 - 来自专栏全栈程序员必看
API数据采集_数据采集接口
type=id 使用python代码获取数据、 import json from urllib.request import urlopen def getInformation(id): response result") print(getInformation("1")[0].get("artist_name")) 结果： 曾沛慈 说明： 通过调用API接口加上JSON格式解析，可以获取我们想要的任何数据
3.1K50编辑于 2022-09-28 - 来自专栏Python大数据分析
数据采集必备的7个低代码爬虫工具
下面是7个我常用的爬虫软件，分三大类，零代码工具、半自动化工具、低代码工具，都很好操作。 零代码工具 八爪鱼爬虫 八爪鱼算是非常出名的数据采集软件了，很早就流传开来。 点击采集 → 导出Excel/CSV文件。 亮数据爬虫 亮数据是一种专门应对反爬的数据采集工具，很适合亚马逊、Shopee等电商网站的数据采集和监测。 Scraper APIs是亮数据专门为批量采集数据而开发的接口，支持上百个网站，200多个专门API采集器，例如Linkedin的职位、公司、人员数据采集器，Tiktok的商品、短视频数据采集器，当然这些数据都是公开可抓取的 如果你不想自己去采集数据，它也会有现成的数据集供你下载使用。 亮数据使用方法： 注册账号 → 选择“亮数据浏览器”。 Web Scraper插件支持翻页、登录认证和简单数据清洗，而且支持多种数据类型采集，并可将采集到的数据导出为Excel、CSV等多种格式。
1.5K10编辑于 2025-08-06 - 来自专栏物联网wtblnet.com
数据采集网关|工业数据采集网关
数据采集网关|工业数据采集网关 随着数据量的不断增速，数据价值也逐步被许多公司所关注，尤其是偏重于业务型的企业，许多数据的发生，在未被挖掘整合的进程中通常被看作是一堆无效且占用资源的；但一旦被发掘，数据的价值将无可估计 近段时刻有幸参与负责了一个大数据项目，今日主要对收集体系做一次简单的复盘： 数据收集体系故名思意就是将数据从数据源收集到能够支撑大数据架构环境中，从而实现数据的收集以便后期对数据的二次加工树立数据仓库。 数据采集网关，物通博联数据采集网关相关产品： 1477559252.jpg 1480315233.jpg 一、业务流程整理 在业务流程整理的进程中，咱们先预设个场景，如： 当公司运营人员提出一个订单转化率的需求 ，都需求获取哪些数据，获取到后要收集存储到哪个数据仓库的表中，终究被运用到。 数据源办理 数据源一般会分为许多种类型，因而，咱们需求树立数据源类型；如ORECAL、mysql、hive等。
2.4K40发布于 2019-12-03 - 来自专栏物联网智慧生活
数据采集器 数据采集终端
TS511系列采集终端是集数据采集与2G/3G/4G/5G数据传输功能于一体的环保数据采集终端，完全符合《污染物在线自动监控(监测)系统数据传输标准》(HJ 212-2017) 和(HJ 212-2005 0.jpg 集视频图像监控、数据采集、数据存储、无线通信传输于一体 TS511环保数采仪，集视频图像监控、数据采集、数据存储、无线通信传输于一体;实现环保数据的采集、存储、显示、控制、报警及加密传输等综合功能 ;智能采集上报实时采集数据、设备监控数据等数据信息;接口丰富，可扩展性强、功能强大，组网灵活。 多路采集数据存储空间自定义 支持多路采集数据存储空间自定义配置，每个采集数据的存储空间均支持自定义配置;传感器定制简单可配可选，Modbus RTU传感器不用软件定制可以兼容;海量空间，可在本机循环存储监测数据 支持运营商专网接入并指定IP，多层加密，享受金融级数据标准、支持TCP server功能，支持根据域名和IP地址访问数据中心;在专网的基础上再增加一层加密方式传输，充分保障交易数据、管理数据的可靠性、准确性
3K00发布于 2021-05-18 - 来自专栏geekfly
Java数据采集-7.Ajax无刷新请求(翻页-3)
技术重点： HttpClient 模拟请求 FastJson 处理Json格式的数据 （由于此处需要模拟Post请求，并且包含请求头信息和参数，Jsoup已经无法满足需求，其主要适用于数据解析，故此代码使用 Url为：http://www.iconfont.cn/api/icon/search.json 请求方式：Post ---- 请求头（Request Header）中数据如下（Cookie数据过长 并不是所有的请求都需要加上述参数 不同的网站也会有不同的参数 有些动态的数据需要动态生成 和网站的安全机制有关，若发现请求获取不到数据，或返回错误的数据时，需考虑参数问题，先尝试把必须添加的参数加上，如果不行再继续添加其他参数 ，不断尝试可以获取正常的数据为止。 :" + icons.size() + "条数据"); page_number++; //继续下一页 } 输出 第1页,数据:54条数据 第2页,数据:49条数据 结束，共计：103 翻页系列到此结束
1.1K10编辑于 2022-05-06 - 来自专栏动态IP服务
金融数据采集如何避免IP被封与法律风险？
在金融数据采集的战场上，爬虫工程师每天都在与平台的风控系统斗智斗勇。当你的程序突然无法获取数据，或是收到法律警告时，往往意味着技术策略或合规环节出现了漏洞。 结合多年实战经验，今天给系统的梳理了金融数据爬虫的核心生存法则。平台如何识别"非人类"？现代金融平台的风控系统早已不是简单的规则匹配，而是通过机器学习构建的智能识别网络。 网络属性：数据中心IP、频繁变更的地理位置、与历史行为不符的访问时段，都是危险信号。某跨境金融平台发现，使用香港住宅IP采集港股数据时，成功率比云服务器IP高4倍。技术突破：让爬虫更像"真人"1. 合规底线：数据采集的红线采集前必须确认：数据是否公开可获取、是否涉及商业秘密、使用目的是否正当。 处理含个人信息的金融数据时：仅采集必要字段（如股票代码，而非交易账户）；对身份证号、手机号等实施哈希处理。在监管趋严与技术对抗升级的背景下，金融数据爬虫已进入"精细化运营"时代。
45810编辑于 2025-09-26 - 来自专栏薪火数据
数据采集来源有哪些？数据采集方式有哪些？数据采集怎么做？
数据采集是指获取和收集数据的过程。数据采集来源多种多样，包括以下几个主要方面：1. 适用于需要大规模获取互联网上的数据的情况。6. 传感器和设备：通过传感器和设备收集物理世界中的数据，如温度传感器、压力传感器、摄像头等。7. 数据采集执行：根据采集计划和方法，执行数据采集操作，确保数据按照预定的频率和规模被获取。5. 数据存储和管理：将采集到的数据存储到合适的数据库或存储系统中，建立数据管理体系，确保数据的安全和可用性。7. 在进行数据采集时，需要明确采集目标、选择合适的数据源和采集方式，进行数据准备和清洗，进行有效的数据采集和质量控制，并确保数据的安全和隐私保护。
9.1K10编辑于 2023-12-29 - 来自专栏总线协议转换网关
TCPIP转Profinet工业数据采集网关保障工业摄像头与S7-1200视觉数据采集的方案
车间以西门子S7-1200 PLC作为核心控制器（支持Profinet协议），负责产线节拍控制、设备联动及异常响应；同时部署TCP/IP协议工业摄像头，分布在螺栓拧紧、外观检测、尺寸测量等关键工位，支持 ONVIF 协议，具备高清画面采集能力。 然而，异构协议导致三大通讯难题：数据交互壁垒：S7-1200的Profinet协议无法直接调用摄像头的画面采集、录像控制等功能，产线异常时需人工切换监控界面查看，关键工序漏检风险高；控制逻辑割裂：PLC 二、技术方案与系统部署（一）硬件架构与网络拓扑部署捷米特 JM-PN-TCP/IP 网关，搭建三层通讯网络：Profinet侧：网关作为 Profinet 从站接入 S7-1200 的 X1 端口，通过 产线协同能力优化：PLC 与摄像头实现毫秒级联动响应，确保工序动作、画面采集与质量判定无缝衔接，产线稳定性增强；运维人员通过 PLC HMI 即可统一管理摄像头，操作效率提升，人力成本降低。
24810编辑于 2025-10-27 - 来自专栏极客慕白的成长之路
数据采集：如何自动化采集数据？
上一节中我们讲了如何对用户画像建模，而建模之前我们都要进行数据采集。数据采集是数据挖掘的基础，没有数据，挖掘也没有意义。 那么，从数据采集角度来说，都有哪些数据源呢？我将数据源分成了以下的四类。 ? 这四类数据源包括了：开放数据源、爬虫抓取、传感器和日志采集。它们各有特点。 开放数据源一般是针对行业的数据库。 如何使用开放数据源 我们先来看下开放数据源，教你个方法，开放数据源可以从两个维度来考虑，一个是单位的维度，比如政府、企业、高校；一个就是行业维度，比如交通、金融、能源等领域。 所以如果你想找某个领域的数据源，比如金融领域，你基本上可以看下政府、高校、企业是否有开放的数据源。当然你也可以直接搜索金融开放数据源。 火车采集器 火车采集器已经有13年历史了，是老牌的采集工具。它不仅可以做抓取工具，也可以做数据清洗、数据分析、数据挖掘和可视化等工作。
4.9K10发布于 2020-01-02 - 来自专栏物联网wtblnet.com
S7-200 SMART采集网关
S7-200 SMART智能CPU模块直接供给三轴100kHz高速脉冲输出，S7-200智能CPU模块经过强大灵活的设置导游直接供给三轴100kHz高速脉冲输出。 2019120210.jpg S7-200 SMART采集网关: 一、进入物通博联的MQTT网关的WEB界面，依据网关表树立MQTT网关信息（主要是填入MQTT网关序列号） 二、装备收集西门子smart200 数据变量模板表（同一种类型的西门子smart200设备具有相同的变量表），增加设备信息（界说相关的MQTT网关，界说相关的收集西门子smart200数据变量模板，界说通信参数和收集周期等），部署设备和变量信息到 运动操控功用特点 •供给可装备的测量系统，以工程单位（如英寸或厘米）或脉冲形式输入数据 •供给可装备的空隙补偿 •支撑绝对、相对和手动位操控形式 •支撑连续运转 •最多供给32组移动信封，每组信封可设置 运用运动操控面板验证运动操控功用的接线是否正确，调整装备数据并测验每个运动包线 •显现位操控操作的当时速度、当时方位和当时方向，以及输入和输出LED的状态（脉冲LED除外） •检查和修正存储在CPU模块中的位操控操作的装备设置
1K30发布于 2019-12-02 - 来自专栏短信接收服务
爬虫数据采集
这都是爬虫数据采集的功劳。 这篇文章我总结了爬虫数据采集的说有流程，从最开始的最简单的基本爬虫，到爬虫所采集到的数据如何存储，以及我们如何绕过一些反爬措施，来获取我们需要的数据，进行爬虫的数据采集： 爬虫介绍：主要介绍了什么是爬虫 爬虫所带来的道德风险与法律责任：这篇文章主要介绍了我们在做数据采集的时候，什么可以采集，什么不能采集，由于不当采集给我们带来的法律风险，我们需要注意的一些问题。 使用 API：我们在进行数据采集的时候，另外的一种方法，可以大大简化我们数据采集的难度，同时有些网站只提供 API 我们应该如何去获取数据。 数据清洗：这篇文章主要介绍了我们采集的数据，如何清洗大做进一步的处理，来达到项目的要求。 数据标准化：这篇文章主要介绍了数据清洗之后如何标准化，来达到可以做数据分析的要求。
2.6K10编辑于 2022-04-28 - 来自专栏物联网wtblnet.com
数据采集网关
数据采集网关是一种低功耗、高可靠性的无风扇配置。它具有内置的工业标准Modbus协议通信模块、主流数据库的数据采集接口和数据采集接收软件。协议模块可以扩展以支持更广泛的第三方设备、仪器和收集器。 网关在采集和接收相关变量的数据时，还可以通过配置进行复杂的业务逻辑操作，实现数据的标准化，为数据在上层管理系统中的直接应用提供了条件。 数据采集网关是一种安全稳定的工业数据采集和转换设备。 它是集数据采集、PLC远程更新、工业计算机和云服务于一体的智能设备。适用于各种设备的远程管理。 •管道传输和数据聚合 •WDCP是嵌入式对象通信和Bo-Lian管道协议，实现了对现场复杂机型的标准化访问，并将数据采集到数据中心进行计算和存储。 支持远程读取网关状态、远程控制网关、设备和变量的远程配置、远程部署、远程读取设备数据、远程写入设备数据等功能。
2.7K00发布于 2019-12-07 - 来自专栏智能大数据分析
【数据采集与预处理】流数据采集工具Flume
一、Flume简介 数据流 ：数据流通常被视为一个随时间延续而无限增长的动态数据集合，是一组顺序、大量、快速、连续到达的数据序列。 （一）Flume定义 Apache Flume是一种分布式、具有高可靠和高可用性的数据采集系统，可从多个不同类型、不同来源的数据流汇集到集中式数据存储系统中。 （二）Flume作用 Flume最主要的作用就是，实时读取服务器本地磁盘的数据，可将日志采集后传输到HDFS、Hive、HBase、Kafka等大数据组件。 Memory Channel 在不需要关心数据丢失的情景下适用。如果需要关心数据丢失，那么 Memory Channel 就不应该使用，因为程序死亡、机器宕机或者重启都会导致数据丢失。 （二）使用Flume作为Spark Streaming数据源 Flume是非常流行的日志采集系统，可以作为Spark Streaming的高级数据源。
2.3K10编辑于 2025-01-22 注塑机数据采集网关能采集什么数据？
注塑机数据采集网关作为连接注塑机与上层管理系统（如MES、ERP、工业互联网平台）的关键设备，能够实时采集注塑机运行过程中的各类核心数据，涵盖设备状态、生产参数、工艺指标、能耗信息等多个维度，主要包括以下几类 生产过程核心参数：包括周期数据（总周期及合模、射胶等阶段时间）、模具与产品信息（模具编号、产品型号、产量及不良品数据），以及核心工艺参数（射胶/保压的速度、压力、位置，料筒及模具温度，锁模力等）。 辅助与扩展数据：如设备运行时长、停机分类统计等；此外，部分网关还能通过外接传感器获取冷却水参数、机械手状态、车间环境温湿度等扩展数据。 总而言之，注塑机数据采集网关采集可以采集的数据多种多样，但其核心都在于帮助企业实现生产过程透明化、质量追溯、能耗管控及效率提升。 如果你是有相关项目需求，可以了解一下矩形科技的π-EBOX数据采集网关，该网关功能强大，兼容90%以上的注塑机品牌和协议，只需将产品与注塑机连接，即可自动采集注塑机数据，实现真正的即插即用。
24110编辑于 2025-10-31- 来自专栏京东电商平台API接口开发系列
【京东】商品评价数据采集+商品评论数据采集+买家评论内容数据+行业评论数据采集
采集场景京东商品详情页中的评价，有多个分类：【全部评价】、【晒图】、【视频晒单】、【追评】、【好评】、【中评】、【差评】。其中【全部评价】默认展现，其他需点击后展现。本文以按【差评】筛选采集为例讲解。 采集字段用户名、评价正文、颜色、内存、评论时间、店铺名称、星级。图片采集结果采集结果可导出为Excel、CSV、HTML、数据库等多种格式。 导出为Excel示例：图片 JD.item_review - 获得 JD 商品评论数据接口代码展示1. 请求方式：HTTPS POST GET 2. api_nameString是API接口名称（包括在请求地址中）[item_search,item_get,item_search_shop等]cacheString否[yes,no]默认yes，将调用缓存的数据 ，速度比较快result_typeString否[json,jsonu,xml,serialize,var_export]返回数据格式，默认为json，jsonu输出的内容中文可以直接阅读langString
2.1K20编辑于 2023-04-24
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号