- 综合排序
- 最热优先
- 最新优先
- 来自专栏应用计算
SPL轻量级文件存储提速查询实践
把不再变化的历史数据存储成轻量级的 esProc SPL 列存文件，可以利用 SPL 语言的强大计算能力，跑出远超传统数据库的查询性能。 esProc SPL 很轻，直接嵌入应用就可以运行，在实现数据外置提速的同时，也不会让整个系统架构变得很复杂：这里准备了一套使用 SPL 外置数据提速查询的实践方法：第一篇 - 常规过滤及分组汇总第二篇 枚举字段条件过滤其中涉及的实例都是传统数据库很头疼的性能问题，比如 COUNT DISTINCT，外键 JOIN，大主子表关联（包括 EXISTS），枚举字段条件过滤（包括 IN）等，助您突破数据库查询性能瓶颈 乾学院有例子数据 csv 文件和建表 SQL，模拟某公司线下订单和电子商务的部分数据。需要在 MYSQL 数据库中建表，并导入 csv 数据。 customer，存储线下客户数据，数据量较小：城市表 city，存储线下客户所在城市数据，数据量较小：州表 state，存储线下客户所在州数据，数据量较小：运货商表 shipper，存储线下运货商数据
23510编辑于 2025-08-26 - 来自专栏应用计算
第二篇 -COUNT DISTINCT：SPL轻量级文件存储提速查询实践
但数据库无法保证存储的次序，很难实施这样的有序去重算法。esProc SPL 可以把数据导出后有序存储，实现这种高性能的有序去重计数。 数据外置时，要按照用户号有序存储，可以使用有序去重提高性能。 我们用 ETL 工具定义一个新的 Q2.etl 文件，重复前面的步骤，连接数据库 - 拖拽 events 表 - 编辑：这里按照客户号有序存储，可以使用有序去重提高性能。排序字段必须放在第一个。 A4 中创建组表时，用 #user_id 声明组表是按照这个字段有序的。这里自动加了 p 选项。用户有序的数据是什么样的呢？我们来直观的看一下。 是否可以用有序去重来提速？
24510编辑于 2025-09-12 - 来自专栏应用计算
第六篇 枚举字段条件过滤--SPL轻量级文件存储提速查询实践
))5=A4.groups(order_date;count(1))6>output("query cost:"/interval@ms(A1,now())/"ms")执行时间 0.1 秒。 SQL 要使用子查询：select sum(shipping_fee)from orderswhere customer_id in ( select customer_id (city_id==35)4=file("ordersQ6.ctx").open().cursor@m(shipping_fee;A3(customer_num) )5=A4.total(sum(shipping_fee .ctx").open().cursor@m(shipping_fee;customer_id:A3)5=A4.total(sum(shipping_fee))执行时间：0.1 秒。 是否可以用对位序列提速？
14510编辑于 2025-11-03 - 来自专栏应用计算
第四篇 - 大主子表关联--SPL轻量级文件存储提速查询实践
这一篇介绍主键关联的提速。主表订单表和子表明细表的关联就是主键关联。SQL 中，这种关联仍用 JOIN 实现，在两个表都很大的情况下，常常出现计算速度非常慢的现象。 如果预先将主子表都按照主键有序存储，就可以使用归并算法实现关联。这种算法只需要对两个表依次遍历，不必借助外存缓存，可以大幅降低计算量和 IO 量。 先做数据准备，把历史数据从数据库导出为 CTX 文件。在 ETL 中定义 Q4.etl：修改两个表的名字，加上 Q4。 注意：两表要按照 order_id 连接，就按照这个字段有序存储。但不选中“用数据库排序”。生成 SPL 代码 18：A5和 A8 中用 #order_id 来声明 CTX 是对这个字段有序的。 是否可以用有序归并方法提速？
20110编辑于 2025-10-20 - 来自专栏应用计算
第一篇 - 常规过滤及分组汇总:SPL轻量级文件存储提速查询实践
我们以订单表为例实现 esProc SPL 数据外置，提速常规过滤及分组汇总计算。我们使用 SPL 的 ETL 工具来生成脚本，实现数据的转储。 打开工具 - 数据连接：点击连接后，数据库的表可以拖拽到工作区：工具 - 数据目录，设置数据文件存储的目录。工具 - 生成 SPLX 代码：导出后，记得这次新建的 etl 保存成 Q1.etl 文件。 A4 中的 select 函数相当于 SQL 中的 WHERE 子句，用于过滤。 BTX 是行式存储，还不能最大程度发挥 SPL 的性能。用 ETL 工具编辑 orders 表：导出 SPL 代码 4：把数据转储成列存组表 CTX。 需要注意的是，SPL 文件存储有其特定的适用场景。因为要导出数据，所以更适合计算不变的历史数据，其实这种场景就很多了。
18810编辑于 2025-09-05 - 来自专栏应用计算
第三篇 外键维表的关联：SPL轻量级文件存储提速查询实践
这样就可以利用不同关联的特征，采用不同的手段甚至不同的存储方式有效提速。关联的一种情况是外键关联。一个表的普通字段（外键）和另一个表的主键关联。比如订单表与客户表、运货商表都是外键关联。 下面，我们以订单表、客户表、城市表、州表和运货商表为例，介绍 esProc SPL 外置数据提速外键关联的方法。 4、定义维表序号列名称 id。5、定义维表值列名称 name。还要设置 ordersQ3 中的序号化字段：生成 SPL 代码 14：导出数据，转储成 BTX 或 CTX。 SPL 代码 17：在前面代码 SPL 代码 16 基础上，改一下 A4 就可以了。执行时间是 0.3 秒。 是否可以用序号关联的方法来提速？
22310编辑于 2025-09-23 - 来自专栏流浪猫的golang
golang mongoDB GridFS查询 存储 删除文件
GridFS 也是文件存储的一种方式，但是它是存储在MonoDB的集合中。 GridFS 用两个集合来存储一个文件：fs.files与fs.chunks。 GridFS是可以存储任何你想要存储的文件，不仅仅是那些超过16M文件，意思是什么文件都能存。 此外，如果您的文件全部小于16 MB bson文档大小限制，请考虑将文件手动存储在单个文档中，而不是使用gridfs。您可以使用bindata数据类型来存储二进制数据。 = nil { fmt.Println("未查询到数据库名字:", err) } fmt.Println(names) //通过文件名获取mp3 file
3.5K10发布于 2018-08-02 - 来自专栏BeJavaGod
MongoDB-4 GridFS 文件存储
基于gridfs的上传，读取与下载 @Autowired private GridFSBucket gridFSBucket; /** * 创建文件到GirdFS 文件ID：" + fileId); // 文件在mongodb中的id return fileId.toString(); } /** * 读取文件 * @param model * @return * @throws Exception */ @GetMapping("/readGridFS ") @ResponseBody public String readGridFS(Model model) throws Exception { // 获取文件ID 整合SpringBoot作为文件服务展示 当然也能和nginx放在一起使用 /** * 借助nginx+springboot来访问gridfs中的文件内容 * @param
1.4K10发布于 2020-03-05 - 来自专栏韩曙亮的移动开发专栏
【Android 文件管理】分区存储 ( 创建与查询图片文件 )
文章目录 一、分区存储模式下使用 MediaStore 插入图片 二、分区存储模式下使用 MediaStore 查询图片 三、相关文档资料 Android 分区存储系列博客 : 【Android 文件管理 】应用可访问的存储空间 ( 存储空间分类 | 存储空间访问权限 | 分区存储 ) 【Android 文件管理】分区存储 ( 分区存储机制 和 文件索引数据 ) 【Android 文件管理】分区存储 ( MediaStore 文件操作 ) 一、分区存储模式下使用 MediaStore 插入图片 ---- 在上一篇博客 【Android 文件管理】分区存储 ( MediaStore 文件操作 ) 中 , Uri = $uri , 路径 = $path , 文件名称 = $name , 绝对路径 = $absolutePath") // 关闭游标 cursor.close() } 查询文件代码示例 进行操作 ; 三、相关文档资料 ---- Android 文件处理参考文档 : 数据和文件存储概览 : https://developer.android.google.cn/training/data-storage
2K20编辑于 2023-03-29 - 来自专栏应用计算
第五篇 - 大主子表关联时的 EXISTS--SPL轻量级文件存储提速查询实践
这样的计算本质上是在做主键关联，如果能预先将主子表都按照主键有序存储，也可以使用有序归并算法有效提速。esProc SPL 可以把主子表的 EXISTS 转化为有序归并，从而提升计算性能。 下面通过订单表和订单明细表的例子，介绍这种情况的外置提速方法。先完成数据准备，可以直接使用第四篇生成的 CTX 文件。例 5.1 对包含 7 号产品的订单，按照客户号分组统计订单个数。 ctx").open().cursor(order_id;product_id==7;A2)4=A3.group@1(order_id)5=joinx(A2:o,order_id;A4:d,order_id open().cursor(order_id,product_id;;A2)4=A3.group(order_id)5=A4.select(~.count(order_id)>1 && ! 是否可以用有序归并方法提速？
11010编辑于 2025-10-30 - 来自专栏人芳觅
Geant4--root和csv文件存储
01 — Geant4调用root/csv文件存储格式方法 a) 在/include/中添加文件MYHistoManager.hh: #ifndefMYHistoManager_h #defineMYHistoManager_h 图2 csv文件存储的直方图内容 其中， entries：当前bin获取了多少个满足信息抽取条件的数据，对应hist中的Y轴counts； Sw：每个数据填充时配置权重weight（默认为1），当前bin b) 合并多个csv文件： cat*.csv > full.csv。 流程示意如图3图4所示： ? 图3 命令行演示csv数据文件的处理 ? 图4 多个csv文件中的数据合并 04 — 总结展望 Root和csv文件流的优点在于它们的多线程管理能力，对于直方图两者均能在EndofRunAction中实现数据合并；而对于ntuple原始数据的存储 总结来看：如果倾向数据统计，则root直方图直接存储合理；倾向于保存原始数据，csv文件存储更高效，方便后续做集中数据处理分析。
3.2K72发布于 2020-10-10 - 来自专栏互联网运维杂谈
文件系统fsck提速方案
在分布式文件系统（例如HDFS）中，当出现异常掉电、加电恢复后，通常存储系统会检测内部数据的一致性，检测分为两个层次 首先是单机文件系统的数据一致性检查 其次是使用了erasure coding编码的存储系统进行数据一致性校验 100-150MB/s 之间），因此提升文件系统的fsck速度就显得愈发重要，本文中以 ext4 文件系统为例，列举除了文件系统 fsck 提速的若干方案。 ），并且在mkfs的时候，使用bigalloc和inline data的功能，大文件保证其连续性，减少元数据存储量，小文件可以直接合并入 inode，减少 seek 的程度，不过这种方案并未从根本上解决问题 这样可以尽可能的保证文件系统的一致性（来自ext4 workshop总结）。 快照为 fsck 提速。
2.2K10发布于 2019-11-19 - 来自专栏灿视学长
(4. 文件与存储)
文件与存储 1. 文件 读写文件是最常见的IO操作。 XML文件也是我们在实际中经常会使用的一种存储格式，比如labelimg保存的文件就是xml格式的。 len(CLASSES)))) print(index_map) 输出： {'aeroplane': 0, 'bicycle': 1, 'bird': 2, 'boat': 3, 'bottle': 4, draw.rectangle([xmin, ymin, xmax, ymax], outline=(255, 0, 0)) draw.text([xmin, ymin], CLASSES[boxes[4] 4. 关于我 ? 欢迎加我微信，每天16个小时在线
94220发布于 2021-05-28 - 来自专栏数据计算
数据外置提速革命：轻量级开源SPL如何用文件存储实现MPP级性能？
这些历史数据大多数情况下是不再变化的，如果能存成文件会更简单。但是文件本身没有计算能力，无法直接实施条件过滤、分组汇总等运算，更谈不上复杂的分析任务了。 SPL可以让文件拥有计算能力，用它的轻量级列存文件存储不变的历史数据，较小的投入就能实现高速查询。SPL引擎非常轻，部署后占用存储空间仅几百M，单机就可以运行，无须集群。 实现数据外置提速的同时，也不会让系统架构变得很复杂：轻量的SPL，计算能力却非常强大，在列式存储、数据压缩、多线程并行等方面都做了深度优化，能让条件过滤、分组汇总这些常规运算的性能大幅提升，完全不输于专业的 SPL常规计算与MYSQL对比（单位：秒）注：测试环境和方法参见 《如何用esProc将数据库表转储提速查询》SPL代码也很简单，比如大订单表的过滤和分组汇总：专业OLAP数据仓库利用列存压缩等技术能让常规运算中跑出较高性能 有查询、报表性能痛点的小伙伴赶快来报名参加吧！（前往乾学院首页右上角报名吧~）
23910编辑于 2025-05-23 - 来自专栏shysh95
文件存储
，最后把数据块再写回磁盘 文件的存储 文件的数据在磁盘上的存储方式有哪几种？ 连续空间存储方式 非连续空间存储方式 连续空间存储方式 连续空间存储使用前必须要知道文件的大小，这样文件系统才可以在磁盘上找到一块连续的空间分配给文件。文件头里需要指定起始块的位置和长度。 连续空间存储优点？ 文件数据紧密相连，一次磁盘寻道便可读出整个文件，读写效率高。 连续空间存储缺点？ 显式链表整个查询过程都是在内存中进行，因此检索速度快，而且大大减少了磁盘的访问次数。但是由于整张表都存放在内存中，所以不适合大磁盘。 索引方式的特点？ Unix中文件数据的存储方式？
4.6K30发布于 2021-10-26 - 来自专栏Spring相关
文件存储
文件存储 1.新建一个项目FilePersistenceTest 2.修改activity_main.xml: <?xml version="1.0" encoding="utf-8"? }catch(Exception e){ e.printStackTrace(); } Log.d(TAG, "读取到的文件的内容为
3.8K20发布于 2018-12-18 - 来自专栏路人甲Java
Mybatis系列第12篇：掌握缓存为查询提速!
缓存就是存储数据的一个地方（称作：Cache），当程序要读取数据时，会首先从缓存中获取，有则直接返回，否则从其他存储设备中获取，缓存最重要的一点就是从其内部获取数据的速度是非常快的，通过缓存可以加快数据的访问速度 一级缓存的存储介质是内存，是用一个HashMap来存储数据的，所以访问速度是非常快的。 二级缓存默认是没有开启的，需要我们在mybatis全局配置文件中进行开启： <settings> <! 二级缓存案例 mybatis全局配置文件开启二级缓存配置 <settings> <! db，第二次查询从二级缓存中获取了数据，第3和第4查询访问的是getList2，这个查询会清空二级缓存中的数据，直接去db中查询，查询4执行完毕之后，二级缓存中只有第四次查询的数据，第5次查询去getList1
66920发布于 2020-02-18 - 来自专栏小工匠聊架构
数据存储之文件存储
e.printStackTrace(); } catch (IOException e) { e.printStackTrace(); } } 文件存储位置 totalBlocks = stat.getBlockCount(); return totalBlocks * blockSize; } /** * 获取手机内置存储剩余存储空间 stat.getAvailableBlocks(); return availableBlocks * blockSize; } /** * 获取手机内置存储总的存储空间 如果没有这个分析点，前4步的处理相当于白跑一遍，虽然读取了xml文件中的所有内容，但并未保存这些内容，而这个分析点所对应的characters事件方法的主要作用就是保存sax引擎读取的xml文件中的内容 jarEntry.getName()); byte[] buffer = new byte[8192]; int count = 0; // 4
26.6K20发布于 2021-08-16 - 来自专栏喵叔's 专栏
【原创】存储优化--查询分离
这个更新的数据库被称为主存储，用来查询的数据库被称为查询存储。 3.1 如何触发 常见的查询分离触发方式有三种： 在向主存储更新数据后马上向查询存储更新同样的数据，并在查询存储数据更新完成后向用户返回结果。 而且这种方式还会减缓写操作的响应时间，因为我们要等待查询存储的数据跟新完成后才能返回响应结果。 在向主存储更新数据后异步更新查询存储，不等待查询存储数据更新完成，就向用户返回结果。 这种方式不影响主流程，但是如果在查询存储更新前，用户进行了相关查询，就会返回过时的数据，而且这种方式对代码同样有侵入性。 监控主存储日志，如果发生变更，就去更新查询存储。 查询存储更新服务在获取到这个消息后，首先在主存储中查询 需要更新到查询存储字段为true的数据，然后将这些数据批量更新到查询存储中，更新完毕后再将这些数据的需要更新到查询存储字段改为false即可。
58551编辑于 2022-09-28 - 来自专栏JadePeng的技术博客
jenkins X实践系列（4） —— jenkins X 构建提速
最近调研了JX，这里为第4篇，介绍如何加入jx构建和部署。 builder镜像下载慢 先在一台机器上下载好，然后放到本地仓库，到jenkins的setting里，修改镜像地址 ? cnpm镜像 1 FROM jenkinsxio/builder-nodejs:0.1.215 2 MAINTAINER jadepeng <jqpeng@iflytek.com> 3 4 container('nodejs') { sh "cnpm install && npm run build" } } 加速maven： maven配置文件 maven的配置文件通过secret jenkins-maven-settings配置，maven pod创建时，会将jenkins-maven-settings挂载到/root/.m2/，要自定义配置文件 ，执行： # 删除老配置 kubectl delete secret jenkins-maven-settings # 修改配置文件，然后创建新的jenkins-maven-settings
1.4K20发布于 2019-05-25
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号