- 综合排序
- 最热优先
- 最新优先
- 来自专栏应用计算
SPL轻量级文件存储提速查询实践
把不再变化的历史数据存储成轻量级的 esProc SPL 列存文件，可以利用 SPL 语言的强大计算能力，跑出远超传统数据库的查询性能。 esProc SPL 很轻，直接嵌入应用就可以运行，在实现数据外置提速的同时，也不会让整个系统架构变得很复杂：这里准备了一套使用 SPL 外置数据提速查询的实践方法：第一篇 - 常规过滤及分组汇总第二篇 乾学院有例子数据 csv 文件和建表 SQL，模拟某公司线下订单和电子商务的部分数据。需要在 MYSQL 数据库中建表，并导入 csv 数据。 customer，存储线下客户数据，数据量较小：城市表 city，存储线下客户所在城市数据，数据量较小：州表 state，存储线下客户所在州数据，数据量较小：运货商表 shipper，存储线下运货商数据 如果遇到问题可以前往乾学院查阅教程和函数参考：实践使用的测试环境是 VMWARE 虚拟机，8 核 CPU，8G 内存，SSD 硬盘，操作系统是 Win11，MYSQL 版本是 8.0，esProc SPL
23510编辑于 2025-08-26 - 来自专栏应用计算
第二篇 -COUNT DISTINCT：SPL轻量级文件存储提速查询实践
但数据库无法保证存储的次序，很难实施这样的有序去重算法。esProc SPL 可以把数据导出后有序存储，实现这种高性能的有序去重计数。 数据外置时，要按照用户号有序存储，可以使用有序去重提高性能。 我们用 ETL 工具定义一个新的 Q2.etl 文件，重复前面的步骤，连接数据库 - 拖拽 events 表 - 编辑：这里按照客户号有序存储，可以使用有序去重提高性能。排序字段必须放在第一个。 是否可以用有序去重来提速？
24510编辑于 2025-09-12 - 来自专栏应用计算
第六篇 枚举字段条件过滤--SPL轻量级文件存储提速查询实践
SQL 要使用子查询：select sum(shipping_fee)from orderswhere customer_id in ( select customer_id 是否可以用对位序列提速？
14510编辑于 2025-11-03 - 来自专栏应用计算
第四篇 - 大主子表关联--SPL轻量级文件存储提速查询实践
这一篇介绍主键关联的提速。主表订单表和子表明细表的关联就是主键关联。SQL 中，这种关联仍用 JOIN 实现，在两个表都很大的情况下，常常出现计算速度非常慢的现象。 如果预先将主子表都按照主键有序存储，就可以使用归并算法实现关联。这种算法只需要对两个表依次遍历，不必借助外存缓存，可以大幅降低计算量和 IO 量。 先做数据准备，把历史数据从数据库导出为 CTX 文件。在 ETL 中定义 Q4.etl：修改两个表的名字，加上 Q4。 注意：两表要按照 order_id 连接，就按照这个字段有序存储。但不选中“用数据库排序”。生成 SPL 代码 18：A5和 A8 中用 #order_id 来声明 CTX 是对这个字段有序的。 是否可以用有序归并方法提速？
20110编辑于 2025-10-20 - 来自专栏应用计算
第一篇 - 常规过滤及分组汇总:SPL轻量级文件存储提速查询实践
我们以订单表为例实现 esProc SPL 数据外置，提速常规过滤及分组汇总计算。我们使用 SPL 的 ETL 工具来生成脚本，实现数据的转储。 打开工具 - 数据连接：点击连接后，数据库的表可以拖拽到工作区：工具 - 数据目录，设置数据文件存储的目录。工具 - 生成 SPLX 代码：导出后，记得这次新建的 etl 保存成 Q1.etl 文件。 接下来使用 CTX 游标过滤技术进一步提速：把过滤条件附加到游标上，SPL 先读出用于计算条件的字段值，如果条件不成立就放弃读取其他字段，条件成立才继续读出其它字段并创建这条记录。 cursor 函数增加 m 选项就可以了，执行时间是 0.6 秒SPL 代码 8：基于 CTX 并行计算。 后续的测试未加说明都是指 8 线程并行。需要注意的是，SPL 文件存储有其特定的适用场景。因为要导出数据，所以更适合计算不变的历史数据，其实这种场景就很多了。
18810编辑于 2025-09-05 - 来自专栏应用计算
第三篇 外键维表的关联：SPL轻量级文件存储提速查询实践
这样就可以利用不同关联的特征，采用不同的手段甚至不同的存储方式有效提速。关联的一种情况是外键关联。一个表的普通字段（外键）和另一个表的主键关联。比如订单表与客户表、运货商表都是外键关联。 下面，我们以订单表、客户表、城市表、州表和运货商表为例，介绍 esProc SPL 外置数据提速外键关联的方法。 是否可以用序号关联的方法来提速？
22310编辑于 2025-09-23 - 来自专栏流浪猫的golang
golang mongoDB GridFS查询 存储 删除文件
GridFS 也是文件存储的一种方式，但是它是存储在MonoDB的集合中。 GridFS 用两个集合来存储一个文件：fs.files与fs.chunks。 GridFS是可以存储任何你想要存储的文件，不仅仅是那些超过16M文件，意思是什么文件都能存。 此外，如果您的文件全部小于16 MB bson文档大小限制，请考虑将文件手动存储在单个文档中，而不是使用gridfs。您可以使用bindata数据类型来存储二进制数据。 = nil { fmt.Println("未查询到数据库名字:", err) } fmt.Println(names) //通过文件名获取mp3 file
3.5K10发布于 2018-08-02 - 来自专栏韩曙亮的移动开发专栏
【Android 文件管理】分区存储 ( 创建与查询图片文件 )
文章目录 一、分区存储模式下使用 MediaStore 插入图片 二、分区存储模式下使用 MediaStore 查询图片 三、相关文档资料 Android 分区存储系列博客 : 【Android 文件管理 】应用可访问的存储空间 ( 存储空间分类 | 存储空间访问权限 | 分区存储 ) 【Android 文件管理】分区存储 ( 分区存储机制 和 文件索引数据 ) 【Android 文件管理】分区存储 ( MediaStore 文件操作 ) 一、分区存储模式下使用 MediaStore 插入图片 ---- 在上一篇博客 【Android 文件管理】分区存储 ( MediaStore 文件操作 ) 中 , Uri = $uri , 路径 = $path , 文件名称 = $name , 绝对路径 = $absolutePath") // 关闭游标 cursor.close() } 查询文件代码示例 进行操作 ; 三、相关文档资料 ---- Android 文件处理参考文档 : 数据和文件存储概览 : https://developer.android.google.cn/training/data-storage
2K20编辑于 2023-03-29 - 来自专栏应用计算
第五篇 - 大主子表关联时的 EXISTS--SPL轻量级文件存储提速查询实践
这样的计算本质上是在做主键关联，如果能预先将主子表都按照主键有序存储，也可以使用有序归并算法有效提速。esProc SPL 可以把主子表的 EXISTS 转化为有序归并，从而提升计算性能。 下面通过订单表和订单明细表的例子，介绍这种情况的外置提速方法。先完成数据准备，可以直接使用第四篇生成的 CTX 文件。例 5.1 对包含 7 号产品的订单，按照客户号分组统计订单个数。 执行时间：0.9 秒小结一下性能（单位 - 秒）：MYSQLSPL例 5.1410.2例 5.2160.2例 5.3超过 5 分钟0.9请动手练习一下：1、对包含 8 号产品的订单，按照日期分组统计订单个数 是否可以用有序归并方法提速？
11010编辑于 2025-10-30 - 来自专栏Apache Doris
揭秘 Variant 数据类型：灵活应对半结构化数据，JSON查询提速超 8 倍，存储空间节省 65%
等行存类型的存储和查询方式。 Variant 的引入，使得存储和查询性能上均有显著提升，相较于 JSON 类型，存储空间减少了约 65%，查询速度提升超 8 倍。 JSON 类型提升了 8 倍以上（由于 I/O 原因，JSONB 类型的 冷查询大部分超时）。 每个 Segment 文件不仅包含了经过类型编码压缩后的数据，还额外记录了动态生成列的元信息。这种设计确保了数据的完整性和可查询性，同时也提升了存储效率。 下图展示了类型变更的方向（只支持按箭头所指方向进行变更，JSONB 类型是所有类型的公共类型）：03 索引以及查询加速Variant 中的叶子节点是以列存的方式存储在 Segment 文件中，与静态预定义的列存储格式完全相同
1.2K20编辑于 2024-03-14 - 来自专栏互联网运维杂谈
文件系统fsck提速方案
在分布式文件系统（例如HDFS）中，当出现异常掉电、加电恢复后，通常存储系统会检测内部数据的一致性，检测分为两个层次 首先是单机文件系统的数据一致性检查 其次是使用了erasure coding编码的存储系统进行数据一致性校验 根据阿姆达尔定律，存储系统恢复的整体时间由串行部分最慢的节点决定。 在 ec 恢复的过程中，通常是多个节点，多个设备之间并行恢复，系统的瓶颈通常受限于第一阶段本地文件系统的 fsck 过程。 100-150MB/s 之间），因此提升文件系统的fsck速度就显得愈发重要，本文中以 ext4 文件系统为例，列举除了文件系统 fsck 提速的若干方案。 思路： 建议如果需要优化fscheck本身，下一步可以考虑和应用类型结合起来进行（例如找到应用关心的文件进行检查，不关心的直接跳过，对于hadoop hdfs之类的数据存储，目录和文件均有用，因此此方法不适合 ），并且在mkfs的时候，使用bigalloc和inline data的功能，大文件保证其连续性，减少元数据存储量，小文件可以直接合并入 inode，减少 seek 的程度，不过这种方案并未从根本上解决问题
2.2K10发布于 2019-11-19 - 来自专栏数据计算
数据外置提速革命：轻量级开源SPL如何用文件存储实现MPP级性能？
这些历史数据大多数情况下是不再变化的，如果能存成文件会更简单。但是文件本身没有计算能力，无法直接实施条件过滤、分组汇总等运算，更谈不上复杂的分析任务了。 SPL可以让文件拥有计算能力，用它的轻量级列存文件存储不变的历史数据，较小的投入就能实现高速查询。SPL引擎非常轻，部署后占用存储空间仅几百M，单机就可以运行，无须集群。 实现数据外置提速的同时，也不会让系统架构变得很复杂：轻量的SPL，计算能力却非常强大，在列式存储、数据压缩、多线程并行等方面都做了深度优化，能让条件过滤、分组汇总这些常规运算的性能大幅提升，完全不输于专业的 SPL常规计算与MYSQL对比（单位：秒）注：测试环境和方法参见 《如何用esProc将数据库表转储提速查询》SPL代码也很简单，比如大订单表的过滤和分组汇总：专业OLAP数据仓库利用列存压缩等技术能让常规运算中跑出较高性能 有查询、报表性能痛点的小伙伴赶快来报名参加吧！（前往乾学院首页右上角报名吧~）
23910编辑于 2025-05-23 - 来自专栏机器学习与统计学
Python 优化提速的 8 个小技巧
sum def main(): size = 10000 for _ in range(size): sum = computeSum(size) main() 8.
1.5K20发布于 2021-07-28 - 来自专栏Python绿色通道
Python 优化提速的 8 个小技巧
sum def main(): size = 10000 for _ in range(size): sum = computeSum(size) main() 8.
64441发布于 2021-07-13 - 来自专栏shysh95
文件存储
，最后把数据块再写回磁盘 文件的存储 文件的数据在磁盘上的存储方式有哪几种？ 连续空间存储方式 非连续空间存储方式 连续空间存储方式 连续空间存储使用前必须要知道文件的大小，这样文件系统才可以在磁盘上找到一块连续的空间分配给文件。文件头里需要指定起始块的位置和长度。 连续空间存储优点？ 文件数据紧密相连，一次磁盘寻道便可读出整个文件，读写效率高。 连续空间存储缺点？ 显式链表整个查询过程都是在内存中进行，因此检索速度快，而且大大减少了磁盘的访问次数。但是由于整张表都存放在内存中，所以不适合大磁盘。 索引方式的特点？ Unix中文件数据的存储方式？
4.6K30发布于 2021-10-26 - 来自专栏Spring相关
文件存储
文件存储 1.新建一个项目FilePersistenceTest 2.修改activity_main.xml: <?xml version="1.0" encoding="utf-<em>8</em>"? }catch(Exception e){ e.printStackTrace(); } Log.d(TAG, "读取到的文件的内容为
3.8K20发布于 2018-12-18 - 来自专栏路人甲Java
Mybatis系列第12篇：掌握缓存为查询提速!
缓存就是存储数据的一个地方（称作：Cache），当程序要读取数据时，会首先从缓存中获取，有则直接返回，否则从其他存储设备中获取，缓存最重要的一点就是从其内部获取数据的速度是非常快的，通过缓存可以加快数据的访问速度 一级缓存的存储介质是内存，是用一个HashMap来存储数据的，所以访问速度是非常快的。 二级缓存默认是没有开启的，需要我们在mybatis全局配置文件中进行开启： <settings> <! 二级缓存案例 mybatis全局配置文件开启二级缓存配置 <settings> <! ：i8op
66920发布于 2020-02-18 - 来自专栏小工匠聊架构
数据存储之文件存储
"; os.write(text.getBytes("utf-8")); //关闭流 os.close(); } int byteCount = ins.read(buffer); String text = new String(buffer,0,byteCount,"utf-8" e.printStackTrace(); } catch (IOException e) { e.printStackTrace(); } } 文件存储位置 totalBlocks = stat.getBlockCount(); return totalBlocks * blockSize; } /** * 获取手机内置存储剩余存储空间 stat.getAvailableBlocks(); return availableBlocks * blockSize; } /** * 获取手机内置存储总的存储空间
26.6K20发布于 2021-08-16 - 来自专栏用户6291251的专栏
8个Python优化提速的小技巧！
sum def main(): size = 10000 for _ in range(size): sum = computeSum(size) main() 8.
36340发布于 2021-09-14 - 来自专栏喵叔's 专栏
【原创】存储优化--查询分离
这个更新的数据库被称为主存储，用来查询的数据库被称为查询存储。 3.1 如何触发 常见的查询分离触发方式有三种： 在向主存储更新数据后马上向查询存储更新同样的数据，并在查询存储数据更新完成后向用户返回结果。 而且这种方式还会减缓写操作的响应时间，因为我们要等待查询存储的数据跟新完成后才能返回响应结果。 在向主存储更新数据后异步更新查询存储，不等待查询存储数据更新完成，就向用户返回结果。 这种方式不影响主流程，但是如果在查询存储更新前，用户进行了相关查询，就会返回过时的数据，而且这种方式对代码同样有侵入性。 监控主存储日志，如果发生变更，就去更新查询存储。 查询存储更新服务在获取到这个消息后，首先在主存储中查询 需要更新到查询存储字段为true的数据，然后将这些数据批量更新到查询存储中，更新完毕后再将这些数据的需要更新到查询存储字段改为false即可。
58551编辑于 2022-09-28
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号