- 综合排序
- 最热优先
- 最新优先
- 来自专栏应用计算
SPL轻量级文件存储提速查询实践
把不再变化的历史数据存储成轻量级的 esProc SPL 列存文件，可以利用 SPL 语言的强大计算能力，跑出远超传统数据库的查询性能。 esProc SPL 很轻，直接嵌入应用就可以运行，在实现数据外置提速的同时，也不会让整个系统架构变得很复杂：这里准备了一套使用 SPL 外置数据提速查询的实践方法：第一篇 - 常规过滤及分组汇总第二篇 枚举字段条件过滤其中涉及的实例都是传统数据库很头疼的性能问题，比如 COUNT DISTINCT，外键 JOIN，大主子表关联（包括 EXISTS），枚举字段条件过滤（包括 IN）等，助您突破数据库查询性能瓶颈 乾学院有例子数据 csv 文件和建表 SQL，模拟某公司线下订单和电子商务的部分数据。需要在 MYSQL 数据库中建表，并导入 csv 数据。 customer，存储线下客户数据，数据量较小：城市表 city，存储线下客户所在城市数据，数据量较小：州表 state，存储线下客户所在州数据，数据量较小：运货商表 shipper，存储线下运货商数据
23510编辑于 2025-08-26 - 来自专栏应用计算
第二篇 -COUNT DISTINCT：SPL轻量级文件存储提速查询实践
但数据库无法保证存储的次序，很难实施这样的有序去重算法。esProc SPL 可以把数据导出后有序存储，实现这种高性能的有序去重计数。 数据外置时，要按照用户号有序存储，可以使用有序去重提高性能。 我们用 ETL 工具定义一个新的 Q2.etl 文件，重复前面的步骤，连接数据库 - 拖拽 events 表 - 编辑：这里按照客户号有序存储，可以使用有序去重提高性能。排序字段必须放在第一个。 icount 函数会忽略 null，比如：[1,null,1,2,3].icount@o()，结果是 3。执行时间是 0.15 秒。例 2.3，去掉重复事件后，发生事件个数大于 5 的用户数量。 是否可以用有序去重来提速？
24510编辑于 2025-09-12 - 来自专栏应用计算
第六篇 枚举字段条件过滤--SPL轻量级文件存储提速查询实践
SPL 代码 27：A1=now()2=file("employeeQ6.btx").import@b()3=A2. A1=now()2=file("employeeQ6.btx").import@b()3=A2. SQL 要使用子查询：select sum(shipping_fee)from orderswhere customer_id in ( select customer_id A1=now()2=file("customerQ6.btx").import@b()3=A2. 是否可以用对位序列提速？
14510编辑于 2025-11-03 - 来自专栏应用计算
第四篇 - 大主子表关联--SPL轻量级文件存储提速查询实践
这一篇介绍主键关联的提速。主表订单表和子表明细表的关联就是主键关联。SQL 中，这种关联仍用 JOIN 实现，在两个表都很大的情况下，常常出现计算速度非常慢的现象。 如果预先将主子表都按照主键有序存储，就可以使用归并算法实现关联。这种算法只需要对两个表依次遍历，不必借助外存缓存，可以大幅降低计算量和 IO 量。 先做数据准备，把历史数据从数据库导出为 CTX 文件。在 ETL 中定义 Q4.etl：修改两个表的名字，加上 Q4。 例 4.2 客户号是 3 或 9 的订单，按照产品号分组统计订单金额。 是否可以用有序归并方法提速？
20110编辑于 2025-10-20 - 来自专栏应用计算
第一篇 - 常规过滤及分组汇总:SPL轻量级文件存储提速查询实践
我们以订单表为例实现 esProc SPL 数据外置，提速常规过滤及分组汇总计算。我们使用 SPL 的 ETL 工具来生成脚本，实现数据的转储。 打开工具 - 数据连接：点击连接后，数据库的表可以拖拽到工作区：工具 - 数据目录，设置数据文件存储的目录。工具 - 生成 SPLX 代码：导出后，记得这次新建的 etl 保存成 Q1.etl 文件。 订单表比较大不能全部读入内存，这里 A3 使用的是游标，是分批读入数据，边读边算的。 接下来使用 CTX 游标过滤技术进一步提速：把过滤条件附加到游标上，SPL 先读出用于计算条件的字段值，如果条件不成立就放弃读取其他字段，条件成立才继续读出其它字段并创建这条记录。 需要注意的是，SPL 文件存储有其特定的适用场景。因为要导出数据，所以更适合计算不变的历史数据，其实这种场景就很多了。
18810编辑于 2025-09-05 - 来自专栏应用计算
第三篇 外键维表的关联：SPL轻量级文件存储提速查询实践
这样就可以利用不同关联的特征，采用不同的手段甚至不同的存储方式有效提速。关联的一种情况是外键关联。一个表的普通字段（外键）和另一个表的主键关联。比如订单表与客户表、运货商表都是外键关联。 下面，我们以订单表、客户表、城市表、州表和运货商表为例，介绍 esProc SPL 外置数据提速外键关联的方法。 修改 orders 表名为 ordersQ3（区别前面的表 )：employee_name 没有维表，要在 ordersQ3 表中找全所有值，新建维表 employee：上图的操作顺序：1、点击序号化枚举列 3、定义维表名 employee。4、定义维表序号列名称 id。5、定义维表值列名称 name。 是否可以用序号关联的方法来提速？
22310编辑于 2025-09-23 - 来自专栏流浪猫的golang
golang mongoDB GridFS查询 存储 删除文件
GridFS 也是文件存储的一种方式，但是它是存储在MonoDB的集合中。 GridFS是可以存储任何你想要存储的文件，不仅仅是那些超过16M文件，意思是什么文件都能存。 = nil { fmt.Println("未查询到数据库名字:", err) } fmt.Println(names) //通过文件名获取mp3 file = nil { fmt.Println("未查询到数据库名字:", err) } fmt.Println(names) //通过文件名创建mp3 file = nil { fmt.Println("未查询到数据库名字:", err) } fmt.Println(names) //通过文件名获取mp3 gfs
3.5K10发布于 2018-08-02 - 来自专栏开发技能乱炖
3-数据存储之文件存储(1)
一 简单介绍： 我们前面很少将提取的数据或者获取的源码保存下来；其实日常的工作中在解析出数据后接下来就是存储数据。 1). txt文本存储： python txt文件操作中离不开open()函数,它可以创建或者打开指定的文件，并创建一个文件对象 ，基本的语法： open() 函数用于创建或打开指定文件，该函数的语法格式如下 熟悉/了解上面的知识点后(详细信息：菜鸟教程/w3school)，我们实例一下； 小说网站：https://xs.sogou.com/mianfei/ 获取书名、简洁并保存为txt文件： import 3). CSV文件存储： 使用csv文件存储，我理解的就是表格存储，Excel都用过吧，就是那个;接下来我们分文件的写入跟读取两部分分开讲解，请系好安全带(如果非要介绍定义的话，请百度…我就是懒)； 简单写入，
1.9K30发布于 2019-11-12 - 来自专栏韩曙亮的移动开发专栏
【Android 文件管理】分区存储 ( 创建与查询图片文件 )
文章目录 一、分区存储模式下使用 MediaStore 插入图片 二、分区存储模式下使用 MediaStore 查询图片 三、相关文档资料 Android 分区存储系列博客 : 【Android 文件管理 】应用可访问的存储空间 ( 存储空间分类 | 存储空间访问权限 | 分区存储 ) 【Android 文件管理】分区存储 ( 分区存储机制 和 文件索引数据 ) 【Android 文件管理】分区存储 ( MediaStore 文件操作 ) 一、分区存储模式下使用 MediaStore 插入图片 ---- 在上一篇博客 【Android 文件管理】分区存储 ( MediaStore 文件操作 ) 中 , 保存图片文件时 , 传入的 MIME_TYPE 为 “image/jpg” , 如果传错了 , 写成 “vedio/mp3” , 创建文件时不会抛出异常 , 但是使用该文件时会出错 ; 图片创建部分代码示例 进行操作 ; 三、相关文档资料 ---- Android 文件处理参考文档 : 数据和文件存储概览 : https://developer.android.google.cn/training/data-storage
2K20编辑于 2023-03-29 - 来自专栏应用计算
第五篇 - 大主子表关联时的 EXISTS--SPL轻量级文件存储提速查询实践
这样的计算本质上是在做主键关联，如果能预先将主子表都按照主键有序存储，也可以使用有序归并算法有效提速。esProc SPL 可以把主子表的 EXISTS 转化为有序归并，从而提升计算性能。 下面通过订单表和订单明细表的例子，介绍这种情况的外置提速方法。先完成数据准备，可以直接使用第四篇生成的 CTX 文件。例 5.1 对包含 7 号产品的订单，按照客户号分组统计订单个数。 A3 中游标的最后一个参数是 A2，表示多线程并行时，details 表会跟随 orders 表分段，保证后面两个表有序归并的正确性。 open().cursor(order_id,product_id;;A2)4=A3.group(order_id)5=A4.select(~.count(order_id)>1 && ! 是否可以用有序归并方法提速？
11010编辑于 2025-10-30 - 来自专栏互联网运维杂谈
文件系统fsck提速方案
在分布式文件系统（例如HDFS）中，当出现异常掉电、加电恢复后，通常存储系统会检测内部数据的一致性，检测分为两个层次 首先是单机文件系统的数据一致性检查 其次是使用了erasure coding编码的存储系统进行数据一致性校验 100-150MB/s 之间），因此提升文件系统的fsck速度就显得愈发重要，本文中以 ext4 文件系统为例，列举除了文件系统 fsck 提速的若干方案。 从优化fs check本身考虑，《ffsck: The Fast File System Checker》中提出了对于ext3磁盘数据格式进行修改，在每个block group内部加入专为元数据存储的空间 测试2 fsck 3次平均时间40s。 从测试结果可见，如果不能使用方法3中上层屏蔽fsck或者方法2中使用lvm及COW文件系统的情况下，切换到使用了bigalloc和inline data的新版内核为比较稳妥的解决方案。
2.2K10发布于 2019-11-19 - 来自专栏Spring Boot学习之路
Spring Boot 3 整合 minio 实现文件存储
Spring Boot 3 整合 minio 实现文件存储 01、背景介绍 在软件系统的实际开发进程里，文件存储服务的使用常常是难以避免的。 2.2.3、设置文件公开访问 默认创建的存储桶，都是私有桶，也就是说无法被公开访问。 minio设置文件公开访问 3、springBoot 集成 minio 实现文件存储 我们一起来看看，如何在 Spring Boot 工程中集成 minio 客户端以便实现文件存储服务。 minio 控制台 2）文件预览地址验证 在浏览器端，访问http://127.0.0.1:9090/harry/20250109/0fd3f0df56674ede8be935951d3170cf.png 总结 到这里，我们已经掌握了springBoot 整合 minio 实现文件存储的过程。
95410编辑于 2025-01-13 - 来自专栏数据计算
数据外置提速革命：轻量级开源SPL如何用文件存储实现MPP级性能？
这些历史数据大多数情况下是不再变化的，如果能存成文件会更简单。但是文件本身没有计算能力，无法直接实施条件过滤、分组汇总等运算，更谈不上复杂的分析任务了。 SPL可以让文件拥有计算能力，用它的轻量级列存文件存储不变的历史数据，较小的投入就能实现高速查询。SPL引擎非常轻，部署后占用存储空间仅几百M，单机就可以运行，无须集群。 实现数据外置提速的同时，也不会让系统架构变得很复杂：轻量的SPL，计算能力却非常强大，在列式存储、数据压缩、多线程并行等方面都做了深度优化，能让条件过滤、分组汇总这些常规运算的性能大幅提升，完全不输于专业的 SPL常规计算与MYSQL对比（单位：秒）注：测试环境和方法参见 《如何用esProc将数据库表转储提速查询》SPL代码也很简单，比如大订单表的过滤和分组汇总：专业OLAP数据仓库利用列存压缩等技术能让常规运算中跑出较高性能 有查询、报表性能痛点的小伙伴赶快来报名参加吧！（前往乾学院首页右上角报名吧~）
23910编辑于 2025-05-23 - 来自专栏shysh95
文件存储
，最后把数据块再写回磁盘 文件的存储 文件的数据在磁盘上的存储方式有哪几种？ 连续空间存储方式 非连续空间存储方式 连续空间存储方式 连续空间存储使用前必须要知道文件的大小，这样文件系统才可以在磁盘上找到一块连续的空间分配给文件。文件头里需要指定起始块的位置和长度。 连续空间存储优点？ 文件数据紧密相连，一次磁盘寻道便可读出整个文件，读写效率高。 连续空间存储缺点？ 显式链表整个查询过程都是在内存中进行，因此检索速度快，而且大大减少了磁盘的访问次数。但是由于整张表都存放在内存中，所以不适合大磁盘。 索引方式的特点？ Unix中文件数据的存储方式？
4.6K30发布于 2021-10-26 - 来自专栏Spring相关
文件存储
文件存储 1.新建一个项目FilePersistenceTest 2.修改activity_main.xml: <?xml version="1.0" encoding="utf-8"? wrap_content" android:hint="输入一些东西看看" /> </android.support.constraint.ConstraintLayout> 3. }catch(Exception e){ e.printStackTrace(); } Log.d(TAG, "读取到的文件的内容为
3.8K20发布于 2018-12-18 - 来自专栏路人甲Java
Mybatis系列第12篇：掌握缓存为查询提速!
缓存就是存储数据的一个地方（称作：Cache），当程序要读取数据时，会首先从缓存中获取，有则直接返回，否则从其他存储设备中获取，缓存最重要的一点就是从其内部获取数据的速度是非常快的，通过缓存可以加快数据的访问速度 一级缓存的存储介质是内存，是用一个HashMap来存储数据的，所以访问速度是非常快的。 二级缓存默认是没有开启的，需要我们在mybatis全局配置文件中进行开启： <settings> <! 查询一级缓存中是否有对应的数据，如果有则直接返回，否则继续向下 访问db获取需要的数据，然后放在当前SqlSession对应的二级缓存中，并且在本地内存中的另外一个地方存储一份（这个地方我们就叫TransactionalCache 二级缓存案例 mybatis全局配置文件开启二级缓存配置 <settings> <!
66920发布于 2020-02-18 - 来自专栏小工匠聊架构
数据存储之文件存储
概述 文件存取的核心就是输入流和输出流。 Android文件的操作模式 ? 文件的相关操作方法 ? e.printStackTrace(); } catch (IOException e) { e.printStackTrace(); } } 文件存储位置 totalBlocks = stat.getBlockCount(); return totalBlocks * blockSize; } /** * 获取手机内置存储剩余存储空间 stat.getAvailableBlocks(); return availableBlocks * blockSize; } /** * 获取手机内置存储总的存储空间 ，如果有多个，多次调用该方法 JarEntry jarEntry = jis.getNextJarEntry(); // 3 输出已解压的文件
26.6K20发布于 2021-08-16 - 来自专栏喵叔's 专栏
【原创】存储优化--查询分离
这个更新的数据库被称为主存储，用来查询的数据库被称为查询存储。 3.1 如何触发 常见的查询分离触发方式有三种： 在向主存储更新数据后马上向查询存储更新同样的数据，并在查询存储数据更新完成后向用户返回结果。 而且这种方式还会减缓写操作的响应时间，因为我们要等待查询存储的数据跟新完成后才能返回响应结果。 在向主存储更新数据后异步更新查询存储，不等待查询存储数据更新完成，就向用户返回结果。 这种方式不影响主流程，但是如果在查询存储更新前，用户进行了相关查询，就会返回过时的数据，而且这种方式对代码同样有侵入性。 监控主存储日志，如果发生变更，就去更新查询存储。 查询存储更新服务在获取到这个消息后，首先在主存储中查询 需要更新到查询存储字段为true的数据，然后将这些数据批量更新到查询存储中，更新完毕后再将这些数据的需要更新到查询存储字段改为false即可。
58551编辑于 2022-09-28 - 来自专栏小工匠聊架构
Kafka - 3.x 文件存储不完全指北
Topic数据的存储机制 Kafka是一个分布式流处理平台，它使用发布-订阅模型来处理消息流。 每个分区在物理上保存在不同的服务器上，以支持数据的分布式存储和处理。 Segments（段）： 每个分区的数据实际上被分成多个段，每个段都是一个日志文件，用于持久存储消息。 log文件详解 日志存储参数配置 参数 描述 log.segment.bytes Kafka中log日志是分成一块块存储的，此配置是指log日志划分成块的大小，默认值1G。 清理策略 3．那么一旦超过了设置的时间就会采取清理策略，清理策略有两种：delete和compact 1）delete策略 delete日志删除：将过期数据删除。 ，写的过程是一直追加到文件末端，为顺序写。
52821编辑于 2023-10-29 - 来自专栏运维专栏
使用腾讯云go sdk 查询对象存储中最新文件
背景： 腾讯云账号下，有很多对象存储COS桶： 我现在想确认某一个对象存储桶的活跃程度，简单的来说。我想知道这个桶里面最后上传的一个文件是什么，以及它的上传时间戳。 本文将介绍如何使用腾讯云对象存储（COS）的 Go 语言 SDK 查询指定存储桶中的最新文件信息，包括文件路径和上传时间。 使用腾讯云go sdk 查询对象存储中最新文件 前置条件 您需要拥有一个腾讯云账号，并创建了至少一个COS存储桶。 了解Go语言和基本的并发编程知识。 确保您已安装Go运行时环境。 ：zaZTYa1i2x.txt 加个进度条 上面的代码已经可以正常满足需求了，但是我新加一个进度条，显示查询了多少文件了。 总结 在这篇博客中，我们学习了如何使用腾讯云 COS Go SDK 查询存储桶中最新的文件信息。这包括如何创建COS客户端，如何逐页检索对象列表，并如何对结果排序以找到最后更新的对象。
84121编辑于 2024-02-28
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号