首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏数据计算

    数据外置提速革命:轻量级开源SPL如何用文件存储实现MPP级性能?

    传统数据库,特别是交易(TP)数据库,用于分析型计算经常会出现性能问题。TP数据库的性能优化主要是提高事务处理和写操作(增删改)的效率,这和分析型计算的优化方向并不一致,也就很难让分析计算跑的快。 常见的解决办法是把历史数据从TP数据库搬到专业OLAP数据仓库中计算。不过,OLAP数据仓库太沉重,经常需要集群,硬件成本较高,还可能有昂贵的授权费用,更重要的是,整个技术架构也变得非常复杂。 实现数据外置提速的同时,也不会让系统架构变得很复杂:轻量的SPL,计算能力却非常强大,在列式存储、数据压缩、多线程并行等方面都做了深度优化,能让条件过滤、分组汇总这些常规运算的性能大幅提升,完全不输于专业的 SPL常规计算与MYSQL对比(单位:秒)注:测试环境和方法参见  《如何用esProc将数据库表转储提速查询》SPL代码也很简单,比如大订单表的过滤和分组汇总:专业OLAP数据仓库利用列存压缩等技术能让常规运算中跑出较高性能 同时,SPL代码仍很简单:6月6日有现场讲解用SPL实现外置提速的免费培训:课程涉及的实例都是传统数据库很头疼的老大难问题,比如COUNT DISTINCT,外键JOIN,大主子表关联(包括EXISTS

    23610编辑于 2025-05-23
  • 来自专栏神奇的程序员的专栏

    SpringBoot外置Tomcat

    索性直接采用外置tomcat吧,打成war包方便一点,本文就跟大家分享下我的实现过程,欢迎各位感兴趣的开发者阅读本文。 websocket相关 既然使用了外置tomcat,那么原先使用内置tomcat所配置的东西就可以删除了(当然,你不删也是可以的,但是为了代码规范最好还是删掉吧),我这里删除的东西如下: pom.xml </finalName> 修改启动类 接下来,我们修改下SpringBoot的启动类,让其继承SpringBootServletInitializer,重写configure方法,告诉它我们使用的是外置 SpringBootApplication public class ChatSystemServerApplication extends SpringBootServletInitializer { // 外置 tomcat配置 我的项目启用了https,使用外置tomcat后,在application.yml中配置的https就失效了,我们需要在tomcat中重新配一下。

    80720编辑于 2022-04-10
  • 来自专栏星汉技术

    Hive应用:数据外置内部表 原

    示例 先创建HDFS目录/data/person,将数据文件上传到此目录之下。 0 6.0 刘备 40.0 男 成都 0 7.0 小李 29.0 男 江南 0 Time taken: 0.141 seconds, Fetched: 7 row(s) hive> 此时就创建了一个数据外置的内部表 ,这个表也允许先有数据,上面展示的数据,就是证明了这一点,完美展示了数据外置的内部表。 然而如果删除Hive中的这个表的话,数据也会跟着被删除。 下图是数据存放的目录: ? 在看一下test数据库目录: ? 没有person表的目录。 总结 所以综上所述,这种内部表有普通外部表的先有数据的特性,还具有普通内部表删除表数据也同时删除的特性。那么如果这个表也是内部表的话,那么内部表和外部表的区别在哪里?

    60220发布于 2019-03-13
  • 来自专栏Jenkins

    KubeSphere 使用外置 Jenkins

    本文的目标,就是给大家提供一个让 KubeSphere 可以使用外置 Jenkins 的方案。 限制 该方案并不是一个完美的终极方案,因此,在你开始使用外置 Jenkins 之前,请先评估下面的限制: KubeSphere 上已有的流水线将会无法使用 如果你已有的 Jenkins 中安装了不兼容的插件 kubesphere.io 2021-01-05 10:40:32 ##################################################### 外置 Jenkins 前面我们已经做了很多的准备工作,现在终于开始动手集成外置 Jenkins 了。 假设,你的外置 Jenkins 是通过这个命令安装的(如果你正好有一个可以做测试的外置 Jenkins 的话,可以跳过下面的步骤): jcli center start -m docker --c-user

    1.9K20发布于 2021-01-25
  • 来自专栏鳄鱼儿的技术分享

    Docker 安装 Redis 并外置数据文件

    前言 Redis是一个开源的内存型数据库,也被称为数据结构服务器nosql。它是一种高性能、非关系型数据库,通常用于缓存和快速存储键值对数据,也可以支持多种复杂的数据结构。 将配置文件和数据文件映射到外部 创建存放redis数据的文件夹 mkdir -p ~/i/apps/redis/{conf,data} 下载配置文件 下载redis配置文件,这里是redis的默认配置 该参数后data映射是将主机上的数据目录 ~/i/apps/redis/data 映射到容器内部的 /data 目录。这样可以将 Redis 数据持久化到主机文件系统,即数据在容器销毁后仍可以保留。 name myredis redis redis-server /usr/local/etc/redis/redis.conf 脚本启动 为了方便启动redis,这里我写了一个启动脚本,该脚本仅映射了数据文件的

    53710编辑于 2024-05-21
  • 来自专栏互联网开发者交流社区

    使用外置的Servlet容器

    ServerProperties、自定义EmbeddedServletContainerCustomizer】),自己编写嵌入式Servlet容器的创建工厂【EmbeddedServletContainerFactory】; 外置

    70820发布于 2018-07-03
  • 来自专栏小石头

    kubeSphere运行基于外置存储nacos

    数据库需要执行对应nacos sql 生成对应表字段 nacos-mysql.sql 新建自制应用 采用docker hub 中nacos 底包,需要加入参数启动 如若只添加这两个环境变量,则默认采用内置 derby 数据库,重启会导致数据清除,为了数据持久化,建议采用外置数据库。 采用外置数据库的环境变量如下 - name: MODE value: standalone - name: PREFER_HOST_MODE MYSQL_SERVICE_PASSWORD value: nacos 如果使用非k8s部署,可在docker启动后 更改conf/application.properties 中配置文件,然后重启docker容器(注意数据

    54430编辑于 2022-11-10
  • 来自专栏全栈工程师修炼之路

    Python3外置模块使用

    [TOC] 0x00 快速入门 (1)外置模块一览表 描述:Python外置模块可以说是Python的强大之处的存在,使得Python语言扩展性高,使用方法众多并且使用也非常简单,在我们日常的运维开发学习中尤为重要 信息模块 import ruamel.yaml #YAML解析模块 import dnspython #DNS解析信息模块 import pycurl #web探测模块 ---- 0x01 外置模块详解 #简化不同数据类型的写入过程,write方法已作为其他更加具体的数据类型方法的别名 write_row('A1',写入的数据(单个字符/数组),格式化类型) #从A1开始写入一行 write_cloumn ('A2',写入的数据(单个字符/数组),格式化类型) #从A2开始写入一列) write_string():写入字符串类型数据 wirte_number():写入数字型数据 write_blank ():写入空类型数据 write_formula():写入公式型数据 write_datetime():写入日期型数据 wirte_boolean():写入逻辑型数据 write_url

    4.1K30编辑于 2022-09-28
  • 来自专栏java大数据

    如何shutdown关停外置tomcat5.0?

    3)如何关停外置tomcat5.0?

    45760发布于 2021-07-07
  • 来自专栏程序猿DD

    SpringBoot应用部署于外置Tomcat容器

    此时我们需要剥离掉SBT应用内置的Tomcat服务器,进而将应用发布并部署到外置的Tomcat容器之中,本文就实践一下这个。

    1.2K30发布于 2018-07-31
  • 来自专栏玩转JavaEE

    Flowable 外置的 HTML 表单怎么玩?

    但是小伙伴们可能很难实实在在 GET 到动态表单一些有创造性的功能,所以今天我们就来继续看看 Flowable 中的外置表单怎么玩,这个跟动态表单有一些本质上的差别。 1. 外置表单 首先,所谓的外置表单,其实说白了,类似我们平时在 HTML 中写的 form 表单。 流程部署 小伙伴们需要注意,外置表单的部署需要和流程图一起部署,只有一起部署,他们才会有相同的 DEPLOYMENT_ID,否则两者的 DEPLOYMENT_ID 不同,在后续的查找中就找不到对应的表单 如果我们这里是一个 Web 工程,那么可以通过 Ajax 来请求到这个表单数据,并动态渲染到前端,然后在前端输入对应的值,点击提交按钮,就可以在服务端开启一个流程了。 好啦,这就是和大家介绍的外置表单。

    2.2K20编辑于 2023-01-04
  • 来自专栏全栈工程师修炼之路

    Python3外置模块使用

    [TOC] 0x00 快速入门 (1)外置模块一览表 描述:Python外置模块可以说是Python的强大之处的存在,使得Python语言扩展性高,使用方法众多并且使用也非常简单,在我们日常的运维开发学习中尤为重要 exif信息模块 import ruamel.yaml #YAML解析模块 import dnspython #DNS解析信息模块 import pycurl #web探测模块 0x01 外置模块详解 #简化不同数据类型的写入过程,write方法已作为其他更加具体的数据类型方法的别名 write_row('A1',写入的数据(单个字符/数组),格式化类型) #从A1开始写入一行 write_cloumn ('A2',写入的数据(单个字符/数组),格式化类型) #从A2开始写入一列) write_string():写入字符串类型数据 wirte_number():写入数字型数据 write_blank ():写入空类型数据 write_formula():写入公式型数据 write_datetime():写入日期型数据 wirte_boolean():写入逻辑型数据 write_url

    5.2K20发布于 2020-10-23
  • Mac外置硬盘用什么格式 Mac外置硬盘不显示怎么办

    随着数据量的不断膨胀,无论是为了扩展存储容量、安全备份还是高效文件传输。外置硬盘都成为了Mac用户不可或缺的存储解决方案。然而,选择合适的硬盘格式是确保数据兼容性与访问便利性的关键一步。 下面我们来看看Mac外置硬盘用什么格式,Mac外置硬盘不显示怎么办的相关内容。一、Mac外置硬盘用什么格式 Mac外置硬盘是许多用户用于扩展存储空间、备份重要数据或传输文件的常见选择。 2.APFS(Apple文件系统)图2:APFS这是苹果公司推出的新一代文件系统,旨在提供更快的性能和更好的数据安全性。 二、Mac外置硬盘不显示怎么办当你发现Mac上连接的外置硬盘未显示时,可能会感到困惑和焦虑。这种问题可能会导致数据无法访问,但不用担心,我们有解决方案。 三、总结Mac外置硬盘的格式选择应基于具体需求,如APFS适配最新macOS以实现高性能存储,ExFAT满足跨平台文件共享,而NTFS则在借助第三方工具后能在Mac与Windows间灵活交换数据

    2.3K00编辑于 2024-05-24
  • 来自专栏技术成长

    ClickHouse的内置字典和外置字典

    这些字典在ClickHouse中提供了各种功能,如数据分布、数据合并、数据缓存、数据存储方式和数据转换等。可以根据具体需求选择合适的字典,并使用相应的语句进行定义和关联。 数据集成扩展外部扩展字典允许将外部数据源的数据集成到ClickHouse中,使得在查询时可以直接访问和处理外部数据源中的数据。 这种数据集成扩展的能力可以将非ClickHouse数据源的数据通过外部扩展字典变得可查询和分析。2. 数据实时更新外部扩展字典支持实时更新数据,当外部数据源中的数据发生变化时,ClickHouse可以及时同步这些变化。 这使得不同团队和用户可以在同一个数据存储系统中共享和访问数据,促进数据协作和信息共享,并提高整体的数据分析效率和数据治理能力。

    94851编辑于 2023-10-14
  • 来自专栏玩转JavaEE

    使用 JSON 格式来定义 Flowable 外置表单

    松哥最近正在录制 TienChin 项目视频~采用 Spring Boot+Vue3 技术栈,里边会涉及到各种好玩的技术,小伙伴们来和松哥一起做一个完成率超 90% 的项目,戳戳戳这里-->TienChin 项目配套视频来啦。

    1.9K20编辑于 2023-01-04
  • 来自专栏大数据在线

    释放数据潜力,HCSF为AI应用提速

    “五年前,我们很多行业客户的数据还是以ERP、CRM等数据为主,10TB就属于很大的数据量;今天,这些客户积累的数据量通常达到PB级,像行为数据等非结构化数据增长极为迅速,业务形态也发生了巨大变化,基于海量数据的 02 数据不该成为AI拦路虎 在了解AI应用带来的数据挑战之前,我们需要清楚AI应用场景会产生什么样的数据、这些数据具有什么特点、AI应用对于数据存储都会有哪些要求。 具体到AI应用的环境,首先数据需要进行准备和清洗,将原始数据去重、去除格式错误、去除错误数据和启发式回填,将数据转换为机器学习模型所需要的格式,这个处理阶段通常具有典型I/O极其密集的特征,需要数据缓存基础设施实时执行 03 HCSF:为AI应用提速 事实上,如果仔细分析AI应用涉及到的数据采集、整合、传输、存储、管理和应用,会发现当前很多企业往往是通过选择不同架构的数据存储产品来满足需求,造成在性能、可扩展性和易用性之间妥协 其次,Hitachi Content Software for File为整个数据管理提供单一平台,实现了基于元数据数据管理自动化和智能化,实现跨越边缘、核心和云的数据管理,消除数据孤岛和多副本情况,

    61040发布于 2021-10-13
  • 来自专栏全栈程序员必看

    获取不同机型外置SD卡路径

    08-01 12:42:50.790: I/System.out(19890): none /acct cgroup rw,relatime,cpuacct 0 0 08-01 12:42:50.790: I/System.out(19890): tmpfs /mnt/asec tmpfs rw,relatime,mode=755,gid=1000 0 0 08-01 12:42:50.790: I/System.out(19890): tmpfs /mnt/obb tmpfs rw,relatime,mode=755,gid=1000 0 0 08-01 12:42:50.790: I/System.out(19890): none /dev/cpuctl cgroup rw,relatime,cpu 0 0 08-01 12:42:50.790: I/System.out(19890): /dev/block/mmcblk0p13 /system ext4 ro,relatime,barrier=1,data=ordered 0 0 08-01 12:42:50.795: I/System.out(19890): /dev/block/mmcblk0p3 /efs ext4 rw,nosuid,nodev,noatime,barrier=1,journal_async_commit,data=ordered 0 0 08-01 12:42:50.795: I/System.out(19890): /dev/block/mmcblk0p12 /cache ext4 rw,nosuid,nodev,noatime,barrier=1,journal_async_commit,data=ordered 0 0 08-01 12:42:50.795: I/System.out(19890): /dev/block/mmcblk0p16 /data ext4 rw,nosuid,nodev,noatime,barrier=1,journal_async_commit,data=ordered,noauto_da_alloc,discard 0 0 08-01 12:42:50.795: I/System.out(19890): /sys/kernel/debug /sys/kernel/debug debugfs rw,relatime 0 0 08-01 12:42:50.795: I/System.out(19890): /dev/fuse /storage/sdcard0 fuse rw,nosuid,nodev,noexec,relatime,user_id=1023,group_id=1023,default_permissions,allow_other 0 0 08-01 12:42:50.795: I/System.out(19890): /dev/block/vold/179:17 /storage/extSdCard vfat rw,dirsync,nosuid,nodev,noexec,noatime,nodiratime,uid=1000,gid=1023,fmask=0002,dmask=0002,allow_utime=0020,codepage=cp437,iocharset=iso8859-1,shortname=mixed,utf8,errors=remount-ro 0 0

    71810编辑于 2022-07-07
  • 来自专栏我就是马云飞

    Gradle构建提速

    提速法则一览 以上优化方案基于android gradle tools 3.0-alpha 关于Santa Tracker Project 9 个模块,包括Wear 500 多个Java文件 1700

    1.9K50发布于 2018-02-05
  • 来自专栏Web 开发

    给Twentyfifteen提速

    Twentyfifteen默认加载了Google Fonts,但国内的这大局网,会导致无法加载,从而影响整个阻塞整个页面的渲染。

    53900发布于 2018-08-08
  • 华为无线配置 WLAN 外置 Portal 认证实战案例

    华为无线配置 WLAN 外置 Portal 认证示例 一、组网图形 图1 配置WLAN外置Portal认证示例组网图 二、业务需求 某企业为了提高 WLAN 网络的安全性,采用外置 Portal 认证方式 业务数据转发方式 隧道转发 4. 认证方式 外置 Portal 认证 5. 安全策略 开放认证(Open) 四、数据规划 1. AC 数据规划表 配置项 数据 AP管理VLAN VLAN100 STA业务VLAN VLAN101 DHCP服务器 AC为AP分配IP,SwitchB为STA分配IP AP地址池 10.23.100.2 免认证规则模板 认证方案 VAP模板 名称:wlan-net 转发模式:隧道转发 业务VLAN:101 绑定: SSID模板 安全模板 认证模板 五、配置思路 配置AP、AC与周边设备互通 配置AP上线 配置AC外置

    27310编辑于 2026-03-04
领券