首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏Se7en的架构笔记

    ksqlDB基本使用

    基本概念 ksqlDB Server ksqlDB是事件流数据库,是一种特殊的数据库,基于Kafka的实时数据流处理引擎,提供了强大且易用的SQL交互方式来对Kafka数据流进行处理,而无需编写代码。 ksqlDB CLI KSQL命令行界面(CLI)以交互方式编写KSQL查询。 KSQL CLI充当KSQL Server的客户端。 Docker部署ksqlDB 创建docker-compose.yaml文件,包含ksqlDB Server和ksqlDB Cli: --- version: '2' services: ksqldb-server : image: confluentinc/ksqldb-server:0.15.0 hostname: ksqldb-server container_name: ksqldb-server : image: confluentinc/ksqldb-cli:0.15.0 container_name: ksqldb-cli depends_on: - ksqldb-server

    3.9K40发布于 2021-05-18
  • 来自专栏IT大咖说

    使用Kafka和ksqlDB构建和部署实时流处理ETL引擎

    ksqlDBksqlDB允许基于Kafka中的数据构建流处理应用程序。它在内部使用Kafka流,在事件发生时对其进行转换。 > Image By Author: ksqlDB with Apache Kafka 使用ksqlDB,就像编写SQL查询以过滤,聚合,联接和丰富数据一样容易。 为我们的源连接器和接收器连接器映射卷并在CONNECT_PLUGIN_PATH中指定它们非常重要 ksqlDB数据库 ksqldb-server: image: confluentinc/ksqldb-server :0.11.0 hostname: ksqldb-server container_name: ksqldb-server depends_on: - broker 这也从ksqldb服务器公开连接端点 ksqldb-cli: image: confluentinc/ksqldb-cli:0.11.0 container_name: ksqldb-cli

    3.5K20发布于 2020-12-29
  • Kafka客户端开发与生态集成:深入探索ksqlDB的流式SQL魔力

    ksqlDB:流式SQL的革命性工具 什么是ksqlDB? 与传统的批处理SQL不同,ksqlDB专注于流式数据,能够持续地查询和处理数据流,而无需将数据先存储到外部数据库中。这种设计使得ksqlDB成为实时数据处理和事件驱动架构中的重要工具。 优势:ksqlDB的主要优势在于简化了流处理开发。 ksqlDB实战:从入门到精通 安装与环境配置 首先,我们需要安装并启动ksqlDBksqlDB可以以独立服务器模式运行,也可以集成到Confluent Platform中。 错误处理与容错 ksqlDB基于Kafka的容错机制,自动处理节点故障。如果某个ksqlDB服务器实例宕机,其他实例会接管其工作负载。

    40010编辑于 2025-11-28
  • 来自专栏民工哥技术之路

    进击消息中间件系列(十四):Kafka 流式 SQL 引擎 KSQL

    =http://192.168.56.117:8088 ksqldb/ksql-server.properties:#listeners=http://0.0.0.0:8088 ksqldb/ksql-server.properties :listeners=http://192.168.56.117:8088 ksqldb/ksql-server.properties:# listeners=http://[::]:8088 ksqldb =http://0.0.0.0:8088 ksqldb/ksql-production-server.properties:listeners=http://192.168.56.117:8088 ksqldb Server ksqlDB Server is [UP] Starting Control Center Control Center is [UP] [root@c7-docker etc]# ls 查看数据/创建table或stream ksqlDB doc : https://docs.ksqldb.io/en/latest/concepts/streams/ 页面化操作ksqlDB 等同于命令行执行

    1.8K20编辑于 2023-08-22
  • 流计算新趋势:支持SQL流式处理的引擎全面解析

    3. ksqlDB ksqlDB是Confluent公司基于Kafka构建的流处理引擎,专门为处理Kafka数据流设计。 ksqlDB的核心优势在于与Kafka生态的深度集成,可以轻松实现流式ETL、实时监控和异常检测等场景。但它在处理复杂SQL时存在一定限制,主要用于相对简单的流处理任务。 4. 支持程度 核心特点 最佳适用场景 Apache Flink 完整支持 低延迟、高吞吐、精确一次处理 复杂事件处理、实时ETL RisingWave 纯SQL接口 流数据库理念、内置存储 实时查询、数据聚合 ksqlDB

    24110编辑于 2026-02-10
  • 流计算SQL化趋势:主流平台功能对比与腾讯云Oceanus推荐

    Flink 完整ANSI SQL支持 流批一体、状态管理、精确一次处理 复杂事件处理、实时ETL Spark Streaming 结构化流SQL 微批处理、与Spark生态无缝集成 准实时分析、数据湖集成 ksqlDB ksqlDB是构建在Kafka之上的流处理引擎,专为Kafka数据流设计,提供了直观的SQL交互方式。它利用Kafka Streams构建流处理应用,特别适合Kafka用户的流式ETL需求。

    13910编辑于 2026-02-11
  • 来自专栏SmartSi

    深入理解 Kafka Connect 之 转换器和序列化

    这样你就可以通过 ksqlDB 检查 Topic 数据: ksql> PRINT 'testdata-csv' FROM BEGINNING; Format:STRING 11/6/18 2:41:23 现在让我们用 ksqlDB 注册这个 Topic 并声明 Schema: ksql> CREATE STREAM TESTDATA_CSV (ID INT, ARTIST VARCHAR, SONG testdata-csv', VALUE_FORMAT='DELIMITED'); Message ---------------- Stream created ---------------- 可以看到,ksqlDB -------------- For runtime statistics and query details run: DESCRIBE EXTENDED <Stream,Table>; 通过查询 ksqlDB ksqlDB 查询是连续的,因此除了从源 Topic 向目标 Topic 发送任何现有数据外,ksqlDB 还将向 Topic 发送未来任何的数据。

    5K40编辑于 2021-12-27
  • 来自专栏Lansonli技术博客

    客快物流大数据项目(七十八):Hue简介

    支持连接到的数据库选择Apache Hive, Apache Impala, Presto 以及其他所有多个解释器之一:MySQL, SparkSQL,Oracle, Apache Phoenix, ksqlDB

    1.2K51编辑于 2022-12-19
  • 来自专栏操作系统实验

    Hive java实现简单UDF函数

    LanguageManualCli-HiveResourceshttps://learn.microsoft.com/en-us/azure/hdinsight/hadoop/apache-hadoop-hive-java-udfhttps://docs.ksqldb.io /en/0.7.1-ksqldb/developer-guide/implement-a-udf/

    60810编辑于 2024-05-28
  • 来自专栏ApacheHudi

    一文带你了解Lakehouse的并发控制:我们是否过于乐观?

    有幸从事过各种数据库项目——RDBMS (Oracle[1])、NoSQL 键值存储 (Voldemort[2])、流数据库 (ksqlDB[3])、闭源实时数据存储,当然还有 Apache Hudi, Voldemort: https://www.slideshare.net/vinothchandar/voldemort-prototype-to-production-nectar-edits [3] ksqlDB : https://www.confluent.io/blog/ksqldb-pull-queries-high-availability/ [4] 机制: https://dev.mysql.com/

    83630编辑于 2022-02-08
  • 来自专栏大数据-BigData

    一文带你了解Lakehouse的并发控制:我们是否过于乐观?

    有幸从事过各种数据库项目——RDBMS (Oracle[1])、NoSQL 键值存储 (Voldemort[2])、流数据库 (ksqlDB[3])、闭源实时数据存储,当然还有 Apache Hudi, Voldemort: https://www.slideshare.net/vinothchandar/voldemort-prototype-to-production-nectar-edits [3] ksqlDB : https://www.confluent.io/blog/ksqldb-pull-queries-high-availability/ [4] 机制: https://dev.mysql.com/

    90921编辑于 2022-01-21
  • 来自专栏大数据与实时计算

    Kafka vs Pulsar

    但是客户端功能与稳定性可能不如Kafka 吞吐量 高 高 都宣称吞吐高于竞品,从实际使用看都差不多 延迟 低 低 集群拓展性 支持 优势 分级存储 规划中 貌似有 内置流处理 kafka-stream更成熟ksqlDB

    1.6K31发布于 2020-09-16
  • 来自专栏大数据和云计算技术

    Modern Data Stack 下 Data Integration 生态(下)

    核心的能力还是在分发,confluent 是 kafka 商业化公司,下面是 kafka 和 Fivetran 的一个简单对比: 当能用户也能通过 Confluent 支持的 mysql CDC + ksqldb

    1.3K20编辑于 2021-12-30
  • 来自专栏AI+运维:智能化运维的未来

    运维人别光盯着日志了,咱得实时看懂“数据流”了!

    Telegraf:通用指标采集神器,啥都能收eBPF(cilium + Hubble):抓网络层的实时流量,超牛数据处理引擎推荐:Apache Flink:大厂都爱,真正的“流批一体”Apache Kafka + ksqlDB

    21200编辑于 2025-07-23
  • 来自专栏云云众生s

    2024年无服务器计算与事件流状况报告

    除了事件流平台,还有各种流处理技术作为补充,如Apache Flink、Apache Storm、Apache Samza、Apache Beam、Kafka Streams、ksqlDB和Faust, 例如,Beam提供了一个统一的API来处理批处理和流数据,而ksqlDB通过只依赖SQL查询来简化流应用程序的开发。 毫无疑问,事件流正在持续存在并继续增长其重要性。也就是说,流数据可能难以处理。

    1K10编辑于 2024-03-28
  • 来自专栏深度学习与python

    使用 Kafka 和动态数据网格进行流式数据交换

    利用 Kafka Stream 和 ksqlDB 在数据产品中进行流处理 将来自一个或多个数据源的信息,基于事件的数据产品实时地聚合并将其关联起来。 无状态和有状态的流处理是通过 Kafka 原生工具(如 Kafka Streams 或 ksqlDB)实现的: 数据产品中的各种协议和通信范式:HTTP、gRPC、MQTT 等 很明显,并非所有的应用都仅将事件流用作技术和通信范式

    1.3K30编辑于 2022-03-23
  • 来自专栏云云众生s

    流处理 101:什么对你来说是正确的?

    例如,使用 SQL 引擎(Flink SQL、ksqlDB 或 Spark SQL)来处理数据流可能是使组织中的业务分析师可以访问实时数据的正确选择。

    47310编辑于 2024-03-28
  • 来自专栏云云众生s

    解析Kafka: 复杂性所带来的价值

    包括用于管理消息模式和网络序列化反序列化的数据的Schema Registry,用于将Kafka与各种数据源和接收端集成的预构建连接器,用于流处理的SQL接口ksqlDB,以及自平衡集群。

    80710编辑于 2024-03-28
  • 来自专栏ApacheHudi

    重磅!基于Apache Hudi的商业公司Onehouse成立

    在过去十年中花费了无数小时解决生产中断,恢复了五个大型分布式数据库(包括 Voldemort、ksqlDB,当然还有 Hudi)的系统稳定性,我可以肯定地说,卓越运维是成功的数据基础架构的最重要一面。

    91220编辑于 2022-02-08
  • 来自专栏ApacheHudi

    万字长文:基于Apache Hudi + Flink多流拼接(大宽表)最佳实践

    有幸从事过各种数据库项目——RDBMS (Oracle[1])、NoSQL 键值存储 (Voldemort[2])、流数据库 (ksqlDB[3])、闭源实时数据存储,当然还有 Apache Hudi, Voldemort: https://www.slideshare.net/vinothchandar/voldemort-prototype-to-production-nectar-edits [3] ksqlDB : https://www.confluent.io/blog/ksqldb-pull-queries-high-availability/ [4] 机制: https://dev.mysql.com/

    4.5K32编辑于 2022-12-09
领券