首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏友儿

    Kafka Broker配置

    broker.id 服务器的broker id。如果未设置,将生成一个独一无二的broker id。 要避免zookeeper生成的broker id和用户配置的broker id冲突,从reserved.broker.max.id + 1开始生成。 启用该配置时应检查reserved.broker.max.id。 boolean true 中等 broker.rack broker机架,用于机架感知副本分配的失败容错。 int 6000 中 inter.broker.protocol.version 指定broker内部通讯使用的版本。通常在更新broker时使用。 中 reserved.broker.max.id broker.id的最大数 int 1000 [0,...]

    90810编辑于 2022-09-13
  • 来自专栏java编程那点事

    broker 保存消息

    物理上把topic分成一个或多个patition(对应 server.properties 中的num.partitions=3配置),每个patition物理上对应一个文件夹(该文件夹存储该patition的所有消息和索引文件)

    24120编辑于 2023-02-25
  • 来自专栏大数据学习笔记

    Doris:部署Broker

    如果机器有多个IP,需要配置priority_networks 1、启动Broker [root@node1 ~]# cd /app/doris-0.14.13/apache_hdfs_broker/ [root@node1 apache_hdfs_broker]# sh bin/start_broker.sh --daemon [root@node1 apache_hdfs_broker]# jps ]# [root@node2 ~]# cd /app/doris-0.14.13/apache_hdfs_broker/ [root@node2 apache_hdfs_broker]# sh bin /start_broker.sh --daemon [root@node2 apache_hdfs_broker]# jps 6144 Worker 23955 BrokerBootstrap 18516 PaloFe 8551 Jps [root@node2 apache_hdfs_broker]# [root@node3 apache_hdfs_broker]# sh bin/start_broker.sh

    1.3K30发布于 2021-09-07
  • 来自专栏开源部署

    Oracle broker 详解

    1,简介   01,介绍   Data Guard broker是建立在Data Guard基础上的一个对Data Guard配置,集中管理操作的一个平台.我们再上次DG主备切换的时候会发现特别麻烦,为此 broker出来了。    可以修改dg_broker_config_file参数。 启动broker alter system set dg_broker_start=true;   04,主库操作 运行:     dgmgrl 连接数据库 DGMGRL> connect sys/123456 ----------- 如果是12G 出现 ORA-16698错误那可以通过在Primary 和 Standby上取消log_archive_dest_n参数来解决, 实际这一块的参数应当是交给DG broker

    51910编辑于 2022-08-17
  • 来自专栏MessageQueue

    Broker模块划分

    ,然后从Broker读取消息 Broker的模块划分 1 网络模块 Broker需要和NameServer及Client通信,包括Broker之间也需要通信(主从结构),所以Broker会有一个模块(Net 最终NameServer是无状态的,所有数据来源于Broker上报,所以元数据会持久化在Broker上。除了持久化Topic、Group这样的元数据,Broker还需要保存消费进度。 所以Broker会包含一个租约模块(Leaser)。 所以Broker元数据模块会包含以下几块: TopicManager GroupManager CursorManager Leaser 4 消息写入模块 消息从Client发送到BrokerBroker 总结以上内容,Broker的模块大致如下: ? 结语 本篇内容主要是简单的介绍一下Broker内部模块的划分。

    63020发布于 2018-07-24
  • MQTT Broker 白皮书:全面实用的 MQTT Broker 选型指南

    该白皮书深入分析了 MQTT Broker 的关键特性和选型标准,旨在帮助用户了解各种 MQTT Broker 的优势和特长,以便挑选出最适合其项目需求的 Broker。 白皮书详细阐述了在选型 MQTT Broker 时应考虑的主要因素,并对市场上的主流 MQTT Broker 产品进行了细致的比较分析。 白皮书亮点MQTT Broker 选型前考虑因素在开始 MQTT Broker 的选型之前,用户应首先明确项目的具体需求,如接入的客户端数量、基础性能要求、MQTT Broker 的部署位置、用户与设备的地理分布 主流开源 MQTT Broker 对比本白皮书对当前主流的开源 MQTT Broker 进行了详尽的介绍和比较,涉及的产品包括 EMQX Platform、Mosquitto、NanoMQ 和 VerneMQ MQTT Broker 时提供重要参考。

    67110编辑于 2024-06-12
  • Broker not available

    前言 你正在处理一个重要的数据任务,但是突然发现Kafka Broker不可用了!这种情况会让任何一个数据工程师心急如焚。就像是电影中的情节一样,突如其来的危机让你不知所措。 但别担心,本文将带你一起进入Kafka的世界,探索Broker不可用的原因和应对方法。让我们一起来揭开这个神秘的面纱吧! 网络问题 网络故障、防火墙配置错误或者路由问题等都可能导致 Kafka 客户端无法与 Broker 建立连接。 在这种情况下,需要确保网络正常工作,并且客户端可以访问 Kafka Broker 的网络端口。

    35310编辑于 2025-05-31
  • 来自专栏学习java的小白

    ActiveMQ学习之Broker

    一、概念 相当于一个ActiveMQ服务实例 Broker其实就是实现了用代码的形式启动了ActiveMQ将MQ嵌入到java代码中,以便随时用随时启动 /activemq start xbean:file:/usr/local/activeMQ/apache-activemq-5.15.11/conf/activemq02.xml) 三、嵌入式Broker 用ActiveMQ Broker作为独立的消息服务器来构建java应用。 ActiveMQ也支持在虚拟机中通信,基于嵌入式的broker,能够无缝的集成其他java应用 四、代码 1、pom.xml中引入包 <! 代码 import org.apache.activemq.broker.BrokerService; /** * @ProjectName: springbootActiveMQ

    97110发布于 2020-12-07
  • 来自专栏Linux运维技术之路

    kafka broker的含义

    Kafka Broker 是什么? 在 Apache Kafka 中,Broker 是指 Kafka 集群中的一个节点(或服务器)。 • 每个 Broker 都有一个唯一的 ID(Broker ID),用于标识它在集群中的身份。 2. 从逻辑层面看 • Broker 是 Kafka 集群的一部分: • 一个 Kafka 集群由多个 Broker 组成,这些 Broker 共同协作完成消息的存储和分发。 • Broker 是分区的管理者: • 每个 Topic 的分区会被分配到不同的 Broker 上。 Broker ID • 每个 Broker 必须有一个唯一的 ID,用于标识它在集群中的身份。 • 配置项:broker.id 2.

    1.2K10编辑于 2025-02-27
  • 来自专栏后端进阶

    RocketMQ Broker启动流程梳理

    Broker 启动的主函数入口: org.apache.rocketmq.broker.BrokerStartup: public static void main(String[] args) { 创建了以下配置类: •nettyServerConfig:封装了作为消息队列服务器的配置信息•nettyClientConfig:封装了作为NameServer客户端配置信息•brokerConfig:封装了 Broker 初始化client管理线程池 5)初始化消费者管理线程池 •把这些线程池注册到nettyRemotingServer中 2.3 初始化定时任务: 在线程池注册完后,就会开启各种定时任务: •开启定时记录 Broker 6)启动HA主从同步线程 •启动各类定时任务 3.2 启动netty服务: remotingServer启动:启动远程通讯服务 fastRemotingServer启动:启动远程通讯服务 broker 信息 3.7 开启定时向NameServer注册broker信息任务 ?

    1.4K20发布于 2019-09-23
  • 来自专栏最新最全的大数据技术体系

    Unable to connect to broker 0

    [已解决]Unable to connect to broker 0 问题 Unable to connect to broker 0 kafka tool 工具无法查看主题 思路 在window的hosts

    69220编辑于 2023-10-22
  • 来自专栏后端技术学习

    pmq学习六-broker启动

    在前面我们看到在启动broker的时候,会启动broker,而此时启动broker的同时,此时pmq里面会首先会去检查线程池的线程,如果与SoaConfig中的配置的线程不一样,则会进行调整,然后执行提交操作 根据启动提供的线索,我们可以找到broker。 下图来自pmq的官方文档 ? 里面有两个概念:偏移量版本和偏移量的概念,偏移量我们好理解,而偏移量版本是针对每次修改版本都会+1 在偏移量或者版本号修改的过程中,此时的元数据必然需要进行改变,此时会调用到更新元数据的操作 此时元数据更新: broker

    75830发布于 2021-02-03
  • Config Kafka broker in SSL mode

    Please refer to Run kafka in SSL mode, it talks about both broker configuration and client(consumer/producer This only talks about the broker configuration, but this explains step by step how to generate the keystore pit, when you are asked the following question like this, make sure you input the "localhost" or the broker's

    25210编辑于 2024-07-05
  • 来自专栏阿杜的世界

    RocketMQ学习-Broker-1

    前面学习了name server的主要代码,这篇文章开始学习broker的源码。 broker是RocketMQ的核心模块,这篇文章我们先从整体看下代码结构、RocketMQ的领域模型,然后再看下一个broker节点的启动过程以及Controller暴露的接口。 代码结构 ? broker的代码结构 领域模型 MQ领域语言描述RocketMQ做的事情,producer构建Message,发送给broker的指定topic,broker负责将消息投递到指定topic下的队列,并记录消息队列的 :(1)和name server交互,进行broker节点的注册和取消;(2)和其他broker节点交互; 上面这些不是全部,除此之外,还有几个线程池和线程池对应的队列,以及用于做HA的管理模块。 和consumer就可以拿到broker节点的地址信息。

    80120发布于 2018-08-06
  • 来自专栏一块自留地

    RocketMq之Broker源码分析

    服务器上部署的RocketMq进程一般称之为BrokerBroker会接收Producer的消息,持久化到本地,然后push给Consumer,通常使用集群部署,主从之间会有数据同步。 Broker与NameSever Broker 会向所有 NameSever 注册自己(包含topic信息),并保持心跳连接。 断开 时机:broker挂掉;心跳超时导致nameserver主动关闭连接 动作:一旦连接断开,nameserver会立即感知,更新topc与队列的对应关系,但不会通知生产者和消费者 Broker Broker是怎么清理磁盘上的数据的 由于 Broker 的数据是存储在磁盘上的,那么就会有一个问题,如果数据越来越多,万一磁盘满了怎么办呢? Broker异常情况下怎么保证数据可靠性 异常情况: 1. Broker 正常关闭 2. Broker 异常 Crash 3. OS Crash 4. 机器掉电,但是能立即恢复供电情况。 5.

    1.2K20发布于 2020-06-16
  • 来自专栏张善友的专栏

    SQL Service Broker External Activator

    在Service Broker应用程序中,你可以指定一个存储过程或者外部应用程序,只要有消息到达一个队列,就立即执行它。在某种程度上,它就像队列中的异步触发器。 从SQL Server 2005 开始Service Broker就支持internal activation,也就是当消息队列有消息到达的时候可以通过调用存储过程。 Microsoft SQL Server Community Samples: Service Broker http://sqlsrvsrvcbrkr.codeplex.com/ SQL Server 2008 Service Broker http://blogs.technet.com/b/josebda/archive/2009/03/31/sql-server-2008-service-broker.aspx Get Started With Using External Activator http://blogs.msdn.com/b/sql_service_broker/archive/2009/05

    86190发布于 2018-01-30
  • 来自专栏瓜农老梁

    RocketMQ Broker命令【实战笔记】

    1.查看broker状态信息 bin/mqadmin brokerStatus -b 192.168.1.x:10911 -n 192.168.1.x:9876 Java HotSpot(TM) 64- -b 192.168.1.x:10911 -n 192.168.1.x:9876 zeus-package-mismatch-topic zeus-package-mismatch-consumer broker-a 0 698533 698532 1 2018-10-17 18:35:58 zeus-package-mismatch-topic zeus-package-mismatch-consumer broker-a 1 698521 698520 1 2018-10-17 18:36:01 zeus-package-mismatch-topic zeus-package-mismatch-consumer broker-a 2 698514 698513 1 2018-10-17 18:36:01 zeus-package-mismatch-topic zeus-package-mismatch-consumer broker-a

    1.9K30发布于 2019-08-05
  • 来自专栏后端技术学习

    kafka学习三-broker的入口

    和RocketMQ一样,kafka的broker也是在服务端,而生产者和消费者在client端中。而此时的疑问是kafka的网络准备、kafka中的broker和生产者、消费者又是怎样联系起来的呢? //从zookeeper中初始化动态broker配置信息 config.dynamicConfig.initialize(zkClient) /* start scheduler brokerInfo = createBrokerInfo zkClient.registerBrokerInZk(brokerInfo) // Now that the broker We do this because // letting a processor exit might cause a bigger impact on the broker. This behavior might need to be // reviewed if we see an exception that needs the entire broker

    93031发布于 2020-10-26
  • 来自专栏CBeann的博客

    Broker注册到NameServer源码分析

    我的风格比较偷懒,我们想看哪一部分就跟哪一部分和哪个分支,其他的没必要看,这样你就能偷懒了,所以这篇文章想跟的是Broker注册到NameServer源码以及Broker与NameServer的心跳。 注意:本文只关心Broker注册到NameServer和心跳逻辑,其他都不关心。 = null) { this.brokerFastFailure.start(); } } Broker给NameServer发心跳 Broker启动一个定时任务 ,每次都会向NameServer注册自己,不断覆盖到NameServer存的Broker的信息,从而达到心跳的效果,我只能说一个字,秀。 { //省略 //定时任务,根据broker注册到nameServer的时间与此时此刻时间的阈值去判断该broker是否还存活 this.scheduledExecutorService.scheduleAtFixedRate

    44810编辑于 2023-12-25
  • 来自专栏H2Cloud

    FFLIB 框架Broker 之MasterSlave 模式

    这种情况,比较明显的瓶颈是Broker 只有一个。在Client 和 Service 节点不断增多的情况下,单个Broker 将会无法承载。所以本文将探究如何扩展FFLIB 。          其实解决之道也很直接,就是增加Broker 。 为了能够为FFLIB 增加Broker 节点, 参考了Mysql 中的Master/Slave 结构, 设计FFLIB 的多Broker 框架如下图: ?          总结: Master/Slave 模式是可选的,但Broker 仍然是可以工作的。 源码 svn co http://ffown.googlecode.com/svn/trunk/ 构建borker : cd example/broker && make 开启Broker Master

    1.1K60发布于 2018-03-09
领券