首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏kafka专栏

    【kafka运维】TopicCommand-Kafka运维脚本(1)

    这个意思是有三个分区和三个副本,对应分配的Broker; 逗号隔开标识分区;冒号隔开表示副本 PS: 虽然这里配置的是全部的分区副本分配配置,但是正在生效的是新增的分区; 比如: 以前3分区1副本是这样的 Broker-1 Broker Broker-3 Broker-4 0 1 2 现在新增一个分区,--replica-assignment 2,1,3,4 ; 看这个意思好像是把0,1号分区互相换个Broker Broker-1 Broker -2 Broker-3 Broker-4 1 0 2 3 但是实际上不会这样做,Controller在处理的时候会把前面3个截掉; 只取新增的分区分配方式,原来的还是不会变 Broker-1 Broker

    1.1K11发布于 2021-07-16
  • 来自专栏我的技术专刊

    RocketMQ 问题定位方法

    hashCode % 24)); 我们找到了消息的 hashKey,通过上面的代码,结果是 20,也就是队列 20,通过前面的描述, **我们知道每个 broker 是 8 个队列,20 对应的就是 broker -2 上面的队列 ,也就是 broker-2 queueId = 5 这个队列** 。 我们来查看 broker-2 上面的日志定位问题。 OtherClientId: 10.238.18.6@29 NewClientId: 10.238.18.122@29 MessageQueue [topic=消息topic, brokerName=broker

    1.2K10编辑于 2021-12-18
  • 来自专栏技术博客文章

    RocketMQ 问题定位

    hashCode % 24)); 我们找到了消息的 hashKey,通过上面的代码,结果是 20,也就是队列 20,通过前面的描述, **我们知道每个 broker 是 8 个队列,20 对应的就是 broker -2 上面的队列 ,也就是 broker-2 queueId = 5 这个队列** 。 我们来查看 broker-2 上面的日志定位问题。 OtherClientId: 10.238.18.6@29 NewClientId: 10.238.18.122@29 MessageQueue [topic=消息topic, brokerName=broker

    86500编辑于 2021-12-17
  • 来自专栏kafka专栏

    13张图让你百分百掌握kafka副本同步限流机制

    follower.replication.throttled.replicas:Follower端的限流副本,他的格式是 分区号:BrokerID 上面配置的意思如下 1:2: Topic1-1分区在Broker -2 上需要做Follower限流 0:2: Topic1-0分区在Broker-2 上需要做Follower限流 这里更简单一点, 相当于是 新增的副本 和对应的Broker都做 Follower限流 站在Leader的角度看限流 Broker-0中只有 Topic1-0一个Leader需要进行同步(数据流出),并且只有一个Broker-2上的副本需要同步(同步①) 那么完成同步的时间 = 100M 站在Follower的角度看限流 Broker-2 因为有2个副本同时在同步, 那么总共需要Fetche的数据量是 100*2 = 200M 然后又因为Follower限流是 1M/S 所以完成同步的时间最少需要 也就是说 还没有等到Broker-0 和 Broker-1 达到它的限流值之前, Broker-2 就已经被限流了 所以最终的时间是 200秒。 所以跟你想到的答案一致吗?

    1.4K32发布于 2021-12-02
  • 来自专栏kafka专栏

    【kafka运维】TopicCommand-Kafka运维脚本(1)

    这个意思是有三个分区和三个副本,对应分配的Broker; 逗号隔开标识分区;冒号隔开表示副本 PS: 虽然这里配置的是全部的分区副本分配配置,但是正在生效的是新增的分区; 比如: 以前3分区1副本是这样的 Broker-1 Broker Broker-3 Broker-4 0 1 2 现在新增一个分区,--replica-assignment 2,1,3,4 ; 看这个意思好像是把0,1号分区互相换个Broker Broker-1 Broker -2 Broker-3 Broker-4 1 0 2 3 但是实际上不会这样做,Controller在处理的时候会把前面3个截掉; 只取新增的分区分配方式,原来的还是不会变 Broker-1 Broker

    1.5K50发布于 2021-07-15
  • 来自专栏kafka专栏

    1.【kafka运维】TopicCommand运维脚本(1)

    这个意思是有三个分区和三个副本,对应分配的Broker; 逗号隔开标识分区;冒号隔开表示副本 PS: 虽然这里配置的是全部的分区副本分配配置,但是正在生效的是新增的分区; 比如: 以前3分区1副本是这样的 Broker-1 Broker Broker-3 Broker-4 0 1 2 现在新增一个分区,--replica-assignment 2,1,3,4 ; 看这个意思好像是把0,1号分区互相换个Broker Broker-1 Broker -2 Broker-3 Broker-4 1 0 2 3 但是实际上不会这样做,Controller在处理的时候会把前面3个截掉; 只取新增的分区分配方式,原来的还是不会变 Broker-1 Broker

    90820编辑于 2022-04-13
  • AutoMQ 如何实现分区持续重平衡?

    例如,broker-1 流量低于 loadlo,broker-2 流量高于 loadhi,此时将 broker-2 上的一个分区移动至 broker-1,虽然可能此次移动使得 broker-1 流量依旧低于低于 loadlo,broker-2 流量依旧高于loadhi,但本次移动依然改善了两个 Broker 间的不均衡状态,依旧是可被接受的 Action;反之,如果将 broker-1 上的一个分区移动至 broker

    34800编辑于 2024-05-27
  • 来自专栏kafka专栏

    【kafka源码】TopicCommand之alter源码解析(分区扩容)

    这个意思是有三个分区和三个副本,对应分配的Broker; 逗号隔开标识分区;冒号隔开表示副本 PS: 虽然这里配置的是全部的分区副本分配配置,但是真正生效的是新增的分区; 比如: 以前3分区1副本是这样的 Broker-1 Broker Broker-3 Broker-4 0 1 2 现在新增一个分区,--replica-assignment 2,1,3,4 ; 看这个意思好像是把0,1号分区互相换个Broker Broker-1 Broker Broker-3 Broker-4 – – – – 1 0 2 3 但是实际上不会这样做,Controller在处理的时候会把前面3个截掉; 只取新增的分区分配方式,原来的还是不会变 Broker-1 Broker ":{"2":[2],"1":[1],"0":[0]},"adding_replicas":{},"removing_replicas":{}} 想将分区分配到 Broker-0,Broker-1,Broker

    70820编辑于 2022-09-19
  • 来自专栏devops

    【架构实战】消息队列 Kafka 架构分析

    Topic(主题)和Partition(分区)展开代码语言:TXTAI代码解释Topic:orders├──Partition0(Leader:Broker-1)├──Partition1(Leader:Broker

    20810编辑于 2026-04-02
  • 来自专栏若是烟花

    消息队列-Kafka(1)

    /bin/kafka-server-start.sh -daemon /kafka/server01.properties # broker-2 .

    1.4K10发布于 2021-04-13
  • 来自专栏kafka专栏

    多图详解kafka生产者消息发送过程

    Topic1Partition-3 Leader在Broker-2中,它满足发送条件,那么Broker-2就满足发送条件 那么最终得到的ReadyNodes就是Broker-0、Broker-2 强制更新没有

    2.3K30编辑于 2022-04-30
  • 来自专栏kafka专栏

    多图详解kafka生产者消息发送过程

    Topic1Partition-3 Leader在Broker-2中,它满足发送条件,那么Broker-2就满足发送条件 那么最终得到的ReadyNodes就是Broker-0、Broker-2 强制更新没有

    96320编辑于 2022-09-26
  • 来自专栏kafka专栏

    【kafka运维】Kafka全网最全最详细运维命令合集(精品强烈建议收藏!!!)

    这个意思是有三个分区和三个副本,对应分配的Broker; 逗号隔开标识分区;冒号隔开表示副本 PS: 虽然这里配置的是全部的分区副本分配配置,但是正在生效的是新增的分区; 比如: 以前3分区1副本是这样的 Broker-1 Broker Broker-3 Broker-4 0 1 2 现在新增一个分区,--replica-assignment 2,1,3,4 ; 看这个意思好像是把0,1号分区互相换个Broker Broker-1 Broker -2 Broker-3 Broker-4 1 0 2 3 但是实际上不会这样做,Controller在处理的时候会把前面3个截掉; 只取新增的分区分配方式,原来的还是不会变 Broker-1 Broker

    6.6K05发布于 2021-07-08
  • 来自专栏kafka专栏

    【kafka运维】Kafka全网最全最详细运维命令合集(精品强烈建议收藏!!!)

    这个意思是有三个分区和三个副本,对应分配的Broker; 逗号隔开标识分区;冒号隔开表示副本 PS: 虽然这里配置的是全部的分区副本分配配置,但是正在生效的是新增的分区; 比如: 以前3分区1副本是这样的 Broker-1 Broker Broker-3 Broker-4 0 1 2 现在新增一个分区,--replica-assignment 2,1,3,4 ; 看这个意思好像是把0,1号分区互相换个Broker Broker-1 Broker -2 Broker-3 Broker-4 1 0 2 3 但是实际上不会这样做,Controller在处理的时候会把前面3个截掉; 只取新增的分区分配方式,原来的还是不会变 Broker-1 Broker

    1.8K20发布于 2021-07-14
  • 来自专栏网络日志

    载均衡技术全解析:Pulsar 分布式系统的最佳实践

    // 存放 broker 的节点信息 ls /loadbalance/brokers [broker-1:8080, broker-2:8080] // 根据节点信息查询负载数据 get /loadbalance

    38110编辑于 2024-06-28
  • 来自专栏kafka专栏

    【kafka运维】Kafka全网最全最详细运维命令合集(精品强烈建议保存)

    这个意思是有三个分区和三个副本,对应分配的Broker; 逗号隔开标识分区;冒号隔开表示副本 PS: 虽然这里配置的是全部的分区副本分配配置,但是正在生效的是新增的分区; 比如: 以前3分区1副本是这样的 Broker-1 Broker Broker-3 Broker-4 0 1 2 现在新增一个分区,--replica-assignment 2,1,3,4 ; 看这个意思好像是把0,1号分区互相换个Broker Broker-1 Broker -2 Broker-3 Broker-4 1 0 2 3 但是实际上不会这样做,Controller在处理的时候会把前面3个截掉; 只取新增的分区分配方式,原来的还是不会变 Broker-1 Broker

    2.7K20编辑于 2021-12-31
  • 来自专栏kafka专栏

    【kafka源码】kafka分区副本的分配规则

    同时nextReplicaShit=nextReplicaShit+1=1; P5-1 再broker-0上,然后p5-2要跟p5-1间隔nextReplicaShit=1个位置,所以p5-2这时候在broker

    1.6K30发布于 2021-09-06
  • 来自专栏腾讯云中间件的专栏

    Apache Pulsar 在腾讯云上的最佳实践

    一对一,特指此时的直连必须精准连接 Broker 集群中的某台 Broker,比如 Broker-2,连接别的 Broker 则会连接失败。

    1.5K60编辑于 2023-11-02
  • 来自专栏kafka专栏

    图解Kafka分区副本同步限流机制三部曲(源码原理篇+测试用例 )

    entity-name Topic1 --add-config leader.replication.throttled.replicas=0:0 ## 下面是Broker设置动态配置, 因为我们是要在Broker

    1K32编辑于 2021-12-09
  • 来自专栏公众号:懒时小窝

    【RocketMq】RocketMq-NameServ 源码分析(Ver4.9.4)

    HAServer: cluster-broker-1:206:54:23.355 [main] INFO RocketmqNamesrv - cluster [cluster] brokerName [broker

    70740编辑于 2022-11-29
领券