首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏kafka专栏

    3.【kafka】Topic的生产和发送脚本(3)

    Topic的消费kafka-console-consumer.sh More 日常 、问题排查 怎么能够少了滴滴开源的 滴滴开源LogiKM一站Kafka监控与管控平台 1.Topic的发送 默认值) –max-partition-memory-bytes Long 为分区分配的缓冲区大小 16384 –message-send-max-retries Integer 最大的重试发送次数 3 bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --whitelist ‘.*’ --from-beginning 3. kafka.tools.NoOpMessageFormatter、kafka.tools.ChecksumMessageFormatter More Kafka专栏持续更新中…(源码、原理、实战、

    73220发布于 2021-08-03
  • 来自专栏SRE运维实践

    如何分布存储

    在面对分布存储的时候,分为两种角度,一种是客户侧,一种是侧,客户是上帝,所以不谈上帝的操作,专注于侧的系统构建。 其实所有的系统构建,都应该分成两个纬度,一个是客户纬度,专注于客户体验,进行各种定制化输出;一个是纬度,专注于底层的,各种监控数据,各种操作,都使用白屏的操作,而不是天天命令行操作,使用平台层面 ,可以防止误操作,系统扛了大部分的责任,也可以让不用每天记忆那些傻逼命令,傻逼参数,减轻低等级的操作,让大脑有更多的空间来想想其他的事情。。。 如果说,你看了上面的那么多内容,还不能做出一个测的分布维系统,那我也就无话可说了,对象有了,动作有了,剩下的就是代码了。。。 等风来。。。。 闲扯。。。 分布存储的可用性,无论怎么可用,最后都是使用linux系统中,无论怎么存储,都是使用的操作系统提供的文件系统,所以不管你是不是分布存储,分布文件,分布表格,分布键值,都存在于ext3

    1.6K30发布于 2019-07-08
  • 来自专栏python3

    日常 3

    crontab -e 编辑任务计划 crontab -l(小写的L) 列出任务计划 crontab -r 删除 crontab -u [username] 指定某个用户 1-5 表示范围1到5 1,2,3 --level 34 network off/on 控制network的等级3和4开关 --add [servicename] 增加一行服务,前提是在/etc/init.d/目录下有文件 --del [

    81620发布于 2020-01-14
  • 来自专栏python3

    Linux常用知识(3

    )查看IP($1代表IP) #cat access_log | awk '{print $1}' (2)对IP排序 #cat access_log | awk '{print $1}'| sort (3) awk '{print $1}'|uniq -c|wc -l > ip.txt (13)查看 access.Log 文件ip统计(从高到低) cat access.log |awk '{print $3} (3) 端口不通时发送邮件 # vim /scripts/ncports.sh #! /bin/bash #denyhost ip cat /var/log/secure|egrep -i -o "[0-9]{1,3}\.[0-9]{1,3}\.[0-9]{1,3}\.[0-9]{1,3  > $fileRfc      done     tail /sys/class/net/eth*/queues/rx-*/{rps_cpus,rps_flow_cnt} 补充一些知识: Linux常见系统服务介绍

    28.8K34发布于 2020-01-08
  • 来自专栏kafka专栏

    3.【kafka】Topic的生产和消费脚本

    Topic的消费kafka-console-consumer.sh 3. 持续批量推送消息kafka-verifiable-producer.sh 4. 持续批量拉取消息kafka-verifiable-consumer More 日常 、问题排查 怎么能够少了滴滴开源的 滴滴开源LogiKM一站Kafka监控与管控平台 1.Topic的发送 默认值) –max-partition-memory-bytes Long 为分区分配的缓冲区大小 16384 –message-send-max-retries Integer 最大的重试发送次数 3 bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --whitelist ‘.*’ --from-beginning 3. kafka.tools.LoggingMessageFormatter、kafka.tools.NoOpMessageFormatter、kafka.tools.ChecksumMessageFormatter 3.

    95620编辑于 2022-04-13
  • 来自专栏python3

    的shell小编(3

    dd if=infile.log  of=outfile.log bs=1M count=1

    62010发布于 2020-01-09
  • 来自专栏张戈的专栏

    菜单Shell脚本调试小记

    同事在网上 down 了一个脚本菜单模板,想把我们已经存在的功能脚本整合到一起,做成多功能的 Linux 工具。

    1.2K20发布于 2018-03-23
  • 来自专栏腾讯专有云

    专题第3期:诊断专家

    在上一期《专题第2期:警戒哨兵》中,我们介绍的是平台中的监控系统——云哨,今天给大家带来的产品是巡检平台,在运过程中能够跟监控系统一起为客户带来稳定的保障。 这样的产品哪里有 来腾讯专有云,给你不一样的服务体验。 笔者认为,首先是易用性,产品化也应该遵循产品设计的体验好和易用的要求,产品能做到开箱即用就是基本要求; 其次,是自定义能力,因为产品是面向人员,在 DevOps 潮流的今天,很多运人员都有一定开发能力 ,那自定义开发的能力也可以是好的产品的能力,从而做到产品特性的快速扩展; 最后,是智能化,能够针对初级人员提供快速解决问题的能力,比如自动分析故障、有针对性提供知识库,让工作做到高效 ,提高产品SLA,这是工作的关键目标。

    1.1K10编辑于 2022-06-24
  • 来自专栏DBA随笔

    Redis开发与学习笔记---(3)

    127.0.0.1:6379> exit 这里对其他的参数做一下说明: -r -r(repeat)选项代表将命令执行多次 [root@VM_48_10_centos ~]# redis-cli -r 3 (interval)选项代表每隔几秒执行一次命令,但是-i选项必须和-r选项一起使用,下面每隔1s执行一次ping命令: [root@VM_48_10_centos ~]# redis-cli -r 3 --latency 该参数有3个选项,分别是--latency,--latency-history以及--latency-dist,其中: --latency选项可以测试客户端到目标redis的网络延迟 latency-dist会使用统计表的形式从控制台输出延迟统计信息 --stat 该选项可以试试获取Redis的重要统计信息,虽然info命令中的统计信息更全,但是能够实时看到一些增量数据,对于redis的还是有一定帮助 例如: redis-server --port 6380 3、配置文件启动 redis-server /dir/redis.conf 除了启动redis之外,还有一个选项--test-memory,

    53720发布于 2020-03-31
  • 来自专栏devops_k8s

    的感悟(做需要考虑事,组织结构,学习地图....)

    招聘岗位和要求 /* 岗位一: 岗位职责: 公司电脑多媒体以及网络日常维护,以及桌面支持 任职资格: 1、能熟练更换PC硬件 2、熟悉办公常用软件以及邮箱 3、对网络方面有一定了解 招聘岗位和要求 /* 【岗位职责】: 1,负责服务器的配置、维护、监控、调优,故障排除等; 2,自动化及脚本开发; 3,大用户量下高性能服务器系统部署方案的制定及实施与监控; 3、探索、研究新的技术方向。 ; 【岗位要求】 1.本科及以上学历,6年以上大型业务应用系统的架构设计和落地的实际能力,熟悉分布、缓存、消息等机制,能对分布常用技术进行合理应用,解决实际架构问题; 2.海量数据处理和架构能力及经验 这段冲刺期会维持3-5年,会让人感觉每天都有进步,明白的东西越来越多。算是中级了,薪资一线城市可以达到10-20k左右。

    8.1K1011发布于 2020-12-23
  • 来自专栏爱可生开源社区

    分布 | dble 命令知多少

    ---- dble 作为 MySQL 流⾏的分布开源中间件,在性能、稳定性、可⽤性已经过⼤规模用户使⽤考验,成为许多用户替换 mycat 不⼆之选。 作为 MySQL DBA 熟悉 dble ⽤法和⼿段,是掌握 MySQL 分布架构的必备技能之⼀,这⾥我们整理了⼀些常⽤的命令,在你过程中能帮你快速诊断重要信息。 show @@server 显⽰dble内存使⽤率,⾏时⻓,字符集 show @@database 查看 dble 配置了哪些逻辑库。 3.维护操作 kill @@connection 杀掉客户端的连接,参数为 show @@connection 显⽰的 FRONT_ID 值 reload @@config_all 重载配置⽂件,可在不停

    78060发布于 2021-09-30
  • 来自专栏Apache IoTDB

    Apache IoTDB 系列教程-3:部署

    今天介绍 IoTDB 的部署相关知识,帮助大家玩转 IoTDB! 正文 1859 字,预计阅读时间 5 分钟。 开箱即用 IoTDB 的理念就是系统要简单,要一键启动、开箱即用。 nohup sbin/start-server.sh >/dev/null 2>&1 & 目录结构 使用默认配置启动并且写数据之后,项目根目录会生成下面这些文件夹,都在 data 目录下: 其中主要包括 3 3. 把 A 机器上的 IoTDB 的元数据迁移到 B 机器上,但是不要数据 把 A 机器的 data/system 目录拷贝到 B 机器的相应位置,启动 B 机器的 IoTDB 即可。

    2K30发布于 2020-09-27
  • 来自专栏王先森

    Kubernetes-分布存储GlusterFS组件详解

    Kubernetes-分布存储GlusterFS组件详解 简介 在现代容器化应用开发中,Kubernetes 已成为主流的容器编排平台,为应用部署和管理提供了强大的功能。 在 Kubernetes 集群中,分布存储解决方案如 GlusterFS 成为了许多开发者和人员的首选。 本文将深入探讨 Kubernetes 中的分布存储,重点介绍 GlusterFS 的原理、架构以及在 Kubernetes 中的实践应用。 该分布文件系统具有多项突出特点,包括高扩展性、高可用性、高性能以及可横向扩展等。 与其他存储解决方案相比,GlusterFS 的设计中没有元数据服务器,因此整个服务不存在单点故障的隐患,为应用部署和提供了更高的稳定性和可靠性。

    2.1K10编辑于 2024-04-29
  • 来自专栏kafka专栏

    【kafka】Leader重新选举脚本

    kafka-leader-election.sh --bootstrap-server xxxx:9090 --election-type preferred --all-topic-partitions 3

    4K40编辑于 2021-12-31
  • 来自专栏kafka专栏

    【kafka】ConfigCommand脚本

    /修改动态配置 Topic删除动态配置 添加/删除配置同时执行 其他配置同理,只需要类型改下`--entity-type` broker-loggers 查询指定Broker的Logger相关配置 3. 默认配置 附件 More 日常 、问题排查 怎么能够少了滴滴开源的 滴滴开源LogiKM一站Kafka监控与管控平台 ConfigCommand Config相关操作; 动态配置可以覆盖默认的静态配置 -entity-type broker-loggers --entity-name 想要查询的BrokerID 哪些配置可以修改 请看最后面的附件:ConfigCommand 的一些可选配置 3.

    3.2K10编辑于 2022-04-13
  • 来自专栏民工哥技术之路

    Ceph分布存储日常管理手册

    cd2a2b8671d0 health: HEALTH_WARN application not enabled on 1 pool(s) services: mon:3 <ID>0.0 2、将osd进程stop systemctl stop ceph-osd@<ID> 3、将osd设置out ceph osd out<ID> 4、立即执行删除OSD中数据 ceph osd 增加和删除Monitor 一个集群可以只有一个 monitor,推荐生产环境至少部署 3 个。Ceph 使用 Paxos 算法的一个变种对各种 map 、以及其它对集群来说至关重要的信息达成共识。 Ceph 需要 mon 中的大多数在运行并能够互相通信,比如单个 mon,或 2 个中的 2 个,3 个中的 2 个,4 个中的 3 个等。初始部署时,建议部署 3 个 monitor。

    3K30发布于 2020-09-15
  • 来自专栏NebulaGraph 技术文章

    数据库 | 携程分布图数据库NebulaGraph治理实践

    作者简介:Patrick Yu,携程云原生研发专家,关注非关系型分布数据存储及相关技术。 生产上的一个例子: 图片 上图为三机房情况,下图为蓝绿部署情况: 图片 中间件及管理 我们基于 K8s CRD 和 Operator 来进行 NebulaGraph 的部署,同时通过服务集成到现有的部署配置页面和管理页面 但这本身并不会导致系统问题,因为 3 节点部署,只需要 2 个节点工作即可。 根据问题合理的划分错误情况来进行处理,可以最大程度保持 session 状况的稳定 3 增加预热功能,根据配置提前创建好指定数量的 session,以避免启动时集中创建 session 导致超时 酒店集群存储服务 NebulaGraph 二次开发 当前我们对 NebulaGraph 的修改主要集中的几个相关的环节上,比如新增了命令来指定迁移 storaged 中的分片,以及将 leader 迁移到指定的实例上

    4.4K40编辑于 2022-12-12
  • golang平台实战,服务树,日志监控,任务执行,分布探测_小乙

    在云原生技术深度渗透企业 IT 架构的当下,传统模式正面临资源管理混乱、故障定位低效、跨地域覆盖不足等核心挑战。 实例视图:钻取到具体 Pod,查看容器日志、监控指标等细节,支持人员 3 秒内定位故障节点。3. 变更追踪与根因分析服务树通过监听 K8s 事件流,实时记录资源变更历史。 四、分布探测网络:构建主动的健康检查体系分布探测网络是平台的“感知延伸”,通过多地域节点部署与智能分析,实现从基础存活检查到业务逻辑验证的全维度健康评估。1. 五、技术融合与生态整合:迈向 AIOps 智能时代基于 Golang 的平台通过深度整合云原生生态组件,形成标准化技术栈:日志聚合:集成 Loki 实现轻量化日志存储与查询,降低 ELK 栈的成本 结语:从工具开发到价值创造在 AIOps 时代,服务树与自动探测系统正重新定义边界。

    32710编辑于 2025-11-28
  • 来自专栏python3

    的我要学开发--Python(3)

    非绑定方法: 2.如果获得的是一个类型或者一个类提供的方法,则是非绑定方法, 需要提供该类型或者类的一个实列 ''' #绑定方法 test = ['1','2','3'] bangding = test.append bangding('4') print test #结果:['1', '2', '3', '4'] #非绑定方法 bangding = list.append test = ['1','2','3'] bangding(test,'4') print test #结果:['1', '2', '3', '4'] import codecs,sys sys.stdout

    91710发布于 2020-01-06
  • 来自专栏全栈工程师修炼之路

    Ansible自动化学习笔记3

    ] #语法2: tasks: - debug: msg: "{{item}}" with_items: [ 1, 2, 3 ] #语法3: tasks: - debug None]) => { "msg": [ 3, null #列表元素数量不同 [1,2,3] [a, b] ] with_cartesian 关键字 ']) => {"msg": "E.g 3: index is : 0 , value is a"} ok: [local] => (item=[1, u'b']) => {"msg": "E.g 3: is c"} ok: [local] => (item=[3, [u'd', u'e']]) => {"msg": "E.g 3: index is : 3 , value is [u'd', u'e' => {"msg": "3"} #TASK [Demo 3] ok: [local] => (item=number is 6.00) => {"msg": "number is 6.00"} ok

    2.7K10编辑于 2022-09-28
领券