- 综合排序
- 最热优先
- 最新优先
- 来自专栏东风微鸣技术博客
大规模 IoT 边缘容器集群管理的几种架构-4-Kubeedge
前文回顾 1.大规模 IoT 边缘容器集群管理的几种架构-0-边缘容器及架构简介[1]2.大规模 IoT 边缘容器集群管理的几种架构-1-Rancher+K3s[2]3.大规模 IoT 边缘容器集群管理的几种架构 -2-HashiCorp 解决方案 Nomad[3]4.大规模 IoT 边缘容器集群管理的几种架构-3-Portainer[4] ️Reference: IoT 边缘计算系列文章[5] Kubeedge 参考架构 •“云”：Kubernetes 集群 + CloudCore（包括： CloudHub、EdgeController、DeviceController）•“边”：EdgeCore•Edged: •大规模: 单集群突破 10 万边缘节点•边缘设备管理: 完善的边缘设备管理，支持多种边缘设备通信协议，如 MQTT、Modbus、Bluetooth、OPC UA 等，支持自定义插件扩展边缘设备协议。 和云节点混合管理，提供边云数据通信和边边数据通信•DMI 架构设备管理: 管理面数据与业务面数据分离•EdgeMesh: 跨云边、边边的应用互访通信；边缘内置域名解析能力，不依赖中心 DNS; 支持 L4，
82020编辑于 2023-09-15 - 来自专栏CSDN技术头条
腾讯大规模Hadoop集群实践
TDW服务覆盖了腾讯绝大部分业务产品，单集群规模达到4400台，CPU总核数达到10万左右，存储容量达到100PB；每日作业数100多万，每日计算量4PB，作业并发数2000左右；实际存储数据量80PB 建设单个大规模集群的原因 随着业务的快速增长，TDW的节点数也在增加，对单个大规模Hadoop集群的需求也越来越强烈。 TDW需要做单个大规模集群，主要是从数据共享、计算资源共享、减轻运营负担和成本等三个方面考虑。 1. 数据共享。 建设单个大规模集群的方案及优化 面临的挑战 TDW从单集群400台规模建设成单集群4000台规模，面临的最大挑战是Hadoop架构的单点问题：计算引擎单点JobTracker负载重，使得调度效率低、集群扩展性不好 结语 TDW从实际情况出发，采取了一系列的优化措施，成功实施了单个大规模集群的建设。为了满足用户日益增长的计算需求，TDW正在进行更大规模集群的建设，并向实时化、集约化方向发展。
2.1K71发布于 2018-02-07 - 来自专栏开源部署
Firmament – 大规模集群任务调度
本篇文章就以此为背景，介绍大规模调度场景下分布式任务调度的难点、解决策略及现有的一些方案。 这些年发展迅速的Kubernetes也包含调度器，其本质上还是面向应用运行层面，默认调度器的策略比较丰富，扩展性也比较好，但在面对大规模的调度时，吞吐性能表现不是那么完美。 对于大规模的计算集群也一样，应用程序由群集上的多个任务(通常在不同的主机上)组成。集群调度程序基本上必须解决： 多租户: 在群集上，许多用户代表多个组织启动了许多不同的应用程序。 Firmament 调度 Firmament 通过对调度算法的优化使得大规模计算集群的任务调度可以很好地在性能和准确之间找到平衡。 有些类似梯度递减形式的机器学习模型可以开始应用在调度上，已经有一些公司在做相关的探索，相信在未来大规模分布式调度会变得越来越重要。
98830编辑于 2022-07-24 - 来自专栏曲径通幽
Kubernetes 大规模集群最佳实践
Kubernetes 搭建大规模集群最佳实践 Kubernetes 自 v1.6 以来，官方就宣称单集群最大支持 5000 个节点。 缺省值是 128 net.ipv4.neigh.default.gc_thresh1=1024 # 保存在 ARP 高速缓存中的最多的记录软限制。 缺省值是 512 net.ipv4.neigh.default.gc_thresh2=4096 # 保存在 ARP 高速缓存中的最多记录的硬限制，一旦高速缓存中的数目高于此，垃圾收集器将马上运行。 eth0 parent 1: protocol ip prio 2 u32 match ip dport 2379 0xffff flowid 1:1 分离 Kubernetes events 存储 为了在大规模集群下提高性能 参考材料 Building large clusters Scaling Kubernetes to 2,500 Nodes Kubernetes 大规模集群 大规模集群配置优化
2.7K00发布于 2020-03-08 - 来自专栏云云众生s
OVHcloud 启用大规模 Kubernetes 集群管理
大规模 Kubernetes 集群管理的帮助 在 KubeCon Paris 2024 上，OVHcloud 将宣布一款名为 OVHcloud Managed Rancher Service 的新产品， 这是一个完全开源、自助、现成的平台，公司可以使用它来管理 Kubernetes 集群。 “Rancher 将帮助他们管理工作负载并在不同容量的 K8s 集群中编排，无论是在我们的云中，还是作为我们云和他们自己的内部部署设施的混合解决方案的一部分，甚至与其他服务提供商一起。” 对于在多个服务提供商的数据中心中运营多个 K8s 集群的公司而言，这是一个特别的挑战，因为 K8s 集群管理出了名的复杂。 测试版将于 4 月初推出，紧随广受好评的 alpha 版之后。 因此，对于 OVHcloud 客户而言，获得新的公共云产品或许就像：“有求必应”。
42710编辑于 2024-05-15 - 来自专栏技术杂记
Consul 集群4
如果使用DNS API，查询结构为 NAME.node.consul 和 NAME.node.DATACENTER.consul
27610编辑于 2021-12-01 - 来自专栏大大刺猬
redis(4) -- 集群
本章主要讲redis的集群搭建. redis集群的可扩展性（scalability是线性的, 即增加节点会带来实际的效果提示. 集群节点间使用异步冗余备份,所以安全些. redis集群主要提供一定程度的稳定性(单从性能讲的话,并不如单机的,集群都是这样的,所以算不上是redis集群的缺点), 当某部分节点宕掉时,集群也是可用的. #启用集群,默认是注释掉的 cluster-enabled yes #集群的配置文件,记录集群信息的文件 cluster-config-file node-6379.conf #节点超时时间(单位: redis在5.0之后支持redis-cli创建集群, 本文就用redis-cli来创建集群 查看帮助,找到创建集群的格式为 redis-cli --cluster create host1:port1 启动集群/节点 启动集群只需要启动所有节点即可.
60210发布于 2020-12-21 - 来自专栏技术杂记
etcd 集群4
Item Comment -name 指定此节点的名字 -initial-advertise-peer-urls 指定广播给其它节点的此节点地址 -listen-peer-urls 指定此节点在集群中监听 listen-client-urls 指定用于监听客户端请求的地址 -advertise-client-urls 指定广播给其它节点的此节点用于监听客户端请求的地址 -initial-cluster-token 指定此集群的统一 token -initial-cluster 初始化集群,指定包含所有节点的一个列表 -initial-cluster-state 初始集群的状态，可以是 (“new” or “existing”)
20020编辑于 2022-01-19 - 来自专栏技术杂记
ZooKeeper 集群4
/conf/zoo.cfg Mode: leader [root@h101 zk]# 剩下的那个成为了leader，新启动的成为了follower，服务变得可用 ---- 集群模式 集群模式在配置上与之前的没有本质区别
25740编辑于 2022-03-25 - 来自专栏Technology Share
大规模 codis 集群的治理与实践
他在农历春节期间就快马加鞭实现了异步迁移原型，在这过程中我们协助其测试、反馈BUG和瓶颈、不断改进、优化迁移性能，最终异步迁移不仅支持任意大小Key迁移，而且迁移性能相比同步迁移要快5-6倍，我们也是第一个在线上大规模应用实践 Dashboard异步定时检查ZooKeeper上是否有待迁移状态的哈希槽，若有则首先进入准备中状态，Dashboard将此状态同时分发到所有Proxy，若有异常Proxy应答失败，则无法进入迁移，状态回退(时序图4,5,6,7 基于Quorum的分布式探测Agent,如Redis的Sentinel,Sentinel在新浪微博等公司已经进行了较大规模应用，Codis也是基于此实现主备自动切换，我们在此基础上增加了告警和当网络出现分区时 master后，Leader会将其提升为master,同时向订阅者发出+switch-master 事件,通过tnm2/uwork发出L0告警通知开发运维，然后更改其他备机主从关系，从新主机同步数据（图八3,4,5 80% Proxy机器多实例部署(进行中) 3 .多租户 小业务通过在key前缀增加业务标识，复用相同集群 大业务使用独立集群，独立机器 4.数据安全及备份 访问所有Redis实例都需要鉴权 Proxy
7K55发布于 2017-11-01 - 来自专栏开源部署
Sun Grid Engine 大规模集群监控
Sun Grid Engine 大规模集群监控 #!/usr/bin/perl #! /bin/bash ## 最近查看队列使用情况 发现如下问题，用户使用SGE 集群的时候内存溢出 ## 此程序用于查看SGE (Sun Grid Engine) 整体集群监控 ##仅以此程序，帮助大家查看 }=1; $Job{$tab[0]}{'status'}=$tab[4]; $Job{$tab[0]}{'user'}=$tab[3]; ###### ..sort if =$tab[0].','; if (exists $out{$tab[3]}{'status'}{$tab[4]} ) { ########.. .. $out{$tab[3]}{'status'}{$tab[4]}++; } else { $out{$tab[3]}{'status'}{$tab[4]}=1;
78710编辑于 2022-06-29 - 来自专栏深度学习与python
Pinterest 大规模缓存集群的架构剖析
本文中，我们将对支持 Pinterest 的大规模缓存集群的架构进行深入的技术研究。 4高可用性 Pinterest 的所有基础架构系统都是高可用的，我们的缓存系统也不例外。 mcrouter 中的流量路由功能使我们可以进行各种弹性测试，包括集群到集群的暗流量以及在实际生产请求中人为加入的延迟和停机时间的测试，而不会影响生产。 ，针对位于基于闪存的容量集群后方的基于内存集群的 L1L2 路由（具有穿透）等。 我们管理维护着约一百个不同的 Memcached 集群，其中，许多集群具有不同的租户（tenancy）特征（专用与共享）、硬件实例类型和路由策略。
68830编辑于 2023-04-01 - 来自专栏田飞雨的专栏
大规模场景下 kubernetes 集群的性能优化
4、使用 pprof 进行性能分析 pprof 是 golang 的一大杀器，要想进行源码级别的性能分析，必须使用 pprof。 六、kube-proxy 优化 1、使用 ipvs 模式 由于 iptables 匹配时延和规则更新时延在大规模集群中呈指数增长，增加以及删除规则非常耗时，所以需要转为 ipvs，ipvs 使用 hash 八、客户端优化 在大规模场景下，集群中所有的 daemonset、webhook 以及 operator 等组件非常多，每个客户端都要从 apiserver 中获取资源，此时对 apiserver 的压力非常大 在大规模集群场景，服务可能会因高峰期资源不足导致响应慢等问题，对于某些应用时间内 HPA 或者 VPA 都不是件容易的事情。 参考： eBay应用程序集群管理器TESS.IO在大规模集群下的性能优化 Meet a Kubernetes Descheduler 网易云基于Kubernetes的深度定制化实践 开放下载《阿里巴巴云原生实践
3.6K11发布于 2019-12-15 - 来自专栏CNCF
治大国若烹小鲜，大规模Kubernetes集群的运营哲学
治大国若烹小鲜，大规模Kubernetes集群的运营哲学 鲍永成 TIGCHAT 昨天 ? 其实不然，集群运营，特别是大规模集群运营，需要丰富的经验，成熟的体系，辅助的工具链等等，因此其难度并不亚于开发一套大型系统。所谓治大国若烹小鲜，集群需要精细化的运营，对于细节的要求更是严格甚至苛刻。 借助于运营数据的收集和可视化，我们发现了更多在集群规模扩充时可能发生瓶颈的潜在问题，也对其进行了优化处理。 etcd 的容量。etcd 默认是 2G 的容量，在大规模的集群下很容易达到瓶颈。 运营工具 大规模的运营需要成套的运营工具链进行辅助，缓解运营人员的工作压力，同时也提供更为自动化的流程，对整个集群提供更为稳固的保障。 在运营了大规模 Kubernetes 集群之后，我们对更高的技术层次发起了挑战，那就是调度。下一章预告《第三章：庖丁解牛，调度的框架与策略》。
70920发布于 2019-12-06 - 来自专栏CSDN技术头条
Google的大规模集群管理系统Borg（上篇）
摘要：Google的Borg系统是一个运行着成千上万项作业的集群管理器，它同时管理着很多个应用集群，每个集群都有成千上万台机器，这些集群之上运行着Google的很多不同的应用。 2.2 集群和单元 单元中的机器属于单个集群，由连接它们的高性能数据中心规模的网络架构定义。 一个集群位于单个数据中心大楼内，大厦集合构成一个站点。 Borg最初使用E-PVM [4]的变体进行评分，其在不同资源上生成单一成本值，并且在放置任务时最小化成本的变化。 4.可用性 故障是大规模系统中的常态[10,11,22]。图3提供了15个样本cell中任务驱逐原因的分解。 图4：压缩的效果。 对15个cell，在压缩后获得的原始cell大小的百分比的CDF。
2.7K90发布于 2018-02-12 - 来自专栏日常杂记
关于较大规模hadoop集群的小文件问题
上一遍记录了当时集群资源死锁的问题，后来想了想其实小文件较多也会让集群变慢，小文件较多在执行作业时rpc时间就会增加，从而拖垮了job的执行速度。 在数据进入集群之前，将小文件进行合并 2. 小文件写入集群之后，定期合并小文件 3. 使用HBase存储数据 4. 对于已经在集群上的运算结果，采取文件合并的方式 由于不同的引擎，相应使用的方法不同，目前集群主要使用了hive，Impala，Spark进行数据计算。
2K20发布于 2021-01-06 - 来自专栏大数据架构
超大规模 Spark 集群灰度发布 CI CD
注： 蓝色圆形是正常 commit 垂直虚线是发布时间点，week 1、week 2、week 3、week 4 最上方黑色粗横线是源码时间线 下方黄色粗横线是 release 时间线 绿色方框是每周生成的 它包含了之前所有的提交（commit 1、2、3、4） spark-bin.git/dev 的 spark 作为 symbolic 指向 spark-${ build \# } 文件夹内（如图中第 2 只有到第 4 周，spark-bin.git/prod 才包含该 bugfix。也即 Staging 环境中发现的 bug，需要在一周多（最多两周）才能在 prod 环境中被修复。 如第 3 周合并 commit 4 及之前的 commit 上一步中，如果 commit 4 后紧临有一个或多个 bugfix commit，均需合并到 spark-src.git/prod 中，因为它们是对 commit 4 进行的 bug fix。
1.8K41发布于 2018-10-11 - 来自专栏QQ大数据团队的专栏
深入腾讯云TBDS：大规模HDFS集群优化实战
HDFS被设计用来在大规模的廉价服务器集群上可靠地存储大量数据, 并提供高吞吐的数据读取和写入，具备高可用、高容错、高吞吐、低成本、数据本地性等特点。 01、集群横向扩容 单个ActiveNameNode在大规模集群的局限性主要体现在： 1. 数据规模受限，NameNode内存使用和元数据量正相关，具有内存瓶颈。 2. 尽管社区也通过editlog异步化、DU请求采用分段锁等一系列措施来优化读写性能，但并未从根本上解决锁的影响，对于大规模集群难以满足生产场景。 拆锁效果 图九 分别在读写（4:1）和读写（8:1）的场景下进行测试，优化版本的性能约为原生架构的2倍。 HDFS重启速度主要受限于： NameNode串行加载fsimage；大规模集群下该文件可达几十G。
1.6K32编辑于 2024-06-03 - 来自专栏数据社
快手超大规模集群调度优化实践
导读：随着公司业务的快速发展，离线计算集群规模和提交的作业量持续增长，如何支撑超大规模集群，如何满足不同场景的调度需求成为必须要解决的问题。 随着集群规模增长和队列数目的增加，调度耗时越来越长，调度吞吐成为制约集群规模的主要瓶颈。 比如APP task打散策略，根据每个节点分配的APP资源量，对节点进行打分，节点上分配的APP资源量越多，节点分数越低，从而把APP的task在集群范围内打散到不同的节点。 4. 4. Flink实时作业场景 FLink实时场景下，主要介绍故障发生时，如何尽量减少故障的影响范围，以及如何快速恢复故障作业： 通过cpu均衡调度，避免机器cpu热点。 04 其他工作&未来规划 支持超大规模集群： 主要目标支撑十万量级的集群规模，目前基于社区的federation方案进行改造。
1.5K20发布于 2021-03-11 - 来自专栏技术杂记
RabbitMQ集群II4
. ---- 防火墙问题 集群中的node之间可能会有防火墙阻隔，为了确保集群正常工作，node之间必须开放一些端口用于互相通信，打开 4369 和 25672 The case for firewalled can be explicitly configured using the RABBITMQ_DIST_PORT variable - see the configuration guide ---- 集群中 Erlang的版本 集群中所有node的Erlang版本必须一致 All nodes in a cluster must run the same version of Erlang. ---- 客户端的连接 集群中没有主备概念，每一个node都是对等的，所以客户端可以连入任意一个node进行操作，如果一个node出现故障，客户端会返回错误，直接连接另一个node就可以继续进行操作 我们可以使用第三方工具确保连接的高可用
28420编辑于 2022-05-03
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号