- 综合排序
- 最热优先
- 最新优先
- 来自专栏小白晋级大师
分布式系统架构6：链路追踪
这是小卷对分布式系统架构学习的第6篇文章，关于链路追踪，之前写过traceId的相关内容：https://juejin.cn/post/7135611432808218661，不过之前写的太浅了，且不成系统 ，只是简单的理解，今天来捋一下链路追踪的理论1.为什么需要链路追踪在复杂的分布式系统中，系统通常由多个独立的服务组成，几乎每一个前端请求都会形成一个复杂的分布式服务调用链路。 如果需要依赖开发者配合才能使追踪系统生效，这样是无法满足追踪系统“无所不在的部署”这个需求可扩展性：支持分布式部署，具备良好的扩展性，能支持的组件越多越好，至少在接下来几年内能处理服务和集群的规模数据的快速分析 ，一般还会用MQ作为缓冲每个机器上有个daemon，这里的daemon指的后台服务进程，专门用于日志收集和Trace转发；多级collector，类似pub/sub架构，可以负载均衡；聚合数据进行实时分析和离线存储 6.链路追踪协议链路追踪协议的发展历史，2016 年 11 月，CNCF 技术委员会接受了 OpenTracing 作为基金会的第三个项目。
41410编辑于 2025-01-01 - 来自专栏罗西的思考
深度学习分布式训练框架 horovod (6) --- 后台线程架构
[源码解析] 深度学习分布式训练框架 horovod (6) --- 后台线程架构 目录 [源码解析] 深度学习分布式训练框架 horovod (6) --- 后台线程架构 0x00 摘要 0x01 引子 本文是系列第六篇，看看 Horovod 后台线程架构。 前面几篇链接如下： [源码解析] 深度学习分布式训练框架 Horovod (1) --- 基础知识 [源码解析] 深度学习分布式训练框架 horovod (2) --- 从使用者角度切入 [源码解析] 深度学习分布式训练框架 horovod (3) --- Horovodrun背后做了什么 [源码解析] 深度学习分布式训练框架 horovod (4) --- 网络基础 & Driver [源码解析] 至此，后台线程架构基本理清，我们下一篇需要再返回去看看优化器如何实现。
2K20发布于 2021-06-29 - 来自专栏Java工程师面试八股文
分布式架构技术
分布式架构技术 参考：https://www.cnblogs.com/expiator/p/10201004.html 一、分布式缓存Redis https://blog.csdn.net/hhssaaa /article/details/111114967（自己总结的分布式缓存文章） https://blog.csdn.net/hhssaaa/article/details/105428840（自己总结的 Redis知识梳理） 二、分布式锁Redis/Zookeeper https://blog.csdn.net/hhssaaa/article/details/105428840（自己总结的Redis知识梳理 ） Redis setnx实现； Redission； Zookeeper 三、分布式服务（Dubbo或SpringCloud） https://blog.csdn.net/hhssaaa/article /details/112210251（自己总结的分布式服务） 四、分布式协调者Zookeeper https://blog.csdn.net/hhssaaa/article/details/112783028
1.4K00发布于 2021-02-13 - 来自专栏Linyb极客之路
初识分布式架构
分布式架构的常见概念 集群 小饭店原来只有一个厨师，切菜洗菜备料炒菜全干。后来客人多了，厨房一个厨师忙不过来，又请了个厨师，两个厨师都能炒一样的菜，这两个厨师的关系是集群。 ? 分布式 为了让厨师专心炒菜，把菜做到极致，又请了个配菜师负责切菜，备菜，备料，厨师和配菜师的关系是分布式，一个配菜师也忙不过来了，又请了个配菜师，两个配菜师关系是集群。 ? 节点 节点是指一个可以独立按照分布式协议完成一组逻辑的程序个体。在具体的项目中，一个节点表示的是一个操作系统上的进程。 在这个过程中，开发模式、技术架构等都会发生非常大的变化。 阶段一，单应用架构 网站的初期也可以认为是互联网发展的早起，我们经常会在单机上跑我们所有的程序和软件。 前期通过这些技术能够很好的解决各个服务之间通信问题，但是互联网的发展是持续的，所以架构的演变和优化还在持续。 架构全局图 ?
1.3K10发布于 2018-07-26 - 来自专栏苏三说技术
6 种分布式ID
今天咱们继续一起来探究下，分布式ID在分库分表中起到的作用以及如何使用，ShardingSphere-jdbc中已经为我们提供了多种分布式主键ID生成策略。 为什么用分布式主键ID 在传统的单库单表结构时，通常可以使用自增主键来保证数据的唯一性。 为了解决这一问题，我们需要引入专门的分布式 ID 生成器来生成全局唯一的ID，并将其作为每条记录的主键，以确保全局唯一性。 ShardingSphere中为分片表设置主键生成策略后，执行插入操作时，会自动在SQL中拼接配置的主键字段和生成的分布式ID值。 关于分布式 ID 生成器，我曾经撰写过一篇 一口气说出 9种 分布式ID生成方式，详细介绍了多种生成器的优缺点，大家可以作为参考。
74310编辑于 2024-04-19 - 来自专栏用户4352451的专栏
分布式系统架构-----异地多活架构
分布式系统架构-----异地多活架构 背景 最近公司在搞异地多活，特来写篇文章来学习和回顾一下。 异地多活看字面意思 ：不通的地方部署服务。 这些自然灾害我们是不可避免的所以我们得从架构层面解决这种突发问题。 异地多活架构 1. 什么是异地多活架构？ 异地：不同的地理位置，多活：不同的地理位置的服务都能独立提供服务。 但是像这种出现广州地震那么这种情况这种架构仍然解决不了问题的，但是我们结合故障的发生的概率和架构的复杂度之间取一个平衡的话，那对于这种架构来是最优的。 大概服务的物理架构图如下： 从上面架构图可知： mysql 采用主从机制 redis 使用两个集群，通过双写实时同步 quee采用的主备用 job 和 服务就是两个异地集群 遇到的问题 服务数据一致性问题 启动好后数据一致性问题： 因为还有就是数据库mysql的数据是实时在变化的所有这个时候redis的数据和mysql的数据就会有可能不一致，通过架构图可知。
2.2K11编辑于 2022-05-05 软件架构 6 个方面
所谓 “架构”，就是将软件的结构打好，然后在结构内按部就班的施工就好了。软件架构 6 个方面软件架构涉及六个维度，分别是 “稳定性”、“高性能”、“一致性”、“扩展性”、“观察性” 和 “安全性”。 没有最好的架构，只有合适的架构。合适的架构就是在对这些维度的平衡与取舍，以最大程度的支撑当前业务的运行。每个方面包含的内容稳定性，异步、调度、容错、隔离、熔断、限流、降级、故障恢复。 一致性，分布式锁、UID、事务、幂等。扩展性，资源扩容、弹性伸缩、扩展长链接、扩展数据库、跨数据中心。观察性，监控告警、调用链。安全性，开源证书、安全漏洞、基线扫描。 这也印证了 “架构是演化出来的，不是一蹴而就的。”可以说这个是 “架构” 的 “架构” 吧，以后只需要完善这个结构，往这个结构中不断添加工具、方法、经验就好了。
26710编辑于 2024-03-25- 来自专栏小白晋级大师
分布式系统架构8：分布式缓存
这是小卷对分布式系统架构学习的第11篇文章，今天了解分布式缓存的理论知识以及Redis集群。 分布式缓存也是面试常见的问题，通常面试官会问为什么要用缓存，以及用的Redis是哪种模式，用的过程中遇到哪些问题这些1. 而能够保证强一致性的 ZooKeeper、Doozerd、Etcd 等框架，吞吐量比不过Redis，通常不会用作“缓存框架”，而是作为通知、协调、队列、分布式锁等使用2.透明多级缓存TMC实际开发中，同时搭配进程内缓存和分布式缓存 ，查询以进程内缓存数据优先3.实现方案3.1 memcached缓存在服务端，memcached集群环境实际就是一个个memcached服务器的堆积cache的分布式主要是在客户端实现，通过客户端的路由处理来达到分布式解决方案的目的 如下是memcached客户端路由过程：3.2 Redis缓存与memcached客户端支持分布式方案不同，Redis更倾向于在服务端构建分布式存储以Redis集群模式为例，它没有中心节点，具有线性可伸缩的功能
72010编辑于 2025-01-20 - 来自专栏全栈程序员必看
java分布式（分布式架构）「建议收藏」
开头的话，架构多半和业务关联在一起，如果只是简单的图书管理系统、选课系统或者什么简单的财务系统，用不着分布式。只有大型公司、高并发的业务才需要分布式的帮助。 6、分布式文件服务器 如果网站后台文件过多，那么单台服务器远不能满足用户的要求，这个时候分布式文件服务器应运而生。 业务量的激增、用户的需求，导致整个软件的架构一直在改变。好的软件架构不光可以满足当前的业务需要，而且为未来的扩展打下基础。 从软件架构来说，java和分布式这个主题，可以给大家带来很多积极和有益的思考。 说到架构，或者软件框架，这个和os没有关系，和编译器、编程语言没有多大关系。 分布式架构里面有成功、失败、超时三个情况，而超时就是最大的问题。所以，如何处理这个超时问题才是重中之重。当然，很多朋友都听过cap理论，也就是高可用性、性能、一致性，一般只能三者取其二。
2.9K20编辑于 2022-08-12 - 来自专栏小脑斧科技博客
分布式架构 Broker 简介
概述 随着业务规模和复杂性的不断增长，分布式计算成为了数据持久化、运算高性能的必要选择，然而，分布式多机器、多集群的协作成为了一个问题，如何让规模巨大的多机器甚至多个集群协同工作呢？ 解决问题的方法就是抽象化的分布式架构，通过代理的方式让客户端与服务端解耦，使各种突发事件能够被透明化的解决，同时，服务的调用者期望服务对他而言足够简单，最好是像调用本地服务一样简单，各种分布式架构应运而生 同时，由于模块化、抽象化，让整个架构各组件之间耦合度很低，Server 注册即可用，大大增加了可伸缩性、可维护性，动态扩展变得简单而高效。 3.2. 缺点 显而易见的，整套架构的复杂度很高，在实际的生产环境中，Broker 怎么及时发现意外断开的 Server，如何实现负载均衡都是需要考虑的问题。 这样的搞复杂度让整个架构过于庞大，除非分布式计算任务太过复杂，通常使用者都会对这个架构做出不同程度的简化，比如 Client、Server 公用一个或多个 Broker、去除 Bridge、统一跨平台通信协议等
2.7K30编辑于 2022-06-27 - 来自专栏cloudskyme
分布式爬虫技术架构
webmagic webmagic采用完全模块化的设计，功能覆盖整个爬虫的生命周期(链接提取、页面下载、内容抽取、持久化)，支持多线程抓取，分布式抓取，并支持自动重试、自定义UA/cookie等功能。 众推 用整体正在进行中，目前积中在分布式爬虫阶段。 ? 目前设计阶段的结构为： ? 基本思想为： WEB：界面及功能部分。 SAMPLES：示例部分。 CORE：需要调用的核心包。 CDOOP：分布式处理部分。 ADAPTER：代理适配部分。 STORE：存储层。 目前项目的地址在： https://github.com/zongtui/zongtui-webcrawler
1.3K60发布于 2018-03-20 - 来自专栏IT架构圈
『互联网架构』软件架构-分布式架构（14）
分布式架构：原理，设计与实战，目前公司每个月都要出账，出账就是每个月有要把之前的一个月的账目盘算清楚，做到错误的0容忍，一笔都不能错，错一笔客户都会找你，偏准确性。 分布式服务的发展历程 J2EE架构 俗称JEE。对于大概有5年以上工作经验的老铁，应该都听过这个名词。基本分为3层。 微服务架构 最流行的架构，跟传统架构是一脉相承的，并不是矛盾的。采用的是分层的概念，上层的服务依赖下层的服务，基本两层，第一层：业务服务一；第二层：业务服务2,3,4。 分布式服务架构的精髓 敏捷上线，微服务下的自治，有效的减少不可用的因素。服务化和微服务都使用了分而治之的思想，分布式服务和分布式系统架构里面，无论是提高性能，提高吞吐量，提高敏捷性。 ? 开关要能开能关 迁移开关要大小力度都有 PS：了解分布式架构，是对自己从心智上的一种提升，敲代码只是往下看，建议多往前方看看。架构这条路不好走，需要多接触，多趟多走，才能前方一路小平破。
1.2K20发布于 2019-03-19 - 来自专栏纯洁的微笑
分布式架构之美
一、前言 我们都知道，当今无论在BAT这样的大公司，还是各种各样的小公司，甚至是传统行业刚转互联网的企业都开始使用分布式架构，那么什么叫分布式架构呢？分布式架构有什么好处呢？ 分布式架构经过了怎样的发展呢？是哪家企业开启了分布式架构的时代呢？读完本文，你就会得到这些答案，下面让我们一起来开启分布式概述的奇妙之旅吧！ 四、分布式系统的意义 之所以要发展分布式系统架构，是因为单机系统存在着如下诸多缺点等待被解决： 升级单机处理能力的性价比越来越低 我们知道单机的处理能力主要依靠 CPU、内存、磁盘。 五、分布式架构的常见概念 1.集群 小张开了一家小饭店，刚开始的时候店里只有一个厨师，切菜洗菜备料炒菜全干。 三态 在集中式架构中，调用一个接口返回的结果只有两种， 成功或失败。但是在分布式架构中，会出现“超时”这个状态。
87940发布于 2018-07-20 - 来自专栏暴走大数据
聊聊分布式系统架构
去中心化：全球IP互联网就是一个典型的去中心化的分布式控制架构，联网的任意设备宕机都只会影响很小范围的功能。去中心化设计通常没有“领导”和“干活的”，角色一样，地位平等，因此不存在单点故障。 实际上，完全意义的去中心化分布式系统并不多见，很多看起来是去中心化但工作机制采用了中心化设计思想的分布式系统正在不断涌现，在这种架构下，集群中的领导是动态选择出来的，而不是人为预先指定的，而且在集群发生故障的情况下 二、分布式系统架构的主要内容 分布式系统架构的主要内容包括： RPC和对象序列化 分布式内存缓存技术、分布式内存计算 分布式存储 分布式计算 全文检索 消息队列 容器 1、RPC和对象序列化 RPC设计的初衷是设计一套远程通信的通用框架 服务注册、服务发现和服务监控后来成为通用分布式系统架构的核心和关键技术基础，也被赋予一个新概念--“服务治理框架”，最早的说法可能来自BAT的一些架构师。 如果一个分布式系统具备如下特点，则可以称之为“微服务架构”：1、任何一个服务都由多个独立的进程提供服务，这些进程可以分布在多台物理机上，任何进程宕机都不会影响系统提供服务；2、整个系统是由多个微服务有机组成的一个分布式系统
1.6K30发布于 2019-09-04 - 来自专栏洁癖是一只狗
分布式服务架构(二)
，否则难以支持亿级流量，即使关系型数据库，单机也难以支持存储和吞吐量的性能需求，如果必须要这样做，就应尽量把数据放到数据库一个分片上，这样就可以利用数据库解决不一致的问题， CAP C:一致性，在分布式系统中 将相关的数据分到数据库的同一个分区，任然可以解决数据一致性问题 由于业务限制，并不能将数据放到一个数据库分片，因此我们记录事务的软状态，如果出现不一致，就可以通过系统自动化或者人工干预修复不一致的问题 分布式一致性协议 在分布式系统中构建了唯一的id,调用链的等基础设施后，我们可以很容易对系统间的不一致进行核对，通常需要第三方的定时核对系统，从第三方监控服务执行的健康程度. 5.可靠消息模式 在分布式系统中，我们经常使用的就是上面提到的异步确认模式，为了让一步操作的调用方和被调用方充分的解耦，采用消息队列，具有可以伸缩性，可分片，可持久化等， 消息的可靠发送 消息的可靠发送认为是尽最大努力发送消息通知
91120发布于 2021-07-16 - 来自专栏无敌码农
什么是分布式架构?
其部署简单，不用考虑多个节点间的分布式协作问题。 三、分布式系统 分布式系统是一个由硬件或软件组件分布在不同的网络计算机上，彼此之间仅仅通过消息传递进行通信和协调的系统。 3.3 并发性 同一分布式系统中的多个节点，可能会并发地操作一些共享资源，诸如数据库或分布式存储等，如何高效地协调分布式并发操作也成为了分布式系统架构与设计中最大的挑战之一。 5.2 分布式事务 分布式事务是指事务的参与者、支持事务的服务器、资源服务器以及事务管理器分别位于分布式系统的不同节点上，通常一个分布式事务中会涉及对多个数据源或业务系统的操作。 一个分布式事务可以看做是由多个分布式的操作序列组成，通常可以把这一系列分布式的操作序列称为子事务。 由于在分布式事务中，各个子事务的执行是分布式的，因此要实现一种能够保证ACID特性的分布式事务处理系统就显得格外复杂。
5.8K31发布于 2019-07-31 - 来自专栏Java后端技术
分布式架构之美~
一、前言 我们都知道，当今无论在BAT这样的大公司，还是各种各样的小公司，甚至是传统行业刚转互联网的企业都开始使用分布式架构，那么什么叫分布式架构呢？分布式架构有什么好处呢？ 分布式架构经过了怎样的发展呢？是哪家企业开启了分布式架构的时代呢？读完本文，你就会得到这些答案，下面让我们一起来开启分布式概述的奇妙之旅吧！ 五、分布式架构的常见概念 1.集群 小张开了一家小饭店，刚开始的时候店里只有一个厨师，切菜洗菜备料炒菜全干。 三态 在集中式架构中，调用一个接口返回的结果只有两种， 成功或失败。但是在分布式架构中，会出现“超时”这个状态。 为我们的成长加油点赞吧~ 下篇博文我们来聊分布式架构的演进过程怎么样？评论区等你。
94810发布于 2018-08-09 - 来自专栏洁癖是一只狗
分布式服务架构(一)
不需要开始整个应用服务器即可验证和测试，极大提高了效率这都是spring 的功劳 但是这中架构还是取向于传统的单体应用，业务逻辑耦合在一个项目中。 服务化架构 随着互联网快速突起环境下，传统的架构不能满足海量用户发起的高并发请求，无法突破耦合在一起的模块组件的性能瓶颈,且水平扩展也是很有限。 ，SOA理念在微服务架构中任然有效，微服务是在SOA服务化的基础上进行了严谨和叠加。 如果有恶意用户在0:59秒的时候发送了100个请求，在1:00分钟时候也发送了100个请求，此时在一秒钟就要了200个请求，就可能压垮我们的服务 因此我采用滑动窗口的算法，降低这种情况 我们将一分钟分为6个格 ,每过10秒向前移动一格,每个格都有自己的计数器，当6个格子加载一起超过了限制，就会触发限流， 比如，当0:59到达100请求到了灰色的格子,而1:00的时候又来了100个请求，那么我们的窗口(即6个格子
1.1K30发布于 2021-07-16 - 来自专栏重归混沌
再谈分布式服务架构
在两年前，我曾经设计过一版，高可伸缩服务器架构， 但只进行了理论推演，并没有使用具体业务逻辑验证过。以这两年的经验来看，这个架构不具备可实施性。 在之前的架构中，我只考虑了Gate和其服务之间的交互。 分布式情况下ACID的难度要远高于单机ACID， 而且性能也得不到保证。这也是为什么后来会有很多NOSQL的出现。NOSQL其实更应该叫NO ACID才对。 然而，由于现代分布式数据库领域都还没有特别完美的ACID解决方案。我们的游戏服务之间的交互更不可能提供ACID功能了。 幸运的是，这个世界是平衡的。 我认为在游戏服务器的分布式领域中，我们只要阻止错误的发生就可以了。至于异常是避免不了的（比如超时)。 基于这个原则和我两年前的架构设计，我重新抽象了整个分布式架构。 这次的抽象和上次一样，我并不企图抹平分布式的事实，仅仅只是为了抹平同一个服务会被水平布署多份的事实。 ---- 在设计完这个抽象之后，一个自然而然的事实，摆在我面前。 假如，有三个服务A，B，C。
56630发布于 2020-08-13 - 来自专栏codersam
分布式架构理解总结
系统架构随着技术手段越来越成熟近些年得到了很大的提升，从以前的单系统架构，到应用和数据层分离，集群，分布式集群等等，下面就来一一总结。 一般项目初期会考虑这种架构方式，因为效率决定生死，先要让项目面市，后期考虑优化方案。
72620发布于 2020-06-15
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号