- 综合排序
- 最热优先
- 最新优先
- 来自专栏shysh95
分布式系统
随着互联网的发展，单一节点部署的方式已经无法满足需求，需要通过增加节点来线性扩展系统的负载和性能，因此系统架构也由原来的集中式架构向分布式架构转变。 分布式 分布式系统主要由以下几个特征： 分布性：分布式节点在空间上任意分布 对等性：节点没有主从之分。 数据副本冗余数据，防止数据丢失，服务副本指多个节点提供相同服务，一个节点宕机，服务仍然可用 并发性 缺乏全局时钟：分布式系统很难定义事件的先后顺序 故障总是发生 分布式环境面临的主要问题： 通信异常：分布式系统需要各个节点之间相互通信 CAP和BASE理论 为了构建一个兼顾可用性和一致性的分布式系统，诞生了CAP和BASE理论。 CAP理论 CAP理论：一个分布式系统不可能同时满足一致性、可用性和分区容错性，最多只能满足两个。 在分布式系统中，分区容错性应该是必选的，然后再在一致性和可用性中寻求平衡。
1.2K20发布于 2019-07-23 - 来自专栏Java后端技术栈cwnait
什么是分布式系统，如何学习分布式系统
正文 虽然本人在前面也写过好几篇分布式系统相关的文章，主要包括CAP理论、分布式存储与分布式事务，但对于分布式系统，并没有一个跟清晰的概念。 分布式系统涉及到很多的技术、理论与协议，很多人也说，分布式系统是“入门容易，深入难”，我之前的学习也只算是管中窥豹，只见得其中一斑。 因此，一致希望能对分布式系统有一个更全面的认识，至少能够把分布式系统中的各个技术、理论串起来，了解他们在分布式系统分别解决什么问题，有哪些优秀的实现。 什么是分布式系统 分布式系统是由一组通过网络进行通信、为了完成共同的任务而协调工作的计算机节点组成的系统。 分布式系统的出现是为了用廉价的、普通的机器完成单个计算机无法完成的计算、存储任务。 分布式系统特性与衡量标准 透明性：使用分布式系统的用户并不关心系统是怎么实现的，也不关心读到的数据来自哪个节点。
1.2K31发布于 2019-12-01 - 来自专栏服务端技术杂谈
分布式系统分布式事务
分布式系统首先面对的问题是分布式事务 当我们采用分布式来提高系统性能时，首先面对的问题是面对和处理分布式事务。 分布式系统处理数据： 数据分区：把数据块放在不同的服务器上，采用一致性hash； 数据镜像：让所有服务器都有相同的数据，提供相同的服务； 第一种问题，单台机器出现问题，会存在数据丢失的问题。 这就是数据副本：出现某个节点的数据丢失时可以从副本读到，数据副本是分布式系统解决数据丢失的唯一手段。
1.1K81发布于 2018-04-16 - 来自专栏月梦·剑心的技术专栏
分布式系统概述
这就是分布式系统: 很多台计算机组成一个系统，协作运行大型的应用。 但是一个问题随之而来，那就是，在系统中增加了计算机之后，整个系统的性能也是随之增加的吗？可用性不随着系统的扩展而变化吗？未必。 这就引出了分布式系统的目标: 可扩展性(Scalability)。 如果一个用户不能访问系统，就称为不可用。 可用性也就是容错性，这展现出分布式系统相比于单机系统得天独厚的优势，一台计算机是没有容错性的，但是分布式系统可以在一堆不可靠的组件上构建一个可靠的系统。 后世的研究者为了绕开这个定理达成共识，不得不选择(1)将异步系统转换为同步系统 (2)使用随机性算法。 另一个不可能性定理为CAP定理，指导我们对于分布式系统性质的取舍。 Raft算法是目前最成功的分布式共识算法，是非拜占庭容错的，在分布式系统的下一篇文章，我将会写一下Raft算法。 参考文献 [1] Jay Kreps.
49130编辑于 2023-08-31 - 来自专栏个人分享
分布式系统简介
现在工作中发现大数据技术的底层还是分布式系统，那么重新拾起，总结下~ 一、分布式系统简介 分布式系统是若干独立计算机的集合，这些计算机对于用户来说就像是单个相关系统。 2、透明性 将它的进程和资源实际上在多台计算机上分布这样一个事实隐藏起来，如果一个分布式系统能够在用户和应用程序面前呈现为单个计算机系统，这样的分布式系统就称为是透明的。 位置透明性：用户无法判别资源在系统中的物理位置。 迁移透明性：如果一个分布式系统中的资源移动不会影响该资源的访问方式，就可以说这种分布式系统能够提供迁移透明性。 可移植性：如果为分布式系统A开发了某个应用程序，并且另一个分布式系统B与A具有相同的接口，该应用程序在不做任何修改的情况下在B上执行的可行度。 参考文献：《分布式系统原理与泛型》
1.8K20发布于 2018-09-06 - 来自专栏FREE SOLO
分布式系统基础
分布式系统概念 What is a Distributed System? “一个分布式系统是若干个独立的计算机的集合， 但是对该系统的用户来说， 系统就像一台计算机一样。 ” 两个方面的含义： • 硬件方面： 各个计算机都是自治的 • 软件方面： 用户将整个系统看作是一台计算机 分布式系统的特点 优点 – 与集中式系统相比较 1、 经济性： 高的性能/价格比 2、 性能： 能产生单个大型主机不能达到的绝对性能 3、 应用的固有的分布性, 例如： • CSCW • 工作流 4、 可靠性高 • 多工系统的容错能力 5、 可扩充性强 • 系统演进能力 紧耦合式： 多用于并行系统 2. 松耦合式 ： 多用于分布式系统
86310发布于 2019-04-28 - 来自专栏Java成长之路
分布式系统入门
一、什么是分布式系统？ 分布式系统是一个硬件或软件组件分布在不同的网络计算机上，彼此之间仅仅是通过消息传递进行通信和协调的系统。 首先分布式系统一定是由多个节点组成的系统，一般来说一个节点就是我们的一台计算机；然后这些节点不是孤立的，而是相互连通的；最后，这些连通的节点上部署了我们的组件，并且互相之间的操作会有协同。 二、为什么需要分布式系统？ 升级单机处理能力的性价比越来越低。 大型主机的人才培养成本非常之高，大型主机操作非常复杂，对运维人员的要求非常高。 大型主机非常昂贵。 集中式的系统具有明显的单点问题。大型主机虽然在性能和稳定性方面表现卓越，但是一旦出现了故障，那么整个系统都将处于不可用状态，其后果相当严重。 三、分布式系统基础知识 ? 四、分布式系统中有哪些难点？ 面对故障独立性：在分布式系统中，整个系统的一部分有问题而其他部分正常是经常发生的情况，我们称之为故障独立性。
1.7K30发布于 2018-09-29 - 来自专栏分布式存储
分布式图片系统
，如何保证7x24小时的高可靠性服务，在这个契机下，我们推出了分布式图片系统。 ，提高了系统的响应速度并避免了资源的重复执行，造成浪费，提高了系统利用率 图片数据源采用了多套方案实现，为使公司原有业务、新开发业务能快速使用分布式图片系统提供支持，减少了使用系统的复杂性 其中一种数据数据源采用了高性能的 TFS分布式图片存储系统，利用多个数据节点，产生同一份数据的多份冗余备份，提高了数据的安全性，为遇到故障时数据的快速恢复提供了支持 能够应对客户端日益变化的希望获取各种图片尺寸的诉求，执行即时压缩和图片处理算法 整体系统采用模块化划分，将系统分为各个部分，减少了系统的耦合性，增强了每个模块的独立性，整个系统采用分布式部署结构，防止单点结构的出现，为防止系统出现雪崩提供支持 项目的目的 a). 前端模块-Nginx 使用nginx自定义module，接收http请求，在自定义module的handler中调用分布式图片实现。
1.1K30发布于 2020-07-20 - 来自专栏Spark学习技巧
分布式系统浅谈
但如果要延伸到高并发场景下就必然要了解分布式系统： 分布式系统特点 分布式系统：一个硬件或软件组件分布在不同的网络计算机上，彼此之间仅仅通过消息传递进行通信和协调的系统 这是分布式系统，在不同的硬件，不同的软件 缺乏全局时钟 在分布式系统中，节点是可能反正任意位置的，而每个位置，每个节点都有自己的时间系统，因此在分布式系统中，很难定义两个事务纠结谁先谁后，原因就是因为缺乏一个全局的时钟序列进行控制，当然，现在这已经不是什么大问题了 如果交通警察是交通系统的指挥官，而zookeeper就是各个节点组成分布式系统的指挥官。 分布式系统问题 如果把分布式系统和平时的交通系统进行对比，哪怕再稳健的交通系统也会有交通事故，分布式系统也有很多需要攻克的问题，比如：通讯异常、网络分区、三态、节点故障等。 1. BASE理论： 即使无法做到强一致性，但分布式系统可以根据自己的业务特点，采用适当的方式来使系统达到最终的一致性； Basically Avaliable 基本可用 当分布式系统出现不可预见的故障时，
95620发布于 2021-03-05 - 来自专栏Java
浅谈分布式系统
虽然它也支持持久化功能，但其主要设计是为了在内存中操作数据 为了更好的学习Redis，我们得先了解一下分布式系统，只有在分布式系统中，才能发挥Redis的“威力”，如果只在单机程序中，可以直接通过变量来存储数据 组件（Component） 一个应用里面有多个功能 每个独立的功能 指的就是一个模块/组件 1.3 分布式（Distributed） 指的就是引入多台主机/服务器，协同完成某项工作 1.4 集群（Cluster） 指的就是引入多台主机/服务器，协同完成某项工作 分布式vs集群。 通常不⽤太严格区分两者的细微概念，细究的话，分布式强调的是物理形态，即⼯作在不同服务器上并且通过⽹络通信配合完成任务；⽽集群更在意逻辑形态，即是否为了完成特定服务⽬标。 随着后期网站访问量增长 一台主机硬件资源（CPU,内存，硬盘，网络）有限的情况下 可以选择俩种方式 1.开源 简单粗暴 增加更多的硬件资源（CPU 硬盘 ） 但主机扩容能力也是有限的 一旦引入多台主机，就是“分布式系统
32810编辑于 2024-11-20 - 来自专栏程序人生
谈谈分布式系统
今天我们先寻其最重要的一个根：分布式系统。这个题目对互联网从业者来说，看着可笑，谁敢说自己不了解分布式系统啊？ 然而，如果你只是躲在 load balancer 后面做些 stateless 的 service，而没有真正去面对分布式系统那种让人愉悦并忧伤着的不确定性，那么，你可能并不真正了解分布式系统，因而本文还是值得一读 所以在分布式系统里很多时候我们需要一致性，来确保某些东西是有序的，大家在同一个 page，否则这个系统会走入歧途。 分布式系统中的坑 上文中我们已经把分布式系统中最基本的要素过了一下。接下来我们踩踩坑。 坑一：network is reliable。 有机会再写本文没有展开讲的共识机制，它是分布式系统的基石。
1.1K100发布于 2018-03-29 - 来自专栏小白晋级大师
分布式系统架构8：分布式缓存
这是小卷对分布式系统架构学习的第11篇文章，今天了解分布式缓存的理论知识以及Redis集群。 分布式缓存也是面试常见的问题，通常面试官会问为什么要用缓存，以及用的Redis是哪种模式，用的过程中遇到哪些问题这些1. 而能够保证强一致性的 ZooKeeper、Doozerd、Etcd 等框架，吞吐量比不过Redis，通常不会用作“缓存框架”，而是作为通知、协调、队列、分布式锁等使用2.透明多级缓存TMC实际开发中，同时搭配进程内缓存和分布式缓存 ，查询以进程内缓存数据优先3.实现方案3.1 memcached缓存在服务端，memcached集群环境实际就是一个个memcached服务器的堆积cache的分布式主要是在客户端实现，通过客户端的路由处理来达到分布式解决方案的目的 如下是memcached客户端路由过程：3.2 Redis缓存与memcached客户端支持分布式方案不同，Redis更倾向于在服务端构建分布式存储以Redis集群模式为例，它没有中心节点，具有线性可伸缩的功能
70010编辑于 2025-01-20 - 来自专栏服务端技术杂谈
分布式概念-分布式系统是什么？
什么是分布式系统呢？ 从百度百科得到： 分布式系统是建立在网络之上的软件系统，拥有软件特性，所以分布式系统具有高度内聚性，和透明性。是建设于网络之上的高层软件，而不是硬件。 因为分布式系统建立在网络之上，由多个独立操作系统组成，所以分布式系统对比独立部署并运行于单一操作系统之上的软件系统来说存在要解决通信和共识等问题。 分布式系统特点 分布式系统是多个服务器通过网络互联而构建的松耦合系统，其具备以下特点： 分布式：分布式由多台计算机组成，在地域上是独立分散的，可以分散在一个单位，一个城市，一个国家，或是全球范围内 整个系统的统一功能是分散在多个节点上实现的，因而分布式系统具有数据处理的分布式特性。 自治性：分布式系统各个节点包含自己独有的cpu和内存，具备独立的处理数据能力。 分布式系统中，节点之间通信不像单机系统那样非成功即失败，我们考虑到网络不确定性带来的问题，所以分布式场景下存在“分布式三态”的概念。
6.5K11发布于 2020-02-19 - 来自专栏android技术
分布式--分布式文件系统FastDFS
大型项目中，文件服务器是很重要的角色，如果只有一台文件服务器，一旦当机，会产生很大影响，和业务服务器不同，文件服务器主要还是处理存放文件，和读取文件的功能 专用分布式文件系统是基于google File 需要专门的api对文件进行访问，也可称作分布式文件存储服务。典型代表：MogileFS、FastDFS、TFS FastDFS由国人余庆开发，在chinaunix中担任FastDFS版主。 工具类 /** * FastDFS分布式文件系统操作客户端. */ public class FastDFSClient { private static final String CONF_FILENAME
1.8K20编辑于 2022-06-19 - 来自专栏进击的程序猿
袖珍分布式系统（四）
Replication Replication 问题是分布式系统中最主要的问题，本文讨论 Replication 问题不会泛泛而谈，而是会聚焦于： leader election, failure detection 从上述过程的描述中，我们可以知道： 系统的性能由最慢的server决定 系统对于网络延迟非常敏感，意味请求返回需要等待每一个server响应请求 一旦其中一个server fail，系统将只能提供读服务 从性能角度看，因为复制是异步进行的，延迟非常小，但是系统的一致性是弱一致的，最重要的是系统无法保证数据的持久性，因为写入master的数据，可能在master复制给其他slaver的前，master就故障了 在前一章CAP理论中，我们讲过2PC是一个CA系统，其考虑的失败模型中没有考虑network partitions，一旦发送网络分区，只能终止服务，人工接入，因此现在的系统一般都会考虑使用a partition Epochs：Epochs作用类似于逻辑时钟，能够使得不同节点对当前系统状态有个统一的认知。
48720发布于 2018-08-23 - 来自专栏网络
分布式系统CAP理论
一、单实例 单机系统和显然，只能保证CP，牺牲了可用性A。单机版的MySQL，Redis，MongoDB等数据库都是这种模式。 这里，先介绍一下类Dynamo系统用于控制分布式存储系统中的一致性级别的策略--NWR： *N：同一份数据的副本个数 *W：写操作需要确保成功的副本个数 *R：读操作需要读取的副本个数 当W+R>N时， 由于读写操作覆盖到的副本集肯定会有交集，读操作只要比较副本集数据的修改时间或者版本号即可选出最新的，所以系统是强一致性的；反之，当W+R 如：(N,W,R)=(1,1,1)为单机系统，是强一致性的；(N 同上分析，采用不同的数据同步策略，系统CAP保证各有不同。不过，一般数据库系统都会提供可选的配置，我们根据不同的场景选择不同的特性。 五、总结 基本上，上面讨论的几种方式已经涵盖了大多数的分布式存储系统了。我们可以看到，这些个方案总是需要通过牺牲一部分去换取另一部分，总没法达到100%的CAP。
1.1K70发布于 2018-01-15 - 来自专栏技术一号位指南(小诚信驿站)
系统设计：分布式系统的关键特性
分布式系统的关键特性包括可伸缩性、可靠性、可用性、效率和可管理性。让我们简单回顾一下 可伸缩性（包括可扩展性） 可伸缩性是系统、进程或网络增长和管理不断增长的需求的能力。 简单地说，如果一个分布式系统在一个或多个软件或硬件组件出现故障时仍能提供服务，那么它就被认为是可靠的。 可靠性代表了任何分布式系统的主要特征之一，因为在这样的系统中，任何出现故障的机器都可以被另一台正常的机器替换，从而确保完成所请求的任务。 效率 为了理解如何度量分布式系统的效率，假设我们有一个以分布式方式运行的操作，并作为结果交付一组项。 例如，当系统发生系统故障时，某些企业系统可以自动呼叫服务中心（无需人工干预）。 一个好的分布式系统，最基础的几个关键特征如上所述，思考下你的系统是否是好的分布式系统呢？
2.5K141发布于 2021-06-17 - 来自专栏知一杂谈
分布式系统常用指标
存储系统中有两种扩展方式： Scale Out（也就是Scale horizontally）横向扩展，比如在原有系统中新增一台服务器。 Partition tolerance 分区容错性） BASE 基本可用（Basically Available） 软状态（Soft State） 最终一致（Eventually Consistent） 分布式一致性协议
43110编辑于 2021-12-07 - 来自专栏鸿的学习笔记
简单聊聊分布式系统
这是 Martin Kleppmann 博士的《分布式系统》课程第一篇笔记。 分布式系统其实是一个比较简单的概念，没有那么玄乎。 只要包括了这三点，就可以认为这个系统是一个分布式系统了。 那么为什么需要一个分布式系统呢？ 对于很多情况而言，系统天然就是分布式的，比如朋友之间互相打电话，这种情况下就必须使用网络去传递消息了。 当然分布式系统也不是能解决所有问题，它自身也面临着机器增多所带来的系统复杂性的成倍增长。 更何况，如果仅仅因为系统内部发生的很小的问题，导致整个系统不可用，那和使用一台机器处理事情又有何区别呢？ 因此对于一个分布式系统而言，单单是保证其系统的可靠性就面临着非常大的挑战。 而这就是Martin Kleppmann 博士的《分布式系统》课程后面所要讨论的问题了。
46220发布于 2021-04-08 - 来自专栏暴走大数据
聊聊分布式系统架构
一、分布式系统的经典基础理论 1、分布式系统设计的两大思路：中心化和去中心化 中心化：中心化的设计思想在自然界和人类生活中是如此的普遍和自然，它的设计思想也很简单，分布式集群中的节点按照角色分工，可以分为两种角色 实际上分区容错性是分布式系统的固有属性，所以基本上我们在设计分布式系统的时候只能二选一：要数据一致性（C）还是系统可用性（A）？ 4、分布式系统的关键Zookeeper 目标是解决分布式系统的几个问题：集群集中化配置，集群节点动态发现机制，简单可靠的节点Leader选举机制，分布式锁。 二、分布式系统架构的主要内容 分布式系统架构的主要内容包括： RPC和对象序列化 分布式内存缓存技术、分布式内存计算 分布式存储 分布式计算 全文检索 消息队列 容器 1、RPC和对象序列化 RPC设计的初衷是设计一套远程通信的通用框架 如果一个分布式系统具备如下特点，则可以称之为“微服务架构”：1、任何一个服务都由多个独立的进程提供服务，这些进程可以分布在多台物理机上，任何进程宕机都不会影响系统提供服务；2、整个系统是由多个微服务有机组成的一个分布式系统
1.6K30发布于 2019-09-04
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号