首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏开源部署

    Sqoop:容错

    Sqoop本身的容错依赖于Hadoop,这里我们focus在Sqoop传输任务失败的处理,确切的说,focus在Sqoop如何解决传输任务失败引发的数据一致性问题 对于一个传输任务,将数据从A传输到B,

    68310编辑于 2022-06-29
  • 来自专栏从码农的全世界路过

    容错处理

    常见的容错机制一般有四种:fail-fast, fail-safe, fail-over, fail-back. 1.fail-fast 快速失败 fail-fast即为快速失败机制是Java集合中的一种保护机制

    66550编辑于 2022-06-27
  • 来自专栏开源部署

    实现路由容错

    1、实现路由容错 通过路由可以定义已知的规则,但不可能考虑到所有用户的所有请求,而且路由设计可能存在变更,网络等基础设施可能产生错误,所以需要进行路由容错。 路由容错主要通过未定义的路由和路由熔断来实现。 其包含多种默认方法来将Predicate组合成复杂的路由逻辑 spring.cloud.gateway.routes[0].predicates[0]=Path=/hello 2.2、编写路由容错控制器 eureka.client.service-url.defaultZone=http://eureka01:50025/eureka/,http://eureka02:50026//eureka/ 3.3、编写路由容错控制器

    93220编辑于 2022-09-15
  • 来自专栏互联网大杂烩

    拜占庭容错机制

    Client会发送一系列请求给各个replicas节点来执行相应的操作,BFT算法保证所有正常的replicas节点执行相同序列的操作。因为所有的replicas节点都是deterministic,而且初始状态都相同,根据状态机原理(state machine replication),这些replicas会产生相同的结果状态。当Client收到f+1个replicas节点返回的结果时,如果这些结果都一样,因为BFT算法确保了最多有f个replicas出现问题,所以至少有一个replicas是正确的,那么Client收到的这些结果都是正确的。

    1K20发布于 2018-08-22
  • 来自专栏飞鸟的专栏

    弹性和容错

    弹性和容错是微服务架构中非常重要的两个方面,它们能够保证系统在面对各种异常和故障时仍能正常运行,并且能够快速恢复正常状态。在本文中,我们将详细介绍弹性和容错的概念、原理和实现方式。 1.3 弹性容错弹性容错指系统能够自动检测和处理各种异常和故障,以保证系统的可靠性和可用性。例如,系统可以自动切换到备用服务、自动恢复故障服务、自动重试失败请求等,以应对不同的异常情况和故障状况。 容错容错是指系统在面对各种异常和故障时,能够保证系统的可靠性和可用性。容错包括以下几个方面:2.1 异常处理异常处理指系统能够正确处理各种异常情况,避免系统崩溃或数据丢失。 实现方式弹性和容错的实现方式有很多种,其中比较常用的包括以下几个方面:3.1 负载均衡负载均衡是指将流量和请求分摊到不同的服务实例或节点上,以避免单点故障和流量瓶颈。

    1.4K31编辑于 2023-04-08
  • YashanDB容错机制

    容错机制是确保系统稳定性和数据一致性的关键要素。下面是 YashanDB 容错机制的详细解析:1. 数据冗余与副本YashanDB 使用数据副本机制来确保数据的高可用性。 在容错时,分布式事务机制能确保数据在不同副本之间的一致性,即使某个节点发生故障,也能够保证事务的原子性。 这些日志不仅有助于故障排查,也有助于系统恢复和容错机制的优化。- 操作日志:记录每一次数据库操作,便于故障追踪和数据恢复。- 审计日志:记录数据库的安全操作,确保系统在容错时不被恶意破坏。 总结YashanDB 的容错机制涉及到多个方面,包括数据冗余、自动故障转移、分布式事务、一致性恢复、异地容灾、监控告警等。 通过这些机制,YashanDB 能够确保在系统出现故障时快速恢复并维持高可用性,从而提升整个系统的稳定性和容错能力。

    15010编辑于 2025-10-19
  • 来自专栏移动端周边技术扩展

    拜占庭容错算法

    拜占庭容错算法不需要发行加密货币,但是只能用于私有链或者联盟链,需要对节点的加入进行权限控制;不能用于公有链,因为公有链中所有节点都可以随意加入退出,无法抵挡女巫攻击(sybil attack) 安全性

    82130发布于 2018-10-10
  • 来自专栏石头岛

    集群容错模式

    这种模式称为快速失败模式,调用只执行一次,失败则立即报错。这种模式适用于非幂等性操作,每次调用的副作用是不同的,如写操作,比如交易系统我们要下订单,如果一次失败就应该让它失败,通常由服务消费方控制是否重新发起下订单操作请求(另一个新的订单)。 -Failsafe Cluster模式 失败安全模式,如果调用失败, 则直接忽略失败的调用,而是要记录下失败的调用到日志文件,以便后续审计。

    30840编辑于 2023-10-23
  • 来自专栏行者悟空

    Spark的容错机制

    容错体系概述 Spark以前的集群容错处理模型,像MapReduce,将计算转换为一个有向无环图(DAG)的任务集合,这样可以通过重复执行DAG里的一部分任务来完成容错恢复。 但是由于主要的数据存储在分布式文件系统中,没有提供其他存储的概念,容错过程需要在网络上进行数据复制,从而增加了大量的消耗。 对于窄依赖,只需要通过重新计算丢失的那一块数据来恢复,容错成本较小。但如果是宽依赖,则当容错重算分区时,因为父分区数据只有一部分是需要重算子分区的,其余数据重算就造成了冗余计算。 在有些场景的应用中,容错会更复杂,比如计费服务等,要求零丢失。还有在Spark支持的Streaming计算的应用场景中,系统的上游不断产生数据,容错过程可能造成数据丢失。 Master节点失效 Spark Master的容错分为两种情况:Standalone集群模式和单点模式。

    2.4K40发布于 2018-06-22
  • 来自专栏Java学习录

    服务容错Hystrix

    Hystrix是一个实现断路器模式的库。什么是断路器模式呢?就像我们家庭中的电闸一样,如果有那一处出现意外,那么电闸就会立刻跳闸来防止因为这一处意外而引起更大的事故,直到我们确认处理完那一处意外后才可以再打开电闸。而Hystrix的存在就是为了预防程序中出现这种问题而导致程序不可用的情况。

    60400发布于 2019-04-18
  • 来自专栏Java编程技术

    Dubbo剖析-集群容错

    dubbo中当服务消费方调用服务提供方的服务出现错误时候,提供了多种容错方案,缺省为 failover 重试。 二、Dubbo集群容错模式 Failover Cluster 重试。 通常用于通知所有提供者更新缓存或日志等本地资源信息 三、原理 3.1何时加载集群容错扩展实现类 ? image.png 3.2 FailoverClusterInvoker原理 ? image.png 四、总结 dubbo本身提供了丰富的集群容错模式,如果您有定制化需求,可以根据dubbo提供的扩展接口进行定制。

    83910发布于 2018-09-06
  • 来自专栏全栈程序员必看

    Kafka容错性测试

    杀死broker2模拟容错 [hadoop@hadoop000 tmp]$ kill -9 3310 #领导权已切换到关注者之一,并且节点2不再位于同步副本集中: [hadoop@hadoop000 broker-list hadoop000:9093,hadoop000:9094,hadoop000:9095 --topic my-replicated-topic hello 至此说明 Kafka的容错性是完全有保障的

    37330编辑于 2022-09-15
  • 来自专栏维C果糖

    Akka 指南 之「容错

    文章目录 容错 依赖 简介 实践中的故障处理 创建监督策略 默认监督策略 停止监督策略 记录 Actor 的失败 顶级 Actor 的监督者 测试应用 容错 依赖 容错(fault tolerance

    1.1K30发布于 2019-05-26
  • 来自专栏愿天堂没有BUG(公众号同名)

    大牛带你深入解读微服务容错与隔离:SpringCloudHystrix容错框架

    本文给大家讲解的内容是SpringCloudHystrix容错框架; Spring Cloud Hystrix容错框架 Hystrix中文名称为“豪猪”,平时性情温顺,在感受到危险时,用浑身长满的刺来保护自己 Hystrix同样是Netflix开源的一个分布式系统容错框架。 Spring Cloud将Hystrix的容错组件进行了自动化配置,在SpringCloud微服务架构中可以通过注解机制实现Hystrix与不同组件模块的联合使用,实现请求调用的容错处理。 fallback 3.异步Command,异步fallback 注意:异步fallbackMethod这里必须加@HystrixCommand注解,否则运行时会报错: 本文给大家讲解的内容是微服务容错与隔离 :SpringCloudHystrix容错框架 下篇文章给大家讲解的内容是微服务容错与隔离:Hystrix的核心工作原理 觉得文章不错的朋友可以转发此文关注小编; 感谢大家的支持!

    66420编辑于 2022-10-28
  • 来自专栏LhWorld哥陪你聊算法

    【Storm篇】--Storm 容错机制

    一、前述 Storm容错机制相比其他的大数据组件做的非常不错。 二、具体原因 结合Storm集群架构图: ? 我们的程序提交流程如下: ? 三、容错机制 从以下三个方面考虑: 1、集群节点宕机(集群角度) Nimbus服务器 单点故障时可以添加报警,但程序银镜加载到内存中运行了。

    1.3K40发布于 2018-09-13
  • 来自专栏温安适的blog

    Dubbo 注册,调用,通信,容错

    Transport#bind NettyTransporter 2个版本,一般使用的是4的那个版本 内部创建nettyServer,使用AbstractServer#send 委托Channel 发送消息 容错 集群容错 cluster配置+重试retries @DubboReference说明 cluster配置 项 failover 一个提供者不行,尝试下一个 failfast 提供者失败,抛出异常 failsafe

    30710编辑于 2023-10-16
  • 来自专栏互联网杂技

    产品容错性设计原则

    一、容错性概念及重要性 对于容错性,大家可能不太清楚是什么概念,但当提到可用性时,那么大部分设计师都会比较熟悉这个词的含义。 容错性其实就是可用性之中细分的一个模块,是专门针对出错的研究。 容错性的定义为: 容错性是产品对错误操作的承载性能,即一个产品操作时出现错误的概率和错误出现后得到解决的概率和效率。 容错性最初应用于计算机领域,它的存在能保证系统在故障存在的情况下不失效,仍然正常工作。产品容错性设计能使产品与人的交流或人与人借助产品的交流更加流畅。 由此可见,容错性设计原则是非常重要的,尤其是对于2C类或即时服务类(如铁路购票网站)产品/系统。

    1.9K90发布于 2018-04-03
  • 来自专栏JAVA烂猪皮

    Dubbo:集群容错的实现

    今天我们再来看另一个集群组件的实现:集群容错。 1:dubbo 集群容错简介 为了避免单点故障,现在的应用通常至少会部署在两台服务器上。对于一些负载比较高的服务,会部署更多的服务器。 它们之间的依赖关系如下: 负载均衡、路由服务是在一次调用中进行的,而容错则是当调用发生异常之后,进行处理策略。 return null; } } } 接下来,我们详细看看,每个集群容错策略都是如何创建的。 具体集群容错的实现 failover, 失败自动切换。这是dubbo的默认集群容错策略,因为它是一个比较通用的策略,即只需做重试即可,保证高可用。 dubbo的集群容错实现中,使用了 模板方式模式,责任链模式,工厂模式,代理模式,使得各个容错的实现显得相当简洁明了和简单容易。这就是优秀框架的特性吧。

    1.2K30编辑于 2022-12-16
  • 来自专栏爱撸猫的杰

    Dubbo的容错机制原理

    一 选择集群容错方式  集群容错机制是交由 org.apache.dubbo.rpc.cluster.Cluster 接口的子类处理,为了清楚该接口有哪些扩展类,不妨打开该类的 Dubbo SPI 配置文件 二 前置动作  集群容错真正发生在消费端。当消费端发起调用时,会先从服务目录查询满足需求的服务提供者信息,在此基础上进行路由,路由后的结果才会真正进行容错处理。 所以,就会有如下的活动图: 三 容错机制原理 3.1 Failover Cluster  失败自动切换机制是由 FailoverClusterInvoker 类控制。 默认配置下,Dubbo 会使用这种机制作为缺省集群容错机制。下图展示了 Failover Cluster 机制的工作原理。  如上,首先是获取重试次数,然后根据重试次数进行循环调用,失败后进行重试。 TODO  其他的容错机制原理待补充。

    98010发布于 2021-03-09
  • 来自专栏Albert陈凯

    3.5 容错机制及依赖

    3.5 容错机制及依赖 一般而言,对于分布式系统,数据集的容错性通常有两种方式: 1)数据检查点(在Spark中对应Checkpoint机制)。 3.5.1 Lineage(血统)机制 每个RDD除了包含分区信息外,还包含它从父辈RDD变换过来的步骤,以及如何重建某一块数据的信息,因此RDD的这种容错机制又称“血统”(Lineage)容错。 RDD在Lineage容错方面采用如下两种依赖来保证容错方面的性能: ❑ 窄依赖(Narrow Dependeny):窄依赖是指父RDD的每一个分区最多被一个子RDD的分区所用,表现为一个父RDD的分区对应于一个子 可见Spark在容错性方面要求对于不同依赖关系要采取不同的任务调度机制和容错恢复机制。 这种做法是为了通过lineage血统做容错的辅助,lineage过长会造成容错成本过高,这样就不如在中间阶段做检查点容错,如果之后有节点出现问题而丢失分区,从做检查点的RDD开始重做Lineage,就会减少开销

    1.2K70发布于 2018-04-04
领券