首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏云计算技术笔记

    可用技术概述

    算机系统可用技术的基本概念。 前言 在分析可用技术前,我们需要先对一些概念进行说明,先从相关的词语开始。 系统 系统,即若干部分相互联系、相互作用,形成的具有某些功能的整体。 可用 如果生态系统受到过于大的破坏,会崩溃。计算机系统也是如此,我们做的就是提升抗风险的能力,避免系统崩溃。 可用技术就是为了对抗这些风险。 本文只讨论应对外部风险的可用技术,不考虑内部风险。内部风险是另一个话题。 容灾 提高可用性的本质是冗余,具体的实现方案会有不同,但目的都是降低不可用的时长。 从发现灾难到故障转移,多少会有一段时间被计入不可用时长。但随着技术发展,故障时长已经被降低到秒级。 更多分析请看自动灾备技术分析。 容错 容错指的是系统可以容忍局部的错误存在。 如果一个分片瘫痪了,对于这个分片的用户来说,系统不可用。所以分片不属于可用技术。 总结 可用的本质是减少系统不能提供服务的时间。 灾备和容错,主要区别是是否需要立刻故障转移。

    45620编辑于 2022-09-07
  • 来自专栏linux技术分享

    mysql 可用技术

    网络故障,默认manager是单一心跳检测 读写分离 可以把读的压力分担到从库 proxysql 在应用程序和数据库之间加了一层代理可以把流量转发 在互联网企业读写一般是73分读的请求比较大 一般配合可用一起用 mysql -uroot -p123 -P 6033 -h 127.0.0.1 -e "begin;select @@server_id;commit" mysql ionndb cluster mha可用技术前端会配合 nginx+php+mysql 2 nginx+php拆分mysql 3访问量上来了 有多套应用连接一套数据库(使用的仍然是一套库) nginx+php=mysql nginx+php=mysql 4做可用架构 mha读写分离 主库提供写入,从库提供读取 5演变单业务单数据库服务(垂直拆分) 应用端拆分不同服务,有不同数据库服务 逻辑拆分 6单业务变得非常,基于每个业务拆分数据库的热表,每个热表拆分到多个库中 前面加个mycat/shardingjdbc 应用层和数据库之间加入 这种技术检查基于表的垂直拆分 如果单表,较大可以把单表拆分多份,分布到不同的数据库实例(基于表的水平拆分) 维护难度较大,分片较多

    1.8K31编辑于 2022-03-28
  • 来自专栏流川疯编写程序的艺术

    技术调研----OpenResty可用技术初步探索

    __biz=MzAxNzMwOTQ0NA==&mid=2653355281&idx=3&sn=73f965e2db44e5e156b0e5a98f2af2b8&chksm=8035d77ab7425e6c34c661410fa5626cc552761828bca36ac9e871da2121e215c3dbcdf1b460

    81330发布于 2019-03-15
  • 来自专栏Java技术栈

    可用并发的 9 种技术架构!

    2、冗余 网站需要7×24小时连续运行,那么就得有相应的冗余机制,以防某台机器宕掉时无法访问,而冗余则可以通过部署至少两台服务器构成一个集群实现服务可用。数据库除了定期备份还需要实现冷热备份。 具体实现则在单一服务器内部可用通过多线程共享内存对了的方式处理;在分布式系统中可用通过分布式消息队列来实现异步。 异步架构的典型就是生产者消费者方式,两者不存在直接调用。 5、分布式 对于大型网站,分层和分隔的一个主要目的是为了切分后的模块便于分布式部署,即将不同模块部署在不同的服务器上,通过远程调用协同工作。 -END- 不错,转发分享一下吧 往期推荐 【1】京东购物车的 Java 架构实现及原理 【2】分布式作业 Elastic-Job 从理论到实战 【3】《阿里技术参考图册》发布,速度收藏 【4】最新后端架构师技术图谱 附学习资料 【5】Java中的基本数据类型转换详解

    66050发布于 2018-07-31
  • 来自专栏平凡文摘

    可用并发的 9 种技术架构!

    所以虽然分层架构模式最初的目的是规划软件清晰的逻辑结构以便于开发维护,但在网站的发展过程中,分层结构对网站支持并发向分布式方向的发展至关重要。 ? 2、冗余 网站需要7×24小时连续运行,那么就得有相应的冗余机制,以防某台机器宕掉时无法访问,而冗余则可以通过部署至少两台服务器构成一个集群实现服务可用。数据库除了定期备份还需要实现冷热备份。 具体实现则在单一服务器内部可用通过多线程共享内存对了的方式处理;在分布式系统中可用通过分布式消息队列来实现异步。 异步架构的典型就是生产者消费者方式,两者不存在直接调用。 5、分布式 对于大型网站,分层和分隔的一个主要目的是为了切分后的模块便于分布式部署,即将不同模块部署在不同的服务器上,通过远程调用协同工作。 -END- 不错,转发分享一下吧 转载声明:本文转载自「Java技术栈」

    76750发布于 2018-07-03
  • 来自专栏架构随笔录

    电商交易并发和可用技术(一)

    解决这个场景的并发技术可用技术如下: 1.可用架构技术 隔离技术: 线程隔离,交易请求网关肯定不止交易这一个业务接口,还有一些非核心业务接口,那么整个系统区分核心线程池和非核心线程池,在内存和系统核心数足够大的情况下 进程隔离,系统拆分 集群隔离,单实例无法满足交易业务,需要服务化技术,通过部署多个服务形成服务集群,提升系统容量,交易系统集群和其他非核心业务集群隔离 还可以在核心交易业务加一层网关服务集群部署,专门用于派发交易请求 热点隔离,热点就意味着并发,在并发的场景下,要保证可用性,就必须隔离热点请求,快速的削峰。 目的是用来隔离分布式服务故障,提供线程和信号量隔离,以减少不同服务之间的资源竞争带来的相互影响,提供优雅降级机制,提供熔断机制让服务交易接口快速的失败,而不是一直阻塞,Hystrix可以阻止级联失败并保证系统弹性、和可用性 2.并发架构技术 缓存为王,队列也为王,10000个并发请求入分布式缓存队列(redis)或者mq(核心系统mq集群,做到核心业务和非核心业务集群隔离),商品库存1000预存入redis,库存扣减都走

    1.3K30发布于 2020-02-24
  • 来自专栏RocketMQ原理与应用

    RocketMQ原理—5.可用+并发+高性能架构

    模式的主从复制原理6.Broker层面到底如何做到数据0丢失7.数据0丢失与写入并发的取舍8.RocketMQ读写分离主从漂移设计9.RocketMQ为什么采取惰性读写分离模式10.Broker数据与服务是否都实现可用了 10.Broker数据与服务是否都实现可用了(1)RocketMQ4.5.0之前(2)RocketMQ4.5.0之后(1)RocketMQ4.5.0之前Broker主节点崩溃后,是没有可用主从切换机制的 此外主节点崩溃后,从节点可能存在有些最新的数据没来得及同步过来,出现数据丢失的问题,所以数据和服务没有实现可用。 (2)RocketMQ4.5.0之后实现了主从同步 + 主从切换的可用机制,保证数据和服务都是可用的。 这样一个Broker主节点 + 一个Broker从节点,依然可以满足Raft协议,继续提供写服务和保证数据及服务的可用

    74700编辑于 2025-04-06
  • 来自专栏闲余说

    架构设计 5-可用架构之高可用存储架构

    本文为第五部分,主要介绍可用存储架构,分别介绍了双机架构和集群架构以及各种具体方案的优缺点和应用场景。 场景 主备复制是最常见也是最简单的一种存储可用方案,几乎所有的存储系统都提供了主备复制的功能,例如 MySQL、Redis、MongoDB 等 主从复制 主机负责读写操作,从机只负责读操作,不负责写操作 缺点 虽然中介式架构在状态传递和状态决策上更加简单,但并不意味着这种优点是没有代价的,其关键代价就在于如何实现中介本身的可用。 ZooKeeper 本身已经实现了可用集群架构,因此已经帮我们解决了中介本身的可靠性问题,在工程实践中推荐基于 ZooKeeper 搭建中介式切换架构。 数据集中集群架构中,客户端只能将数据写到主机;数据分散集群架构中,客户端可以向任意服务器中读写数据 场景 数据集中集群适合数据量不大,集群机器数量不多的场景:ZooKeeper 集群,一般推荐 5 台机器左右

    72820编辑于 2022-08-19
  • 来自专栏活动盒子

    9种高性能可用并发的技术架构

    所谓网站架构模式即为了解决大型网站面临的并发访问、海量数据、可靠运行等一系列问题与挑战。 为此,在实践中提出了许多解决方案,以实现独立商城网站建设高性能、高可靠性、易伸缩、可扩展、安全等各种网上电子商城技术架构目标。 2、冗余 网站需要7×24小时连续运行,那么就得有相应的冗余机制,以防某台机器宕掉时无法访问,而冗余则可以通过部署至少两台服务器构成一个集群实现服务可用。数据库除了定期备份还需要实现冷热备份。 具体实现则在单一服务器内部可用通过多线程共享内存的方式处理;在分布式系统中可用通过分布式消息队列来实现异步。 异步架构的典型就是生产者消费者方式,两者不存在直接调用。 5、分布式 对于大型网站,分层和分隔的一个主要目的是为了切分后的模块便于分布式部署,即将不同模块部署在不同的服务器上,通过远程调用协同工作。

    2K30发布于 2019-04-18
  • 来自专栏Hadoop数据仓库

    HAWQ技术解析(十四) —— 可用

    一、HAWQ可用简介         HAWQ作为一个传统数仓在Hadoop上的替代品,其可用性至关重要。通常硬件容错、HAWQ HA、HDFS HA是保持系统可用时需要考虑并实施的三个层次。 总的来说,HAWQ容错可用的实现方式包括: 硬件冗余 master镜像 双集群 1. 2. master镜像         可用集群中的master节点有两个,一个主一个从。 三、HAWQ文件空间与HDFS可用         如果在初始化HAWQ时没有启用HDFS的可用性,可以使用下面的过程启用它。 配置HDFS集群可用性。 收集目标文件空间的信息。 这个向导描述了配置NameNode可用必须执行的自动和手工步骤。

    1.9K100发布于 2018-01-03
  • 来自专栏huofo's blog

    5、pgpool-II可用性(一)数据库的可用

    官网示例 一、实现原理 使用 pgpool-II 软件;我们常用来实现流复制的可用性;备库只读的,不可写;就是当主库出现问题时;需要把备库自动激活为主库;来接管服务。 这在其他可用软件也有这功能,而 pgpool-II 在配置文件 pgpool.conf 中提供配置项 failover_command 。让用户配置一个脚本,当发生故障切换时,执行该脚本。 演练目的: 搭建 pgpool 集群 测试数据库的可用性 修复 primary 节点重新加入集群 2.1、环境规划 1、PostgreSQL库的IP/Port规划 主机名 角色 ip 端口 数据目录 #2 pg_md5 生成配置的用户名密码是 pgpool123 [postgres@node3 etc]$ pg_md5 pgpool123 fa039bd52c3b2090d86b0904021a5e33                  |                   |                         | 2020-12-01 14:38:09 (2 rows) 2.4、测试可用

    2.6K20编辑于 2022-03-18
  • 来自专栏Java开发者

    Redis 5 之后版本的可用集群搭建

    Redis 5.0之后版本的可用集群搭建 Redis系统介绍: Redis的基础介绍与安装使用步骤:https://www.jianshu.com/p/2a23257af57b Redis的基础数据结构与使用 :https://www.jianshu.com/p/c95c8450c5b6 Redis核心原理:https://www.jianshu.com/p/4e6b7809e10a Redis 5 之后版本的可用集群搭建 :https://www.jianshu.com/p/8045b92fafb2 Redis 5 版本的可用集群的水平扩展:https://www.jianshu.com/p/6355d0827aea 10.png 可用集群模式: redis集群是一个由多个主从节点群组成的分布式服务器群,它具有复制、可用和分片特性。Redis集群不需要sentinel哨兵也能完成节点移除和故障转移的功能。 redis集群的性能和可用性均优于之前版本的哨兵模式,且集群配置非常简单。 ?

    1.7K30发布于 2019-04-11
  • 来自专栏技术杂记

    Mycat HA(可用) 与 LB(负载均衡)5

    HAProxy 和 下载地址,可能会被墙,所以准备好VPN或代理 解压 [root@h101 haproxy]# ls haproxy-1.6.3.tar.gz [root@h101 haproxy]# md5sum root 4096 Dec 27 22:04 contrib -rw-rw-r-- 1 root root 36238 Dec 27 22:04 CONTRIBUTING drwxrwxr-x 5

    44020发布于 2021-12-02
  • 来自专栏全栈程序员必看

    rabbitmq可用集群搭建_mongodb可用架构

    RabbitMQ 可用集群搭建 1 集群简介 1.1 集群架构 ​ 当单台 RabbitMQ 服务器的处理消息的能力达到瓶颈时,此时可以通过 RabbitMQ 集群来进行扩展,从而达到提升吞吐量的目的 一个可用,负载均衡的 RabbitMQ 集群架构应类似下图: 这里对上面的集群架构做一下解释说明: ​ 首先一个基本的 RabbitMQ 集群不是可用的,虽然集群共享队列,但在默认情况下,消息只会被路由到某一个节点的符合条件的队列上 retries 3 # 每个进程可用的最大连接数 maxconn 2000 # 连接超时 timeout connect 5s # 客户端超时 秒进行一次健康检查,如果连续两次的检查结果都是正常,则认为该节点可用,此时可以将客户端的请求轮询到该节点上;如果连续 3 次的检查结果都不正常,则认为该节点不可用。 juejin.im/post/6844904071183220749 RabbitMQ 官方文档 —— 集群指南:www.rabbitmq.com/clustering.… RabbitMQ 官方文档 —— 可用镜像队列

    3K10编辑于 2022-09-30
  • 来自专栏后台技术底层理解

    redis并发可用

    redis 可用,如果是做主从架构部署,那么加上哨兵就可以了,就可以实现,任何一个实例宕机,可以进行主备切换。 所以就有了几个问题? 什么是主从架构,主从如何备份? 哨兵用于实现 redis 集群的可用,本身也是分布式的,作为一个哨兵集群去运行,互相协同工作。 哨兵 + redis 主从的部署架构,是不保证数据零丢失的,只能保证 redis 集群的可用性。 ==怎么保证redis是并发以及可用的==? sdown 和 odown 转换机制 sdown 是主观宕机,就一个哨兵如果自己觉得一个 master 宕机了,那么就是主观宕机。 但是如果 quorum >= majority,那么必须 quorum 数量的哨兵都授权,比如 5 个哨兵,quorum 是 5,那么必须 5 个哨兵都同意授权,才能执行切换。

    3.2K10发布于 2020-08-04
  • 来自专栏SY小站的专栏

    ingress可用

    F5 BIG-IP Controller: F5 所开发的 Controller,它能够让管理员通过 CLI 或 API 让 Kubernetes 与 OpenShift 管理 F5 BIG-IP 设备 kube-proxy转发到Ingress Controller的pod上,多走一趟路 4、不创建svc,效率最高,也能四层负载的时候不修改pod的template,唯一要注意的是`hostNetwork: true 可用选择第四种 ,采用deploy设置replicas数量 + nodeSeletor + pod互斥,我们的例子只部署了单节点,生产上的话还需前面加上F5或者vip。

    2.5K30发布于 2020-06-15
  • 来自专栏Java周某人

    Redis可用技术解决方案总结分析

    Redis可用技术解决方案总结分析 本文主要针对Redis常见的几种使用方式及其优缺点展开分析。 缺点: 不保证数据的可靠性; 在缓存使用,进程重启后,数据丢失,即使有备用的节点解决可用性,但是仍然不能解决缓存预热问题,因此不适用于数据可靠性要求的业务; 高性能受限于单核CPU的处理能力(Redis 优点: 无中心架构; 数据按照slot存储分布在多个节点,节点间数据共享,可动态调整数据分布; 可扩展性:可线性扩展到1000多个节点,节点可动态添加或删除; 可用性:部分节点不可用时,集群仍可用5、Redis自研 Redis自研的可用解决方案,主要体现在配置中心、故障探测和failover的处理机制上,通常需要根据企业业务的实际线上环境来定制化。 优点: 高可靠性、可用性; 自主可控性; 贴切业务实际需求,可缩性好,兼容性好。

    78000发布于 2019-08-05
  • 来自专栏Java周某人

    Redis可用技术解决方案总结分析

    Redis可用技术解决方案总结分析 本文主要针对Redis常见的几种使用方式及其优缺点展开分析。 缺点: 不保证数据的可靠性; 在缓存使用,进程重启后,数据丢失,即使有备用的节点解决可用性,但是仍然不能解决缓存预热问题,因此不适用于数据可靠性要求的业务; 高性能受限于单核CPU的处理能力(Redis 优点: 无中心架构; 数据按照slot存储分布在多个节点,节点间数据共享,可动态调整数据分布; 可扩展性:可线性扩展到1000多个节点,节点可动态添加或删除; 可用性:部分节点不可用时,集群仍可用5、Redis自研 Redis自研的可用解决方案,主要体现在配置中心、故障探测和failover的处理机制上,通常需要根据企业业务的实际线上环境来定制化。 优点: 高可靠性、可用性; 自主可控性; 贴切业务实际需求,可缩性好,兼容性好。

    1K00发布于 2019-08-05
  • 来自专栏写代码和思考

    可用 - 简述

    背景 本文记录一些可用的内容,和数据库在可用方面的演进过程。 1. 概念 可用性: 即软件系统在一段时间内提供 有用资源 的能力。 可用性 % 停机时间/分钟 停机时间/年 供应商术语 90 52,560.00 36.5 天 一个9 99 5,256.00 4 天 两个9 99.9 525.60 8.8 小时 三个9 99.99 52.56 常见的互联网分布式架构是: 前端 ---> 反向代理 --> WEB应用 --> 服务 --> 数据库(及缓存) 其中,可用可涉及到上面每个节点的可用保障,我们看下数据的可用架构的演变过程。 然后在集群前添加某种路由技术,将客户端定向到正确的节点上。 ? 分片 通过分片可以在多台计算机之间分配工作负载,提高吞吐量,并通过容忍更多的部分故障来获得更大的弹性。 5.

    2.1K10发布于 2020-05-08
  • 来自专栏问天丶天问

    SkyWalking 可用

    生产环境中,后端应用需要支持吞吐量并且支持可用来保证服务的稳定,因此需要高可用集群管理。 可用需要: 至少一个 Nacos(可以是nacos集群) 至少一个 ElasticSearch / mysql(可以是es/msql集群) 至少2个skywalking oap服务; 至少1个UI(UI

    47110编辑于 2024-10-03
领券