首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 知识地图--存储

    学习分布式存储系统中的 存储(Block Storage), 是进入云原生、分布式数据库、虚拟化存储领域的关键一环,但是掌握存储需要什么技能,该怎么学习呢? 分布式存储系统架构 核心组成:Client、Metadata Server、Storage Node 数据路径:读写流程、负载均衡、失败恢复 元数据存储与定位:RADOS/Ceph、TiKV、etcd 4. 数据压缩与去重 LZ4、ZSTD、Snappy Chunking、Hash Index、Fingerprinting unsetunset四、典型分布式存储系统研究unsetunset 系统 特点 学习建议 基于分布式对象存储、QEMU 集成 研究其一致性和复制机制 SAN/NAS 对比 vs 文件存储 理解 iSCSI、NFS 协议及其适用场景 SPDK 用户态高性能 IO 框架 深入理解轮询线程模型和

    34610编辑于 2025-07-02
  • 来自专栏玖叁叁

    文件存储存储、对象存储区别(一)

    在计算机系统中,存储是指将数据保存在持久化介质上,以便以后访问和使用。不同类型的应用程序可能需要不同类型的存储,以满足其特定的需求。 文件存储文件存储是一种基于文件系统的存储方式,将数据保存在文件中,这些文件可以被多个应用程序并发地访问。 这种存储方式通常用于需要读取和写入整个文件的应用程序,如文档管理、图片、视频、音乐等文件存储和共享等应用。文件存储通常由一个共享存储设备提供,多个计算机可以通过网络访问该设备中的文件。 其中,共享存储设备可以是NAS(网络附加存储器),它是一种基于文件共享的存储设备,也可以是SAN(存储区域网络),它是一种基于存储设备。 存储提供者是一个NAS设备,使用“nfs-storage”存储类提供文件共享服务。

    7.9K20编辑于 2023-05-03
  • 来自专栏DevOps

    存储,文件存储及对象存储 比较

    本质是一样的,底层都是存储,只是在对外接口上表现不一致,分别应用于不同的业务场景。 通常来讲,磁盘阵列都是基于Block存储,而所有的NAS产品都是文件级存储。 一. 对于级来说如果你要通过级来访问一段数据的话,你自己需要知道这些数据具体是存在于那个存储设备上的位置上,也就是说级的存储中要求程序自己保存元数据。          2. 存储接口的操作对象是二进制数据,物理存储位置是硬盘 (通过逻辑目录 找到对应分区,然后找到对应存储存储。)          3. ,这个约定就叫做文件系统,例如EXT4、FAT32、XFS、NTFS等。 方便文件共享:例如主机A(WIN7,NTFS文件系统),主机B(Linux,EXT4文件系统),想互拷一部电影,本来不行。

    5.4K11编辑于 2024-03-29
  • 来自专栏玖叁叁

    文件存储存储、对象存储区别(二)

    存储存储是一种基于存储方式,将数据保存在设备上,设备通常是一种硬件设备,例如硬盘、固态硬盘或闪存驱动器。 存储通常由一个存储阵列提供,可以被多个计算机使用,每个计算机都可以访问阵列中的存储设备,并在其上创建文件系统。存储通常用于需要随机读写的应用程序,例如数据库、虚拟化、高性能计算等应用。 在存储中,数据是以的形式传输,并且每个可以被独立地访问和管理。 存储通常使用iSCSI(Internet Small Computer System Interface)协议将设备连接到计算机系统。 存储提供者是一个iSCSI存储设备,使用“iscsi-storage”存储类提供存储服务。

    7.3K10编辑于 2023-05-03
  • 来自专栏玖叁叁

    文件存储存储、对象存储区别(三)

    对象存储对象存储是一种分布式存储方式,将数据保存在对象中,每个对象都有唯一的标识符,可以通过该标识符访问对象。 对象存储通常使用REST API(Representational State Transfer Application Programming Interface)来访问和管理对象,因此可以通过公共互联网访问 对象存储通常用于需要海量存储的应用程序,例如大数据、人工智能、物联网等应用。对象存储通常由一个对象存储集群提供,该集群由多个存储节点组成,可以水平扩展以增加存储容量和吞吐量。 下面是一个使用Amazon S3提供对象存储的示例:apiVersion: v1kind: Podmetadata: name: example-podspec: containers: - 存储提供者是Amazon S3存储服务,使用“s3-storage”存储类提供对象存储服务。

    7.2K10编辑于 2023-05-03
  • 来自专栏大话存储

    存储,就选原生存储

    有关“”的问题 所谓OpenStack认证对接的分布式存储,并不意味Ceph就是最好的选择,Ceph并不是OpenStack环境的标配,Ceph只是适逢其会。 ZettaStor和原生存储 作为原AWS核心架构师、S3、Glacier存储项目团队负责人,陈靓先生非常了解对象存储应对数据需求的不足。 机缘巧合,2012年,陈靓应南京市政府的感召归国创业,创办了南京鹏云网络科技有限公司,并推出了从最底层开始研发的ZettaStor DBS软件定义分布式存储系统,提出了原生存储的概念。 它是以裸设备方式直接管理底层硬盘,并整合成为存储资源供上层应用来访问使用,由于并不存在对象存储的中间转换过程,因此能够实现低延迟的高I/O访问效率。 ? 对于原生存储、非原生存储,测试和验证将是一个非常重要的方法。但是在测试过程中,也应该结合实际,谨防被一些“猫腻”手段所蒙蔽。

    2.1K20发布于 2019-06-10
  • 来自专栏超级架构师

    存储架构」存储、文件存储和对象存储(第1节)

    是什么使对象存储更好地适应数据爆炸要理解对象存储所提供的好处,必须首先了解文件存储存储的旧概念,因为它们之间有很大的差异。 文件、和对象存储之间的区别 文件存储存储是在NAS和SAN存储系统上存储数据的方法。 在NAS系统上,它将其存储作为网络文件系统公开。 存储的工作方式与此类似,但与在文件级管理数据的文件存储不同,数据存储在数据中。几个(例如在SAN系统中)构建一个文件。 一个由一个地址组成,如果SAN应用程序对这个地址发出scsi请求,那么它将获得这个存储应用程序然后决定数据是否存储在系统中,以及存储在什么特定的磁盘或存储介质上。 最后如何组合这些以及如何访问它们决定了存储应用程序。SAN中的没有与存储系统或应用程序相关的元数据。换句话说:是没有描述、关联和存储解决方案所有者的数据段。一切都由SAN软件处理和控制。

    7.2K25发布于 2019-12-10
  • 来自专栏分布式存储

    ceph 分布式存储-存储(RBD)搭建

    管理存储池 1.1 创建存储池 PG数量的预估 集群中单个池的PG数计算公式如下:PG 总数 = (OSD 数 * 100) / 最大副本数 / 池数 (结果必须舍入到最接近2的N次幂的值) #ceph 管理设备镜像 2.1 创建设备镜像 #rbd create --size {megabytes} {pool-name}/{image-name},如果pool_name不指定,则默认的pool是rbd 下面的命令将创建一个10GB大小的设备: $ rbd create --size 10240 test_image -p test_pool 2.2 删除设备镜像 #rbd rm {pool-name test_image RBD特性解析 RBD支持的特性,及具体BIT值的计算如下 属性 功能 BIT码 layering 支持分层 1 striping 支持条带化v2 2 exclusive-lock 支持独占锁 4 #rbd unmap {image-name} $ rbd unmap test_pool/test_image 2.6 格式化设备镜像 $ sudo mkfs.ext4 /dev/rbd1

    4.6K20发布于 2020-07-20
  • 来自专栏云计算运维

    认识存储、文件和对象

    存储是数据存储的最古老形式,数据都存储在固定长度的或多个中。存储适用于企业存储环境,并且通常使用光纤通道或 iSCSI 接口。 根据 SUSE 的软件定义存储高级产品经理 Larry Morris 的说法,“存储要求一个应用去映射存储设备上存储数据的位置。” Jean 说“存储将单个的存储卷(如一个虚拟或云存储节点、或一个老式硬盘)分割成单独的被称为的实体。” 每个独立存在,并且能够用它自己的数据传输协议和操作系统格式化 —— 给用户完全的配置自主权。由于存储系统并不负责像文件存储系统那样的文件查找职责,所以,存储是一个非常快的存储系统。 由于同时具备速度和配置灵活性,使得存储非常适合原始服务器存储或富媒体数据库。 存储适合于宿主机操作系统、应用程序、数据库、完整虚拟机和容器。

    2.2K10发布于 2021-10-18
  • 来自专栏安全乐观主义

    浅谈存储的安全配置

    如果说对象存储Object Storage Service像云盘,而本文所说的存储Block Storage是类似于机械硬盘、固态硬盘的“云硬盘”。 亚马逊方面在Elastic Compute Cloud (EC2)的实例的持久存储称为Elastic Block Storage。 阿里云EBS是指为ECS云服务器提供的设备,高性能、低时延,满足随机读写,可以像使用物理硬盘一样格式化、创建文件系统,可用于云硬盘、快照、模板。 在设计之初,主要关注的安全特性为: 存储空间由很多chunk(数据)组成,分布式存储的方式使得某处chunk被窃取,也不会发生数据安全问题; 底层数据每个chunk通过三副本存储在集群中的不同节点上, ,而阿里云类似的共享存储功能仍处于内部测试中,但是可以翻看API手册方便预测此类安全威胁。

    4K30发布于 2019-11-20
  • 来自专栏分布式存储

    ceph分布式存储-存储BlueStore性能测试

    =200 -group_reporting -name=read-libaio read-libaio: (g=0): rw=read, bs=4M-4M/4M-4M/4M-4M, ioengine --io-threads:线程数,默认 16--io-total:总写入字节,默认 1024M--io-pattern <seq,rand>:写模式,默认为 seq 即顺序写 只能对设备做写测试 fio 标准规则 - 顺序和随机 IO4. 大小 - 4k,16k,64k,256k5. 模式 - 读和写6. 支持混合模式 3.2 测试结果比较 3.2.1 rados bench测试结果 客户端数 并发数 大小 写测试 顺序读 随机读 单个客户端 30 4M 带宽:1119.68 MB/s 平均IOPS: 带宽:2238.71MB/s 平均IOPS:558 平均耗时:0.212s 带宽:2237.01MB/s 平均IOPS:558 平均耗时:0.212s 3.2.2 rbd测试结果 客户端数 并发数 大小

    10.7K20发布于 2020-07-20
  • 来自专栏charlieroro

    基于华为fusionstorage的存储CSI

    承接上文,存储的CSI要比对象存储复杂一些,但总的处理逻辑还是一致的。 下面以华为fusionstorage的CSI为例进行介绍,该插件支持了多个后端存储,如fusionstorage和oceanstor。 下面是CSI插件与后端存储(fusionstorage)交互用到的配置文件。 其中pools为事先创建好的存储池,parameters为所有k8s的node节点的hostname:ip对,用于执行attach存储操作。 整体挂载流程为:在后端存储创建一个卷(如果不存在),并将其attach到node节点的/dev目录下;由于容器挂载了/dev目录,在容器中直接格式化该存储并挂载到/var/lib/kubelet中的pod

    2.3K10发布于 2020-04-08
  • 来自专栏reizhi

    Hetzner Storage Box 存储性能测试

    Box 存储服务的价格,目前 1TB 基础款售价仅为 2.9 欧元,性价比极为突出。 相比之下老司机最喜欢的 Buyvm 1TB 存储按照支付宝加元结算也需要 3.45 欧元,且必须配合 Buyvm 自家 VPS 才能够使用。 Hetzner 的存储服务目前支持以 FTP,SCP,Samba,rsync,WebDAV 等协议对接,但略显遗憾的是不支持 Amazon S3 。 4.全球下载测试 通过 https 协议下载存储中的文件(单线程,200M) 地区 速度(MB/s) 荷兰 Alwyzon 12.8 德国 Webhosting24 52.7 英国 Bluevps 22.3 5.总结 除了极高的性价比之外,Hetzner Storage Box 存储服务在欧洲地区也表现出了非常不错的可用性,其读写性能足以满足备份和冷数据存储的需要。

    3.6K10编辑于 2022-09-26
  • 来自专栏yuezhimi

    ceph-存储客户端

    ceph存储 ceph设备,以前称为RADOS设备,为客户机提供可靠性、分布式和高性能的存储磁盘。RADOS设备利用librbd库并以顺序的形式在ceph集群的多个osd上存储数据。 RBD是由ceph的RADOS层支持,因此每个设备都分布在多个ceph节点上,提供了性能和优异的可靠性。 安装ceph存储客户端 创建ceph客户端用户名和认证密钥 [ceph-admin@ceph-node1 my-cluster]$ ceph auth get-or-create client.rbd /ceph.client.rbd.keyring [client.rbd] key = AQChG2Vcu552KRAAMf4/SdfSVa4sFDZPfsY8bg== [ceph-admin -y ceph 测试密钥连接集群 [root@localhost ~]# ceph -s --name client.rbd cluster: id: cde2c9f7-009e-4bb4

    3.6K30发布于 2020-09-30
  • 来自专栏腾讯架构师的专栏

    腾讯云弹性存储技术解密

    [1501466823180_1478_1501466824713.jpg] 作者介绍:Yh, 2010年加入腾讯,有12年的存储经验,在弹性存储技术方面经验丰富,本文将其在TEG TALK上的分享内容进行整理 如何实现云硬盘(弹性存储)系统? 其实最开始CBS是将这3个分布式存储系统拼凑在一起,并在前端封装一个iSCSI的存储服务,这就是CBS1.0。 反过来如果数据分片太大,因为每个数据分片是分配给一个用户使用的,如果用户只写入4K数据,而分配一个1M的数据分片,那会造成存储系统空间的浪费,导致空间利用率低。 当然ceph也有很多值得我们借鉴的东西:例如CBS是存储平台(目前已经支持文件存储),而ceph一开始就是作为统一存储平台设计的,同时支持存储、文件存储和对象存储;CBS的是镜像多副本存储,但是ceph

    15.3K32发布于 2017-07-31
  • 来自专栏开源部署

    我看Openstack的临时(Ephemeral)存储(Block)存储

    背景 Openstack不管是Ephemeral Storage还是Block Storage, 其实从接口上看,其实都是服务。 那么为什么要搞两个不同的类型呢,本文从这两种不同类型存储的实现上来分析下其中的原因。 临时存储 Openstack临时存储是由Nova提供的,主要是利用主机的本地存储给虚拟机提供卷服务。 存储 目前Openstack的存储由Cinder提供,其后端支持很多类型的存储设备,比如多个厂商不同型号的阵列设备,或者是Ceph, Glusterfs, Sheepdog之类的分布式存储系统。 基于存储,可以为用户提供: 高可靠的存储(基于阵列的RAID, 或者是分布式存储的多副本机制;甚至还可以充分利用设备的备份,远程复制能力) 共享存储 (意味着可以支持HA, 虚拟机迁移等等) 临时存储的妙用 用户可以用它来做不少有意思的事情,比如: 无状态虚拟机,为系统提供Cache服务 为虚拟机操作系统提供交换分区,或者用来存放其它类型的临时文件 改进EBS的性能,比如买4个EBS盘,再配置2个免费的Ephermal

    2.2K10编辑于 2022-06-30
  • 来自专栏哎_小羊

    初试 Ceph 存储设备、文件系统、对象存储

    目录 Ceph 存储介绍 环境、软件准备 Ceph 设备 Ceph 文件系统 Ceph 对象存储 1、Ceph 存储介绍 Ceph 是一个开源的分布式存储系统,包括对象存储设备、文件系统。 同时该模块通过 LIBRADOS 的公共库对外提供存储服务,如对象存储设备存储。 通过官网文档 Ceph 体系结构 中的图片可以很清楚的了解 Ceph 存储体系。这里就不一一阐述各个组件了。 ? 2、环境、软件准备 要使用 Ceph 存储体系中的设备、文件系统以及对象存储,必须保证已完成 Ceph 存储集群的搭建,并且保证 Ceph 存储集群处于 active + clean 状态。 3、创建文件系统,将 foo image 格式化为 ext4 格式的文件系统,就可以使用设备了。 4、在管理节点(admin-node)上挂载该设备就可以测试使用了。

    7.3K90发布于 2018-01-02
  • 来自专栏监控

    开源云原生存储rook:存储快速入门实战

    Block Devices(存储) 图片 在 Rook 中,存储有两种存储类型:副本存储和纠删码存储。 「纠删码存储:」 是一种基于纠删码的存储方式,其中数据被编码为多个数据,并在不同的节点上存储这些数据的编码片段。在纠删码存储中,数据被编码为多个数据,并根据指定的参数对这些数据进行编码。 编码后的数据被分散存储到不同的节点上,当某个节点出现故障时,系统可以使用存储在其它节点上的数据编码片段来恢复数据。 存储池是一个逻辑卷,可以在其中创建设备。删除存储池将确保不再创建新的设备。 存储类指定了用于存储数据的存储类型和属性。删除存储类将确保不再创建新的 Rook 存储卷。 需要注意的是,这4个命令需要按照指定的顺序执行,以确保完全卸载 Rook 存储

    2.2K00编辑于 2023-04-06
  • 来自专栏焱融科技

    存储、对象存储、文件存储, 容器存储的最佳方式应该是什么?

    这时临时存储不再符合要求,容器需要能够访问到持久化存储来保存必要的数据。 如果您看过Kubernetes社区的存储支持列表,会发现里面有众多的存储实现,但我们可以分为如下的三类: 纵然有如此多的容器存储列表,又有如此多的存储分类,到底哪种存储应该成为容器存储的最佳选择呢,我们从容器应用的类型来逐步分析 Server等大型数据库,因为即使技术能够满足,客户能否接受还需要时间考量,对于MySQL以及其它同类型中间件而言,从我们实际测试的效果看,YRCloudFile文件系统支持MySQL容器应用的性能,并不比存储作为 在这些场景下,文件数量可达到几十亿规模,存储的能力将变得有局限。 焱融容器存储YRCloudFile作为国内第一家进入CNCF LandScape Container-Native Storage容器存储图谱的容器存储产品,设计的初衷就是解决容器化应用对存储的访问需求

    5.6K23发布于 2020-02-28
  • 来自专栏了不起的云计算

    「最强科普」存储、文件存储、对象存储三者有何区别?

    存储、文件存储、对象存储,傻傻分不清楚 聊到企业存储,栈长被三个存储名词困扰了很久,存储、文件存储、对象存储,真的是傻傻分不清楚。 最近栈长不废寝忘食,好好的研究了下存储、文件存储和对象存储。 今天我们就来跟大家汇报下学习成果:存储、文件存储、对象存储三者有何区别? 其实,存储的目的就是为数据提供空间。 ▉ 存储 存储提供的是不带文件系统裸磁盘,使用之前需先进行初始化。我们比较常见的存储形式是我们的Windows硬盘或手机存储空间,数据是按字节来存储和访问的。 通俗的来说,就如上图,数据就像每个瓜子一样,堆放在存储仓里。瓜子就是每个数据,这个存储舱就是磁盘。存储只关心瓜子的进来和出去,不关心瓜子粒之间的关系和用途。 但相比于存储,文件存储读写速度相对于存储要慢一点。

    7.9K00发布于 2021-01-06
领券