首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏让技术和时代并行

    详解Kubernetes存储体系

    静态分配流程 首先由集群管理员事先去规划这个集群中的用户会怎样使用存储,它会先预分配一些存储,也就是预先创建一些 PV;然后用户在提交自己的存储需求(PVC)的时候,Kubernetes内部相关组件会帮助它把 不足之处也非常清楚,首先繁琐,然后运维人员无法预知开发人员的真实存储需求,比如运维人员创建了多个100Gi的PV存储,但是在实际开发过程中,开发人员只能使用10Gi,这就造成了资源的浪费。 通过 StorageClass配置生成存储所需要的存储模板,再结合用户的需求动态创建PV对象,做到按需分配,在没有增加用户使用难度的同时也解放了集群管理员的运维工作。 Kubernetes存储架构 ? ,目前主要有Flexvolume CSI两种实现机制,可以根据存储类型实现不同的存储插件 Scheduler:实现对Pod的调度能力,会根据一些存储相关的的定义去做存储相关的调度 动态PV交互流程 ?

    1.2K20发布于 2020-10-23
  • 存储概述:计算机层次化存储体系概述

    冯•诺依曼体系 1946年,冯•诺依曼提出了以存储程序为核心的计算机模型,该计算机模型一直沿用至今。通常称该计算机模型为冯•诺依曼模型(结构),将采用该思想设计的计算机为冯•诺依曼计算机。 冯・诺依曼计算机中存储和计算相辅相成,计算是实现计算机功能的直接体现,而存储为计算提供了必要的基础和支持,两者共同构成了冯・诺依曼计算机的核心体系。 不考虑缓存情况,这里的CPU能且只能对内存进行读写,不能访问外设(输入或输出设备)层次化存储体系 在冯•诺依曼计算机里,不考虑缓存,而且CPU能且只能对内存进行读写,不能访问外设(输入或输出设备) 为了平衡其容量、速度以及价格,有人提出分层组织存储器系统的方法,称为存储器层次结构( memory hierarchy),也有文献称之为层次化存储体系。 参考:https://blog.csdn.net/qq_56780490/article/details/128143369【本文层次化存储体系部分段、实例分析取自该文章】

    65600编辑于 2024-08-30
  • 来自专栏CSDNToQQCode

    虚拟存储体系由()两级存储器构成。

    虚拟存储体系由()两级存储器构成。 A、主存-辅存 B、寄存器-Cache C、寄存器-主存 D、Cache-主存 答案:A 答案解析:   虚拟存储器是一个容量非常大的存储器的逻辑模型,不是任何实际的物理存储器。 它借助于磁盘等辅助存储器来扩大主存容量,使之为更大或更多的程序所使用。   虚拟存储器指的是主存 - 外存层次。它以透明的方式给用户提供了一个比实际主存空间大得多的程序地址空间。

    60040编辑于 2022-11-29
  • 来自专栏技术杂记

    Mysql 优化存储4

    一般少也能缩减5%的空间,平均在10%左右,我自己经历最明显效果的是减少了32%的空间,对于一个大库来说,能节省不少磁盘空间,并且对查询性能也有一定优化效果

    41620编辑于 2022-03-21
  • 来自专栏java跬步

    消息的存储-RocketMQ知识体系3

    RocketMQ的Broker机器磁盘上的文件存储结构 ? 【CommitLog】 消息在CommitLog中的存储格式如下: ? 存储所有消息内容,写满一个文件后生成新的 commitlog 文件。 log = LoggerFactory.getLogger(LoggerName.STORE_LOGGER_NAME); private static int hashSlotSize = 4; RocketMQ 文件存储模型层次结构 — 文件存储模型层次结构图 ? 客户端启动,主动连接Master,建立TCP连接; 3.客户端以每隔5s的间隔时间向服务端拉取消息,如果是第一次拉取的话,先获取本地commitlog文件中最大的偏移量,以该偏移量向服务端拉取消息; 4. 这里,可以想象下1G的CommitLog需要发生多少次缺页中断,才能使得对应的数据才能完全加载至物理内存中(ps:X86的Linux中一个标准页面大小是4KB)?

    83810发布于 2021-07-21
  • 来自专栏博岩Java大讲堂

    Java日志体系(log4j)

    log4j 1.1 简介 Log4j是一个由Java编写可靠、灵活的日志框架,是Apache旗下的一个开源项目;现如今,Log4j已经被移植到了C、C++、Python等语言中,服务更多的Developer ; } } 最后,在classpath下声明配置文件:log4j.properties 或者 log4j.xml; 例1:log4j.properties: log4j.rootLogger = 1.4 log4j配置文件详解 接下来,具体讲解下log4j配置文件中的各个属性:(以log4j.properties为例讲解); Logger 配置根Logger,其语法为: log4j.rootLogger true) log4j.appender.FILE.BufferedIO=true(请求的日志消息不会立即输出,存储到缓存当中,当缓存满了后才输出到磁盘文件中,默认为false,此时 例如:test.TestLog4j.main(TestLog4j.java:10)。

    2.4K110发布于 2018-05-11
  • 来自专栏博岩Java大讲堂

    Java日志体系(slf4j)

    接下来,我们讲解下关于slf4j具体的使用。 3.2 slf4j结构 上面的截图,展示的是slf4j搭配log4j使用。 但是,这些底层日志类实际上跟slf4j并没有任何关系,因此slf4j又通过增加一层日志中间层来转换相应的实现,例如上文中的slf4j-log4j12。 这会,就需要引入jcl-over-slf4j.jar包了,它会将commons-logging的“骗入”到slf4j中来,实现日志框架结合; 3.3 源码分析 以下源码基于slf4j-1.7.20、slf4j-log4j12 对象; 6.由于log4j的日志对象org.apache.log4j.Logger.log4jLogger与slf4j的org.slf4j.Logger日志接口并无多态关系,所以此时slf4j引入了一个 依赖外,还需要添加slf4j-api、jcl-over-slf4j、slf4j-log4j12依赖) !

    5.7K71发布于 2018-05-11
  • 来自专栏文武兼修ing——机器学习与IC设计

    存储体系结构学习笔记

    (对应图中标志3) 若缓存未命中,则根据最少替代策略选择一个块,并将这个块送入牺牲块缓冲区,再由牺牲块缓冲区写回低级存储器,同时从低级存储器调入需要访问的块(对应图中标志4) 由于这一缓存使用LRU和写回策略 其中一种方案是检查所有块,例如一个两路组相联的64KB缓存(地址位宽16bit),块尺寸为4KB(偏移量地址12bit),标签位宽为3bit(16-12-1),则当发生缺失时,检查所有可能的块地址共八个 AMD64为了管理64位页表使用了4级页表,Opteron中每个页表9位,偏移量12位,即有48=9+9+9+9+12,高一级页表中存储的是低一级页表的地址,如下所示: ? 为了实现快速地址变换,Opteron使用了4个TLB,两个用于指令访问两个用于数据访问。 (流水) 4个周期(流水) 10个周期 35个周期 替代方法 伪LRU 伪LRU 伪LRU 带有序选择算法的伪LRU 索引 虚拟索引 虚拟索引 物理索引 物理索引 物理标记 物理标记 物理标记 物理标记

    2.4K20发布于 2020-01-15
  • 来自专栏Java学习网

    MySQL体系结构和存储引擎是什么?

    MySQL是目前最流行的关系型数据库管理系统之一,它的体系结构和存储引擎是MySQL性能和功能的重要组成部分。 了解MySQL的体系结构和存储引擎,可以帮助开发人员更好地理解MySQL的工作原理,并在实际开发中优化数据库性能。 一、MySQL体系结构 MySQL的体系结构主要包含以下几个部分: 1.客户端:客户端是MySQL的用户界面,负责与用户交互和接收用户请求。 4.分析器:分析器用于解析SQL语句,确定SQL语句的语法结构和语义,生成查询执行计划。 5.优化器:优化器用于优化查询执行计划,选择最优的查询执行方案,提高查询性能。 总之,MySQL的体系结构和存储引擎是MySQL性能和功能的重要组成部分。熟练掌握MySQL的体系结构和存储引擎特点,可以帮助开发人员更好地理解MySQL的工作原理,并在实际开发中优化数据库性能。

    39710编辑于 2023-08-22
  • 来自专栏超级架构师

    存储】2022 年的 4 个开源对象存储平台

    介绍 在处理大量非结构化数据时,我们需要一个地方来存储它。我们选择存储数据的方式有很多种,但今天我们要关注的一种是对象存储或基于对象的存储。 如果您不熟悉它,对象存储是一种数据存储架构,允许您将大量非结构化数据存储在可扩展的对象结构中。它将数据存储为具有元数据和唯一标识符的对象,从而更容易访问该数据。现在,有许多平台提供对象存储设施。 MinIO MinIO 是一款开源云存储软件,提供高性能分布式对象存储,专为大规模数据基础设施而设计。 4.OpenIO OpenIO 是一种开源对象存储解决方案,用于管理和保护大量非结构化数据。它允许您构建和操作具有弹性且安全的大规模存储基础架构。 本文 https://jiagoushi.pro/4-open-source-object-storage-platforms-2021 讨论:知识星球【首席架构师圈】或者加微信小号【cea_csa_cto

    13.3K10编辑于 2022-03-08
  • 来自专栏Linux驱动

    汇编指令-str存储指令(4)

    str -(Store Register)存储指令 格式: str{条件}  源寄存器,<存储器地址> 将源寄存器中数据存到存储器地址中。  实例1: str   r1,[r2]        ; 将r1中的值存到r2所指定的地址中 str  r1,[r2,#4]   ;将r1中的值存到r2+4所指定的地址中 str   r1,[r2],#4 因为现在程序运行在起始地址为0x0000 0000的地方 ldr r1, =BWSCON                                 //将BWSCON所指向的首地址值存到r1中 (第一个存储器寄存器首地址 ) add r2, r0, #13*4                                   //每个寄存器4字节,r2=r0+13*4=最后一个存储器寄存器+4 0:  ldr Tacp<<2)+(B3_PMC)) .word ((B4_Tacs<<13)+(B4_Tcos<<11)+(B4_Tacc<<8)+(B4_Tcoh<<6)+(B4_Tah<<4)+(B4_Tacp

    2.3K50发布于 2018-01-03
  • 来自专栏勇哥编程游记

    聊聊 RocketMQ 4.X 知识体系

    本文将带您深入了解 RocketMQ 4.X 的核心知识体系,从架构设计到关键机制,一探这款高可用消息中间件的底层逻辑。 4、Consumer 消息消费的角色,支持以 push 推,pull 拉两种模式对消息进行消费。 我们先进入 broker 的文件存储目录 。 RocketMQ 采用的是混合型的存储结构,Broker 单个实例下所有的队列共用一个数据文件(commitlog)来存储。 生产者根据检查到的本地事务的最终状态再次提交二次确认,服务端仍按照步骤4对半事务消息进行处理。

    46310编辑于 2025-07-08
  • 来自专栏BeJavaGod

    MongoDB-4 GridFS 文件存储

    1. 配置config spring: data: mongodb: uri: mongodb://username:password@192.168.2.72:27017 database: mydb @Component public class WebConfig { @Value("${spring.data.mongodb.database}") private String mongodb; @Bean public Gri

    1.4K10发布于 2020-03-05
  • 来自专栏博岩Java大讲堂

    Java日志体系(log4j2)

    1 log4j2 1.1 简介 log4j2,一个日志的实现框架,是log4j的升级版本,于2014年7月正式亮相。 与第一代log4j不同,log4j2完全重写了log4j的日志实现,并不是在原有基础上进行的升级,解决了log4j中的一些问题,例如:多线程下性能低下、api不支持占位符{}的使用、配置文件不能自动重新加载等 1.4 log4j2配置文件详解 与log4j不同的是,log4j2只支持.xml或者.json格式的配置文件,不在支持.properties格式的配置文件。 文件 2.classpath下名为 log4j2-test.xml 3.classpath下名为 log4j.json 或者log4j.jsn文件 4.classpath下名为 log4j2.xml 请注意 ,此处我们常用的是log4j2.xml,这块与log4j不同; 以下是log4j2常用的配置信息:(逐一进行讲解) <?

    3.2K90发布于 2018-05-11
  • 来自专栏同步文章

    mysql之存储引擎 体系结构 查询机制(二)

    一 各大存储引擎介绍 存储引擎介绍: 1,插拔式的插件方式 ,插拔式的插件方式 2,存储引擎是指定在表之上的,即一个库中的每一个表都可 ,存储引擎是指定在表之上的,即一个库中的每一个表都可以指定专用的存储引擎 /innodb-introduction.html 对比 https://dev.mysql.com/doc/refman/5.7/en/storage-engines.html 二 理解mysql体系结构 Serveices & Utilities: 系统管理和控制工具例如:备份恢复,mysql复制集群等 3,Connection Pool 连接池:管理缓冲用户连接、用户名、密码、权限校验、线程处理等需要缓存的需求 4, 数据抽样的方式进行试(随机的读取一个 4K 的数据块进行分析) 执行计划 id: select 查询的序列号,标识执行的顺序 1、id相同,执行顺序由上至下 2、id不同,如果是子查询,id的序号会递增 COUNT(*) 操作,不必等到执行阶段在进行计算,查询执行计划生成的阶段即可完成优化 4 查询执行引擎 调用插件式的存储引擎的原子 API 的功能进行执行计划的执行 5 返回客户端 1 、 有需要做缓存的

    1.1K40编辑于 2022-10-25
  • 来自专栏全栈程序员必看

    Spark存储体系底层架构剖析-Spark商业环境实战

    商业环境实战及调优进阶系列 Spark商业环境实战-Spark内置框架rpc通讯机制及RpcEnv基础设施 Spark商业环境实战-Spark事件监听总线流程分析 Spark商业环境实战-Spark存储体系底层架构剖析 Spark存储体系组件关系解释 BlockInfoManger 主要提供读写锁控制,层级仅仅位于BlockManger之下,通常Spark读写操作都先调用BlockManger,然后咨询BlockInfoManger MemManager 与 MemStore 与 MemoryPool 组件关系: 在这里要强调的是:第一代大数据框架hadoop只将内存作为计算资源,而Spark不仅将内存作为计算资源外,还将内存的一部分纳入存储体系 Spark存储体系组件BlockTransferServic传输服务 未完待续 3. 总结 存储体系是Spark的基石,我争取把每一块细微的知识点进行剖析,和大部分博客不同的是,我会尽量采用最平实的语言,毕竟技术就是一层窗户纸。

    38110编辑于 2022-06-29
  • 来自专栏从ORACLE起航,领略精彩的IT技术。

    相克军_Oracle体系_随堂笔记008-存储结构

    控制文件、数据文件、日志文件 放在存储上。 参数文件:数据库启动时读取,并不关闭,但是启动过后丢了也没事。一般放在服务器上。 }原则上备份的文件不能放在存储上,一般放在带库上。(带库分为虚拟带库和真实带库,建议最好放在真实带库) 口令文件 alert文件,trc文件 Oracle的特点:多表空间结构 1个库里有多个表空间。

    51910发布于 2019-05-24
  • 来自专栏机器学习之禅

    4 | PyTorch张量操作:底层存储逻辑

    张量的存储 前面我们说过,张量的存储空间是连续的,最开始我可能以为存储像张量的结构一样, 比如说像这样的方块区域 但是,实际上它是这样存储的 然后使用偏移量和步长来进行索引,关于这两个概念我们后面会讨论 但是在某些情况,比如说我们有一个4*4的tensor,我们从它的(1,1)的位置选取一个子tensor,这个时候这个子tensor的offset就不是0了,应该是5? , 8., 4., 5.]]) 转置之后发生了什么呢,其实什么都没有发生,存储区还是一个存储区,变的只是tensor对于存储区的索引结构 #验证这两个tensor是用的一个存储区 id(points.storage()) == id( 那么如果我们想用这些方法怎么办呢,PyTorch自然也给出了解决办法,那就是contiguous方法,使用这个方法会改变存储存储顺序,使得存储区顺序符合当前tensor连续的要求。

    78630编辑于 2022-07-11
  • 来自专栏三分恶的专栏

    MySQL提升笔记(4)InnoDB存储结构

    为了保证区中页的连续性,InonoDB存储引擎一次从磁盘申请4-5个区。在默认情况下,InnoDB存储引擎的页的大小为16KB,即一个区中应有64个连续的页。 InnoDB1.0.x版本开始引入压缩页,每个页的大小可以通过参数KEY_BLOCK_SIZE设置为2K、4K、8K,因此每个区对应的页尾512、256、128. InnoDB1.2.x版本新增了参数innodb_page_size,通过该参数可以将默认页的大小设置为4K、8K,但是页中的数据不是压缩的。 4K、8K、16K。 【4】:InnoDB数据页结构分析 【5】:InnoDB数据页结构 【6】:InnoDB -- 行记录格式

    86120发布于 2021-04-22
  • 来自专栏企鹅号快讯

    g4e基础篇#4 了解Git存储

    虽然git是分布式版本控制系统(DVCS),但是在企业开发中,我们仍然需要一个中心git存储库以便不同的团队成员可以更为方便的交换代码。 与集中式(CVCS)的中心存储库不同,Git的中心存储库与任何开发人员的本地存储库都保留了一致的代码变更,因此开发人员不必连接到中心存储库就可以完成获取历史记录,拉取分支,合并分支等操作;这给予了每一名开发人员离线工作的能力 所以,在企业中使用Git并配合中心存储库可以兼顾团队开发中共享和独立开发的诉求,让开发人员具备很高的自由度的同时又不会丧失代码集中存储所带来的优势。 ,克隆会开始,完成以后你就可以开始操作本地git存储库了。 小结 至此,我们已经可以获取一个Git存储库了,后面的篇章我们将开始对它进行最基本的代码修改,分支,合并,推送和历史记录查看等基本操作。

    1.4K60发布于 2018-02-06
领券