首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏存储知识

    容器时代的存储底座存储资源盘活系统SRRS

    集群的生产级操作需要许多组件 ,用户通常没有足够的技术能力;问题之二,是尽管 Kubernetes可以在多种类型的基础架构上运行,但多架构同时存在导致云原生平台的底层基础设施(即支持 Kubernetes 集群的计算、存储和网络资源 存储资源盘活系统(Storage Resource Reutilization System, SRRS)。SRRS 可以在存储层面解决上述问题。 SRRS 是一款纯用户态的绿色软件,只有150MB左右的安装包,不需要ROOT权限就可以安装在任何Linux操作系统上,不独占硬盘、操作系统,以2GB内存把各服务器中分散的磁盘整合成高性能的存储资源池, 通过分布式双控制器架构保证了低延迟、高可用、易拓展;支持x86、ARM、龙芯等异构、非对称服务器混合部署,通过功能全面完善的控制台、命令行与API来统一调度管理所有存储设备;通过强大的兼容性和硬件异构性充分利用全部存储资源 SRRS 与 Kubernetes一样,可在多种类型的基础设施上运行,向上提供标准的 iSCSI 接口,完全适配 Kubernetes 的 容器存储接口 CSI 。

    1.3K20编辑于 2023-01-17
  • 来自专栏IT创事记

    创新数据底座智能制造的“圣杯”

    既有的数据基础设施很难满足以汽车研发为代表的新增需求,创新的数据底座成为智能制造时代被寄予厚望的“圣杯”。 仿真平台只是创新数据底座的冰山一角。 走出智能制造的深水区、实现向制造业强国的跃迁,需要更多行业领头羊率先垂范。华为构建的创新数据基础设施,将成为国内制造企业数字化转型坚实的数据底座,其示范效应影响深远。 核心业务场景的新挑战 作为高价值数据的重要载体,存储是创新数据基础设施的核心角色,也是智能制造完成升级不可或缺的动力。 存储产品的高歌猛进,为华为创新数据基础设施提供了充足的底气;与更多懂行业、懂业务、懂技术的合作伙伴携手同行,则是华为构建制造业等行业数据底座的生态保障。

    54420编辑于 2022-08-30
  • 来自专栏存储知识

    存储资源盘活系统构建AI时代的存储底座

    2022年末,生成式对话型人工智能ChatGPT和AI生成图片应用Midjourney问世,1个月内获取过亿用户。尽管根据用户使用后的的反馈,它们的表现还不能堪称完美,但已经是令大众惊喜的程度了。 ChatGPT和Midjourney背后的公司是OpenAI,成立于2015年,由Elon Musk和Sam Altman等个人和组织创建,旨在推进和促进人工智能领域的研究。 目前主流的解决方法是硬件存储阵列或分布式存储存储资源盘活系统是高性能的。存储资源盘活系统采用分布式双控制器架构,像传统硬件存储阵列一样提供低延迟和高可用性,像传统分布式存储一样提供高可扩展性和高吞吐量。 在AI的时代来临之前,存储资源盘活系统可以为其构建坚固、灵活的存储底座

    1.1K20编辑于 2023-02-23
  • 来自专栏数据猿

    AI存储进入PBEB时代,HDD为何成为数据底座

    “西部数据的策略:从11碟HDD出发,重塑AI存储底座。 大数据产业创新服务媒体 ——聚焦数据 · 改变商业 让我们来试想这样一个场景:凌晨3点,某大模型云服务平台的日志系统依然在高速写入。 2025年,大模型和智能体进入商用部署的新阶段,“一企一模型”“一行一垂类”的趋势拉开,随之而来的,是以PB乃至EB为单位的数据暴涨。 西部数据的策略: 从11碟HDD出发,重塑AI存储底座 编者认为,AI时代对HDD提出了两个新要求:更大的容量,更长的周期。这不仅仅是一次性的性能突破,更是一次关于“长期信赖”关系的重构。 这是对客户的长期关系战略——构建“存储信赖路径”,帮助客户把其数据底座变成护城河。 每一个多模态模型的推理调用、每一个Agent系统的上下文记录,每一次大语言模型的“记忆保存”,都是对存储底座的“微小索取”。

    25510编辑于 2026-01-27
  • 智能驾驶时代:车联网需要怎样的智能网络底座

    2024年,智能驾驶市场火热,无论是造车新势力还是老牌车企纷纷发力智能驾驶,他们深知,新能源汽车的下半场已到,再不发力智能驾驶,可能真的有些来不及了。 车企不断加码单车智能的同时,政府也在稳步的推进车路协同。智能驾驶领域一直处在新技术广泛应用和验证的前沿,让我们一起探索智能驾驶的发展将给我们带来哪些启示。 至此,车路云智能网联有了更为具象化的全局展现,车、路、边缘云、区域云及各交通管理平台,共同构建了一个高度智能化的交通管理系统。 这种智能网联的实现,不仅仅是技术上的突破,更是对未来网络发展趋势的生动体现。我们可以透过智能车路协同的智能网联需求,探索未来网络的需求变化。 未来的交通网络将能够支持更加智能、高效、安全的交通管理,为智能驾驶和车路协同技术的发展提供坚实的基础。

    64310编辑于 2024-06-12
  • 来自专栏深度学习与python

    打造无限扩展的云存储系统,元数据存储底座的设计和实践

    而且鉴于这是百度智能存储的核心底座,需要自主可控并提供给最佳的用户体验。最终我们决定面向百度沧海·存储的元数据场景,自主研发一套类 Spanner 架构的分布式事务数据库作为元数据底座。 5 百度智能云的云存储元数据底座 TafDB TafDB 是面向元数据场景设计的一个分布式数据库系统。 作者简介 曹彪 百度智能云云存储高级架构师、云存储元数据底座技术负责人 2014 年加入百度后一直从事基础架构领域研发,先后负责了百度小批量实时计算平台以及百度智能云元数据存储平台,带领团队从 0 到 1 打造了百度智能云云存储的元数据底座 TafDB,并在对象存储、文件系统大规模上线,现任百度智能云云存储部高级架构师、元数据底座 TafDB 技术负责人。 阴智辉 百度智能云高级研发工程师 TafDB 核心研发 2019 年华中科技大学硕士毕业后加入百度智能云云存储部,至今一直致力于建设云存储元数据底座 TafDB。

    1.8K20编辑于 2023-03-29
  • 来自专栏数栈技术分享

    袋鼠云数据湖平台「DataLake」,存储全量数据,打造数字底座

    面对海量数据的存储以及结构化数据、文本、二进制(图片、音频、视频)等数据的存储应用,传统架构的离线数据仓库越来越 “力不从心”。 根据维基的定义,数据湖是一个以原始格式 (通常是对象块或文件) 存储数的系统或存储库。数据湖通常是所有企业数据的单一存储,用于报告、可视化、高级分析和机器学习等任务。 今年 7 月的 2022 年产品发布会上,袋鼠云首发数据湖平台 ——DataLake。 异构数据源数据通过 ChunJun 同步到数据湖平台,历史数据存储 Iceberg 湖内,可以提供更高效的查询同时具备廉价存储7. 多种底层存储湖仓平台支持 HDFS、S3、OSS、MInio 等多种底层存储,灵活满足客户不同数据存储需求。

    1.8K21编辑于 2022-11-25
  • 来自专栏图灵人工智能

    对比欧盟,中国的《人工智能法案》应有什么底座

    作者:吴怀宇 2023年6月14日,欧洲议会全体会议表决通过了《人工智能法案》授权草案,标志着该法案将进入欧盟立法严格监管人工智能技术应用的最终谈判阶段。 该法案的建议是通过引进监管沙盒机制来实现,即:在人工智能系统入市或投入使用前,对人工智能系统进行开发、测试和验证以降低风险。 为了给人工智能立法,国外学术界先后出现了蒙特利尔宣言、多伦多宣言等多个人工智能宣言,欧盟《人工智能法案》正是在这些宣言的基础上发展而来。而因为国情的差异,中国当然不可能“在别家的地基上盖自家的房子”。 在这轮全球人工智能治理的热潮中,中国(包括北京等城市)应该加紧颁布具有自身文化属性和特色的《人工智能法案》,但请一定不要忘记,“理性、开放、和谐、人文”才应该是这部“以人为本”的法案最坚实的底座,这才是体现人类文明面对强机器智能的挑战仍然可以长盛不衰的根本力量所在 在人工智能学术圈和产业界有20多年的资深从业经历,曾获“科学中国人年度人物”称号、中国发明创业成果奖(一等奖,中国发明协会颁发)、吴文俊人工智能科技进步奖(中国智能科学技术最高奖,中国人工智能学会颁发)

    51620编辑于 2023-10-24
  • 来自专栏深度学习与python

    贝壳找房: 为 AI 平台打造混合多云的存储加速底座

    目前 JuiceFS 作为存储底座服务于整个机器学习平台,不仅提高了对混合多云架构的适应性,还大幅提升了数据处理效率。 存算分离:鉴于单盘存储容量的上限,我们需要采用存储与计算分离的架构来确保整体存储容量的充足性。这种架构不仅能够应对存储容量需求的增长,还能够提高系统的灵活性和可扩展性。 JuiceFS 依托于公有云对象存储,不仅成本低廉,还能提供几乎无限的存储容量,最大限度地发挥云存储的优势;其性能主要依赖于对象存储和元数据引擎。 03 基于 JuiceFS 的存储底座设计 元数据引擎架构设计 JuiceFS 采用的是元数据和数据分离的架构。对于元数据引擎的选型,我们考虑了三个方案。 发布颠覆性个人智能系统Apple Intelligence,并彻底改革Siri AI “奸商”的崛起

    67210编辑于 2024-06-17
  • 来自专栏大数据和云计算技术

    MongoDB系列7:MongoDB存储引擎

    1、前言 存储引擎是数据库的组成部分,负责管理数据存储。 MongoDB支持的以下存储引擎: 存储引擎描述WiredTiger存储引擎从MongoDB 3.2开始默认的存储引擎,新的版本MongoDB推荐使用WiredTiger存储引擎。 MMAPv1存储引擎MMAPv1是MongoDB 3.2之前版本默认的存储引擎。In-Memory存储引擎MongoDB企业版支持In-Memory存储引擎。 表 2、WiredTiger存储引擎 从MongoDB 3.2开始,MongoDB默认的存储引擎为WiredTiger存储引擎。 4、MMAPv1存储引擎 MMAPv1存储引擎是3.2版本之前的默认存储引擎。它利用集合级并发性和内存映射文件访问底层数据存储。内存管理委托给操作系统。

    2.8K60发布于 2018-03-30
  • 来自专栏侯哥的Python分享

    Mysql高级7-存储过程

    一、介绍   存储过程是事先经过编译并存储在数据库中的一段sql语句的集合,调用存储过程可以简化应用开发人员的很多工作,减少数据在数据库和应用服务器之间的传输,对于提高数据处理的效率是有好处的。 二、存储过程的特点 封装、复用 可以接收参数,也可以返回数据 减少网络交互,效率提升 三、存储过程语法   3.1 创建语法 create procedure 存储过程名称 ([参数列表]) begin     when month >= 4 and month <= 6 then ->       set result := "第二季度"; ->     when month >=7   sql逻辑.... end while;   案例:计算从1累加到n的值,n为传入的参数值 mysql> delimiter & mysql> mysql> create procedure p7( ->   end; -> & Query OK, 0 rows affected (1.56 sec) mysql> delimiter ; mysql> mysql> call p7(

    1.2K81编辑于 2023-08-15
  • 来自专栏IT创事记

    智能时代,高端存储何去何从?

    在系列连载《智能时代下的高端存储》首期文章里,回顾了高端存储自诞生以来风起云涌的三十年里脱颖而出的各大厂商的发展。 而在日新月异的当下,涌出了很多质疑声:智能时代,是否还有高端存储的概念?对这个问题,高端存储有自己的“追求”和“坚持”。 从全球看,IDC将$250,000作为高端存储的基准(平均售价>25万美金/套);而中国区高端存储或许由于售价无法做到特别高,所以适当拓宽了范围,将Price band 7-9的价格幅度作为标准(平均售价 关于“智能时代,是否还有高端存储的概念”这一疑问,从不同角度出发得到的答案不尽相同。究其原因则主要在于随着5G、云计算、人工智能和第四次工业革命的深入发展,产业环境和IT技术均已今非昔比。 7.详细的系统分析,性能监控和故障排除 高端存储阵列给予组织无以伦比的弹性来收集和分析系统数据。这个用来快速准确查明性能瓶颈和硬件故障。很多中端存储没有提供这个级别的诊断和解决性能和系统问题的能力。

    96120编辑于 2022-08-30
  • 来自专栏云计算行业

    智能分层存储,自动优化您的存储成本

    但如果选择智能分层存储,就无需关注数据访问热度,由对象存储服务来监测数据访问频率,即可将数据智能地在冷热访问层之间转换,且无需数据取回费用,在不损害户访问体验的同时,有效降低存储成本。 智能分层存储优势 无需关注数据访问模式,智能转换存储层 只需为数据指定对象存储类型,即可应用智能分层存储特性。 低频数据无需取回,秒变高频数据 智能分层存储是文件对象级别的存储类型,COS会智能监控每一个处于该存储类型的对象,当检测到某对象的访问热度降低时,会自动将数据转换至低频存储,如果该对象若干时间后重新被人访问 数据自动沉降,存储成本更优 通过监测数据访问频率,自动化管理数据访问层,智能分层存储类型还参与对象存储生命周期流程,用户可以按需将智能分层存储沉降到归档存储中,进一步降低数据在云端的存储成本。 同城容灾MAZ架构已同步智能分层存储类型,数据设计可靠性可达12个9,业务设计可用性可达99.995%。 通过数据冷热分层存储智能分层能够帮助用户在存储成本和读写性能之间寻找平衡点。

    73420编辑于 2023-05-29
  • 来自专栏Apache Doris

    Apache Doris 4.1:面向 AI & Search 的统一数据存储与检索底座

    AI 时代,数据库已成为智能 Agent、RAG 系统、大模型应用和 AI 可观测平台 的基础设施。它不仅要能存结构化数据,更要能承载长上下文、向量、全文、Trace、事件流等新型数据。 适用于超宽表、大量 VARIANT 子列、对象存储冷启动敏感、随机读较多的 AI 和车联网半结构化数据场景。 以一张包含 7,000 列、10,000 个 Segment 的超宽表为例。 在 c7a.metal-48xl 实例测试,Apache Doris 4.1 在冷查询性能和存储空间方面排名第一。其总分排名第二,仅次于 ClickHouse(web)。 聚合扩展优化:先缩数据,再做多维聚合 通过智能识别最细粒度聚合组及其聚合率,在满足条件时,将执行方式从“多组并行聚合”调整为:先完成最细粒度聚合,大幅缩减数据规模,再基于结果计算其他聚合组,从而显著降低计算延迟 对象存储成本优化:在高频导入场景下,通过节点级请求合并,减少对象存储请求次数及小文件数量,整体成本最高可降低 90%。

    62410编辑于 2026-04-24
  • 来自专栏Mr.Wang

    CentOS7挂载NAS共享存储

    记一次在centos7下挂载惠普nas存储的操作,这台惠普nas存储的访问协议有两种:CIFS和NFS,本次采用nfs协议 环境介绍: NSA存储:HP Store Once 3540 采用协议:NFS 磁盘容量:500G 挂载路径:10.1.1.133:/nas/nfs-ts 操作系统:centos7 1.在nas上创建共享存储 2.在操作系统上安装依赖包 [root@localhost]$ yum 8.x86_64 samba-common-libs-4.10.4-11.el7_8.x86_64 samba-common-tools-4.10.4-11.el7_8.x86_64 samba-client -4.10.4-11.el7_8.x86_64 samba-common-4.10.4-11.el7_8.noarch samba-libs-4.10.4-11.el7_8.x86_64 samba-4.10.4 -11.el7_8.x86_64 [root@localhost]$ rpm -qa nfs-utils nfs-utils-1.3.0-0.66.el7.x86_64 3.创建一个挂载目录 mkdir

    7.7K30编辑于 2023-03-13
  • 来自专栏Java知识点

    7章_InnoDB数据存储结构

    数据库的存储结构:页 # 1.1 磁盘与内存交互基本单位:页 # 1.2 页结构概述 # 1.3 页的大小 不同的数据库管理系统(简称 DBMS)的页大小不同。 页结构的示意图如下所示: 如下表所示: 我们可以把这 7 个结构分为 3 个部分。 数据库存储结构.mmap # 2.3 从数据库页的角度看 B + 树如何查询 一颗 B + 树按照字节类型可以分为两部分: 叶子节点,B+ 树最底层的节点,节点的高度为 0,存储行记录。 非叶子节点,节点的高度大于 0,存储索引键和页面指针,并不存储行记录本身。 当我们从页结构来理解 B+ 树的结构的时候,可以帮我们理解一些通过索引进行检索的原理: # 3. InnoDB 行格式 (或记录格式) 见文件 InnoDB 数据库存储结构.mmap # 4. 区、段与碎片区 # 4.1 为什么要有区? # 4.2 为什么要有段?

    38920编辑于 2023-08-02
  • 来自专栏互联网-小阿宇

    Centos7挂载ISCSI网络存储

    博客首页:互联网-小啊宇 Centos7挂载ISCSI网络存储 ⭐ISCSI简介 ⭐服务器安装依赖 ⭐ISCSI启动并设置开机自启动 ⭐查看Target ⭐登陆节点前需验证 开启验证 添加用户 添加密码 从根本上说,它是一种基于IP Storage理论的新型存储技术,该技术将存储行业广泛应用的SCSI接口技术与IP网络技术相结合,可以在IP网络上构建SAN。 简单地说,iSCSI就是在IP网络上运行SCSI协议的一种网络存储技术。iSCSI技术最初由Cisco和IBM两家开发,并且得到了广大IP存储技术爱好者的大力支持,这几年得到迅速的发展壮大。 对于中小企业的存储网络来说,iSCSI是个非常好的选择。 其次,iSCSI技术解决了传输效率、存储容量、兼容性、开放性、安全性等方面的诸多问题,在使用性能上绝对不输给商业的存储系统或光纤存储网络。

    2.2K30编辑于 2022-11-21
  • 【人工智能招聘】FastAPI+LangChain打造智能招聘系统:重塑 AI 时代的工程底座

    课程收官|FastAPI+LangChain 从零搭建智能招聘系统:重塑 AI 时代的工程底座随着最后一份基于大模型自动生成的深度候选人评估报告的成功输出,本次“FastAPI+LangChain 从零搭建智能招聘系统 我们系统拆解了如何将 LangChain 的链式调用无缝接入 FastAPI 的异步路由中,实现了从 HTTP 请求接收到大模型推理调度的全链路非阻塞通信,为高吞吐的招聘业务打下了坚实的性能底座。 学员们深入实操了文档的切分策略,摒弃了粗暴的定长切分,采用基于语义边界的智能分割,确保个人经历与项目背景的完整性。 智能体自治:从规则匹配到工具驱动的动态评估传统招聘系统只能做关键字的布尔运算,而大模型赋予了系统动态评估的能力。课程的进阶阶段,我们将招聘系统从被动的检索工具,升级为具备自主决策能力的智能体。 结语:做 AI 时代的业务架构重构者从零到一搭建智能招聘系统的收官,不仅是项目代码的提交,更是工程思维的重塑。

    13710编辑于 2026-05-11
  • 来自专栏Python项目实战

    云计算的下半场:资源是底座智能才是灵魂

    云计算的下半场:资源是底座智能才是灵魂作者:Echo_Wish(一个一直在云里“搬砖”,却越搬越兴奋的老朋友)兄弟姐妹们,我们今天聊一个我憋了很久、也越来越确信的观点:云计算的上半场,是“资源的竞争” CPU、存储、网络、虚机、容器,谁更稳定、谁更便宜、谁更弹性,谁就能在市场混得更好。但现在情况变了。 3.智能API:云变成懂业务的“超级外包团队”以前的云服务API:创建虚机调用存储提交任务上传数据未来的云服务API:帮我预测未来一周的用户量帮我生成一个自动化营销计划帮我分析哪个SKU该补货帮我自动审核运维变更帮我自动调优数据库索引简单打个比方 4.智能数据:从“存数据”到“理解数据”以前:数据库数据湖对象存储数仓这些都是“存东西”。 (未来)│├──────────────────┤├────────────────────────────┤│买服务器││提供智能决策与自动化││买对象存储││业务预测、自动调优、自动治理││买数据库实例

    27810编辑于 2025-11-24
  • 来自专栏星融元

    边缘计算新底座:基于VPP+DPDK的开放智能网关

    VPP 在用户态实现了完整的 L2-L4 (甚至 L7) 网络协议栈,带来颠覆性优势:消除模式切换: 全程用户态运行,结合 DPDK 绕过内核直接访问网卡,彻底消除内核/用户态切换开销。 VPP 专注于从 L2-L7 的网络协议,并使用 DPDK 作为其网络驱动程序。这种集成将 DPDK 的 L2 性能与 VPP 在 L3 到 L7 上的灵活性相结合。 开放网络硬件平台:释放 VPP + DPDK 潜能厂商利用 VPP + DPDK 技术,在基于通用处理器(如 Marvell ARM, Intel x86)的开放硬件平台上,打造出极具竞争力的网络产品:智能网关平台基于 智能网卡 基于高性能 DPU 芯片,提供 PCIe Gen3.0/4.0 接口,支持 100Gbps 多功能业务处理 (网络/计算/存储卸载)。显著释放服务器主 CPU 资源。

    1.1K10编辑于 2025-07-07
领券