首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏存储知识

    容器时代的存储底座存储资源盘活系统SRRS

    集群的生产级操作需要许多组件 ,用户通常没有足够的技术能力;问题之二,是尽管 Kubernetes可以在多种类型的基础架构上运行,但多架构同时存在导致云原生平台的底层基础设施(即支持 Kubernetes 集群的计算、存储和网络资源 存储资源盘活系统(Storage Resource Reutilization System, SRRS)。SRRS 可以在存储层面解决上述问题。 SRRS 是一款纯用户态的绿色软件,只有150MB左右的安装包,不需要ROOT权限就可以安装在任何Linux操作系统上,不独占硬盘、操作系统,以2GB内存把各服务器中分散的磁盘整合成高性能的存储资源池, 通过分布式双控制器架构保证了低延迟、高可用、易拓展;支持x86、ARM、龙芯等异构、非对称服务器混合部署,通过功能全面完善的控制台、命令行与API来统一调度管理所有存储设备;通过强大的兼容性和硬件异构性充分利用全部存储资源 SRRS 与 Kubernetes一样,可在多种类型的基础设施上运行,向上提供标准的 iSCSI 接口,完全适配 Kubernetes 的 容器存储接口 CSI 。

    1.3K20编辑于 2023-01-17
  • 来自专栏IT创事记

    创新数据底座智能制造的“圣杯”

    既有的数据基础设施很难满足以汽车研发为代表的新增需求,创新的数据底座成为智能制造时代被寄予厚望的“圣杯”。 针对流体仿真、电磁设计、碰撞设计、噪声设计、电机设计等CAE仿真技术场景的前处理、仿真求解和后处理,华为可提供从L1基础设施(计算、存储、网络)到L3通信库、编译器、集群管理、专业服务等全栈一体化仿真平台 走出智能制造的深水区、实现向制造业强国的跃迁,需要更多行业领头羊率先垂范。华为构建的创新数据基础设施,将成为国内制造企业数字化转型坚实的数据底座,其示范效应影响深远。 华为存储大道不孤 基于2020年Gartner Market share的数据,华为以11.9%的占有率位居全球存储市场TOP3,在中国区存储市场连续26个季度排名第一,并以52%的份额占据国内全闪存市场半壁江山 存储产品的高歌猛进,为华为创新数据基础设施提供了充足的底气;与更多懂行业、懂业务、懂技术的合作伙伴携手同行,则是华为构建制造业等行业数据底座的生态保障。

    54420编辑于 2022-08-30
  • 《光存储3D存储:开启人工智能硬件存储新时代》

    在人工智能飞速发展的当下,数据已然成为了核心驱动力,而数据存储技术的重要性也愈发凸显。光存储3D存储等新型数据存储技术,正以其独特的优势,为人工智能硬件的发展带来了全新的机遇与可能。 在人工智能硬件中,超分辨光存储技术可以为人工智能芯片提供更高效的数据存储方案,提高芯片的性能和能效比。 3D存储技术在人工智能硬件中的应用前景- 3D NAND闪存技术:3D NAND闪存通过在一个存储单元中存储多位数据,并采用三维堆叠的形式,使存储芯片在保持小体积的同时,显著提升了容量和存取速度。 在人工智能应用中,如自动驾驶、智能制造、医疗健康等领域,需要实时处理大量的数据,3D NAND闪存技术能够快速地存储和读取这些数据,为决策提供有力支持。 光存储3D存储等新型数据存储技术在人工智能硬件中具有巨大的应用潜力和广阔的前景,有望为人工智能的发展提供更强大的存储支持,推动人工智能技术的进一步创新和应用。

    27600编辑于 2025-01-06
  • 来自专栏存储知识

    存储资源盘活系统构建AI时代的存储底座

    2022年末,生成式对话型人工智能ChatGPT和AI生成图片应用Midjourney问世,1个月内获取过亿用户。尽管根据用户使用后的的反馈,它们的表现还不能堪称完美,但已经是令大众惊喜的程度了。 ChatGPT和Midjourney背后的公司是OpenAI,成立于2015年,由Elon Musk和Sam Altman等个人和组织创建,旨在推进和促进人工智能领域的研究。 目前主流的解决方法是硬件存储阵列或分布式存储。 它可以轻松从3台服务器扩展到数千台服务器,并逐个从数千台服务器减少到3台服务器,上述过程中不会出现服务不可用的情况。对于AI行业中训练样本、模型参数的指数级增长,存储资源盘活系统可以自如应对。 在AI的时代来临之前,存储资源盘活系统可以为其构建坚固、灵活的存储底座

    1.1K20编辑于 2023-02-23
  • 来自专栏数据猿

    AI存储进入PBEB时代,HDD为何成为数据底座

    “西部数据的策略:从11碟HDD出发,重塑AI存储底座。 大数据产业创新服务媒体 ——聚焦数据 · 改变商业 让我们来试想这样一个场景:凌晨3点,某大模型云服务平台的日志系统依然在高速写入。 用户刚刚在一个智能体平台上发起了一次多轮对话请求——表面上只是一个简单的金融问询,但背后,调度了3个子模型、20多次跨服务交互、超2万token的上下文流转。 2025年,大模型和智能体进入商用部署的新阶段,“一企一模型”“一行一垂类”的趋势拉开,随之而来的,是以PB乃至EB为单位的数据暴涨。 这是对客户的长期关系战略——构建“存储信赖路径”,帮助客户把其数据底座变成护城河。 每一个多模态模型的推理调用、每一个Agent系统的上下文记录,每一次大语言模型的“记忆保存”,都是对存储底座的“微小索取”。

    25510编辑于 2026-01-27
  • 智能驾驶时代:车联网需要怎样的智能网络底座

    2024年,智能驾驶市场火热,无论是造车新势力还是老牌车企纷纷发力智能驾驶,他们深知,新能源汽车的下半场已到,再不发力智能驾驶,可能真的有些来不及了。 车企不断加码单车智能的同时,政府也在稳步的推进车路协同。智能驾驶领域一直处在新技术广泛应用和验证的前沿,让我们一起探索智能驾驶的发展将给我们带来哪些启示。 这种智能网联的实现,不仅仅是技术上的突破,更是对未来网络发展趋势的生动体现。我们可以透过智能车路协同的智能网联需求,探索未来网络的需求变化。 3、与多公有云实现预连接,能够配合云服务的灵活性,灵活调整网络带宽,随时根据用户需求进行扩展和调整,支持业务的快速增长。4、骨干网络采用冗余架构,SLA可达99.99%,确保业务的连续性和稳定性。 未来的交通网络将能够支持更加智能、高效、安全的交通管理,为智能驾驶和车路协同技术的发展提供坚实的基础。

    64310编辑于 2024-06-12
  • 来自专栏深度学习与python

    打造无限扩展的云存储系统,元数据存储底座的设计和实践

    而且鉴于这是百度智能存储的核心底座,需要自主可控并提供给最佳的用户体验。最终我们决定面向百度沧海·存储的元数据场景,自主研发一套类 Spanner 架构的分布式事务数据库作为元数据底座。 5 百度智能云的云存储元数据底座 TafDB TafDB 是面向元数据场景设计的一个分布式数据库系统。 作者简介 曹彪 百度智能云云存储高级架构师、云存储元数据底座技术负责人 2014 年加入百度后一直从事基础架构领域研发,先后负责了百度小批量实时计算平台以及百度智能云元数据存储平台,带领团队从 0 到 1 打造了百度智能云云存储的元数据底座 TafDB,并在对象存储、文件系统大规模上线,现任百度智能云云存储部高级架构师、元数据底座 TafDB 技术负责人。 阴智辉 百度智能云高级研发工程师 TafDB 核心研发 2019 年华中科技大学硕士毕业后加入百度智能云云存储部,至今一直致力于建设云存储元数据底座 TafDB。

    1.8K20编辑于 2023-03-29
  • 来自专栏AI应用开发从入门到实战

    2026 最全 MinIO 深度解析:从 S3 兼容存储到 AI 数据底座的完整指南(建议收藏)

    2026最全MinIO深度解析:从S3兼容存储到AI数据底座的完整指南(建议收藏)前言如果你正在为"海量文件存储选型"头疼,或者你的团队正在经历从 FastDFS 的"年久失修"到 Ceph 的"部署文档看了一周还没装好 本文将带你建立从"S3 存储工具"到"AI 数据底座"再到"分布式存储工程"的完整认知框架,既有硬核原理拆解,也有保姆级实战教学,更有关于商业化转型的客观分析。 MinIO 的三重身份:技术身份:完整实现 Amazon S3 API,是构建私有云、混合云存储底座的首选,开发者无需修改代码即可迁移应用。 商业版 AIStor 在 AI 场景的持续深耕使 MinIO 从"通用对象存储"升级为"AI 原生的智能数据底座"。企业选型时需结合团队能力、合规要求和长期路线规划综合决策。 "的可行性,从 S3 兼容到纠删码技术,从 Kubernetes 集成到 AI 数据底座,它的每一步演进都踩准了技术发展的节拍。

    17800编辑于 2026-05-16
  • 来自专栏数栈技术分享

    袋鼠云数据湖平台「DataLake」,存储全量数据,打造数字底座

    面对海量数据的存储以及结构化数据、文本、二进制(图片、音频、视频)等数据的存储应用,传统架构的离线数据仓库越来越 “力不从心”。 根据维基的定义,数据湖是一个以原始格式 (通常是对象块或文件) 存储数的系统或存储库。数据湖通常是所有企业数据的单一存储,用于报告、可视化、高级分析和机器学习等任务。 同时还支持表结构变更、时间旅行的能力,可以快速对湖表进行加列改列删列,而数据无需重写,支持对数据和 Schema 进行版本管理一键回滚3. 异构数据源数据通过 ChunJun 同步到数据湖平台,历史数据存储 Iceberg 湖内,可以提供更高效的查询同时具备廉价存储。 多种底层存储湖仓平台支持 HDFS、S3、OSS、MInio 等多种底层存储,灵活满足客户不同数据存储需求。

    1.8K21编辑于 2022-11-25
  • 来自专栏图灵人工智能

    对比欧盟,中国的《人工智能法案》应有什么底座

    作者:吴怀宇 2023年6月14日,欧洲议会全体会议表决通过了《人工智能法案》授权草案,标志着该法案将进入欧盟立法严格监管人工智能技术应用的最终谈判阶段。 该法案的建议是通过引进监管沙盒机制来实现,即:在人工智能系统入市或投入使用前,对人工智能系统进行开发、测试和验证以降低风险。 为了给人工智能立法,国外学术界先后出现了蒙特利尔宣言、多伦多宣言等多个人工智能宣言,欧盟《人工智能法案》正是在这些宣言的基础上发展而来。而因为国情的差异,中国当然不可能“在别家的地基上盖自家的房子”。 在这轮全球人工智能治理的热潮中,中国(包括北京等城市)应该加紧颁布具有自身文化属性和特色的《人工智能法案》,但请一定不要忘记,“理性、开放、和谐、人文”才应该是这部“以人为本”的法案最坚实的底座,这才是体现人类文明面对强机器智能的挑战仍然可以长盛不衰的根本力量所在 在人工智能学术圈和产业界有20多年的资深从业经历,曾获“科学中国人年度人物”称号、中国发明创业成果奖(一等奖,中国发明协会颁发)、吴文俊人工智能科技进步奖(中国智能科学技术最高奖,中国人工智能学会颁发)

    51620编辑于 2023-10-24
  • 来自专栏深度学习与python

    贝壳找房: 为 AI 平台打造混合多云的存储加速底座

    目前 JuiceFS 作为存储底座服务于整个机器学习平台,不仅提高了对混合多云架构的适应性,还大幅提升了数据处理效率。 03 基于 JuiceFS 的存储底座设计 元数据引擎架构设计 JuiceFS 采用的是元数据和数据分离的架构。对于元数据引擎的选型,我们考虑了三个方案。 目前,我们支持三种接入方式: 第一种是网关形式,通过配置域名对外提供服务; 第二种是 side-car 方式,特别适用于 k8s 环境,通过向容器注入代理服务,使得访问 S3 存储如同访问本地存储一般便捷 此外,由于我们广泛采用 S3 协议,公司内许多依赖于 S3 协议的组件,如可观测性工具(如 Prometheus),都基于该分布式缓存加速系统。 发布颠覆性个人智能系统Apple Intelligence,并彻底改革Siri AI “奸商”的崛起

    67210编辑于 2024-06-17
  • 来自专栏Android开发指南

    3.数据存储

    在内部文件的读取    **内部存储(internal storeage)      ram:运行时期的内存      (相当于电脑的内存)      rom;存储的内存     (相当于电脑的硬盘) ,sd卡路径:storage/sdcard * 所有存储设备,都会被划分成若干个区块,每个区块有固定的大小 * 存储设备的总大小 = 区块大小 * 区块数量    一般的术语:手机自带的32G,指的是手机的外部存储空间 3. 储存步骤 得到了SharedPreferences对象之后, 就可以开始向SharedPreferences文件中存储数据了,主要可以分为三步实现。 1. 3. 调用 commit()方法将添加的数据提交,从而完成数据存储操作。

    1.2K70发布于 2018-05-14
  • 来自专栏技术杂记

    Mysql 优化存储3

    结果是类似这样的 [root@opti-slave tmp]# cat optimize.sql optimize table azheng_db.answers; optimize table azheng_db.feedbacks; optimize table azheng_db.logged_exceptions; optimize table azheng_db.question_answers; optimize table azheng_db.questions; optimize tabl

    36420编辑于 2022-03-21
  • 来自专栏python3

    KVM专题(3存储

    KVM存储模式 基于文件系统的存储 dir:目录格式的存储 fs:磁盘分区存储 neyfs:网络共享文件存储 基于设备的存储 Disk:物理硬盘存储 Iscsi:iSCSITarget后端存储 logical : 存储池的基本概念 Libvirt可以以存储池的形式对存储进行统一管理、简化操作 对于虚拟机操作来说,存储池和卷并不是必须的 ? gpt格式 准备xml文件 <pool type='disk'> <name>guest_images3_fs</name> <source> <device path='/dev/sdc virsh pool-start guest_images<em>3</em>_fs :启动<em>存储</em>池 创建基于iscsi的<em>存储</em>池 在iscsi Target服务器上面安装target服务,并配置 /backstores/ <em>存储</em>卷 ?

    1.3K10发布于 2020-01-10
  • 来自专栏开发技能乱炖

    3-数据存储之文件存储(1)

    一 简单介绍: 我们前面很少将提取的数据或者获取的源码保存下来;其实日常的工作中在解析出数据后接下来就是存储数据。 熟悉/了解上面的知识点后(详细信息:菜鸟教程/w3school),我们实例一下; 小说网站:https://xs.sogou.com/mianfei/ 获取书名、简洁并保存为txt文件: import JSON文件存储: 先官方话了解一下: JSON(JavaScript Object Notation) 是一种轻量级的数据交换格式。它基于ECMAScript的一个子集。 3). CSV文件存储: 使用csv文件存储,我理解的就是表格存储,Excel都用过吧,就是那个;接下来我们分文件的写入跟读取两部分分开讲解,请系好安全带(如果非要介绍定义的话,请百度…我就是懒); 简单写入,

    2K30发布于 2019-11-12
  • 来自专栏IT创事记

    智能时代,高端存储何去何从?

    在系列连载《智能时代下的高端存储》首期文章里,回顾了高端存储自诞生以来风起云涌的三十年里脱颖而出的各大厂商的发展。 而在日新月异的当下,涌出了很多质疑声:智能时代,是否还有高端存储的概念?对这个问题,高端存储有自己的“追求”和“坚持”。 关于“智能时代,是否还有高端存储的概念”这一疑问,从不同角度出发得到的答案不尽相同。究其原因则主要在于随着5G、云计算、人工智能和第四次工业革命的深入发展,产业环境和IT技术均已今非昔比。 新时代赋予了高端存储新的定义和使命,智能时代下的高端存储已然与过去的概念不尽相同。 那么,当今高端存储的“变”与“不变”是如何体现的? 3.多个Active-Active的控制器/刀片/处理器对 文中的解释是:很多中端存储提供双活的控制器,有一对控制器可以同时访问后端同样磁盘的数据。

    96120编辑于 2022-08-30
  • 来自专栏云计算行业

    智能分层存储,自动优化您的存储成本

    但如果选择智能分层存储,就无需关注数据访问热度,由对象存储服务来监测数据访问频率,即可将数据智能地在冷热访问层之间转换,且无需数据取回费用,在不损害户访问体验的同时,有效降低存储成本。 智能分层存储优势 无需关注数据访问模式,智能转换存储层 只需为数据指定对象存储类型,即可应用智能分层存储特性。 低频数据无需取回,秒变高频数据 智能分层存储是文件对象级别的存储类型,COS会智能监控每一个处于该存储类型的对象,当检测到某对象的访问热度降低时,会自动将数据转换至低频存储,如果该对象若干时间后重新被人访问 数据自动沉降,存储成本更优 通过监测数据访问频率,自动化管理数据访问层,智能分层存储类型还参与对象存储生命周期流程,用户可以按需将智能分层存储沉降到归档存储中,进一步降低数据在云端的存储成本。 同城容灾MAZ架构已同步智能分层存储类型,数据设计可靠性可达12个9,业务设计可用性可达99.995%。 通过数据冷热分层存储智能分层能够帮助用户在存储成本和读写性能之间寻找平衡点。

    73420编辑于 2023-05-29
  • 来自专栏SD NAND

    MCU ESP32-S3+SD NAND存储芯片:智能皮电手环(GSR智能手环)性能与存储的深度评测

    智能皮电手环与数据存储领域,主控MCU ESP32-S3FH4R2 与 存储SD NAND 的搭档堪称行业新典范。 在智能穿戴设备、便携式电子产品等应用场景中,能源续航是关键指标。 无论是快速捕捉传感器采集的大量数据,还是流畅读取高清图像、视频文件,SD NAND 都能在 ESP32-S3FH4R2 的驱动下,实现数据的高速传输与存储。 4 位 SD 模式在 1 位 SD 模式基础上,扩展 DAT1~DAT3 数据线,实现 4 位并行传输,通过引脚功能重配大幅提升数据传输带宽,能满足对读写速度要求极高的存储应用,但需要主控芯片具备相应 一些智能皮电手环还可能结合其他传感器的数据,如心率、加速度等,进行更全面的生理状态监测和分析。

    20710编辑于 2026-04-14
  • 来自专栏Apache Doris

    Apache Doris 4.1:面向 AI & Search 的统一数据存储与检索底座

    AI 时代,数据库已成为智能 Agent、RAG 系统、大模型应用和 AI 可观测平台 的基础设施。它不仅要能存结构化数据,更要能承载长上下文、向量、全文、Trace、事件流等新型数据。 3. 原生支持 100MB JSON 文档存储 在长上下文、多轮对话、RAG 和 AI Agent 等场景中,将完整交互生命周期作为单个文档存储,已成为实际需求。 为此,Doris 4.1 引入 Segment V3,借鉴了 Lance 以及 Vortex 等新型文件存储格式的做法,将元数据从 footer 中分离,按需加载,解决万列场景下最容易碰到的元数据膨胀、 聚合扩展优化:先缩数据,再做多维聚合 通过智能识别最细粒度聚合组及其聚合率,在满足条件时,将执行方式从“多组并行聚合”调整为:先完成最细粒度聚合,大幅缩减数据规模,再基于结果计算其他聚合组,从而显著降低计算延迟 数据接入与写入路径增强 S3 持续导入:支持基于 S3 文件源创建持续导入 Job,系统可自动发现新增文件并持续执行导入,适用于对象存储场景下的增量数据接入。

    62410编辑于 2026-04-24
  • 来自专栏python3

    3,mysql的存储引擎

    1,什么是存储引擎,存储引擎说白了就是如何存储数据,如何为存储的数据建立索引和如何更新,查询数据等技术的实现方法。因为在关系数据库中数据的存储是以表的形式存储的,所以存储引擎也可以成为表类型。 在Oracle和SQL Server等数据库中只有一个存储引擎,所有的数据存储管理机制都是一样的。 MySQL数据库提供了多种存储引擎,用户可以根据不同的需求为数据库表选择不同的存储引擎,也可以根据自己的需要编写自己的存储引擎。 2,如何选择存储引擎: InnoDB存储引擎:用于事务处理应用程序,具有众多特性 MyISAM存储引擎:主要用于管理费事务表,它提供高速存储和检索,以及全文搜索能力 MEMORY存储引擎:提供“内存中” 表,MEMORY存储引擎的所有数据都在内存中,数据的处理速度快,但安全性不高(用于相对较小的数据库表)

    89810发布于 2020-01-06
领券