- 综合排序
- 最热优先
- 最新优先
- 来自专栏一行舟
在线Excel存储方案
引言：设计数据存储方案时，Feed流、IM消息、订单等一些典型业务场景的，都有比较多的技术文章和教学课程；在线Excel场景下的文章却很匮乏，所以把自己近期对在线Excel存储选型的一些思考写下来，和大家一起交流 人的主要属性有：用户ID、人员名称等，是典型的结构化数据，我们只需要根据数据量去选择合适的存储方案就可以，不是本文的重点，就不细说了。 我们重点分析Excel文档的存储。 方案设计 经过上面的分析我们对数据库的需求有： 需求 是否必须 低延迟 必须 支持CP模型 必须 支持非结构化数据存储 必须 有亿级数据的存储方案 必须 有成熟的扩容方案 必须 冷热数据 非必须 各类数据库对比 最终选型 需求 MySQL MongoDB TiDB S3 低延迟 ✅ ✅ ✅ 支持CP模型 ✅ ✅ ✅ 支持非结构化数据存储 ❌ ✅ ❌ 有亿级数据的存储方案 ✅ ✅ ✅ ✅ 有成熟的扩容方案 一般使用比较多的数据库如MySQL、MongoDB在这些方面都有成熟的方案。综上所述：采用「MongoDB」来存储元数据和Excel文档的热数据，采用「对象存储」来存放冷数据是一个比较不错的方案。
2.8K20编辑于 2022-08-25 - 来自专栏小徐学爬虫
Elasticsearch数据存储优化方案
优化Elasticsearch数据存储有助于提升系统性能、降低成本、提高数据查询效率以及增强系统的稳定性和可靠性。通常我们再优化Elasticsearch数据存储会遇到一些问题，导致项目卡壳。 以下是优化Elasticsearch数据存储的一些重要作用：1、问题背景在某些场景中，我们可能会考虑绕过数据库，直接使用Elasticsearch存储数据，并在Python应用程序中实时构建这些数据。 2、解决方案使用Elasticsearch批量索引APIElasticsearch的批量索引API具有很高的效率，可以处理大量的数据。具体性能会根据源文档和分析器的复杂性有所变化。 Tutorial' } }, { '_index': 'my-index', '_type': 'my-type', '_id': '2' , '_source': { 'title': 'Elasticsearch Tutorial 2' } }]# 执行批量索引client.bulk
99210编辑于 2024-03-18 - 来自专栏存储公众号：王知鱼
SuperMicro：AI存储硬件方案
SuperMicro：AI存储硬件方案-Fig-2 企业级AI存储方案 Pod 级别的部署（较云厂商规模、性能要求降低） 企业用例，推理与训练的比较 存储需求： • 全 NVMe 或 PB 级别的分层存储 • 更多利用率 -> 更好的投资回报（ROI） • Supermicro Peta级存储系统： • 使用最新的 E3.S NVMe 存储的 1U 和 2U 服务器。 SuperMicro：AI存储硬件方案-Fig-6 方案验证 机架视角的集群组网方案 解决方案架构，分为三个层次： 1. 2. 全闪存层（All-Flash Tier）：使用 Supermicro Petascale 存储服务器，通过 400 Gbps 的 InfiniBand 提供数据存取。 3. • 支持 1U E1.S 和 E3.S，2U E3.3 TLC、QLC 和 CXL 设备，2U 全闪存容量高达 1PB。 • 使用 EDSFF 设计进行优化的热设计。
1.5K10编辑于 2025-02-11 - 来自专栏存储公众号：王知鱼
Solidigm：海量数据存储方案
得益于SKhynix在高密度存储3D-NAND领域长期积累的优势，Solidigm可完整复制高密度存储的生产能力。 高密度存储全栈解决方案 主要涵盖了三个方面的技术突破： 1. 这一进展对存储系统具有重要意义，因为它提供了更高的存储容量，同时不sacrificing牺牲性能和耐久性，为数据中心和企业存储解决方案提供了更具成本效益的选择。 图片阐述了存储技术领域正在经历的重大转变，强调了高密度存储解决方案的重要性。主要传达以下几个关键信息： 1. 去中心化趋势：存储领域正在经历快速的去中心化过程，这意味着数据存储和处理正从集中式架构向分布式系统转变。 2. 采用固态硬盘和闪存存储技术的数据中心可以大幅降低能耗和成本。 2. 数据中心使用全QLC闪存存储方案能够实现更高的容量和更低的成本。 3.
88910编辑于 2025-02-11 - 来自专栏技术杂记
Mysql 优化存储2
percona-toolkit 中提供一个叫 pt-table-sync 的工具，可以获取一致性检查结果
65210编辑于 2022-03-21 - 来自专栏Elton的技术分享博客
网站密码存储方案比较
第一种就不解释了，我们看下第二种加密算法（php代码）$salt是一个随机字符串，每个用户都不一样，并且要存储下来用于验证 md5($password. 参考标准：rfc6070，rfc2898 我们看一下django中关于PBKDF2的代码：utils/crypto.py def pbkdf2(password, salt, iterations, dklen [:r] 然后在django.contrib.auth.hashers里使用，密码以“algorithm$number of iterations$salt$password hash”的格式返回，并存储在同一个字段中 当然，如果你自己编写PBKDF2函数，你可以将salt存储在任意字段。只要让每个用户都不一样就行了。 我个人偏向于使用PBKDF2，下面的参考资料中，或许也会给你答案。
2.2K30发布于 2021-01-22 - 来自专栏技术杂记
sqlite数据存储（2）
create table students:table students already exists Please take follow action: 0.exit 1.insert 2. Please take follow action: 0.exit 1.insert 2.delete 3.update 4.query 5.showall 1 Please take Please take follow action: 0.exit 1.insert 2.delete 3.update 4.query 5.showall 4 Please take Please take follow action: 0.exit 1.insert 2.delete 3.update 4.query 5.showall 2 Please take 语句的过程中会经常使用到 sprintf ，它和 printf 的用法相似，但是将结果写到一个字符数组中，而不是直接打印到了终端上，这样便于后期的处理 ---- 总结 以下函数可以对sqlite数据库进行创建与控制，是存储数据的基础操作
1K30发布于 2021-09-15 - 来自专栏腾讯云存储
对象存储COS成本优化方案
在存储费用方面，COS提供了标准存储、低频存储、智能分层存储、归档存储、深度归档存储等不同的存储类型，各个存储类型的产品规格和价格均存在差异，客户可以根据自己的业务模式选择性价比最匹配的存储类型。 下面我们将从5个方面介绍COS成本优化方案： 选择合适的存储类型 定期通过清单和访问日志功能分析数据访问模式 通过生命周期和批量处理沉降数据 通过文件压缩减少存储容量 进行成本回顾 一、选择合适的存储类型 以检索分析清单文件中的数据为例，当清单报告投递到指定存储桶后，您可以进入控制台对指定的清单报告进行分析： 1、进入文件列表，找到对应的清单报告，点击最右侧检索； 2、进入文件检索页面，配置好相应入参 操作步骤如下： 1、导出待处理文件列表，整合成csv格式文件； 2、创建COSBatch批量处理任务，导入文件列表； 3、执行批量处理任务，等候任务完成即可。 在未来，COS会持续探索并推出更多的存储产品和服务，挖掘场景化解决方案，为客户提供业界内性价比最高的存储服务。
2.3K31发布于 2020-11-20 - 来自专栏code秘密花园
前端最能打的本地存储方案
前言 之前开发了一个离线存储的需求，需要在本地存储较大的数据量，并且还要考虑到多种场景下的存储方式兼容。产品的原话就是“要又大又全”。既然存储量大，也要覆盖全多种设备多种浏览器。 方案选择 既然要存储的数量大，得排除cookie localStorage，虽然比cookie多，但是同样有上限（5M）左右，备选 websql 使用简单，存储量大，兼容性差，备选 indexDB api localforage .setItem("my array", [1, 2, "three"]) .then(function (value) { // 如下输出 `1` console.log 、设置数据库的名称、长度等信息 可参考 官方文档[2] localforage是否万事大吉？ 解决 存储数据的时候加上存储的时间戳和模块标识，加时间戳一起存储 setItem({ value: '1', label: 'a', module: 'a', timestamp
1.4K30编辑于 2023-09-11 - 来自专栏伟哥专栏
COS存储跨园区同步方案
对象存储（Cloud Object Storage，COS）是腾讯云提供的一种存储海量文件的分布式存储服务，用户可通过网络随时存储和查看数据。 数据同步方案2：工具周期同步能力 COS Migration工具复制.jpg 针对于实时性要求较高的同步场景，使用migration工具可以实现自定义时间同步策略。 数据同步方案3：回源拉取同步能力 回源拉取复制.jpg 针对于热数据同步的场景，部分数据同步，降低存储成本。 此方法优点：配置简单，仅热数据被同步，节省存储空间。 ---- COS高可用数据同步方案 通过数据同步方案4的架构，结合COS自身特点与相关产品的功能，我们可以绘制出一个具备数据高可靠 + 高可用 + 容灾能力 + 故障切换能力的整体架构图。 存储高可用同步方案（完整）.jpg 数据高可靠：通过上传至Master桶后，可实现实时跨区域数据同步，包括多云（友商云）同步。确保数据主从分离，天然支持业务层多副本冗余，提升数据可靠性。
3.1K1413发布于 2020-06-13 - 来自专栏王亚昌的专栏
SNS站点的数据存储方案
今天看了篇文章，谈到SNS站点应用中的分库分表问题，这里我也谈谈我对SNS站点和应用数据存储的看法。 一、数据存储 SNS站点中数据层根据业务和访问特性可分为几类： 1. 2. 读频繁写不频繁，重要数据。 比如用户等级数据、评论、留言等。 对于2这类重据来说，DB一定要做热备，因此关键数据的数据量也比较小，所以热备的成本也不是很高。 如果cache机掉电的话，可以采用上面提到的方案，从DB中恢复数据，用户资料回档到10分钟之前，同时对用户进行补偿与告知，平息用户投诉。 三、总结 本文主要讨论了SNS站点和应用数据存储的问题，上面给出的方案基于业务可用性、稳定性、冗灾以及成本的综合考虑，用一位前辈的话就是“一切都是均衡”，业务的稳定性不能单独靠高成本去保证。
1.2K20发布于 2018-08-03 - 来自专栏lib库
通用缓存存储方案设计
目录介绍01.整体概述说明1.1 项目背景介绍1.2 遇到问题记录1.3 基础概念介绍1.4 设计目标1.5 产生收益分析02.市面存储方案2.1 缓存存储有哪些2.2 缓存策略有哪些2.3 常见存储方案 2.4 市面存储方案说明2.5 存储方案的不足03.存储方案原理3.1 Sp存储原理分析3.2 MMKV存储原理分析3.3 LruCache考量分析3.4 DiskLru原理分析3.5 DataStore 问题2：各种缓存方案，进程不安全是否会导致数据丢失，如何处理数据丢失情况？如何处理脏数据，其原理大概是什么？问题3：各种缓存方案使用场景是什么？有什么缺陷，为了解决缺陷做了些什么？ 2.SP读写文件不是类型安全的，且没有发出错误信号的机制，缺少事务性API3.commit() / apply()操作可能会造成ANR问题存储方案MMKV的不足1.没有类型信息，不支持getAll。 要是想兼容不同存储方案切换，就必须自己制定一个通用缓存接口。定义接口，然后各个不同存储方案实现接口，重写抽象方法。
1.7K10编辑于 2023-03-07 - 来自专栏前端技术江湖
前端最能打的本地存储方案
前言 之前开发了一个离线存储的需求，需要在本地存储较大的数据量，并且还要考虑到多种场景下的存储方式兼容。产品的原话就是“要又大又全”。既然存储量大，也要覆盖全多种设备多种浏览器。 方案选择 既然要存储的数量大，得排除cookie localStorage，虽然比cookie多，但是同样有上限（5M）左右，备选 websql 使用简单，存储量大，兼容性差，备选 indexDB api 首先indexDB的存储，理论上是硬件有多大内存就可以存多少，但是有些浏览器厂商会限制，具体限制各家不同，但是基本最小是250M起步 使用 解决了兼容性和存储量的点，我们就来看看localforage localforage .setItem("my array", [1, 2, "three"]) .then(function (value) { // 如下输出 `1` console.log 解决 存储数据的时候加上存储的时间戳和模块标识，加时间戳一起存储 setItem({ value: '1', label: 'a', module: 'a', timestamp
1.2K10编辑于 2023-09-25 - 来自专栏用户5909132的专栏
存储分发加速解决方案
最佳优惠方案对比 推荐使用：单一云厂商模型(以腾讯云为例) 流量费用=CDN回源流量+CDN流量（一般情况下命中率90%） 以刊例价为例 CDN 回源流量：0.15*（1-90%）=0.015元/GB -0.11元/GB） 总流量费用=0.26-0.16元/GB（腾讯云刊例价） 使用多家云厂商存储+CDN，回源流量费用增加233%，整体流量费用增加16%以上 促销活动推荐 目前正在进行此方案的活动促销 CDN加速的COS的具体操作实现方法如下2种： 一、通过CDN控制台实现 1、添加域名 登录CDN控制台，在左侧导航栏中，单击【域名管理】进入域名管理页面，单击【添加域名】，选择 COS 作为源站。 2、域名配置 在域名处填充您需要加速的自身的服务域名，为其选择项目、加速区域及业务类型： 配置项详解： 配置项 配置说明 域名 1. 域名长度不超过50个字符。2. 域名已经在工信部进行过备案。 2、加速配置 创建好存储桶后直接进入该存储桶的配置管理页面，或在存储桶列表单击需要配置的存储桶操作栏的【配置管理】，进入配置管理页面，选择【域名管理】。
13.9K31发布于 2020-06-12 - 来自专栏腾讯云存储专家服务
COS存储跨园区同步方案
对象存储（Cloud Object Storage，COS）是腾讯云提供的一种存储海量文件的分布式存储服务，用户可通过网络随时存储和查看数据。 腾讯云 COS 使所有用户都能使用具备高扩展性、低成本、可靠和安全的数据存储服务。 数据同步方案2：工具周期同步能力 工具周期同步 针对于实时性要求较高的同步场景，使用migration工具可以实现自定义时间同步策略。 此方法优点：可配置的轮询时间周期，同步内容与日志直观可见。 数据同步方案3：回源拉取同步能力 回源拉取同步 针对于热数据同步的场景，部分数据同步，降低存储成本。 此方法优点：配置简单，仅热数据被同步，节省存储空间。 ---- COS高可用数据同步方案 通过数据同步方案4的架构，结合COS自身特点与相关产品的功能，我们可以绘制出一个具备数据高可靠 + 高可用 + 容灾能力 + 故障切换能力的整体架构图。
2K40发布于 2021-02-23 - 来自专栏友弟技术工作室
Redis百亿级Key存储方案
今天，无意间看到一篇很好的优化方案，和我的场景很像，他的处理方式很巧妙。下面，我介绍一下。我会加入我自己的理解。 经过实际测试，对于上述数据，常规存储超过五十亿的kv记录就需要1T多的内存，如果需要做高可用多副本那带来的消耗是巨大的，另外kv的长短不齐也会带来很多内存碎片，这就需要超大规模的存储方案来解决上述问题。 2 存储何种数据 人⼝标签主要是cookie、imei、idfa以及其对应的gender（性别）、age（年龄段）、geo（地域）等；mapping关系主要是媒体cookie对supperid的映射。 所以原则上当天新更新的mapping和人口标签需要全部in memory，而不会让请求落到后端的冷数据； 5）业务方面，所有数据原则上至少保留35天甚至更久； 6）内存至今也比较昂贵，百亿级Key乃至千亿级存储方案势在必行 5 解决方案 5.1 淘汰策略 这里主要就是对数据进行过期的设置。 存储吃紧的一个重要原因在于每天会有很多新数据入库，所以及时清理数据尤为重要。主要方法就是发现和保留热数据淘汰冷数据。
2.7K60发布于 2018-04-25 - 来自专栏SpringCloud专栏
Redis百亿级Key存储方案
经过实际测试，对于上述数据，常规存储超过五十亿的kv记录就需要1T多的内存，如果需要做高可用多副本那带来的消耗是巨大的，另外kv的长短不齐也会带来很多内存碎片，这就需要超大规模的存储方案来解决上述问题。 所以原则上当天新更新的mapping和人口标签需要全部in memory，而不会让请求落到后端的冷数据； 5）业务方面，所有数据原则上至少保留35天甚至更久； 6）内存至今也比较昂贵，百亿级Key乃至千亿级存储方案势在必行 5 解决方案 5.1 淘汰策略 存储吃紧的一个重要原因在于每天会有很多新数据入库，所以及时清理数据尤为重要。主要方法就是发现和保留热数据淘汰冷数据。 如果规划百亿级存储，计划每个桶分担10个kv，那么我们只需2^30=1073741824的桶个数即可，也就是最终key的个数。 对于未出现的桶也是存在一定量的，如果过多会导致规划不准确，其实数量是符合二项分布的，对于2^30桶存储2^32kv，不存在的桶大概有（百万级别，影响不大）： Math.pow((1 - 1.0 / Math.pow
1.2K30发布于 2019-07-02 - 来自专栏内容分发网络 CDN
存储分发加速解决方案
最惠方案 推荐使用：单一云厂商模型（以腾讯云为例） 流量费用=CDN 回源流量+CDN流量（一般情况下命中率90%） 以刊例价为例 CDN 回源流量：0.15*（1-90%）=0.015元/GB CDN -0.11元/GB） 总流量费用=0.26-0.16元/GB（腾讯云刊例价） 使用多家云厂商存储+CDN，回源流量费用增加233%，整体流量费用增加16%以上 促销活动 官网目前还在进行此方案的活动促销 在域名配置中的源站类型中选择：COS源（对象存储）。 2. 选择对应的存储桶的域名。 3. 开启私有存储桶访问，需先对 CDN 服务授权。确认授权后可手动开启。 4. 创建好存储桶后直接进入该存储桶的配置管理页面，或在存储桶列表单击需要配置的存储桶操作栏的【配置管理】，进入配置管理页面，选择【域名管理】。 2. (1) 在默认加速域名模块下，单击【编辑】，手动开启当前状态，进入默认加速的配置 image.png (2) 默认加速的配置： image.png 源站类型：通常默认为默认源站，如果作为源站的存储桶开启了静态网站
8.5K228发布于 2020-06-04 - 来自专栏Czy‘s Blog
浏览器本地存储方案
浏览器本地存储方案 浏览器本地存储方案可以分为三个方面，分别为Cookie、Web Storage、IndexedDB。 Web存储机制，所以在某些需求下为了处理兼容性的情况可能还是需要Cookie存储一些业务信息。 缺点 存储量小，虽不同浏览器的存储量不同，但基本上都是在4KB左右。 localStorage localStorage对象在修订过的HTML5规范中作为持久保存客户端数据的方案取代了我们上面所提到的globalStorage。 也正是出于以上这些原因，localStorage被视为替代Cookie的解决方案，但还是要注意不要在localStorage中存储敏感信息。
1.2K40发布于 2021-01-18 - 来自专栏golang云原生new
redis 存储结构原理 2
，redis 中都是使用这个结构来进行组织的 typedef struct dict { dictType *type; void *privdata; dictht ht[2] type 字段对应的操作函数，具体有哪些操作函数，我们可以看到typedef struct dictType 给出的信息 privdata 字典依赖的数据，例如 redis 具体的操作等等 ht[2] 我们在 redis 源码中 src\server.h 也能够看到 redisdb 的数据结构 我们可以看到 dict 这个字典，是 redis 中使用是相当频繁和关键的 上面有说到 ht[2] 会用在渐进式 ht[0] 数据拷贝到 ht[1] 的方式一 是这样进行 rehash 的 ： 扩容的时候，rehash 是这样做的： 先会对上述说到的 ht[1] 开辟内存空间，会将 ht[0].size * 2
43910编辑于 2023-09-01
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号