🔥作者简介: 一个平凡而乐于分享的小比特,中南民族大学通信工程专业研究生,研究方向无线联邦学习 🎬擅长领域:驱动开发,嵌入式软件开发,BSP开发 ❄️作者主页:一个平凡而乐于分享的小比特的个人主页 ✨收录专栏:硬件知识,本专栏为记录项目中用到的知识点,以及一些硬件常识总结 欢迎大家点赞 👍 收藏 ⭐ 加关注哦!💖💖

想象一下这样的场景:
你(CPU)是一位大厨,正在厨房做菜
存储层次 | 容量 | 速度 | 成本 | 生活比喻 |
|---|---|---|---|---|
CPU内部 | 极小 | 极快(纳秒级) | 极高 | 厨师的手 |
寄存器 | 很小 | 非常快 | 很高 | 手中的食材 |
Cache | 较小 | 快 | 高 | 身边的冰箱 |
DDR内存 | 大 | 较慢 | 中等 | 附近的超市 |
硬盘 | 极大 | 慢 | 低 | 遥远的农场 |
关键问题:如果每次需要食材都要去超市(访问内存),厨师大部分时间都在路上,做菜效率极低!
解决方案:把可能会用到的食材提前放到冰箱(Cache)里。
存储类型 | 访问速度 | 典型容量 | 位置 | 相当于… |
|---|---|---|---|---|
CPU运算单元 | 0.3-0.5 ns | - | CPU内部 | 闪电 |
寄存器 | 0.5-1 ns | 几十到几百字节 | CPU内部 | 手中工具 |
L1 Cache | 1-2 ns | 32-64 KB | CPU芯片内 | 工作台抽屉 |
L2 Cache | 3-10 ns | 256 KB - 1 MB | CPU芯片内/外 | 身边小柜子 |
L3 Cache | 10-20 ns | 2-16 MB | CPU芯片外 | 厨房储物柜 |
DDR4内存 | 60-100 ns | 8-32 GB | 主板上 | 小区超市 |
SSD硬盘 | 50-150 μs | 256 GB - 2 TB | 机箱内 | 城市仓库 |
机械硬盘 | 5-20 ms | 1-10 TB | 机箱内 | 省际物流中心 |
速度差异直观感受:
如果CPU访问寄存器需要1秒钟,那么:
访问L1 Cache ≈ 2秒
访问L2 Cache ≈ 5-10秒
访问内存 ≈ 1-2分钟
访问SSD ≈ 14-17小时
访问机械硬盘 ≈ 2-6个月!定义:现在访问的数据,不久后很可能再次被访问
生活场景:
你今天中午吃了米饭,晚上很可能还会吃米饭 你正在写的文档,很可能下一秒还要继续编辑
计算机示例:
// 循环中的变量i会被频繁访问
for(int i = 0; i < 1000; i++) {
sum += array[i]; // i被反复使用
}定义:现在访问的数据,其附近的数据也很可能即将被访问
生活场景:
你在书架上找到一本书,很可能下一本也要从同一区域拿 厨房里拿盐后,很可能接着拿旁边的胡椒粉
计算机示例:
// 数组元素在内存中是连续存储的
int array[100];
for(int i = 0; i < 100; i++) {
array[i] = i * 2; // 访问array[0]后,很可能访问array[1]、array[2]...
}指标 | 公式 | 说明 | 理想值 |
|---|---|---|---|
命中率 | 命中次数/总访问次数 | Cache中找到数据的比例 | 越高越好(通常90%-99%) |
缺失率 | 1 - 命中率 | 未找到数据需要访问内存的比例 | 越低越好 |
平均访问时间 | 命中时间+缺失率×缺失代价 | 综合性能指标 | 越小越好 |
CPU请求数据
↓
检查Cache
↓
├─ 命中 → 返回数据(快速!)
↓
└─ 未命中 → 访问主存 → 返回数据(较慢)
↓
更新Cache(为下次准备)优点:节能,只在需要时才访问内存 缺点:未命中时需要额外等待时间
CPU请求数据
↓
同时启动:
├─ Cache查找
└─ 内存访问准备
↓
如果Cache命中 → 立即停止内存访问
↓
如果Cache未命中 → 继续内存访问优点:减少未命中时的延迟 缺点:更耗能,电路更复杂
主存与Cache之间的数据传输单位
概念 | 在主存中 | 在Cache中 | 大小 | 作用 |
|---|---|---|---|---|
块 | 页/页框/页面 | 行 | 通常64字节 | 数据传输基本单位 |
标签 | - | 存储在Cache中 | 若干位 | 标识数据来自主存的哪个位置 |
索引 | - | Cache行号 | 若干位 | 快速定位Cache行 |
地址结构:
主存地址 = [主存块号] + [块内地址]
↓
映射到Cache
↓
Cache地址 = [标签] + [索引] + [块内偏移]CPU核心
│
├─ L1 Cache(分指令和数据)
│ ├─ L1i:32KB 指令Cache
│ └─ L1d:32KB 数据Cache
│
├─ L2 Cache(每个核心独享)
│ └─ 256KB-512KB
│
└─ L3 Cache(所有核心共享)
└─ 2MB-16MB# 当你在Word中编辑文档时
while editing:
当前光标位置数据 → 频繁访问(时间局部性)
附近文字数据 → 可能访问(空间局部性)
格式信息 → 可能访问
菜单命令代码 → 可能访问
# Cache会将你正在编辑的段落及附近内容缓存起来// 处理一张图片的像素
for(int y = 0; y < height; y++) {
for(int x = 0; x < width; x++) {
// 访问pixels[y][x]时,相邻像素也会被加载到Cache
processPixel(pixels[y][x]);
// 当按行扫描时,缓存了整行像素
// 当按列扫描时,可能会频繁Cache未命中(性能差!)
}
}游戏帧渲染:
1. 角色模型数据 → 加载到Cache
2. 纹理贴图 → 按需加载
3. 物理引擎数据 → 局部加载
4. AI代码 → 指令Cache缓存
Cache优化技巧:
- 数据紧凑排列
- 顺序访问内存
- 减少随机访问类型 | 原因 | 比喻 | 解决方法 |
|---|---|---|---|
强制性未命中 | 第一次访问数据 | 第一次买新食材 | 预取技术 |
容量性未命中 | Cache容量不足 | 冰箱太小放不下 | 增大Cache,优化数据大小 |
冲突性未命中 | 多个数据映射到同一Cache位置 | 冰箱格子冲突 | 提高关联度 |
最终效果:
没有Cache的系统:
CPU 🏎️ ---(等待)--- DDR内存 🚗
有Cache的系统:
CPU 🏎️ --- Cache 🚄 --- DDR内存 🚗
结果:系统整体速度提升5-10倍!Cache是现代计算机系统中最关键的性能优化技术之一,它让我们的电脑、手机能够快速响应各种操作,是计算速度飞跃的幕后英雄!