Cache 设计原理（一）Cache 存在的意义

文章目录

0x01 Cache 的意义
0x02 局部性原理
0x03 Cache 应用实例

0x01 Cache 的意义

目前，计算机所使用的内存大都为 DRAM/SDRAM，此类存储器访存时间较长，将会引起流水线长时间的停顿，这个时间比起时钟周期是个非常大的数字。当访存指令占据较大一部分时，平均 CPI 会因此而大幅升高。

有时 data 和 code 都在同一存储器中，例如初始化C语言环境的过程就需要将 code 段和 data 段（或只有 data 段）从 Flash/SD 卡拷贝到内存中。这个过程中流水线的 IF 和 MEM 阶段会同时访问 Flash/SD 卡，导致结构冒险。现代处理器的 core 通常为哈佛结构，使用 D-cache 和 I-cache 分别缓存 data 和 code ，这样从 core 的角度来看，就消除了访存过程的结构冒险。

0x02 局部性原理

局部性原理分为时间局部性 和 空间局部性 。
● 时间局部性是指当某一时刻访问了存储器中的一个数据元素，那么在之后的一段时间内会经常再次访问此元素。
● 空间局部性是指当某一时刻访问了存储器中的一个数据元素，那么也会经常访问相邻地址的数据元素。

总结来说就是 CPU 访问存储器时，无论是存取指令还是存取数据，所访问的存储单元都趋于聚集在一个较小的连续区域中。一个利用好局部性原理的程序会更高效地执行。

例如如下 C 程序：

int DataBuff[500] = {0};
for( int i; i<500; i++ )DataBuff[i] = i;

此代码是常用的为数组初始化数据的方式，数组本身在内存空间中是连续的，而访问这一段内存的过程就满足空间局部性原理。
我们写算法代码时常常一个变量在一个范围内（比如子函数）多次存储和读取，这一习惯就是满足时间局部性原理的。

Cache 的设计原理针对了基于局部性原理的优化，会使满足局部性原理的程序访存效率更高，具体将会在后续的博客中说明。

0x03 Cache 应用实例

上图为 STM32F407 的 SoC 架构图，其中右面红框部分包括了 Flash 和 Cache，可以看到，这个 Cache 分成了两个接口接入 AHB 总线，分别通过 AHB fabric 最终接到了左面红框部分的 D-BUS 和 I-BUS 处，作为独立的取指和访存通道接入 CM4 内核。