1、一般的CPU都提供了Cache功能。我们设计的程序最好能利用到Cache,其次是RAM，然后是磁盘。一般在每个CPU中只使用一个线程做处理。我们尽量把相同或相近的操作放在一起来执行，这样当指令和数据被从磁盘中加载到Cache中后，就可以重复调用，不再需要跑到磁盘上去调，从而极大地提高程序的性能。。
2、cache，中译名高速缓冲存储器，它的作用是为了更好的利用局部性原理，减少CPU访问主存的次数。简单地说，CPU正在访问的指令和数据，其可能会被以后多次访问到，或者是该指令和数据附近的内存区域，也可能会被多次访问。因此，第一次访问这一块区域时，将其复制到cache中，以后访问该区域的指令或者数据时，就不用再从主存中取出。
3、内存体系一般来说核心到主存的延迟变化范围很大，大概在10-100ns。在100ns内，一个2.5GH的CPU可以处理多达100/T=500条指令，所以CPU使用缓存子系统避免了处理核心访问主存的时延，就可以使CPU更加高效的处理指令。在程序设计中提供程序高速缓存的命中率对于程序性能的提高帮助很大。特别是要着重考虑主要数据结构的设计。
