CPU学习 （Cache Coherence）

在2004年写的一篇文章x86汇编语言学习手记(1)中，曾经涉及到gcc编译的代码默认16字节栈对齐的问题。之所以这样做，主要是性能优化方面的考虑。　　大多数现代cpu都one-die了l1和l2cache。对于l1 cache，大多是write though的；l2 cache则是write back的，不会立即写回memory，这就会导致cache和memory的内容的不一致；另外，对于mp(multi processors)的环境，由于cache是cpu私有的，不同cpu的cache的内容也存在不一致的问题，因此很多mp的的计算架构，不论是ccnuma还是smp都实现了cache coherence的机制,即不同cpu的cache一致性机制。　　cache coherence的一种实现是通过cache-snooping协议，每个cpu通过对bus的snoop实现对其它cpu读写cache的监控：　　首先，cache line是cache和memory之间数据传输的最小单元。　　1. 当cpu1要写cache时，其它cpu就会检查自己cache中对应的cache line,如果是dirty的，就write back到memory,并且会将cpu1的相关cache line刷新；如果不是dirty的，就invalidate该cache line.　　2. 当cpu1要读cache时，其它cpu就会将自己cache中对应的cache line中标记为dirty的部分write back到memory,并且会将cpu1的相关cache line刷新。　　所以，提高cpu的cache hit rate,减少cache和memory之间的数据传输，将会提高系统的性能。　　因此，在程序和二进制对象的内存分配中保持cache line aligned就十分重要，如果不保证cache line对齐，出现多个cpu中并行运行的进程或者线程同时读写同一个cache line的情况的概率就会很大。这时cpu的cache和memory之间会反复出现write back和refresh情况，这种情形就叫做cache thrashing。　　为了有效的避免cache thrashing,通常有以下两种途径：　　1. 对于heap的分配，很多系统在malloc调用中实现了强制的alignment.
　　2. 对于stack的分配，很多编译器提供了stack aligned的选项。　　当然，如果在编译器指定了stack aligned,程序的尺寸将会变大，会占用更多的内存。因此，这中间的取舍需要仔细考虑，下面是我在google上搜索到的一段讨论：one of our customers complained about the additional code generated to
maintain the stack aligned to 16-byte boundaries, and suggested us to
default to the minimum alignment when optimizing for code size. this
has the caveat that, when you link code optimized for size with code
optimized for speed, if a function optimized for size calls a
performance-critical function with the stack misaligned, the
performance-critical function may perform poorly.