比memcpy更好的内存拷贝方法
偶然间看到一个叫xmemcpy的工具，用做内存拷贝。号称在拷贝120字节以内时，比glibc提供的memcpy快10倍，并且有实验数据。
这让人感觉很诧异。一直以来都觉得memcpy是很高效的。相比于strcpy等函数的逐字节拷贝，memcpy是按照机器字长逐字进行拷贝的，一个字等于4（32位机）或8（64位机）个字节。CPU存取一个字节和存取一个字一样，都是在一条指令、一个内存周期内完成的。显然，按字拷贝效率更高。
那么，这个xmemcpy是靠什么来实现比memcpy“快10倍”的呢？
看了一下xmemcpy的实现，原来它速度快的根据是：“小内存的拷贝，使用等号直接赋值比memcpy快得多”。
这下就更纳闷了，内存拷贝不就是把一块内存一部分一部分地拷贝到另一块内存去吗？难道逐字拷贝还有性能提升的空间？
写了一段代码：
#include
#define TESTSIZE128
struct node {
char buf[TESTSIZE];
};
void main()
{
char src[TESTSIZE] = {0};
char dst[TESTSIZE];
*(struct node*)dst = *(struct node*)src;
}
然后反汇编：
......
00000000004004a8
4004a8:55push%rbp
4004a9:48 89 e5mov%rsp,%rbp
4004ac:48 81 ec 00 01 00 00sub$0x100,%rsp
4004b3:48 8d 7d 80lea0xffffffffffffff80(%rbp),%rdi
4004b7:ba 80 00 00 00mov$0x80,%edx
4004bc:be 00 00 00 00mov$0x0,%esi
4004c1:e8 1a ff ff ffcallq 4003e0
4004c6:48 8b 45 80mov0xffffffffffffff80(%rbp),%rax
4004ca:48 89 85 00 ff ff ffmov%rax,0xffffffffffffff00(%rbp)
4004d1:48 8b 45 88mov0xffffffffffffff88(%rbp),%rax
......
400564:48 89 85 70 ff ff ffmov%rax,0xffffffffffffff70(%rbp)
40056b:48 8b 45 f8mov0xfffffffffffffff8(%rbp),%rax
40056f:48 89 85 78 ff ff ffmov%rax,0xffffffffffffff78(%rbp)
400576:c9leaveq
400577:c3retq
400578:90nop
......
再将libc反汇编，并找到memcpy的实现，以作比较：
......
0006b400
6b400:8b 4c 24 0cmov0xc(%esp),%ecx
6b404:89 f8mov%edi,%eax
6b406:8b 7c 24 04mov0x4(%esp),%edi
6b40a:89 f2mov%esi,%edx
6b40c:8b 74 24 08mov0x8(%esp),%esi
6b410:fccld
6b411:d1 e9shr%ecx
6b413:73 01jae6b416
6b415:a4movsb %ds:(%esi),%es:(%edi)
6b416:d1 e9shr%ecx
6b418:73 02jae6b41c
6b41a:66 a5movsw %ds:(%esi),%es:(%edi)
6b41c:f3 a5repz movsl %ds:(%esi),%es:(%edi)
6b41e:89 c7mov%eax,%edi
6b420:89 d6mov%edx,%esi
6b422:8b 44 24 04mov0x4(%esp),%eax
6b426:c3ret
6b427:90nop
......
原来两者都是通过逐字拷贝来实现的。但是“等号赋值”被编译器翻译成一连串的MOV指令，而memcpy则是一个循环。“等号赋值”比memcpy快，并不是快在拷贝方式上，而是快在程序流程上。
（另外，测试发现，“等号赋值”的长度必须小于等于128，并且是机器字长的倍数，才会被编译成连续MOV形式，否则会被编译成调用memcpy。当然，具体怎么做是编译器决定的。）
而为什么同样是按机器字长拷贝，连续的MOV指令就要比循环MOV快呢？
在循环方式下，每一次MOV过后，需要：1、判断是否拷贝完成；2、跳转以便继续拷贝。
每拷贝一个字长，CPU就需要多执行以上两个动作。
循环除了增加了判断和跳转指令以外，对于CPU处理流水产生的影响也是不可不计的。CPU将指令的执行分为若干个阶段，组成一条指令处理流水线，这样就能实现在一个CPU时钟周期完成一条指令，使得CPU的运算速度得以提升。
指令流水只能按照单一的指令路径来执行，如果出现分支（判断+跳转），流水就没法处理了。
为了缓解分支对于流水的影响，CPU可能会采取一定的分支预测策略。但是分支预测不一定就能成功，如果失败，其损失比不预测还大。
所以，循环还是比较浪费的。如果效率要求很高，很多情况下，我们需要把循环展开（比如在本例中，每次循环拷贝N个字节），以避免判断与跳转占用大量的CPU时间。这算是一种以空间换时间的做法。GCC就有自动将循环展开的编译选项（如：-funroll-loops）。
但是，循环展开也是应该有个度的，并不是越展开越好（即使不考虑对空间的浪费）。因为CPU的快速执行很依赖于cache，如果cache不命中，CPU将浪费不少的时钟周期在等待内存上（内存的速度一般比CPU低一个数量级）。而小段循环结构就比较有利于cache命中，因为重复执行的一段代码很容易被硬件放在cache中，这就是代码局部性带来的好处。而过度的循环展开就打破了代码的局部性，所以xmemcpy一开始就提到拷贝120字节以内。如果要拷贝的字节更多，则全部展开成连续的MOV指令的做法未必会很高效。
综上所述，“等号赋值”之所以比memcpy快，就是因为它省略了CPU对于判断与跳转的处理，消除了分支对CPU流水的影响。而这一切都是通过适度展开内存拷贝的循环来实现的。
【比memcpy更好的内存拷贝方法】转自：http://hi.baidu.com/_kouu/blog/item/c9761112ff2eca0b5baf5342.html
推荐阅读
- 《跨界歌手》:亲情永远比爱情更有泪点
- 【译】20个更有效地使用谷歌搜索的技巧
- 烦恼和幸福
- 汇讲-勇于突破
- 从蓦然回首到花开在眼前，都是为了更好的明天。
- 六月更新的......
- 研学让生活更美好
- 如何更好的去学习
- 姚老师互动问答会|姚老师互动问答会 # 问题001（如何更有智慧的和身边人分享金刚智慧（））
- 幸福是个比较级