Linux(程序设计):24---无锁CAS（附无锁队列的实现）

缥帙各舒散，前后互相逾。这篇文章主要讲述Linux(程序设计):24---无锁CAS（附无锁队列的实现）相关的知识，希望能为你提供帮助。

本文所有代码对应的Github链接为：https://github.com/dongyusheng/csdn-code/tree/master/cas_queue

一、引言

锁是解决并发问题的万能钥匙，可是并发问题只有锁能解决吗？当然不是，CAS也可以解决并发问题

二、什么是CAS

比较并交换(compare and swap，CAS)，是原?操作的?种，可?于在多线程编程中实现不被打断的数据交换操作，从而避免多线程同时改写某?数据时由于执行顺序不确定性以及中断的不可预知性产?的数据不一致问题
有了CAS，我们就可以用它来实现各种无锁（lock free）的数据结构

实现原理

该操作通过将内存中的值与指定数据进行比较，当数值?样时将内存中的数据替换为新的值

下面是两种int类型操作的CAS伪代码形式：

//输入reg的地址，判断reg的值与oldval是否相等 //如果相等，那么就将newval赋值给reg; 否则reg保持不变 //最终将reg原先的值返回回去int compare_and_swap(int *reg, int oldval, int newval) { int old_ref_val = *reg; if(old_reg_val == oldval) *reg = newval; return old_reg_val; }

//输入一个pAddr的地址，在函数内部判断其的值是否与期望值nExpected相等 //如果相等那么就将pAddr的值改为nNew并同时返回true；否则就返回false，什么都不做bool compare_and_swap(int *pAddr, int nExpected, int nNew) { if(*pAddr == nExpected) { *pAddr = nNew; return true; } else return false; }

在上面的两种实现中第二种形式更好，因为它返回bool值让调用者知道是否更新成功

三、CAS的应用层实现

因为CAS是原子操作，所以在各种库的原子库中都有对应的CAS实现方式

gcc/g++中的CAS

对于gcc、g++编译器来讲，其原子操作中包含下面两个函数，是专门用来做CAS的
bool __sync_bool_compare_and_swap (type *ptr, type oldval type newval, ...); type __sync_val_compare_and_swap (type *ptr, type oldval type newval, ...);

关于gcc、g++的原子操作更多细节可以参阅：javascript:void(0)

Windows的CAS

在Windows下，你可以使用下面的Windows API来完成CAS：
InterlockedCompareExchange ( __inout LONG volatile*Target, __in LONG Exchange, __in LONG Comperand);

C++中的CAS

C++11标准库引入了原子操作，包含在< atomic> 头文件中，下面是专门用于CAS操作的接口
template< class T > bool atomic_compare_exchange_weak( std::atomic< T> * obj, T* expected, T desired ); template< class T > bool atomic_compare_exchange_weak( volatile std::atomic< T> * obj, T* expected, T desired );

关于C++11的原子操作更多细节可以参阅：javascript:void(0)

四、无锁队列的实现

此处我们只考虑队列出队列和进队列的并发问题：
- 出队列：出队列时，要保证只有一个线程在对头结点进行出队列的操作，否则就会发生错乱
- 入队列：入队列时，也一样，保证只有一个线程在对尾节点进行入队列的操作，否则就会发生错乱

无锁队列代码实现

//queue_cas.h #include < iostream> template< typename ElemType> class Queue { public: Queue(); //构造函数 ~Queue(); //析构函数 public: void push(ElemType elem); //入队列 bool pop(); //出队列 void show(); //打印队列的内容 private: struct _qNode//队列节点 { _qNode(): _next(nullptr) { } _qNode(ElemType elem): _elem(elem), _next(nullptr) { } ElemType_elem; struct _qNode *_next; }; private: struct _qNode *_head; //头结点 struct _qNode *_tail; //尾节点 }; template< typename ElemType> Queue< ElemType> ::Queue() { _head = _tail =new _qNode(); }template< typename ElemType> Queue< ElemType> ::~Queue() { while(_head != nullptr) { struct _qNode *tempNode = _head; _head = _head-> _next; delete tempNode; } }template< typename ElemType> void Queue< ElemType> ::push(ElemType elem) { //创建一个新的节点 struct _qNode *newNode = new struct _qNode(elem); struct _qNode *p = _tail; struct _qNode *oldp = _tail; do{ while(p-> _next != nullptr) p = p-> _next; } while(__sync_bool_compare_and_swap(& _tail-> _next, nullptr, newNode) != true); __sync_bool_compare_and_swap(& _tail, oldp, newNode); }template< typename ElemType> bool Queue< ElemType> ::pop() { struct _qNode *p; do { p = _head; if(p-> _next == nullptr) return false; } while(__sync_bool_compare_and_swap(& _head, p , p-> _next) != true); delete p; return true; }template< typename ElemType> void Queue< ElemType> ::show() { struct _qNode* tempNode = _head-> _next; if(tempNode == nullptr){ std::cout < < "Empty" < < std::endl; return; } while(tempNode != nullptr) { std::cout < < tempNode-> _elem < < " "; tempNode = tempNode-> _next; } std::cout < < std::endl; }

上面为无锁队列的实现代码，我们假定此队列中头结点不存储数据(当做哨兵)，尾节点存储数据

文章图片

其使用到CAS的核心函数就是push()和pop()函数，在下面我们将_sync_bool_compare_and_swap()函数调用称之为CAS操作

push()如下：
假设线程T1和T2都执行push()函数，当线程T1先执行do-while中的CAS操作然后发现其尾节点后为空，于是就执行do-while中的CAS操作将尾节点_tail的_next指针赋值为newNode，然后退出do-while循环，调用第二个CAS操作将尾节点指针向后移动一位

由于CAS是一个原子操作，所以即使同时T2线程了也调用了do-while中的CAS操作，但是其判断p-> _next不为空，因为T1线程已经将尾节点向后移动了，所以其只能继续执行do，将p向后移动，重新移动到尾节点继续重新判断，直到成功为止....

为什么push()函数的最后一个CAS操作不需要判断是否执行成功，因为：
1.如果有一个线程T1，它的while中的CAS如果成功的话，那么其它所有的随后线程的CAS都会失败，然后就会再循环

2.此时，如果T1线程还没有更新tail指针，其它的线程继续失败，因为tail-> next不是NULL了

3.直到T1线程更新完tail指针，于是其它的线程中的某个线程就可以得到新的tail指针，继续往下走了

do作用域中为什么要使用while将p指针向后移动：
假设T1线程在调用第二个CAS操作更新_tail指针之前，T1线程停掉或者挂掉了，那么其它线程就会进入死循环

template< typename ElemType> void Queue< ElemType> ::push(ElemType elem) { //创建一个新的节点 struct _qNode *newNode = new struct _qNode(elem); struct _qNode *p = _tail; struct _qNode *oldp = _tail; do{ //不断的向后指，直到直到尾节点为止 while(p-> _next != nullptr) p = p-> _next; } while(__sync_bool_compare_and_swap(& p-> _next, nullptr, newNode) != true); //如果p没有移动到真正的尾节点上，那么继续执行do//当CAS函数执行成功之后，那么执行这个CAS函数，将尾节点指针向后移动1位 __sync_bool_compare_and_swap(& _tail, oldp, newNode); }

pop()如下：
原理与push()同理，假设线程T1和线程T2都执行pop()操作，假设T1先执行CAS操作将_head向后移动了一位，并且删除了原先的头指针

那么当T2再执行时发现T1更新过后的_head指针(移动了)与一开始获取的头指针p不相等了，那么就继续执行do作用域重新获取头指针，然后重新进行CAS操作

template< typename ElemType> bool Queue< ElemType> ::pop() { struct _qNode *p; do { //获取_head指针 p = _head; if(p-> _next == nullptr) return false; } while(__sync_bool_compare_and_swap(& _head, p , p-> _next) != true); //判断头结点是否被移动过，如果移动过那么就执行do内部重新获取_head指针//删除头指针 delete p; return true; }

测试代码

//queue_cas_test.cpp #include "queue_cas.h"int main() { Queue< int> queue; queue.push(1); queue.push(2); queue.push(3); queue.show(); queue.pop(); queue.show(); queue.pop(); queue.show(); queue.pop(); queue.show(); queue.push(1); queue.show(); queue.push(2); queue.show(); }

我们编写下面的程序测试一下无锁队列的各种操作是否有误，结果显示无误

文章图片

五、无锁队列性能测试

下面我们将上面的无锁队列与C++ STL库中的queue进行对比，查看一下性能

queue_stl.cpp

#include < stdio.h> #include < time.h> #include < pthread.h> #include < queue> #include < mutex> using namespace std; #define FOR_LOOP_NUM 10000000//队列push和pop操作函数中for循环的次数static std::queue< int> _queue; //队列 static std::mutex_mutex; //队列操作要用到的互斥锁static int push_count; //队列总共push的次数 static int pop_count; //队列总共pop的次数typedef void *(*thread_func_t)(void *arg); void *queue_push(void *arg) { for(int i = 0; i < FOR_LOOP_NUM; ++i) { _mutex.lock(); _queue.push(i); push_count++; _mutex.unlock(); } return NULL; }void *queue_pop(void *arg) { while(true) { _mutex.lock(); if(_queue.size() > 0) { _queue.pop(); pop_count++; } _mutex.unlock(); if(pop_count > = FOR_LOOP_NUM) break; } return NULL; }void test_queue(thread_func_t push_func, thread_func_t pop_func, void *arg) { clock_t start = clock(); pthread_t push_tid; if(pthread_create(& push_tid, NULL, push_func, arg) != 0) { perror("pthread_create"); }pthread_t pop_tid; if(pthread_create(& pop_tid, NULL, pop_func, arg) != 0) { perror("pthread_create"); }pthread_join(push_tid, NULL); pthread_join(pop_tid, NULL); clock_t end = clock(); printf("spend clock: %ld\\n", (end - start) / CLOCKS_PER_SEC); }int main() { push_count = 0; pop_count = 0; test_queue(queue_push, queue_pop, NULL); printf("push_count:%d, pop_count:%d\\n", push_count, pop_count); return 0; }

其结果显示，执行10000000万次push和 10000000万次pop操作大概要1秒多的时间
【Linux(程序设计):24---无锁CAS（附无锁队列的实现）】
文章图片

queue_cas.cpp

#include < stdio.h> #include < time.h> #include < pthread.h> #include "queue_cas.h"using namespace std; #define FOR_LOOP_NUM 10000000//队列push和pop操作函数中for循环的次数static int push_count; //队列总共push的次数 static int pop_count; //队列总共pop的次数static Queue< int> _queue; typedef void *(*thread_func_t)(void *arg); void *queue_push(void *arg) { for(int i = 0; i < FOR_LOOP_NUM; ++i) { _queue.push(i); push_count++; } return NULL; }void *queue_pop(void *arg) { while(true) { _queue.pop(); pop_count++; if(pop_count > = FOR_LOOP_NUM) break; } return NULL; }void test_queue(thread_func_t push_func, thread_func_t pop_func, void *arg) { clock_t start = clock(); pthread_t push_tid; if(pthread_create(& push_tid, NULL, push_func, arg) != 0) { perror("pthread_create"); }pthread_t pop_tid; if(pthread_create(& pop_tid, NULL, pop_func, arg) != 0) { perror("pthread_create"); }pthread_join(push_tid, NULL); pthread_join(pop_tid, NULL); clock_t end = clock(); printf("spend clock: %ld\\n", (end - start) / CLOCKS_PER_SEC); }int main() { push_count = 0; pop_count = 0; test_queue(queue_push, queue_pop, NULL); printf("push_count:%d, pop_count:%d\\n", push_count, pop_count); return 0; }

其结果显示，执行10000000万次push和 10000000万次pop操作大概在1秒之内，没有超过1秒中

文章图片