对于容易产生死锁的业务场景,尝试升级锁颗粒度,使用表级锁。 采用分布式事务锁或者使用乐观锁。 无锁 无锁,即没有对资源进行锁定,即所有的线程都能访问并修改同一个资源,但同时只有一个线程能修改成功。 无锁典型的特点就是一个修改操作在一个循环内进行,线程会不断的尝试修改共享资源,如果没有冲突就修改成功并退出否则就会继续下一次循环尝试。 之前的文章我介绍过JDK的CAS原理及应用即是无锁的实现。 可以看出,无锁是一种非常良好的设计,它不会出现线程出现的跳跃性问题,锁使用不当肯定会出现系统性能问题,虽然无锁无法全面代替有锁,但无锁在某些场合下是非常高效的。 ----
今天为大家带来的是并发设计模式实战系列,第十四章CAS(无锁编程),废话不多说直接开始~ 一、核心原理深度拆解 1. 无锁编程优势 无阻塞:线程失败后重试而非挂起 高吞吐:减少线程上下文切换 无死锁:不存在资源竞争导致的死锁 二、生活化类比:超市储物柜系统 系统组件 现实类比 CAS对应行为 储物柜状态 柜门指示灯 内存值 占用/绿=空闲) 用户操作 投币使用 预期值A(必须看到绿灯) 系统响应 分配柜子并变红灯 新值B(修改为红灯状态) 冲突处理 其他人抢先投币 CAS返回false,用户重试 关键特征:用户无需排队(无锁 java.util.concurrent.atomic.AtomicInteger; public class CASCounter { private final AtomicInteger value = new AtomicInteger(0); // 无锁递增 无锁队列实现 // 基于AtomicReference的MPSC队列(多生产者单消费者) class LockFreeQueue<E> { private static class Node<E
好像有人改进了一下设计, 参加文章 “Cache优化的并发无锁队列” http://www.docin.com/p-30332640.html ,这论文里面 “Fastforward for efficient 另有吕慧伟 缩写的“无锁编程简介An Intro to Lock-free Programming” http://www.tektalk.org/wp-content/uploads/2011/07 上面的提到的ABA 问题好像是无锁编程里面很主要的一个问题啊。 根据 cds 库的资料,有下面三类解决办法,可以去找论文来看一下。 C++无锁数据结构支持库 CDS: Concurrent Data Structures library http://libcds.sourceforge.net/ 实现了很多无锁的stack(栈 好像大家都期待一种叫做“Transac1tiona8l Memory”的最终解决方案来来彻底解决内存同步、无锁编程之类问题,不过好像没有到可用的程度吧。
锁会导致性能降低,在特定情况可用硬件同步原语替代锁,保证和锁一样数据安全,同时提供更好性能。 所以在某些情况下,原语可以用来替代锁,实现一些即安全又高效的并发操作。 CAS和FAA在各种编程语言中,都有相应的实现,可直接使用,各种语言底层实现一样的。 锁实现: package main import ( “fmt” “sync” ) func main() { // 账户初始值为0元 var balance int32 balance = int32 用锁、CAS和FAA完整实现账户服务 https://github.com/shenyachen/JKSJ/blob/master/study/src/main/java/com/jksj/study/
锁的缺点 锁定被迫交出时间片。 锁定意味着阻塞,多个线程(进程)排队获取资源,无法充分发挥系统性能。 一些锁限制了必须使用线程的方式进行开发,而线程无法充分利用系统的内存。 pthread库在特殊情况下可能产生饥饿的情况。 无锁编程的思路 加锁的根本起因是什么? 资源竞争。 无锁编程 少锁 原子操作与忙等待 CAS解法与ABA问题 seqlock 免锁 实战无锁编程 数据与进程对等的处理 单一生产者与单一消费者进程 下面让我们一个一个的来梳理无锁编程的内容吧。
然而,有一种特殊状况:一个线程读,一个线程写,在这种状况下能够实现线程安全的无锁RingBuffer,代码以下: import java.util.Arrays; public class RingBuffer 所以上述两个问题是不存在的,咱们说上述RingBuffer是线程安全的,而且是无锁的,具备较高的性能。
目录 文章目录 目录 背景 锁的分类 死锁、活锁 饥饿、饿死(starvation): 优先级反转(Priority inversion) 护航现象(Lock Convoys) 自旋锁 无锁 为什么要无锁 (界定问题) 如何无锁? [Herlihy 1991] 笔者对于无锁的实践都是在一个进程下关于多线程并发的,所以后面我们只讨论多线程。 为什么要无锁?(界定问题) 首先是性能考虑。 对于性能数据,后续文章会给出无锁和有锁的对比。 如下图所示: 小结 以上基本上就是所有的无锁队列的技术细节,这些技术都可以用在其它的无锁数据结构上。 1)无锁队列主要是通过CAS、FAA这些原子操作,和Retry-Loop实现。
无锁队列适用场景: 两个线程之间的交互数据, 一个线程生产数据, 另外一个线程消费数据,效率高 缺点:需要使用固定分配的空间,不能动态增加/减少长度,存在空间浪费和无法扩展空间问题 package
设计无锁队列(lock-free queue) 从上文中可以了解到lock-free是有一些局限性的,因为lock-free只能针对于某个特定的整数变量有效,而在实际场景中我们共享的数据一般都是复杂的, dequeue_overcommit_counter} )的算法如下: a < b :\ a – b > (1U \ll 31U) a \le b :\ a – b – 1ULL > (1ULL \ll 31ULL) 无锁设计 另一个是全局的无锁的Block空闲链表,那些被释放的Block会被放到该链表中等待重用。其实现就是一个无锁链表。 支持MPMC模型的无锁队列 a-fast-general-purpose-lock-free-queue-for-c++:设计无锁队列的一般目标 detailed design of a lock free queue:无锁队列的详细设计 aba problem:讲解作者解决ABA问题的思路 Lock-free vs spin-lock:一篇讲解无锁跟自选锁区别的文章 声明 我的博客即将同步至腾讯云开发者社区
如果果另一个线程修改V值假设原来是A,先修改成B,再修改回成A。当前线程的CAS操作无法分辨当前V值是否发生过变化。 解决:
最近在研究nginx的自旋锁的时候,又见到了GCC CAS原子操作,于是决定动手分析下CAS实现的无锁到底性能如何,网上关于CAS实现无锁的文章很多,但少有研究这种无锁的性能提升的文章,这里就以实验结果和我自己的理解逐步展开 有了这个原子操作这个保证我们就可以实现无锁了。 CAS实现的无锁、Fetch And Add实现的无锁消耗的时间,然后进行分析。 ,消耗时间仅为加锁操作的1/3左右,无锁编程方式确实能够比传统加锁方式效率高,经上面测试可以发现,可以快到3倍左右。 所以在极力推荐在高并发程序中采用无锁编程的方式可以进一步提高程序效率。
JUC学习笔记——共享模型之无锁 在本系列内容中我们会对JUC做一个系统的学习,本片将会介绍JUC的无锁 我们会分为以下几部分进行介绍: 无锁操作 CAS与Volatile 原子类型 原理篇 Unsafe 并发无锁操作 这一小节我们将讲解如何用无锁操作完成并发操作 问题展现 我们给出一段之前并发展示代码: /*并发代码*/ package cn.itcast; import java.util.ArrayList 因而我们其实可以很清楚的明白无锁操作是要比锁操作速度要快的: 无锁情况下,即使重试失败,线程始终在高速运行,没有停歇,类似于自旋。 而 synchronized 会让线程在没有获得锁的时候,发生上下文切换,进入阻塞。线程的上下文切换是费时的,在重试次数不是太多时,无锁的效率高于有锁。 所以总的来说,当线程数小于等于cpu核心数时,使用无锁方案是很合适的,因为有足够多的cpu让线程运行。 当线程数远多于cpu核心数时,无锁效率相比于有锁就没有太大优势,因为依旧会发生上下文切换。
简单的笔记,未完待续 一道题: 无锁化编程有哪些常见方法? CAS(Compare-and-Swap),如无锁栈,无锁队列等待 解析: 一、RCU RCU是Linux 2.6内核系统新的锁机制 RCU(Read-Copy Update)。 但是随着计算机硬件的快速发展,获得这种锁的开销相对于CPU的速度在成倍地增加,原因很简单,CPU的速度与访问内存的速度差距越来越大,而这种锁使用了原子操作指令,它需要原子地访问内存,也就说获得锁的开销与访存速度相关 写者在访问被RCU保护的共享数据时不需要和读者竞争任何锁,只有在有多于一个写者的情况下需要获得某种锁以与其他写者同步。允许多个读者和写者并发执行。 二、CAS 参考:透过 Linux 内核看无锁编程 非阻塞型同步的三种方案: Wait-free Wait-free 是指任意线程的任何操作都可以在有限步之内结束,而不用关心其它线程的执行速度。
无锁开发过程中,对于多线程多进程的并发和并行的几乎是编程不可避免的事情,特别在涉及对于数据进行修改或者添加的时候。这个时候就需要锁的出现,锁有多种类型,互斥锁,自旋锁。 无锁队列实现下边是一个无锁队列一个简单类的实现。 struct qnode<ElemType> *t = _tail; t->next = p; _tail = p;}void push2(const ElemType &e) //考虑并发的无锁添加操作 } e = np->_data; _head->next = np->next; delete np; return true;}bool pop2(ElemType &e){ //无锁并发移除队列 这里简单对 push2 进行分析void push2(const ElemType &e) //考虑并发的无锁添加操作{struct qnode<ElemType> *p = new qnode<ElemType
,所有的线程都可以在不停顿的状态下继续执行.无锁的策略是使用一种叫做比较交换的技术(CAS)来鉴别线程冲突,一旦检测到冲突产生,就重试当前操作,直到没有冲突为止. 最简单的无锁安全整数:AtomicInteger public class AtomicIntegerDemo { static AtomicInteger i = new AtomicInteger ); } } 运行结果: 100000 因为jdk 8的incrementAndGet()已经牵涉到底层Unsafe类,它有大量的native标识,跟C语言挂钩的,这个我们先不说.我们自己来用无锁的对象引用 数组的无锁:AtomicIntegerArray public class AtomicIntegerArrayDemo { static AtomicIntegerArray arr = new 无锁Vector实现 模仿Vector机制来完成一个无锁线程安全的List集合(源码来自amino) public class LockFreeVector<E> extends AbstractList
前言 CAS(Compare And Swap,比较并交换),要说CAS是无锁编程,多多少少有些“标题党”的感觉。因为CAS根据其设计思想,可以划分为乐观锁。 不同于synchronized关键字,synchronized实现的是悲观锁。我第一次听说乐观锁和悲观锁的时候有点震惊:一把锁我还得知道它乐不乐观?乐不乐观?一把锁难道还有情绪? 被称为无锁编程,实际上是一种乐观锁的体现。 但是这里如果要用无锁编程CAS来解决的话该怎么解决呢? 以上就是CAS无锁编程的实现原理。 CAS缺陷 CAS并不是像降龙十八掌那样横扫一切的存在,它也有自己的缺陷。
seqlock(顺序锁) 用于能够区分读与写的场合,并且是读操作很多、写操作很少,写操作的优先权大于读操作。 seqlock的实现思路是,用一个递增的整型数表示sequence。 写操作还需要获得一个锁(比如mutex),这个锁仅用于写写互斥,以保证同一时间最多只有一个正在进行的写操作。 在这种情况下,使用seqlock可以避免过多的gettimeofday系统调用把中断处理程序给阻塞了(如果使用读写锁,而不用seqlock的话就会这样)。 seqlock的实现非常简单: 写操作进入临界区时: void write_seqlock(seqlock_t *sl) { spin_lock(&sl->lock); // 上写写互斥锁 write_sequnlock(seqlock_t *sl) { sl->sequence++; // sequence再++ spin_unlock(&sl->lock); // 释放写写互斥锁
1.无锁编程与有锁编程的效率 无锁编程,即通过CAS原子操作去控制线程的同步。如果你还不知道什么使CAS原子操作,建议先去查看相关资料,这一方面的资料网络上有很多。 CAS实现的是硬件级的互斥,在线程低并发的情况下,其性能比普通互斥锁高效,但是当线程高并发的时候,硬件级互斥引入的代价与应用层的锁竞争产生的代价同样都是很大的。这时普通锁编程其实是优于无锁编程的。 如果对有锁多线程程序有良好的设计,那么可以使程序的性能在不下降的同时,实现高并发。 2.无锁编程的好处 无锁编程不需要程序员再去考虑死锁、优先反转等棘手的问题,因此在对应用程序不太复杂,而对性能要求稍高的程序中,可以采取有锁编程。 如果程序较为复杂,性能要求不高的程序中可以使用无锁编程。 3.无锁队列的实现 对于线程无锁同步方式方式的应用,我实现了一个无锁的队列。
我先通俗的再用团委老师讲一下锁升级 举个例子 无锁:比如社团有一间教室 上自习 大家都可以用 没有财产问题 就是无锁状态 偏向锁:后来社团添置了打印机投影仪之类的物品,不能再敞开着大门了,团委老师就安装了一把锁 但是在JDK 1.6后,JVM为了提高锁的获取与释放效率对synchronized 进行了优化,引入了偏向锁和轻量级锁 ,从此以后锁的状态就有了四种:无锁、偏向锁、轻量级锁、重量级锁。 并且四种状态会随着竞争的情况逐渐升级,而且是不可逆的过程,即不可降级,这四种锁的级别由低到高依次是:无锁、偏向锁,轻量级锁,重量级锁。如下图所示: ? 无锁 无锁是指没有对资源进行锁定,所有的线程都能访问并修改同一个资源,但同时只有一个线程能修改成功。无锁的特点是修改操作会在循环内进行,线程会不断的尝试修改共享资源。 如果线程不处于活动状态,则将对象头设置成无锁状态,并撤销偏向锁,恢复到无锁(标志位为01)或轻量级锁(标志位为00)的状态。
关于无锁队列的实现,网上有很多文章,虽然本文可能和那些文章有所重复,但是我还是想以我自己的方式把这些文章中的重要的知识点串起来和大家讲一讲这个技术。下面开始正文。 目录 关于CAS等原子操作 无锁队列的链表实现 CAS的ABA问题 解决ABA的问题 用数组实现无锁队列 小结 关于CAS等原子操作 ? 在开始说无锁队列之前,我们需要知道一个很重要的技术就是CAS操作——Compare & Set,或是 Compare & Swap,现在几乎所有的CPU指令都支持CAS的原子操作,X86下对应的是 CMPXCHG 有了这个原子操作,我们就可以用其来实现各种无锁(lock free)的数据结构。 小结 以上基本上就是所有的无锁队列的技术细节,这些技术都可以用在其它的无锁数据结构上。 1)无锁队列主要是通过CAS、FAA这些原子操作,和Retry-Loop实现。