本系列文章主要围绕高并发这一话题展开,分享笔者在并发处理上的学习思路以及踩过的坑。具体思路大体分为三部分:
Java多线程编程;高并发的解决思路;
分布式架构中Redis、Zookeeper分布式锁的应用。
本文将重点讲解第一部分——Java多线程编程。
一、Java内存模型与线程
并发编程主要讨论以下几点:
多个线程操作相同资源保证线程安全
合理使用资源
通常我们可以将物理计算机中出现的并发问题类比到JVM中的并发。
物理计算机处理器、高速缓存、主内存间交互关系如图:
处理器为提高性能,会对输入代码乱序执行(Out-Of-Order Execution) 优化。
类比Java内存模型,线程、主内存、工作内存交互关系如图:
JMM定义了程序中各个变量访问规则,即在虚拟机中将内存取出和存储的底层细节。
线程A如果要跟线程B要通信的话,必须经历以下两个步骤:
线程A把本地内存A中更新过的共享变量的值刷新到主内存中;线程B去主内存中读取A更新过的共享变量的值。
线程的工作内存中保存了该线程使用到变量的主内存副本拷贝(也可理解为此线程的私有拷贝),线程对变量的操作(读取、赋值等)都在工作内存中进行,而不能直接读写主内存中变量。不同线程之间的通信也需要通过主内存来完成。主内存对应Java堆中对象实例数据部分,而工作内存则对应虚拟机栈中部分区域。
在此还有非常重要的点需要提及!
指令重排序
执行程序时,为提高性能,编译器和处理器常常会对指令做出重排序。分三种:
编译器优化的重排序;指令并行重排序;
内存系统重排序。
JMM的编译器会禁止特定类型的编译器重排序,对于处理器重排序(后两者),则要求Java编译器在生成指令序列时,插入特定类型的内存屏障指令,通过内存屏障指令来禁止特定类型的处理器重排序。
内存之间的交互操作
JMM中定义了8种操作来描述工作内存与主内存之间的实现细节:
lock(锁定):作用于主内存的变量,它把一个变量标识为一条线程独占状态;unlock(解锁):作用于主内存的变量,它把一个处于锁定状态的变量释放出来,释放后的变量才可以被其他线程锁定;
read(读取):作用于主内存的变量,它把一个变量从主内存传输到线程工作内存中,以便后边的load操作;
load(载入):作用于主内存的变量,它把read操作从主内存中得到的变量值放到工作内存副本中;
use(使用):作用于工作内存的变量,它把工作内存中一个变量的值传递给执行引擎,每当虚拟机遇到一个需要使用到变量的值的字节码指令时,将会执行这个操作;
assign(赋值):作用于工作内存的变量,它把从执行引擎接收到的值赋给工作内存,每当虚拟机遇到一个给变量赋值的字节码指令时执行此操作;
store(存储):作用于工作内存的变量,它把工作内存的变量的值传送到主内存中,以便以后的write操作使用;
write(写入):作用于主内存的变量,它把store操纵从工作内存中得到的变量值放入到主内存的变量中。
JMM规定了执行上述八种操作时必须满足的规则(与happens-before原则是等效的,即先行发生原则):
不允许read和load、store和write操作之一单独出现;不允许一个线程丢弃它的最近assign的操作,即变量在工作内存中改变了之后必须同步到主内存中;
不允许一个线程无原因地(没有发生过任何assign操作)把数据从工作内存同步回主内存中;
一个新的变量只能在主内存中诞生,不允许在工作内存中直接使用一个未被初始化(load或assign)的变量。即就是对一个变量实施use和store操作之前,必须先执行过了assign和load操作;
一个变量在同一时刻只允许一条线程对其进行lock操作,lock和unlock必须成对出现;
如果对一个变量执行lock操作,将会清空工作内存中此变量的值,在执行引擎使用这个变量前需要重新执行load或assign操作初始化变量的值;
如果一个变量事先没有被lock操作锁定,则不允许对它执行unlock操作;也不允许去unlock一个被其他线程锁定的变量;
对一个变量执行unlock操作之前,必须先把此变量同步到主内存中(执行store和write操作)。
相关JVM补充内容请查阅:JVM-攻城掠地
https://juejin.im/post/5b066aa9f265da0dbf004dde
测试工具
PostMan、Apache Bench、JMeter、LoadRunner。
二、线程安全性
原子性:提供了互斥访问,同一时刻只能由一个线程来对它进行操作。
可见性:一个线程对主内存的修改可以及时被其他线程观察到。
有序性:一个线程观察其它线程中指令执行顺序,由于指令重排序的存在,观察的结果一般为杂乱无章的。Java程序的天然有序性可以总结为——如果本线程内观察,所有的操作都是有序的;如果在一个线程观察另一个线程,所有的操作都是无序的。前者指的是线程内的串行语义,后者指的是指令重排序和工作内存和主内存同步延迟现象。
1、原子性-Atomic包
AtomicXXX:
CAS、Unsafe.compareAndSwapInt
通过CAS来保证原子性,即Compare And Swap比较交换:
CAS利用处理器提供的CMPXCHG指令实现,自旋CAS实现的基本思路就是循环进行CAS直到成功为止。比较内存的值与预期的值,若相同则修改预期的值。
CAS虽然可以进行高效的进行原子操作,但是CAS仍在存在三大问题:
-
ABA问题。在Java1.5开始,JDK的Atomic包里提供了一个类AtomicStampedReference来解决ABA问题。大部分情况下ABA问题并不影响程序并发的正确性,如果需要解决ABA问题,改用传统的互斥同步可能会比原子类更加高效;
-
循环时间长开销大;
-
只能保证一个共享变量进行的原子操作。
测试:
AtomicInteger
源码实现
AtomicLong与LongAdder
Java内存模型要求lock、unlock、read、load、assign、use、store、write这8个操作都是具有原子性,但是对于64位的数据类型(long、double),允许虚拟机将没有被volatile修饰的64位数据的读写操作划分为两次32位的操作来进行,即允许虚拟机实现选择可以不保证64位数据类型的load、store、read和write这四个原子操作,但是可以视为原子性操作。AtomicLong CAS中如果并发量大,则会不断进行循环调用,效率会比较低。
LongAdder实现热点数据的分离、更快,如果有并发更新可能会出现误差。底层用数组实现,其结果为数组的求和累加。
public void add(long x) {
Cell[] as; long b, v; int m; Cell a;
if ((as = cells) != null || !casBase(b = base, b + x)) {
boolean uncontended = true;
if (as == null || (m = as.length - 1) < 0 ||
(a = as[getProbe() & m]) == null ||
!(uncontended = a.cas(v = a.value, v + x)))
longAccumulate(x, null, uncontended);
}
}
/**
* Equivalent to {@code add(1)}.
*/
public void increment() {
add(1L);
}
AtomicBoolean
希望某件事情只执行一次。
AtomicIntegerFieldUpdater
以原子性更新类中某一个属性,这属性需要用volatile进行修饰。
AtomicStampedReference
作用是首先检查当前引用是否等于预期引用,并且检查当前标志是否等于预期标志,如果全部相等,则以原子的方式将该引用和该标志的值设置为给定的更新值。
AtomicLongArray
维护数组
2、原子性-锁及对比
synchronized:依赖JVM,不可中断锁,适合锁竞争不激烈情况下(并发相对较小),代码的可读性好。Lock:依赖特殊的CPU指令,代码实现,ReentrantLock。可中断锁,多样化同步,竞争激烈的时候能维持常态。
Atomic:竞争激烈的时候能维持常态,比Lock性能更好,只能同步一个值。
3、线程安全-可见性
导致共享变量在线程间不可见的原因:
线程交叉执行;重排序结合线程交叉执行;
共享变量更新后的值没有在工作内存与主内存及时更新。
JMM关于synchronizd的两条规定:
线程解锁前,必须把共享变量的最新值刷新到主内存;线程加锁时,将清空工作内存*享变量的值,从而使用共享变量时需要从主内存中读取最新的值。
volatile-可见性通过加入内存屏障和禁止重排序优化实现:
对volatile变量写操作时,会在写操作后加入一条store屏障指令,将本地内存共享变量的值刷新到主内存;对volatile变量读操作时,会在读操作前加入一条load屏障指令,从主内存中读取共享变量。
必须符合以下场景才可使用:
运算结果并不依赖变量当前值,或者能够确保只有单一线程修改变量的值;变量不需要与其他状态变量共同参与不变约束。
原因:volatile变量在各个线程工作内存中不存在一致性问题,但是Java里面的运算并非原子性操作,导致volatile变量运算在并发下一样是不安全的。(可以通过反编译来验证)
volatile通常用来作为状态标记量
三、安全发布对象
发布对象:使一个对象能够被当前范围之外代码所使用。
对象逸出:一种错误的发布。当一个对象还没有构造完成,就能被其它线程所见。
安全发布对象:
-
在静态初始化函数中初始化一个对象的引用;
-
将对象的引用保存到volatile类型域或者AtomicReference对象中;
-
对象引用保存到某个正确构造对象final类型域中;
-
将对象的引用保存到一个由锁保护的域中。
对此,单例模式是个很好的学习例子:
通过枚举实现单例模式
四、线程安全策略
满足条件:
对象创建以后其状态就不能修改;对象对所有域都是final类型;
对象是正确创建的(对象在创建期间,this没有逸出);
Collections.unmodifiableXXX:Collection、List、Set、Map……
Guava:ImmutableXXX:Collection、List、Set、Map……
2、线程封闭
堆栈封闭:局部变量,无并发问题;
ThreadLocal线程封闭:特别好的封闭方法(实现权限管理)。
SimpleDateFormat → JodaTime(推荐)
ArrayList、HashSet、HashMap等Collections
先检查再执行:if(condition(a)){handle(a);} →非原子操作
4、同步容器
ArrayList → Vector,StackHashMap → HashTable (key、value不能为null)
Collections.synchronizedXXX(List、Set、Map)
注意:同步容器在某些场合并不一定可以做到线程安全。
ArrayList → CopyOnWriteArrayList
拷贝数组过大,容易造成 young GC FUll GC;不适用于实时读的场景,适合读取多写少的场景;
实现读写分离,满足最终一致性,使用的时候另外开辟空间;
读取未加锁,写加锁。
public void add(int index, E element) {
final ReentrantLock lock = this.lock;
lock.lock();
try {
Object[] elements = getArray();
int len = elements.length;
if (index > len || index < 0)
throw new IndexOutOfBoundsException("Index: "+index+
", Size: "+len);
Object[] newElements;
int numMoved = len - index;
if (numMoved == 0)
newElements = Arrays.copyOf(elements, len + 1);
else {
newElements = new Object[len + 1];
System.arraycopy(elements, 0, newElements, 0, index);
System.arraycopy(elements, index, newElements, index + 1,
numMoved);
}
newElements[index] = element;
setArray(newElements);
} finally {
lock.unlock();
}
}
public E get(int index) {
return get(getArray(), index);
}
↑ ConcurrentSkipListSet对批量操作不能保证原子性。
参考:JDK1.8源码分析之ConcurrentSkipListSet(八)
https://www.cnblogs.com/leesf456/p/5549820.html
↑ ConcurrentHashMap 效率相对而言要比 ConcurrentSkipListMap高,而同时 ConcurrentSkipListMap 则有些其不具有的特性:
ConcurrentSkipListMap 的key有序支持更高的并发
ConcurrentHashMap
相比于HashTable采取更为高效的分段锁。ConcurrentHashMap里包含了一个Segment数组,一个Segment里包含了一个HashEntry数组。
Segment是一种可重入锁,扮演锁的角色;HashEntry则用于存储键值对数据。加锁/解锁是在Segment上。
ConcurrentLinkedQueu
非阻塞算法实现线程安全的队列。由head节点和tail节点组成,每个节点Node由节点元素item和指向下一个节点的next的引用组成,节点与节点之间同个这个next关联起来,组成链表结构的队列。
参考:
Java多线程(四)之ConcurrentSkipListMap深入分析
https://blog.csdn.net/guangcigeyun/article/details/8278349
探索 ConcurrentHashMap 高并发性的实现机制
https://www.ibm.com/developerworks/cn/java/java-lo-concurrenthashmap/index.html
五、J.U.C之AQS
利用了一个int类型表示状态;
使用方法是继承;
子类通过继承并通过实现它的方法管理锁的状态,对应AQS中acquire和release的方法操纵锁状态;
可以同步实现排它锁和共享锁模式(独占、共享)。
AQS同步组件
1、等待多线程完成的CountDownLatch(JDK1.5)
允许一个或多个线程等待其他线程完成操作。
其构造函数接收一个int类型的参数作为计数器,调用CountDown方法的时候,计数器的值会减1,CountDownLatch的await方法会阻塞当前线程,直到N变为零。
应用:并行计算,解析Excel中多个Sheet的数据。
2、控制并发线程数的Semaphore
用来控制同时访问特定资源线程的数量。
应用:流量控制,特别是公共资源有限的场景,如数据库连接。
3、同步屏障CyclicBarrier
让一组线程达到一个屏障(同步点)时被阻塞,直到最后一个线程到达屏障时,才会开门,所有被屏障拦截的线程才会继续执行。
应用:多线程计算数据,最后合并计算结果的场景。
CyclicBarrier和CountDownLatch的区别
CountDownLatch计数器只能使用一次,CyclicBarrier可以调用reset()方法重置。所以CyclicBarrier可以支持更加复杂的场景,如发生错误后重置计数器,并让线程重新执行。
//屏障拦截的线程数量
CyclicBarrier(int permits)
//已经到达屏障
await()
//CyclicBarrier阻塞线程的数量
getNumberWaiting()
4、重入锁ReentrantLock (排他锁:同时允许单个线程访问。)
支持重进入的锁,表示该锁能够支持一个线程对资源的重复加锁,即实现重进入:任意线程获取到锁之后能够再次获取该锁而不会被锁阻塞。
该锁支持获取锁时的公平和非公平性选择
public ReentrantLock(boolean fair) {
sync = fair ? new FairSync() : new NonfairSync();
}
公平锁就是等待时间最长的线程最优先获取锁,也就是说获取锁的是顺序的(FIFO),而非公平则允许插队。
非公平因为不保障顺序,则效率相对较高,而公平锁则可以减少饥饿发生的概率:
提供了一个Condition类,可以分组唤醒需要唤醒的线程提供能够中断等待锁的线程机制,lock.lockInterruptibly()
5、ReentrantReadWriteLock (读写锁,实现悲观读取,同时允许多个线程访问
在写线程访问时,所有读线程和其他写线程均被堵塞。其维护了一对锁,通过分离读锁、写锁,使得并发性比排他锁有很大提升。
适用于读多写少的环境,能够提供比排他锁更好的并发与吞吐量。
不足:ReentrantReadWriteLock是读写锁,在多线程环境下,大多数情况是读的情况远远大于写的操作,因此可能导致写的饥饿问题。
StampedLock
是ReentrantReadWriteLock 的增强版,是为了解决ReentrantReadWriteLock的一些不足。
StampedLock读锁并不会阻塞写锁,设计思路也比较简单,就是在读的时候发现有写操作,再去读多一次。StampedLock有两种锁,一种是悲观锁,另外一种是乐观锁,如果线程拿到乐观锁就读和写不互斥,如果拿到悲观锁就读和写互斥。
参考: Java8对读写锁的改进:StampedLock
https://blog.csdn.net/sunfeizhi/article/details/52135136
6、Condition
Condition提供了类似Object的监视器方法,依赖Lock实现等待/通知模式。
await():当前线程进入等待状态直到被通知或中断,当前线程进入运行状态且从await()方法返回;signal():唤醒一个在Condition上的线程,该线程从等待方法返回前必须获得与Condition相关联的锁。
参考:Java线程(九):Condition-线程通信更高效的方式
https://blog.csdn.net/ghsau/article/details/7481142
7、FutureTask
用于异步获取执行结果或取消执行任务的场景。(实现基于AQS)
参考:
Java并发编程:Callable、Future和FutureTask
https://www.cnblogs.com/dolphin0520/p/3949310.html
FutureTask的用法及两种常用的使用场景
https://blog.csdn.net/linchunquan/article/details/22382487
8、Fork/Join
并行执行任务,即把大任务分割成若干小任务并行执行,最后汇总成大任务结果的框架。
工作窃取算法:指的是某个线程从其他队列里窃取任务来执行。即这个队列先干完活,再去帮别人干点。参考:Fork/Join 模式高级特性
https://www.ibm.com/developerworks/cn/java/j-lo-forkjoin/index.html
9、BlocklingQueu
阻塞队列是一个支持两个附加操作的队列:
阻塞插入:当队列满的时候,队列会阻塞插入元素的线程,直到队列不满。阻塞移除:当队列为空时,获取元素的线程就会等待队列变为非空。
通常用于生产者和消费者场景。生产者是向队列里添加元素的线程,消费者是从列里获取元素的线程。阻塞队列就是生产者放元素,消费者获取元素的容器。(FIFO)
ArrayBlockingQueueLinkedBlockingQueue
PriorityBlockingQueue
DelayQueue
SynchronousQueue
LinkedTransferQueue
LinkedBlockingDeque
参考:Java中的阻塞队列
http://www.infoq.com/cn/articles/java-blocking-queue
六、线程与线程池
最后我们聊一下线程创建的相关问题。
线程:程序中一条独立执行的线索,可以理解成进程中独立运行的子任务。进程:一旦程序运行起来就变成了操作系统当中的一个进程。
线程的创建:
1、继承Thread类
public class TestThread extends Thread{
@Override
public void run(){
}
}
局限性:Java单根继承,不易于扩展。
2、实现Runnabl接口
public class TestThread implements Runnable{
@Override
public void run(){
}
}
运行Callable任务可以拿到一个Future对象,进行异步计算。
状态:
为了保证共享数据的完整性,Java中引入了互斥锁的概念,即每个对象对应一个“互斥锁”的标记(monitor),用来保证任何时刻只能有一个线程访问该对象。利用Java中每个对象都拥有唯一的一个监视锁(monitor),当线程拥有这个标记时才会允许访问这个资源,而未拿到标记则进入阻塞,进入锁池。每个对象都有自己的一个锁池的空间,用于存放等待线程。由系统决定哪个线程拿到锁标记并运行。
方法:
-
currentThread():当前调用线程的相关信息;
-
isAlive():判断当前线程是否处于活动状态;
-
getId():线程的唯一标识;
-
interrupted():测试当前线程是否已经中断;
注:线程终端状态由该方法清除,意味着连续两次执行此方法,第二次将返回false。
-
isInterrupted():测试线程是否已经中断;
注:不清楚状态标志。
-
run(): 线程执行的具体方法,执行完成的会进入消亡状态;
-
start():使县城出局就绪状态,等待调用线程的对象执行run()方法;
-
sleep():让当前线程放弃CPU时间片直接返回就绪状态。
-
yield():让当前线程放弃CPU时间片直接返回就绪状态。但放弃的时间片不确定,可能刚刚放弃,便立即获取。
线程通信
-
join(): 让当前线程邀请调用方法的线程优先执行,在被邀请的线程执行结束之前,邀请别人的线程不再执行,处于阻塞状态,直到被邀请的线程执行结束之后,进入就绪状态;
-
interrupt(): 中断、打断线程的阻塞状态。直接让阻塞状态的线程返回就绪,由sleep()、join()导致的阻塞立刻解除;
-
wait():使当前执行代码的线程放弃monitor并进入等待状态,直到接收到通知或被中断为止(notify)。即此时线程将释放自己的所有锁标记和CPU占用,同时进入这个对象的等待池(阻塞状态)。只能在同步代码块中调用(synchronized);
-
notify():在等待池中随机唤醒一个线程,放入锁池,对象处于等待状态,直到获取对象的锁标记为止。 只能在同步代码块中调用(synchronized)。
-
newCachedThreadPool
创建一个可缓存线程池,如果线程池长度超过处理需要,可灵活回收空闲线程,若无可回收,则新建线程。潜在问题线程如果创建过多可能内存溢出。
newFixedThreadPool创建一个定长线程池,可控制线程最大并发数,超出的线程会在队列中等待。
newScheduledThreadPool创建一个定长线程池,支持定时及周期性任务执行。
newSingleThreadExecutor创建一个单线程化的线程池,它只会用唯一的工作线程来执行任务,保证所有任务按照指定顺序(FIFO、LIFO、优先级)执行。
参考:Java 四种线程池的用法分析
https://blog.csdn.net/u011974987/article/details/51027795
暂且总结到这里。本文意在给大家提供学习的大体思路,其中有很多要点笔者并未深入剖析,比如ConcurrentHashMap,这块网络上有很多例子,可以参详。笔者也给出了很多不错的参考,大家可以根据个人需要点击阅读。如需详细了解,需具体阅读源码,多实践。
原文发布时间为:2018-06-13
本文作者: Mark