Java 内存模型的抽象结构
在 Java 中,所有实例域、静态域和数组元素都存储在堆内存中,堆内存在线程之间共享。局部变量、方法定义参数、和异常处理参数不会在线程间共享,它们不会有内存可见性问题,也不会受内存模型的影响。
Java 线程之间的通信由 Java 内存模型(JMM)控制,JMM 决定一个线程堆共享变量的写入何时对另一个线程可见。从抽象的角度看,JMM 定义了线程和主内存之间的抽象关系:线程之间的共享变量存储在主内存中,每个线程都有一个私有的本地内存,本地内存中存储了该线程以读/写变量的副本。本地内存是 JMM 的一个抽象概念,它并不真实存在。它涵盖了缓存、写缓冲区、寄存器以及其他的硬件和编译器优化。Java 内存模型的抽象示意图如下:
从上图来看,线程 A 和线程 B 之间要通信的话,必须要经历以下两个步骤:
- 线程 A 把本地内存 A 中更新过的共享变量刷新到主内存中。
- 线程 B 到主内存中读取线程 A 更新过的共享变量
从整体来看,这两个步骤实际上是线程 A 在向线程 B 发送消息,而整个通信过程必须要经过主内存。JMM 通过控制主内存与每个线程本地内存之间的交互,来为 Java 程序员提供内存可见性保证。
数据一致性
从上面的图来看,Java 内存模型和物理机的内存模型几乎一致。那么 JMM 也会有物理机的问题,即:「缓存一致性」。每个线程都有自己的运行内存,同时他们又共享同一块主内存。当多个处理器的计算操作都涉及到同一块内存区域时,将可能导致数据一致性问题。以下是可能会产生一致性问题的两个原因。
重排序
在执行程序时为了提高性能,编译器和处理器常常会对指令重排序。重排序分三种类型:
- 编译器优化的重排序:编译器在不改变单线程程序语义的情况下,可以重新安排程序的执行顺序。
- 指令级并行的重排序:现代处理器使用指令级并行技术来将多条指令重叠执行,如果不存在数据依赖性,处理器可以改变语句对应机器指令的执行顺序。
- 内存系统的重排序:由于处理器使用缓存和读/写缓冲区,这使得加载和存储操作看上去可能是在乱序执行。
从 Java 源代码到最终实际执行的指令序列,可能会经历以上三种重排序。这些重排序可能会导致多线程程序的内存可见性问题。
可见性问题的案例可参考《Java 并发编程的艺术》3.2.4 重排序对多线程的影响
缓存不一致
现代处理器使用写缓冲区临时保存向内存写入的数据。写缓冲区可以保证指令流水线的持续运行,它可以避免由于处理器停顿下来等待向内存写入数据而产生的延迟。同时通过以批处理的方式刷新写缓冲区,以及合并写缓冲区对同一内存地址的多次写,减少对内存总线的占用。虽然写缓冲区有那么多好处,但每个处理器上的写缓冲区,仅仅对它所在的处理器可见。这个特性会对内存操作的执行顺序产生重要的影响:处理器对内存的读/写执行顺序,不一定与内存实际发生的读/写操作一致(处理器对缓冲区执行了操作,但没有同步到主内存上)。
以上两种情形可能会产生数据一致性问题,在物理机中通过 MSI、MESI 等协议来解决一致性问题,JMM 同样定义了一些规则来规避一致性问题。
happens-before
JSR-133 使用 happens-before 的概念来阐述操作之间的内存可见性。在 JMM 中,如果一个操作执行的结果需要对另一个操作可见,那么这两个操作间必须要存在 happens-before 关系。这里提到的两个操作可以在一个线程内,也可以在不同线程间。 如程序员密切相关的 happes-before 规则如下:
- 程序顺序规则:一个线程中的每个操作,happens-before 该线程中的任意后续操作。
- 监视器锁规则:对于一个锁的解锁,happesn-before 于随后对这个锁的加锁。
- volatile 规则:对于一个 volatile 域的写,happens-before 于任意后续对这个 volatile 域的读。
- 传递性: 如果 A happens-before B ,B happesn-before C 那么 A happens-before C。
两个操作具有 happes-before 关系,并不意味着前一个操作一定要在后一个操作之前执行。happens-before 仅仅要求前一个操作的执行结果对后一个操作可见。
as-if-serial 语义
as-if-serial 语义是指,不管怎么重排序,(但线程)程序的执行结果不能被改变。编译器、runtime、处理器都必须遵守 as-if-serial 语义。
为了遵守 as-if-serial 语义,编译器和处理器不会对存在数据依赖关系的操作重排序,因为这种重排序会改变程序结果。但是,如果操作间不存在依赖关系,这些操作可能会被编译器和处理器重排序。
as-if-serial 语义把单线程程序保护起来,遵守 as-if-serial 语义的编译器、处理器共同为编写单线程程序的程序员创建了一个幻觉:单线程程序是按程序的顺序来执行的。As-if-serial 语义使单线程程序员无需担心重排序会干扰他们,也无需担心内存可见性问题。
顺序一致性
顺序一致性内存模型是一种理论参考模型,在设计的时候,处理器内存模型和编程语言内存模型都会以顺序一致性内存模型
当代码中存在数据竞争时,程序的执行往往产生违反直觉的结果,如果一个多线程程序能够正确同步,这个程序将是一个没有数据竞争的程序。
如果程序是正确同步的,程序的执行将具有数据一致性。即程序的执行结果与该程序在顺序一致性内存模型中的执行结果相同。
顺序一致性内存模型
顺序一致性内存模型是一个被计算机科学家理想化了的理论参考模型,它为程序员提供了极强的内存可见性保证。顺序一致性内存模型有两大特性:
- 在一个线程中的所有操作必须按照程序的顺序来执行。
- 不管同步与否,所有的线程都只能看到一个单一的操作执行顺序。在顺序一致性内存模型中,每个操作都必须是原子操作且立即对所有线程可见。
在概念上,数据一致性内存模型有一个单一的全局内存,这个内存通过一个左右摇摆的开关可以连接到任意一个线程,同时每一个线程必须按照程序的顺序来执行内存读写操作。从上面的示意图可以看出,在任意时间点最多只能有一个线程可以连接到内存。当多个线程并发执行时图中的开关能把所有的线程操作串行化。
示例
假设两个线程 A 和 B 并发执行。之中 A 线程有三个操作,它们在程序中的顺序是 A1->A2->A3。B 线程也有三个操作,它们在程序中的顺序是:B1->B2->B3.
假设这两个线程使用监视器锁来正确同步:线程 A 的三个操作执行后释放监视器锁,随后线程 B 获取同一个监视器锁。那么程序在顺序一致性内存模型中的执行效果如下图所示:
现在我们再假设这两个线程没有做同步,下面是未同步程序在顺序一致性内存模型中的执行示意图:
未经同步的程序在顺序一致性内存模型中虽然整体顺序是无序的,但所有线程都能看到一个一致的执行顺序。之所以能得到这个保证是因为顺序一致性内存模型中的每个操作都必须立即对任意线程可见。
但是,在 JMM 中就没有这个保证。未同步程序在 JMM 中不但整体的顺序是无序的,而且所有线程看到的操作执行顺序也可能不一致。比如当前线程把写过的数据缓存在本地内存中,在没有刷新到主内存之前,这个操作仅对当前线程可见。从其他线程的角度来看,会认为这个写操作根本没有被当前线程执行。只有当前线程把本地内存中写过的数据刷新到主内存之后,这个写操作才能对其他线程可见。在这种情况下,当前线程和其他线程看到的操作执行顺序将不一致。
这两节学习了物理机内存模型、Java 内存模型、内存模型中的数据一致性问题等。后续将学习常用同步原语(synchronized、volatile、final),看看 java 怎么在语言层面保证内存可见性。