Java并发总结-Executor框架

发表于 | 分类于 | 本文总阅读量 次

Java线程的创建与销毁需要一定的开销，如果为每一个任务创建一个新线程来执行：

  • 这些线程的创建与销毁将消耗大量的计算资源。
  • 可能会使处于高负荷状态的应用最终崩溃。

Java的线程既是工作单元，也是执行机制。从JDK 5开始，把工作单元与执行机制分离开来。工作单元包括Runnable和Callable，而执行机制由Executor框架提供。

Executor框架简介

Executor框架的两级调度模型

在HotSpot VM的线程模型中，Java线程（java.lang.Thread）被一对一映射为本地操作系统线程：

  1. Java线程启动时会创建一个本地操作系统线程。
  2. 当该Java线程终止时，这个操作系统线程也会被回收。
  3. 操作系统会调度所有线程并将它们分配给可用的CPU。

这种两级调度模型：

  • 在上层，Java多线程程序通常把应用分解为若干个任务，然后使用用户级的调度器（Executor框架）将这些任务映射为固定数量的线程，应用程序通过Executor框架控制上层的调度；
  • 在底层，操作系统内核将这些线程映射到硬件处理器上，下层的调度由操作系统内核控制，下层的调度不受应用程序的控制。

Executor框架的结构

Executor框架主要由3大部分组成如下：

  • 任务。包括被执行任务需要实现的接口：Runnable接口或Callable接口。
  • 任务的执行。包括任务执行机制的核心接口Executor，以及继承自Executor的ExecutorService接口。Executor框架有两个关键类实现了ExecutorService接口（ThreadPoolExecutor和ScheduledThreadPoolExecutor）。
  • 异步计算的结果。包括接口Future和实现Future接口的FutureTask类。

Executor框架包含的主要的类与接口如下图：

上图中：

  • Executor是一个接口，它是Executor框架的基础，它将任务的提交与任务的执行分离开来。
  • ThreadPoolExecutor是线程池的核心实现类，用来执行被提交的任务。
  • ScheduledThreadPoolExecutor是一个实现类，可以在给定的延迟后运行命令，或者定期执行命令。ScheduledThreadPoolExecutor比Timer更灵活，功能更强大。
  • Future接口和实现Future接口的FutureTask类，代表异步计算的结果。
  • Runnable接口和Callable接口的实现类，都可以被ThreadPoolExecutor或ScheduledThreadPoolExecutor执行。

Executor框架的使用

  1. 主线程首先要创建实现Runnable或者Callable接口的任务对象。
    • 工具类Executors可以把一个Runnable对象封装为一个Callable对象：Executors.callable(Runnable task)或Executors.callable(Runnable task，Object resule)。
  2. 然后可以把Runnable对象直接交给ExecutorService执行。
    • ExecutorService.execute(Runnable command)；或者也可以把Runnable对象或Callable对象提交给ExecutorService执行：
      • ExecutorService.submit(Runnable task)
      • 或ExecutorService.submit(Callabletask)
  3. 如果执行ExecutorService.submit(…)，ExecutorService将返回一个实现Future接口的对象（到目前为止的JDK中，返回的是FutureTask对象）。
    • 由于FutureTask实现了Runnable，程序员也可以创建FutureTask，然后直接交给ExecutorService执行。
  4. 最后，主线程可以执行FutureTask.get()方法来等待任务执行完成。
    • 主线程也可以执行FutureTask.cancel(boolean mayInterruptIfRunning)来取消此任务的执行。

Executor框架的成员

Executor框架的主要成员：ThreadPoolExecutor、ScheduledThreadPoolExecutor、Future接口、Runnable接口、Callable接口和Executors。

ThreadPoolExecutor

ThreadPoolExecutor通常使用工厂类Executors来创建。Executors可以创建3种类型的ThreadPoolExecutor：

  • SingleThreadExecutor
  • FixedThreadPool
  • CachedThreadPool

FixedThreadPool

Executors提供的，创建使用固定线程数的FixedThreadPool的API：

1
2
public static ExecutorService newFixedThreadPool(int nThreads)
public static ExecutorService newFixedThreadPool(int nThreads, ThreadFactory threadFactory)

FixedThreadPool适用于为了满足资源管理的需求，而需要限制当前线程数量的应用场景，它适用于负载比较重的服务器。

SingleThreadExecutor

Executors提供的，创建使用单个线程的SingleThreadExecutor的API：

1
2
public static ExecutorService newSingleThreadExecutor()
public static ExecutorService newSingleThreadExecutor(ThreadFactory threadFactory)

SingleThreadExecutor适用于需要保证顺序地执行各个任务；并且在任意时间点，不会有多个线程是活动的应用场景。

CachedThreadPool

Executors提供的，创建一个会根据需要创建新线程的CachedThreadPool的API：

1
2
public static ExecutorService newCachedThreadPool()
public static ExecutorService newCachedThreadPool(ThreadFactory threadFactory)

CachedThreadPool是大小无界的线程池，适用于执行很多的短期异步任务的小程序，或者是负载较轻的服务器。

ScheduledThreadPoolExecutor

ScheduledThreadPoolExecutor通常使用工厂类Executors来创建。Executors可以创建2种类型的ScheduledThreadPoolExecutor：

  • ScheduledThreadPoolExecutor：包含若干个线程的ScheduledThreadPoolExecutor。
  • SingleThreadScheduledExecutor：只包含一个线程的ScheduledThreadPoolExecutor。

工厂类Executors提供的，创建固定个数线程的ScheduledThreadPoolExecutor的API：

1
2
public static ScheduledExecutorService newScheduledThreadPool(int corePoolSize)
public static ScheduledExecutorService newScheduledThreadPool(int corePoolSize,ThreadFactory threadFactory)

ScheduledThreadPoolExecutor适用于需要多个后台线程执行周期任务，同时为了满足资源管理的需求而需要限制后台线程的数量的应用场景。

Executors提供的，创建单个线程的SingleThreadScheduledExecutor的API：

1
2
public static ScheduledExecutorService newSingleThreadScheduledExecutor()
public static ScheduledExecutorService newSingleThreadScheduledExecutor(ThreadFactory threadFactory)

SingleThreadScheduledExecutor适用于需要单个后台线程执行周期任务，同时需要保证顺序地执行各个任务的应用场景。

Future接口

Future接口和实现Future接口的FutureTask类用来表示异步计算的结果。

当我们把Runnable接口或Callable接口的实现类提交(submit)给ThreadPoolExecutor或ScheduledThreadPoolExecutor时，ThreadPoolExecutor或ScheduledThreadPoolExecutor会向我们返回一个FutureTask对象。下面是对应的API：

1
2
3
<T> Future<T> submit(Callable<T> task)
<T> Future<T> submit(Runnable task, T result)
Future<> submit(Runnable task)

注意：到目前最新的JDK 8为止，Java通过上述API返回的是一个FutureTask对象。但从API可以看到，Java仅仅保证返回的是一个实现了Future接口的对象。在将来的JDK实现中，返回的可能不一定是FutureTask。

Runnable接口和Callable接口

Runnable接口和Callable接口的实现类：

  • 都可以被ThreadPoolExecutor或ScheduledThreadPoolExecutor执行。
  • 区别是Runnable不会返回结果，而Callable可以返回结果。

除了可以自己创建实现Callable接口的对象外，还可以使用工厂类Executors来把一个Runnable包装成一个Callable。

Executors提供的，把一个Runnable包装成一个Callable的API：

1
public static Callable<Object> callable(Runnable task) //假设返回对象Callable1

Executors提供的，把一个Runnable和一个待返回的结果包装成一个Callable的API：

1
public static <T> Callable<T> callable(Runnable task, T result) //假设返回对象Callable2

当我们把一个Callable对象（比如上面的Callable1或Callable2）提交给ThreadPoolExecutor或ScheduledThreadPoolExecutor执行时，submit(…)会向我们返回一个FutureTask对象。我们可以执行FutureTask.get()方法来等待任务执行完成。当任务成功完成后FutureTask.get()将返回该任务的结果。

例如：如果提交的是对象Callable1，FutureTask.get()方法将返回null；如果提交的是对象Callable2，FutureTask.get()方法将返回result对象。

FutureTask详解

Future接口和实现Future接口的FutureTask类，代表异步计算的结果。

FutureTask简介

FutureTask除了实现Future接口外，还实现了Runnable接口。因此，FutureTask可以交给Executor执行，也可以由调用线程直接执行（FutureTask.run()）。根据FutureTask.run()方法被执行的时机，FutureTask可以处于下面3种状态：

  • 未启动。FutureTask.run()方法还没有被执行之前，FutureTask处于未启动状态。当创建一个FutureTask，且没有执行FutureTask.run()方法之前，这个FutureTask处于未启动状态。
  • 已启动。FutureTask.run()方法被执行的过程中，FutureTask处于已启动状态。
  • 已完成。FutureTask.run()方法执行完后正常结束，或被取消（FutureTask.cancel(…)），或执行FutureTask.run()方法时抛出异常而异常结束，FutureTask处于已完成状态。

FutureTask的状态迁移图如下：

  • 当FutureTask处于未启动或已启动状态时，执行FutureTask.get()方法将导致调用线程阻塞；
  • 当FutureTask处于已完成状态时，执行FutureTask.get()方法将导致调用线程立即返回结果或抛出异常。
  • 当FutureTask处于未启动状态时，执行FutureTask.cancel()方法将导致此任务永远不会被执行；
  • 当FutureTask处于已启动状态时，执行FutureTask.cancel(true)方法将以中断执行此任务线程的方式来试图停止任务；
  • 当FutureTask处于已启动状态时，执行FutureTask.cancel(false)方法将不会对正在执行此任务的线程产生影响（让正在执行的任务运行完成）；
  • 当FutureTask处于已完成状态时，执行FutureTask.cancel(…)方法将返回false。

FutureTask的get方法和cancel方法的执行示意图如下：

FutureTask的使用

  • 可以把FutureTask交给Executor执行；
  • 也可以通过ExecutorService.submit(…)方法返回一个FutureTask，然后执行FutureTask.get()方法或FutureTask.cancel(…)方法。
  • 除此以外，还可以单独使用FutureTask。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
private final ConcurrentMap<Object, Future<String>> taskCache = new ConcurrentHashMap<Object, Future<String>>();

private String executionTask(final String taskName)
		throws ExecutionException, InterruptedException {
	while (true) {
		Future<String> future = taskCache.get(taskName);// 1.1,2.1
		if (future == null) {
			Callable<String> task = new Callable<String>() {
				public String call() throws InterruptedException {
					return taskName;
				}
			};
			FutureTask<String> futureTask = new FutureTask<String>(task);
			future = taskCache.putIfAbsent(taskName, futureTask);// 1.3
			if (future == null) {
				future = futureTask;
				futureTask.run();// 1.4执行任务
			}
		}
		try {
			return future.get();// 1.5,2.2
		} catch (CancellationException e) {
			taskCache.remove(taskName, future);
		}
	}
}
0%