什么是数据并行化
数据并行化是指将任务分解成多个子任务,并将这些子任务分配给多个处理单元(如多个 CPU 核心)并行执行。在集合数据的处理中,可以将数据划分为多个小块,然后在不同的处理单元上并行处理,从而加快处理速度。
在大量数据处理上,数据并行化可以大量缩短任务的执行时间,将一个数据分解成多个部分,然后并行处理,最后将多个结果汇总,得到最终的结果
并行和并发
并发(Concurrency)
并发是指多个任务在同一时间段内交替执行。它可以在单个处理器上通过任务切换(上下文切换)实现,也可以在多个处理器上同时进行。在并发模式下,多个任务在微观上交替执行,但在某个时间段内只有一个任务在执行。这种模式通常用于提高系统的效率和响应能力,适用于 I/O 密集型任务,如网络通信、文件读写等。
并行(Parallelism)
并行是指多个任务在同一时刻同时执行,每个任务在不同的处理器核心上独立运行。与并发不同,并行是在宏观上实现多任务的真正同时执行。这种模式通常用于提高计算密集型任务的处理速度,如科学计算、图像处理等。
总结
并发关注任务之间的交替执行,是一种在时间上的重叠。
并行关注任务在同一时刻的同时执行,是一种在时间上的重合。
并发适用于提高系统效率和响应能力,适用于 I/O 密集型任务。
并行适用于提高计算速度,适用于计算密集型任务。
并行流的使用示例
Java 8 引入了并行流,它使得数据并行化变得非常容易。只需将顺序流转换为并行流,即可实现并行处理。以下是一个简单的示例代码:
public class MaxDemo {
public static void main(String[] args) {
List numbers = new ArrayList<>();
numbers.add(1);
numbers.add(2);
numbers.add(3);
int sum = numbers.parallelStream().mapToInt(i -> i).sum();
System.out.println(sum);
}
在上述示例中,通过 parallelStream() 方法将顺序流转换为并行流,从而实现了并行处理。接着,我们对流进行了过滤和映射操作,最后计算了偶数的总和。
注意事项和适用场景
虽然并行流可以提升处理速度,但并不是在所有情况下都适用。不要陷入一个误区:并行一定比串行快。并行在不同的情况下不一定比串行快。影响并行性能有以下因素:
数据量
如果数据量太小,会直接影响到并行处理的性能。因为在并行内部实现涉及到 fork/join 的操作,这些操作的本身就存在性能的开销,只有当数据量很大的时候,使用并行处理才有意义
源数据结构
fork 时会对源数据进行分割,数据源的特性直接影响到 fork 的性能,从而导致并行流性能很慢
arrayList、array、IntStream.range,是最容易分割的,因为都支持随机读取
HashSet、TreeSet, 相对来说比较容易分割,但是因为内部数据结构,很难被平均分解
LinkedList、Streams.iterate、BufferedReader.lined 不容易分分割,因为长度未知,无法确定分在哪里进行分割
装箱拆箱
尽量使用基本数据类型,避免装箱和拆箱
CPU 核数
fork 产生的数量是与 CPU 核数相关,可用的核数越多,获取的性能提升越大
单元处理开销
花在流中每个元素的时间越长,并行操作带来的性能提升就越明显
并行流原理介绍
并行流的工作原理可以分为以下几个步骤:
数据切分:初始数据被分成多个小块,每个块包含一部分元素。
并行处理:各个处理器核心同时对不同的数据块执行相同的操作。
结果合并:各个处理器核心处理完成后,将结果合并为最终结果。
并行流在底层的实现是沿用 Java7 提供的 fork 和 join 分解合并框架实现的,fork 根据 cpi 核数进行数据分开,join 对各 forn 进行合并。实现过程如下图所示:
总结
数据并行化是 Java 8 Stream 中的重要特性,可以显著提升大规模数据处理的速度。通过将顺序流转换为并行流,我们可以利用多核处理器的优势,实现高效的并行处理。然而,在使用并行流时需要注意线程安全和适用场景,以充分发挥其优势。在实际开发中,根据数据规模和操作类型的不同,合理使用并行流将为你的程序带来性能的提升。