Spark Streaming 是核心Spark API的扩展，可实现实时数据流的可伸缩，高吞吐量，容错流处理。可以从许多数据源（例如Kafka，Flume，Kinesis或TCP sockets）中提取数据，并且可以使用复杂的算法处理数据，这些算法用高级函数表示，如map、reduce、join和window。最后，可以将处理后的数据推送到文件系统，数据库和实时仪表板。实际上，可以在数据流上应用Spark的机器学习和图形处理算法。
在内部，它的工作方式如下。 Spark Streaming接收实时输入数据流，并将数据分成批次，然后由Spark引擎进行处理，以生成批次的最终结果流。
Spark Streaming提供了一种高级抽象，称为离散流或DStream，它表示连续的数据流。DStreams可以从Kafka、Flume和Kinesis等源的输入数据流创建，也可以通过在其他DStreams上应用高级操作创建。在内部，DStream表示为RDDs序列。
1. 了解Spark
Apache Spark 是一个用于大规模数据处理的统一分析引擎
特性：
快
将工作负载运行速度提高100倍
Apache Spark使用最新的DAG调度程序，查询优化器和物理执行引擎，为批处理数据和流数据提供了高性能。
易用
可以使用Java，Scala，Python，R和SQL快速编写应用程序。
通用
结合SQL、流和复杂的分析
Spark为包括SQL和DataFrames，用于机器学习的MLlib，GraphX和Spark Streaming在内的一堆库提供支持。您可以在同一应用程序中无缝组合这些库。
到处运行
Spark可在Hadoop，Apache Mesos，Kubernetes，独立或云中运行。它可以访问各种数据源。
可以在EC2，Hadoop YARN，Mesos或Kubernetes上使用其独立集群模式运行Spark。访问HDFS，Alluxio，Apache Cassandra，Apache HBase，Apache Hive和数百种其他数据源中的数据。
2. 入门案例
统计单词出现的次数，这个例子在Hadoop中用MapReduce也写过。
JavaStreamingContext是java版的StreamingContext。它是Spark Streaming功能的主要入口点。它提供了从输入源创建JavaDStream和JavaPairDStream的方法。可以使用context.sparkContext访问内部的org.apache.spark.api.java.JavaSparkContext。在创建和转换DStream之后，可以分别使用context.start()和context.stop()启动和停止流计算。
1 public static void main(String[] args) throws InterruptedException {
2 // Create a local StreamingContext with two working thread and batch interval of 1 second
3 SparkConf conf = new SparkConf().setMaster("local[2]").setAppName("NetworkWordCount");
4 JavaStreamingContext jssc = new JavaStreamingContext(conf, Durations.seconds(1));
5
6 // Create a DStream that will connect to hostname:port, like localhost:9999
7 JavaReceiverInputDStream<String> lines = jssc.socketTextStream("localhost", 9999);
8
9 // Split each line into words
10 JavaDStream<String> words = lines.flatMap(x -> Arrays.asList(x.split(" ")).iterator());
11
12 // Count each word in each batch
13 JavaPairDStream<String, Integer> pairs = words.mapToPair(s -> new Tuple2<>(s, 1));
14 JavaPairDStream<String, Integer> wordCounts = pairs.reduceByKey((i1, i2) -> i1 + i2);
15
16 // Print the first ten elements of each RDD generated in this DStream to the console
17 wordCounts.print();
18
19 // Start the computation
20 jssc.start();
21 // Wait for the computation to terminate
22 jssc.awaitTermination();
23 }
3. 基本概念
3.1. Maven依赖
1 为了从其它数据源获取数据，需要添加相应的依赖项spark-streaming-xyz_2.12。例如：
1 3.2. 初始化StreamingContext
为了初始化一个Spark Streaming程序，必须创建一个StreamingContext对象，该对象是所有Spark Streaming功能的主要入口点。
我们可以从SparkConf对象中创建一个JavaStreamingContext对象
1 import org.apache.spark.SparkConf;
2 import org.apache.spark.streaming.Duration;
3 import org.apache.spark.streaming.api.java.JavaStreamingContext;
4
5 SparkConf conf = new SparkConf().setAppName(appName).setMaster(master);
6 JavaStreamingContext ssc = new JavaStreamingContext(conf, new Duration(1000)); appName 参数是显示在集群UI上的你的应用的名字
master 参数是一个Spark、 Mesos 或 YARN 集群URL，或者也可以是一个特定的字符串“local[*]”表示以本地模式运行。实际上，当在集群上运行时，肯定不希望对在程序中对master进行硬编码，而希望通过spark-submit启动应用程序并在其中接收它。然而，对于本地测试，你可以传“local[*]”来运行Spark Streaming。
还可以从一个已存在的JavaSparkContext中创建一个JavaStreamingContext对象
1 import org.apache.spark.streaming.api.java.*;
2
3 JavaSparkContext sc = ... //existing JavaSparkContext
4 JavaStreamingContext ssc = new JavaStreamingContext(sc, Durations.seconds(1));
在定义完context之后，必须做以下事情：
- 通过创建input DStreams来定义input sources
- 通过对DStreams应用transformation（转换）和output（输出）操作来定义流计算
- 用streamingContext.start()来开始接收数据并处理它
- 用streamingContext.awaitTermination()等待处理停止（手动停止或由于任何错误）
- 用streamingContext.stop()可以手动停止
需要记住的点：
- 一旦启动上下文，就无法设置新的流计算或将其添加到该流计算中
- 上下文一旦停止，就无法重新启动
- 一个JVM中只能同时激活一个StreamingContext
- StreamingContext中的stop()也会停止SparkContext。但如果要仅停止StreamingContext的话，设置stop(false)
- 只要在创建下一个StreamingContext之前停止了上一个StreamingContext（不停止SparkContext），就可以将SparkContext重用于创建多个StreamingContext
3.3. DStreams（离散流）
Discretized Stream 或 DStream 是Spark Streaming提供的基本抽象。它表示一个连续的数据流，可以是从源接收的输入数据流，也可以是通过转换输入流生成的已处理数据流。在内部，DStream由一系列连续的RDD表示，这是Spark对不变的分布式数据集的抽象。DStream中的每个RDD都包含来自特定间隔的数据，如下图所示。
在DStream上执行的任何操作都转换为对基础RDD的操作。例如，最简单的将一行句子转换为单词的例子中，flatMap操作应用于行DStream中的每个RDD，以生成单词DStream的RDD。如下图所示：
3.4. Input DStreams 和 Receivers
Input DStream是表示从源接收的输入数据流。在上图中，lines是输入DStream，因为它表示从netcat服务器接收的数据流。每一个输入DStream都关联着一个Receiver对象，该对象从源接收数据并将其存储在Spark的内存中以进行处理。
Spark Streaming提供了两类内置的streaming源：
- Basic sources ：直接在StreamingContext API中可用的源。例如，文件系统和socket连接
- Advanced sources ：像Kafka，Flume，Kinesis等这样的源，可通过额外的程序类获得
如果要在流应用程序中并行接收多个数据流，则可以创建多个输入DStream。这将创建多个Receiver（接收器），这些接收器将同时接收多个数据流。重要的是要记住，必须为Spark Streaming应用程序分配足够的内核（或线程，如果在本地运行），以处理接收到的数据以及运行接收器。
需要记住的点：
- 在本地运行Spark Streaming程序时，请勿使用“ local”或“ local [1]”作为master URL。这两种方式均意味着仅一个线程将用于本地运行任务。如果使用的是基于接收器的输入DStream（例如套接字，Kafka，Flume等），则将使用单个线程来运行接收器，而不会留下任何线程来处理接收到的数据。 因此，在本地运行时，请始终使用“ local [n]”作为主URL，其中n>要运行的接收器数
- 为了将逻辑扩展到在集群上运行，分配给Spark Streaming应用程序的内核数必须大于接收器数。 否则，系统将接收数据，但无法处理它。
Basic Sources
为了从文件中读取数据，可以通过StreamingContext.fileStream[KeyClass, ValueClass, InputFormatClass]来创建一个DStream
例如：streamingContext.textFileStream(dataDirectory);
Spark Streaming将监视目录dataDirectory并处理在该目录中创建的所有文件
- 可以监视一个简单的目录，例如："hdfs://namenode:8040/logs/2017
16 public class JavaWordCount {
17
18 private static final Pattern SPACE = Pattern.compile(" ");
19
20 public static void main(String[] args) {
21 if (args.length < 1) {
22 System.err.println("Usage: JavaWordCount
" ); 23 System.exit(1); 24 } 25 26 SparkConf conf = new SparkConf().setMaster("local[*]").setAppName("JavaWordCount"); 27 JavaStreamingContext jssc = new JavaStreamingContext(conf, Durations.seconds(1)); 28 29 JavaDStream<String> lines = jssc.textFileStream(args[0]); 30 JavaDStream<String> words = lines.flatMap(line -> Arrays.asList(SPACE.split(line)).iterator()); 31 JavaPairDStream<String, Integer> ones = words.mapToPair(word -> new Tuple2<>(word, 1)); 32 JavaPairDStream<String, Integer> counts = ones.reduceByKey((i1, i2) -> i1 + i2); 33 counts.print(); 34 35 44 } 45 }4. Docs
https://spark.apache.org/
https://spark.apache.org/docs/latest/streaming-programming-guide.html
