如何用Spring WebFlux构建Reactive REST API

在本文中，我们将讨论如何使用Spring WebFlux来构建响应式REST API。在正式讨论之前，让我们首先来看看系统的开发，传统REST在实现中遇到的问题，以及当前API的普遍需求。

下图简要地罗列了传统应用和现代应用系统的主要特点。如今的系统讲求的是：分布式应用、云原生、高可用性和可扩展性。因此，有效地利用系统现有的资源是至关重要的。

 

应用程序API需求的演变

那么传统的REST API请求处理又是如何工作的呢？

 

传统REST API模型

如上图所示，传统REST API会带来如下问题：

•  阻塞和同步 → 通常，请求线程会去等待各种阻塞的I/O直至结束之后，才能被释放，进而将响应返回给调用方。
•  每个请求的线程数 → Web容器会用到基于请求的线程（thread-per-request）模型。该模型限制了待处理的并发请求数量。也就是说，容器会对请求进行排队，进而最终影响到API的性能。
• 处理高并发用户的限制 → 正是由于Web容器使用了基于请求的线程模型，因此我们无法去处理那些高并发量的请求。
• 无法更好地利用系统资源 → 阻塞的I/O会造成线程处于空闲状态，进而导致Web容器无法接受更多的请求，我们也就无法有效地利用现有的系统资源。
•  没有背压（backpressure）支持 → 由于我们无法从客户端或服务器处施加背压，因此应用程序在负载量大时，无法维持正常运行。也就是说，倘若应用突然面临大量的请求，则服务器或客户端可能会由于中断，而无法访问到该应用。

下面，让我们来看看响应式API的优势，以及如何使用响应式编程，来解决上述问题。

• 异步和无阻塞 → 响应式编程为编写异步和非阻塞应用程序提供了灵活性。
• 事件/消息驱动 → 系统能够为任何活动生成对应的事件或消息。例如，那些来自数据库的数据会被视为事件流。
• 支持背压 → 我们可以通过施加背压，来“优雅地”处理从一个系统到另一个系统的压力，从而避免了拒绝服务的出现。
• 可预测的应用响应时间 → 由于线程是异步且非阻塞的，因此我们可以预测负载下的应用响应时间。
• 更好地利用系统资源 → 同样由于线程是异步且非阻塞的，因此各种线程不会被I/O所占用，它们能够支持更多的用户请求。
• 基于负载的扩容方式
• 摆脱基于请求的线程 → 借助响应式API，并得益于异步且非阻塞的线程，我们可以摆脱基于请求的线程模型。在请求被产生后，模型会与服务器一起创建事件，并通过请求线程，去处理其他的请求。

那么，响应式编程的具体流程是怎样的呢？如下图所示，一旦应用程序调用了从某个数据源获取数据的操作，那么就会立即返回一个线程，并且让来自该数据源的数据作为数据/事件流出现。在此，应用程序是订阅者（subscriber），数据源是发布者（publisher）。一旦数据流完成后，onComplete事件就会被触发。 

 

数据流工作流程

如下图所示，如果发生了任何异常情况，发布者将会触发onError事件。 

数据流工作流程

在某些情况下，例如：从数据库中删除一个条目，发布者只会立即触发onComplete/onError事件，而不会调用onNext事件，毕竟没有任何数据可以返回。 

数据流工作流程

下面，我们进一步讨论：什么是背压，以及如何将背压应用于响应流。例如，我们有一个客户端应用正在向另一个服务请求数据。该服务能够以1000 TPS（吞吐量）的速率发布事件，而客户端应用只能以200 TPS的速率处理事件。

那么在这种情况下，客户端应用程序需要通过缓冲数据来进行处理。而在随后的调用中，客户端应用程序可能会缓冲更多的数据，以致最终耗尽内存。显然，这对于那些依赖该客户端应用的其他程序，会造成级联效应。为了避免此类情况，客户端应用可以要求服务在事件的末尾进行缓冲，并以客户端应用的速率去推送各种事件。这就是所谓的背压，具体流程请见下图。 

背压示例

下面，我们将介绍响应流的规范（请参见--https://www.reactive-streams.org/），以及一个实现案例--Project Reactor（请参见--https://projectreactor.io/）。通常，响应流的规范定义了如下接口类型：

• 发布者（Publisher） → 发布者是那些具有无限数量顺序元素的提供者。它可以按照订阅者的要求进行发布。其Java代码如下所示：  

public interface Publisher {    
     public void subscribe(Subscriber s); 
}  

•  订阅者（Subscriber） → 订阅者恰好是那些具有无限数量顺序元素的使用者。其Java代码如下所示：  

public interface Subscriber { 
    public void onSubscribe(Subscription s); 
     public void onNext(T t); 
     public void onError(Throwable t); 
     public void onComplete(); 
}  

•  订阅（Subscription） → 表示订阅者向发布者订阅的某个一对一的周期。其Java代码如下所示：

public interface Subscription { 
    public void request(long n); 
    public void cancel(); 
} 

•  处理器（Processor） → 表示一个处理阶段，即订阅者和发布者之间根据约定进行处理。

下面是响应流规范的类图： 

响应流规范

其实，响应流规范具有许多种实现方式，上述Project Reactor只是其中的一种。Reactor可以完全实现无阻塞、且有效的请求管理。它能够提供两个响应式和可组合的API，即：Flux [N]（请参见-- https://projectreactor.io/docs/core/release/api/reactor/core/publisher/Flux.html）和Mono [0|1]（请参见--https://projectreactor.io/docs/core/release/api/reactor/core/publisher/Mono.html）。它们广泛地实现了响应式扩展（Reactive Extensions）。Reactor为HTTP（包括Websocket）提供了非阻塞的背压式网络引擎、TCP和UDP。它也非常适合于微服务的架构。

•  Flux→ 它是发布者带有各种rx运算符的响应流（Reactive Streams），它会发出0到N个元素，然后输出成功、或带有某个错误的完成结果。其流程图如下所示： 

图片来源：https://projectreactor.io

•  Mono → 它也是发布者具有各种基本rx运算符的响应流，能够通过发出0到1个元素，输出成功、或带有某个错误的完成结果。其流程图如下所示： 

图片来源：https://projectreactor.io

由于Reactor的实施往往涉及到Spring 5.x，因此，我们可以使用带有Spring servlet栈的命令式编程，来构建REST API。下图展示了Spring如何支持响应式和servlet栈的实现。 

 

图片来源：spring.io

下面是一个公布了响应式REST API的应用。在该应用中，我们使用到了：

•  带有WebFlux的Spring Boot
•  具有响应式支持的Spring数据
•  Cassandra数据库

下图是该应用的整体架构： 

下面是build.gradle文件的Groovy代码，它包含了与Spring WebFlux协同使用的各种依赖项。

plugins { 
     id 'org.springframework.boot' version '2.2.6.RELEASE' 
     id 'io.spring.dependency-management' version '1.0.9.RELEASE' 
     id 'java' 
} 
group = 'org.smarttechie' 
version = '0.0.1-SNAPSHOT' 
sourceCompatibility = '1.8' 
repositories { 
    mavenCentral() 
}  
dependencies { 
   implementation 'org.springframework.boot:spring-boot-starter-data-cassandra-reactive' 
   implementation 'org.springframework.boot:spring-boot-starter-webflux' 
   testImplementation('org.springframework.boot:spring-boot-starter-test') { 
   exclude group: 'org.junit.vintage', module: 'junit-vintage-engine' 
   } 
   testImplementation 'io.projectreactor:reactor-test' 
 } 
test { 
  useJUnitPlatform() 
}  

在此应用程序中，我公布了如下API。您可以通过GitHub的相关链接--https://github.com/2013techsmarts/Spring-Reactive-Examples，下载源代码。  

在构建响应式API时，我们可以使用功能性样式编程模型来构建API，而无需使用RestController。当然，您需要具有如下的router和handler组件：

Router： 

package org.smarttechie.router; 
import org.smarttechie.handler.ProductHandler; 
import org.springframework.context.annotation.Bean; 
import org.springframework.context.annotation.Configuration; 
import org.springframework.http.MediaType; 
import org.springframework.web.reactive.function.server.RouterFunction; 
import org.springframework.web.reactive.function.server.RouterFunctions; 
import org.springframework.web.reactive.function.server.ServerResponse; 
import static org.springframework.web.reactive.function.server.RequestPredicates.*; 
@Configuration 
public class ProductRouter { 
     
    @Bean 
public RouterFunction    productsRoute(ProductHandler productHandler){ 
    return RouterFunctions.route(GET("/products").and(accept(MediaType.APPLICATION_JSON)) ,productHandler::getAllProducts).andRoute(POST("/product").and(accept(MediaType.APPLICATION_JSON)),productHandler::createProduct).andRoute(DELETE("/product/{id}").and(accept(MediaType.APPLICATION_JSON)) ,productHandler::deleteProduct).andRoute(PUT("/product/{id}").and(accept(MediaType.APPLICATION_JSON)),productHandler::updateProduct); 
 } 
} 

 Handler： 

package org.smarttechie.handler; 
  import org.smarttechie.model.Product; 
  import org.smarttechie.service.ProductService; 
  import org.springframework.beans.factory.annotation.Autowired; 
  import org.springframework.http.MediaType; 
  import org.springframework.stereotype.Component;    
  import org.springframework.web.reactive.function.server.ServerRequest; 
   import org.springframework.web.reactive.function.server.ServerResponse; 
  import reactor.core.publisher.Mono; 
   import static org.springframework.web.reactive.function.BodyInserters.fromObject;     
   @Component 
   public class ProductHandler { 
    @Autowired 
    private ProductService productService; 
     static Mono notFound = ServerResponse.notFound().build(); 
    
    public Mono getAllProducts(ServerRequest serverRequest) { 
         return ServerResponse.ok().contentType(MediaType.APPLICATION_JSON).body(productService.getAllProducts(), Product.class); 
  } 
 
     
    public Mono createProduct(ServerRequest serverRequest) { 
        Mono productToSave = serverRequest.bodyToMono(Product.class); 
        return productToSave.flatMap(product -> 
                ServerResponse.ok().contentType(MediaType.APPLICATION_JSON).body(productService.save(product), Product.class));   
 
   }    
 
        
    public Mono deleteProduct(ServerRequest serverRequest) { 
        String id = serverRequest.pathVariable("id");  
        Mono deleteItem = productService.deleteProduct(Integer.parseInt(id)); 
         return ServerResponse.ok().contentType(MediaType.APPLICATION_JSON).body(deleteItem, Void.class);   
   } 
     
    public Mono updateProduct(ServerRequest serverRequest) { 
      return productService.update(serverRequest.bodyToMono(Product.class)).flatMap(product ->ServerResponse.ok().contentType(MediaType.APPLICATION_JSON).body(fromObject(product))) .switchIfEmpty(notFound);  
    } 
} 

至止，我们已经对如何公布响应式REST API有所了解。针对上述实现，我们使用了Gatling（译者注：是一款功能强大的负载测试工具），在响应式API和非响应式API（使用Spring RestController构建非响应式API）上，进行了简单的基准化测试。其结果比较如下图所示。具体的Gatling负载测试脚本，请参考GitHub上的链接：https://github.com/2013techsmarts/Spring-Reactive-Examples。 

负载测试结果比较 

原Build Reactive REST APIs With Spring WebFlux ,作者：Siva Prasad Rao Janapati

【51CTO译稿，合作站点转载请注明原文译者和出处为51CTO.com】