文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

SpringBoot怎么集成Flink的部署与打包

2023-06-30 15:01

关注

本文小编为大家详细介绍“SpringBoot怎么集成Flink的部署与打包”,内容详细,步骤清晰,细节处理妥当,希望这篇“SpringBoot怎么集成Flink的部署与打包”文章能帮助大家解决疑惑,下面跟着小编的思路慢慢深入,一起来学习新知识吧。

一、SpringBoot集成Flink

其实没什么特别的,就把Flink依赖的包在pom引入就行了。只是FlinkTask的写法要小调整下,把相关依赖交给spring管理就行。

然后如果放弃Flink的Dashboard端监控task执行相关信息,那也可以在SpringBoot的启动类里调用就行,但是可能出现task的相关对象没有注入,这种都是小问题(实际就是springboot启动完成再调用,或者通过自动任务调用。也可以在springBoot的入口类用@ComponentScan注解扫描flinkTask所在的目录)。

实际更潇洒一点的做法可以将flinkTask的信息存表,通过springBoot的接口调用restfullApi接口,接口里调用task,甚至可以做task的启停、线程监控(接口里开线程调用task)。

二、FlinkTask写法调整

@Component@Slf4jpublic class JianGongStopCarTask {    public static void main(String[] args) throws Exception {        StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();        DataStream<JGParkingLotInfo> dataStream = env.addSource(new JGParkingLotInfoSource());//       获取到数据之后转换格式  此处不做转换        SingleOutputStreamOperator<JGParkingLotInfo> jgParkingLotInfoSingleOutputStreamOperator = dataStream.map(jgParkingLotInfo -> jgParkingLotInfo);        jgParkingLotInfoSingleOutputStreamOperator.addSink(new SinkToMySQL());        env.execute();    }}

PS:

实际就是@Component这个注解,然后这个示例里的JGParkingLotInfoSource、SinkToMySQL类都需要加这个注解。其他就没有什么调整了,然后如果还有其他依赖没有,使用hutool的SpringUtil进行get对象就行。

三、打包插件

<plugins>      <!-- 编译插件 -->      <plugin>        <artifactId>maven-compiler-plugin</artifactId>        <configuration>          <source>1.8</source>          <target>1.8</target>          <encoding>UTF-8</encoding>        </configuration>      </plugin>      <!--  spring boot 项目打包       <plugin>         <groupId>org.springframework.boot</groupId>         <artifactId>spring-boot-maven-plugin</artifactId>       </plugin>-->      <!-- Flink打包方式一 -->      <plugin>        <groupId>org.apache.maven.plugins</groupId>        <artifactId>maven-assembly-plugin</artifactId>        <version>3.3.0</version>        <configuration>          <archive>            <manifest>              <mainClass>com.easylinkin.dc.olap.JianGongStopCarTask</mainClass>            </manifest>          </archive>          <!-- 打包依赖 -->          <descriptorRefs>            <descriptorRef>jar-with-dependencies</descriptorRef>          </descriptorRefs>        </configuration>        <executions>          <execution>            <id>make-assembly</id>            <phase>package</phase>            <goals>              <goal>single</goal>            </goals>          </execution>        </executions>      </plugin>      <!-- flink打包方式二      <plugin>        <groupId>org.apache.maven.plugins</groupId>        <artifactId>maven-shade-plugin</artifactId>        <version>3.3.0</version>        <executions>          <execution>            <phase>package</phase>            <goals>              <goal>shade</goal>            </goals>            <configuration>              <createDependencyReducedPom>false</createDependencyReducedPom>              <artifactSet>                <excludes>                  <exclude>com.google.code.findbugs:jsr305</exclude>                  <exclude>org.slf4j:*</exclude>                  <exclude>log4j:*</exclude>                </excludes>              </artifactSet>              <filters>                <filter>                  <artifact>*:*</artifact>                  <excludes>                    <exclude>module-info.class</exclude>                    <exclude>META-INF/*.SF</exclude>                    <exclude>META-INF/*.DSA</exclude>                    <exclude>META-INF/*.RSA</exclude>                  </excludes>                </filter>              </filters>              <transformers>                <transformer                  implementation="org.apache.maven.plugins.shade.resource.AppendingTransformer">                  <resource>META-INF/spring.handlers</resource>                  <resource>reference.conf</resource>                </transformer>                <transformer                  implementation="org.springframework.boot.maven.PropertiesMergingResourceTransformer">                  <resource>META-INF/spring.factories</resource>                </transformer>                <transformer                  implementation="org.apache.maven.plugins.shade.resource.AppendingTransformer">                  <resource>META-INF/spring.schemas</resource>                </transformer>                <transformer                  implementation="org.apache.maven.plugins.shade.resource.ServicesResourceTransformer"/>                <transformer                  implementation="org.apache.maven.plugins.shade.resource.ManifestResourceTransformer">                  <mainClass>com.easylinkin.dc.olap.JianGongStopCarTask</mainClass>                </transformer>              </transformers>            </configuration>          </execution>        </executions>      </plugin>      -->      <!-- flink打包方式三      <plugin>        <groupId>org.apache.maven.plugins</groupId>        <artifactId>maven-jar-plugin</artifactId>        <configuration>          <archive>            <manifest>              <mainClass>com.easylinkin.dc.olap.JianGongStopCarTask</mainClass>              <useUniqueVersions>false</useUniqueVersions>              <addClasspath>true</addClasspath>              <classpathPrefix>./lib/</classpathPrefix>            </manifest>          </archive>          <excludes>            <exclude>module-info.class</exclude>            <exclude>META-INF/*.SF</exclude>            <exclude>META-INF/*.DSA</exclude>            <exclude>META-INF/*.RSA</exclude>            <exclude>com.google.code.findbugs:jsr305</exclude>            <exclude>org.slf4j:*</exclude>            <exclude>log4j:*</exclude>          </excludes>        </configuration>      </plugin>      <plugin>        <groupId>org.apache.maven.plugins</groupId>        <artifactId>maven-dependency-plugin</artifactId>        <version>3.3.0</version>        <executions>          <execution>            <id>copy-dependencies</id>            <phase>package</phase>            <goals>              <goal>copy-dependencies</goal>            </goals>            <configuration>              <outputDirectory>${project.build.directory}/lib</outputDirectory>              <excludeTransitive>false</excludeTransitive>              <stripVersion>false</stripVersion>            </configuration>          </execution>        </executions>      </plugin>-->    </plugins>

除了打成SpringBoot用springboot的插件打包,flinkTask的打包有3种方式,方式三适合lib包提前传到task指定的依赖存储目录。这样上传flinkTask就很小。

方式二是官方推荐FlinkTask的打包方式

说一千道一万就是因为打包的META-INF下的MANIFEST.MF文件的内容有区别。springBoot项目的这个文件有自己的JarLauncher。

SpringBoot怎么集成Flink的部署与打包

FlinkTask的jar这个文件内容

SpringBoot怎么集成Flink的部署与打包

四、Flink的上传与运行

上传并命令运行

SpringBoot怎么集成Flink的部署与打包

配置好flink环境,命令就是

flink run WordCount.jar

Flink管理大屏上传运行

SpringBoot怎么集成Flink的部署与打包

点击“Submit”

SpringBoot怎么集成Flink的部署与打包

读到这里,这篇“SpringBoot怎么集成Flink的部署与打包”文章已经介绍完毕,想要掌握这篇文章的知识点还需要大家自己动手实践使用过才能领会,如果想了解更多相关内容的文章,欢迎关注编程网行业资讯频道。

阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     801人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     348人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     311人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     432人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     220人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯