本篇文章为大家展示了Flink+Kafka如何实现端到端的一致性语义,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。
Apache Flink社区1.4版本正式引入了一个里程碑式的功能:两阶段提交Sink,即TwoPhaseCommitSinkFunction。
该SinkFunction提取并封装了两阶段提交协议中的公共逻辑,自此Flink搭配特定Source和Sink搭建精确一次处理语义( exactly-once semantics)应用成为了可能。作为一个抽象类TwoPhaseCommitSinkFunction提供了一个抽象层供用户自行实现特定方法来支持 Exactly-Once semantics。
接下来,我们进一步介绍flink的这个特性:
Flink的checkpoints在保证exactly-once语义时的作用
Flink是如何通过两阶段提交协议来保证从数据源到数据输出的exactly-once语义
上述内容就是Flink+Kafka如何实现端到端的一致性语义,你们学到知识或技能了吗?如果还想学到更多技能或者丰富自己的知识储备,欢迎关注编程网行业资讯频道。