学习 Flink(六):检查点

栏目: 服务器 · 发布时间: 6年前

内容简介:检查点(Checkpoint)机制是 Flink 实现错误容忍机制的核心。通过持续以异步的方式保存轻量级的镜像,当错误(机器、网络或者软件原因)发生时,系统重启操作并重置操作到最新保存成功的检查点。Flink 镜像参考论文:Flink 检查点需要两点:

检查点(Checkpoint)机制是 Flink 实现错误容忍机制的核心。通过持续以异步的方式保存轻量级的镜像,当错误(机器、网络或者软件原因)发生时,系统重启操作并重置操作到最新保存成功的检查点。

Flink 镜像参考论文: Lightweight Asynchronous Snapshots for Distributed Dataflows

前提

Flink 检查点需要两点:

  • 持久化数据源支持重放(Replay)数据,如消息队列(Kafka 等)文件系统(HDFS 等)
  • 持久化存储,通常为分布式文件系统(HDFS 等)

初始化

默认情况下,检查点是禁用的,启用检查点调用 StreamExecutionEnvironment.enableCheckpointing 方法。

val env = StreamExecutionEnvironment.getExecutionEnvironment()

// 每 1000 ms 保存一次检查点
env.enableCheckpointing(1000)

// 高级选项:

// 设置模式为恰好一次(默认)
env.getCheckpointConfig.setCheckpointingMode(CheckpointingMode.EXACTLY_ONCE)

参考


以上所述就是小编给大家介绍的《学习 Flink(六):检查点》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

人人都在晒,凭什么你出彩

人人都在晒,凭什么你出彩

【美】奥斯丁•克莱恩 / 张舜芬、徐立妍 / 北京联合出版公司 / 2015-4 / 38.00

1. 《纽约时报》、亚马逊畅销书排名第1位、好评如潮的创意营销书。《出版人周刊》称其在社交网络时代“在安全范围内提供了实用的自我营销策略”。 2. TED演讲者创意分享:晒对了,全世界都为你点赞:别人在朋友圈、微博晒自拍、晒孩子、晒吃喝,你来晒创意、晒灵感、晒工作、晒收获,发出自己的声音,找到伙伴,机会也会主动找上门! 3. 10堂创意课+手绘涂鸦,所有人都能轻松读完、迅速学会的创意小......一起来看看 《人人都在晒,凭什么你出彩》 这本书的介绍吧!

HTML 压缩/解压工具
HTML 压缩/解压工具

在线压缩/解压 HTML 代码

在线进制转换器
在线进制转换器

各进制数互转换器

HSV CMYK 转换工具
HSV CMYK 转换工具

HSV CMYK互换工具