CSharpFlink 分布式实时计算框架,增加 Kafka 数据接口和加载多个计算任务

栏目: 软件资讯 · 发布时间: 4年前

内容简介:更新内容: 1.可以增加多个计算任务实例(*.dll) 2.增加IChannelMesaageHandler接口,主节点和计算节点可以复用。 3.修复SouceFunction多次启动线程的问题。 4.增加Kafka数据接入的接口,支持Kafka接入数据的实时...

更新内容:

1.可以增加多个计算任务实例(*.dll)
2.增加IChannelMesaageHandler接口,主节点和计算节点可以复用。
3.修复SouceFunction多次启动线程的问题。
4.增加Kafka数据接入的接口,支持Kafka接入数据的实时计算。

注:请到开源网址下载。

系统框架:

CSharpFlink 分布式实时计算框架,增加 Kafka 数据接口和加载多个计算任务

系统测试:

     CPU:4核 I5-7400 2.7GHz,内存:16G,随机数据点时间窗口和计算算子,主节点CPU和内存使用情况:15%-35%、1500MB-2048MB, 工作节点CPU和内存使用情况:0.1%-2.5%、18MB-30MB。 本机部署1个主节点,10个计算节点。主节点生成10万个数据点的计算任务,每个数据点1秒钟产生一个新数据,计算时间窗口的最大值、最小值、平均值或和值。 运行效果,如下图:

CSharpFlink 分布式实时计算框架,增加 Kafka 数据接口和加载多个计算任务


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

痛点

痛点

马丁·林斯特龙 / 陈亚萍 / 中信出版集团股份有限公司 / 2017-4-1 / CNY 49.00

互联网经济迅猛发展,大数据成为分析用户需求的一种惯性路径。世界首席品牌营销专家林斯特龙则指出,大数据连接了千百万的数据点,可以准确地产生相互关系。但是,当人类按照自己的习惯行动时,大数据分析通常不会十分准确。所以挖掘用户需求时,在大数据之外,更重要的是通过对一个小群体的亲身观察和小数据常识,捕捉到这个社会群体所体现出的文化欲望。满足这些用户需求,击中痛点,则意味着将掌握无限的商机。一起来看看 《痛点》 这本书的介绍吧!

JSON 在线解析
JSON 在线解析

在线 JSON 格式化工具

随机密码生成器
随机密码生成器

多种字符组合密码

Markdown 在线编辑器
Markdown 在线编辑器

Markdown 在线编辑器