Linkis 0.11.0 发布,新增 ElasticSearch 与 Presto 引擎

栏目: 软件资讯 · 发布时间: 5年前

内容简介:大家期待已久的ElasticSearch引擎和Presto引擎来啦! Linkis 0.11.0 是由微众银行和MobTech团队作为主要贡献者的一个重要版本。这是基于Linkis 0.10.0的下一个发行版本。此版本新增了Presto引擎、Es引擎、以及Spa...

大家期待已久的ElasticSearch引擎和Presto引擎来啦!

Linkis 0.11.0 是由微众银行和MobTech团队作为主要贡献者的一个重要版本。这是基于Linkis 0.10.0的下一个发行版本。此版本新增了Presto引擎、Es引擎、以及Spark引擎on cluster模式进行了实现,并对0.10.0版本前的多个Bug进行了修复。

 

特性增强

1. 新增了ElasticSearch引擎,支持通过Linkis-Client提交esql和ejson脚本;

2. 新增 Presto 引擎,支持通过Linkis-Client提交对Presto的查询;

3. Linkis-RM支持了对Presto 的资源组的资源进行控制;

4. Spark引擎支持yarn on cluster,用户可以灵活选择Spark的运行模式;

5. Linkis-RM支持通过restful获取有权限的Yarn队列,方便用户在前端应用 工具 进行队列选择;

6. Linkis-GateWay 网关添加了基于 DataSource 路由规则;

7. Spark引擎日志新增打印Yarn的ApplicationID方便用户查找问题;

8. Spark引擎的PySpark 任务适配 Spark3.0

9. Shell 引擎支持自定义变量

10. Shell 引擎支持输出结果集

11. 支持在脚本的变量替换时进行循环替换

 

Bug修复

1. 修复Linkis-RM模块中Resource moreThan 判断逻辑问题;

2. 修复 LDAP 认证时,名称太长导致异常问题;

3. 修复 CDH Spark 版本获取问题;

4. 修复 JDBC 任务不同用户相互影响的问题;

5. 修复 JDBC 引擎写结果集问题;

6. 修复 HiveQLProcessBuilder 中 java.library.path 配置写死问题;

7. 修复UDF模块中的共享函数到指定目录问题;

8. 修改 linkis_udf_tree 表中 name 字段长度

9. 修复接入单点登录后用户 cookie 丢失问题

10. 修复第三方系统集成linkis,Token认证方式,Token校验Bug

 

新贡献者

Linkis 0.11.0 的发布,离不开WeDataSphere社区的贡献者,他们无私地贡献自己的代码,积极地与社区伙伴进行技术交流,有了他们的助力,Linkis 0.11.0才能顺利地发布,在此感谢各位社区的贡献者! 排名不分先后:

wForget: 作为主持者,实现 ElasticSearch 引擎,实现网关路由插件,其他若干功能实现以及BUG修复。

Yogaflre: 实现 Presto 引擎,Presto 资源控制。

77954309: Shell 引擎支持自定义变量。

xfei6868: PySpark 任务适配 Spark3.0。

hcl3039359: 修改 linkis_udf_tree 表中 name 字段长度。

linweijiang: 修复接入单点登录后用户 cookie 丢失问题

cumtcwf修复第三方系统集成linkis,Token认证方式,Token校验Bug

zhangxhmuyeShell 引擎支持输出结果集

 

展望未来

未来,微众银行WeDataSphere大数据团队将继续携手MobTech大数据团队,打造全面连通融合的金融级大数据平台,深耕金融级生产环境和场景的自研打磨完善,为社区用户提供相应个性化的大数据解决方案,赋能金融机构企业服务生产及业务支持,共同推动Linkis生态圈的成长。

Linkis 开源项目地址如下,欢迎大家提交 issue 及 star:


以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

计算机与人脑

计算机与人脑

[美] 约·冯·诺意曼 / 甘子玉 / 商务印书馆 / 1965-3 / 7.00元

《计算机与人脑》是自动机(以电子计算机为代表)理论研究中的重要材料之一。原书是冯·诺意曼在1955-1956年准备讲演用的未完成稿。著者从数学的角度,主要是从逻辑和统计数学的角度,探讨计算机的运算和人脑思维的过程,进行了一些比较研究。书中的许多技术推论带有预测性,尚待今后实验研究及进一步探讨才能判断其是否正确。一起来看看 《计算机与人脑》 这本书的介绍吧!

HTML 压缩/解压工具
HTML 压缩/解压工具

在线压缩/解压 HTML 代码

RGB转16进制工具
RGB转16进制工具

RGB HEX 互转工具

Markdown 在线编辑器
Markdown 在线编辑器

Markdown 在线编辑器