内容简介:亲爱的社区小伙伴们,历时数个月精心打磨,我们很高兴地宣布, Apache Doris 于 2021 年 11 月 29 日迎来了 0.15.0 Release 版本的正式发布!有 99 位 Contributor为 Apache Doris 提交了近 700 项优化和修复,在...

亲爱的社区小伙伴们,历时数个月精心打磨,我们很高兴地宣布, Apache Doris 于 2021 年 11 月 29 日迎来了 0.15.0 Release 版本的正式发布!有 99 位 Contributor为 Apache Doris 提交了近 700 项优化和修复,在此我们也对所有贡献者表示最真诚的感激!
在 0.15.0 Release 版本中,我们增加了诸多新功能,对 Apache Doris 的查询性能、易用性、稳定性方面等进行了全面优化:新增资源划分和隔离功能,用户可以通过资源标签的方式将集群中的 BE 节点划分为资源组,实现对在线、离线业务的统一管理和资源隔离;增加了 Runtime Filter 及 Join Reorder 功能,对多表 Join 场景的查询效率进行了大幅提升,在 Star Schema Benchmark 测试数据集下有 2-10 倍的性能提升;新增导入方式 Binlog Load ,使 Doris 可以增量同步 MySQL 中对数据更新操作的 CDC ;支持 String 列类型,长度最大支持 2GB ;支持 List 分区功能,可以通过枚举值创建分区;支持 Unique Key 模型上的 Update 语句;Spark-Doris-Connector 支持数据写入 Doris …… 还有更多重要特性。
我们欢迎大家在使用过程中,有任何问题通过 GitHub Discussion 或者 Dev 邮件组与我们取得联系,也期待大家参与社区讨论和建设中 。
重要更新
资源划分与隔离
用户可以通过资源标签的方式将一个 Doris 集群中的 BE 节点划分成多个资源组,从而可以进行在线、离线业务的统一管理和节点级别的资源隔离。
同时,还可以通过限制单个查询任务的 CPU、内存开销以及复杂度,来控制单个查询的资源开销,从而降低不同查询之间的资源抢占问题。
性能优化
新增 Runtime Filter 及 Join Reorder 功能。Runtime Filter 功能通过使用 Join 算子中右表的 Join Key 列条件来过滤左表的数据,在大部分 Join 场景下可以显著提升查询效率。如在 Star Schema Benchmark (TPCH 的精简测试集) 下可以获得 2-10 倍的性能提升。
Join Reorder 功能可以通过通过代价模型自动帮助调整 SQL 中 Join 的顺序,以帮助获得最优的 Join 效率。 可通过会话变量 set enable_cost_based_join_reorder=true 开启。
新增功能
- 支持直接对接 Canal Server 同步 MySQL binlog 数据。
- 支持 String 列类型,长度范围 1-2GB 。
- 支持 List 分区功能,可以针对枚举值创建分区。
- 支持事务性 Insert 语句功能。可以通过 begin ; insert ; insert; ,… ; commit ; 的方式批量导入数据。
- 支持在 Unique Key 模型上的 Update 语句功能。可以在 Unique Key 模型表上执行 Update Set where 语句。
- 支持 SQL 阻塞名单功能。可以通过正则、Hash 值匹配等方式阻止部分 SQL 的执行。
- 支持 LDAP 登陆验证。
拓展功能
- 支持 Flink-Doris-Connector 。
- 支持 DataX doriswriter 插件。
- Spark-Doris-Connector 支持数据写入 Doris 。
功能优化
查询
支持在 SQL 查询规划阶段,利用 BE 的函数计算能力计算所有常量表达式。
导入
- 支持导入文本格式文件时,指定多字节行列分隔符或不可见分隔符。
- 支持通过 Stream Load 导入压缩格式文件。
- Stream Load 支持导入多行格式的 Json 数据。
导出
- 支持 Export 导出功能指定 where 过滤条件。支持导出文件使用多字节行列分隔符。支持导出到本地文件。
- Export 导出功能支持仅导出指定的列。
- 支持通过 outfile 语句导出结果集到本地磁盘,并支持导出后写入导出成功的标记文件。
易用性
- 动态分区功能支持创建、保留指定的历史分区、支持自动冷热数据迁移设置。
- 支持在命令行使用可视化的树形结构展示查询、导入的计划和 Profile。
- 支持记录并查看 Stream Load 操作日志。
- 通过 Routine Load 消费 Kafka 数据时,可以指定时间点进行消费。
- 支持通过 show create routine load 功能导出 Routine Load 的创建语句。
- 支持通过 pause/resume all routine load 命令一键启停所有 Routine Load Job。
- 支持通过 alter routine load 语句修改 Routine Load 的 Broker List 和 Topic。
- 支持 create table as select 功能。
- 支持通过 alter table 命令修改列注释和表注释。
- show tablet status 增加表创建时间、数据更新时间。
- 支持通过 show data skew 命令查看表的数据量分布,以排查数据倾斜问题。
- 支持通过 show/clean trash 命令查看 BE 文件回收站的磁盘占用情况并主动清除。
- 支持通过 show view 语句展示一个表被哪些视图所引用。
新增函数
- bitmap_min , bit_length
- yearweek , week , makedate
- percentile 精确百分位函数
- json_array,json_object,json_quote
- 支持为 AES_ENCRYPT 和 AES_DECRYPT 函数创建自定义公钥。
- 支持通过 create alias function 创建函数别名来组合多个函数。
其他
- 支持访问 SSL 连接协议的 ES 外表。
- 支持在动态分区属性中指定热点分区的数量,热点分区将存储在 SSD 磁盘中。
- 支持通过 Broker Load 导入 Json 格式数据。
- 支持直接通过 libhdfs3 库访问 HDFS 进行数据的导入导出,而不需要 Broker 进程。
- select into outfile 功能支持导出 Parquet 文件格式,并支持并行导出。
- ODBC 外表支持 SQLServer。
下载使用
下载地址
http://doris.apache.org/master/zh-CN/downloads/downloads.html
升级说明
您可以从 Apache Doris 0.14.0 或 0.14.x 发行版本直接升级到 0.15.0 Release 版本,升级过程请参考文档:
http://doris.apache.org/master/zh-CN/installing/upgrade.html
更新日志
详细 Release Note 请查看链接:
https://github.com/apache/incubator-doris/issues/6806
意见反馈
如果您遇到任何使用上的问题,欢迎随时通过 GitHub Discussion 论坛或者 Dev 邮件组与我们取得联系。
GitHub 论坛:https://github.com/apache/incubator-doris/discussions
Dev 邮件组:dev@doris.apache.org
致谢
Apache Doris 0.15.0 Release 版本的发布离不开所有社区用户的支持,在此向所有参与版本设计、开发、测试、讨论的社区贡献者们表示感谢,他们分别是:
一贡献者名单一
- @924060929
- @acelyc111
- @Aimiyoo
- @amosbird
- @arthur-zhang
- @azurenake
- @BiteTheDDDDt
- @caiconghui
- @caneGuy
- @caoliang-web
- @ccoffline
- @chaplinthink
- @chovy-3012
- @ChPi
- @copperybean
- @crazyleeyang
- @dh-cloud
- @DinoZhang
- @dixingxing0
- @dohongdayi
- @e0c9
- @EmmyMiao87
- @eyesmoons
- @francisoliverlee
- @Gabriel39
- @gaodayue
- @GoGoWen
- @HappenLee
- @harveyyue
- @Henry2SS
- @hf200012
- @huangmengbin
- @huozhanfeng
- @huzk8
- @hxianshun
- @ikaruga4600
- @JameyWoo
- @Jennifer88huang
- @JinLiOnline
- @jinyuanlu
- @JNSimba
- @killxdcj
- @kuncle
- @liutang123
- @luozenglin
- @luzhijing
- @MarsXDM
- @mh-boy
- @mk8310
- @morningman
- @Myasuka
- @nimuyuhan
- @pan3793
- @PatrickNicholas
- @pengxiangyu
- @pierre94
- @qidaye
- @qzsee
- @shiyi23
- @smallhibiscus
- @songenjie
- @spaces-X
- @stalary
- @stdpain
- @Stephen-Robin
- @Sunt-ing
- @Taaang
- @tarepanda1024
- @tianhui5
- @tinkerrrr
- @TobKed
- @ucasfl
- @Userwhite
- @vinson0526
- @wangbo
- @wangliansong
- @wangshuo128
- @weajun
- @weihongkai2008
- @weizuo93
- @WindyGao
- @wunan1210
- @wuyunfeng
- @xhmz
- @xiaokangguo
- @xiaoxiaopan118
- @xinghuayu007
- @xinyiZzz
- @xuliuzhe
- @xxiao2018
- @xy720
- @yangzhg
- @yx91490
- @zbtzbtzbt
- @zenoyang
- @zh0122
- @zhangboya1
- @zhangstar333
- @zuochunwei
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网
猜你喜欢:- Taro 增加 React Native 支持的 Taro 3.2.0 版本测试通告
- 【威胁通告】暗云III木马程序
- 注意!Exchange SSRF 漏洞安全预警通告
- OpenSSH 命令注入漏洞通告(CVE-2020-15778)
- 通告 | Eth2 更新速览,No.9
- 通告 | Eth2 更新速览,No.12
本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们。
Head First Design Patterns
Elisabeth Freeman、Eric Freeman、Bert Bates、Kathy Sierra、Elisabeth Robson / O'Reilly Media / 2004-11-1 / USD 49.99
You're not alone. At any given moment, somewhere in the world someone struggles with the same software design problems you have. You know you don't want to reinvent the wheel (or worse, a flat tire),......一起来看看 《Head First Design Patterns》 这本书的介绍吧!
