PyTorch 1.8 发布:更新编译器和分布式训练、为移动端引入新教程

栏目: 软件资讯 · 发布时间: 3年前

内容简介:PyTorch 1.8 已发布,此版本由 1.7 发布以来的 3000 多个 commit 组成,重要更新内容包括在编译、代码优化和科学计算前端 API 方面的优化和改进,以及通过 pytorch.org 提供的二进制文件来支持 AMD ROCm。1.8 版本...

PyTorch 1.8 已发布,此版本由 1.7 发布以来的 3000 多个 commit 组成,重要更新内容包括在编译、代码优化和科学计算前端 API 方面的优化和改进,以及通过 pytorch.org 提供的二进制文件来支持 AMD ROCm。1.8 版本还为大规模训练管道、模型并行化,以及梯度压缩提供了特性改进。部分值得关注的亮点:

  1. 支持通过torch.fx进行 Python 函数变换
  2. 添加或稳定化 API 以支持 FFTs (torch.fft) 和线性代数函数 (torch.linalg),
  3. 添加了对复杂张量 autograd 的支持,以及提升 hessians 和 jacobians 矩阵计算的性能
  4. 针对分布式培训的重大更新和改进,包括:提升 NCCL 可靠性、支持管道并行化、RPC profiling、以及通过添加梯度压缩以支持通信钩子 (communication hook)

点此查看完整 release note

PyTorch 1.8 发布:更新编译器和分布式训练、为移动端引入新教程

除了 PyTorch 1.8,PyTorch 团队还发布了针对 PyTorch 库的重大更新,包括 TorchCSPRNGTorchVisionTorchText 和 TorchAudio点此查看关于库更新的详细消息。

PyTorch 版本中的功能分为稳定版 (Stable)、测试版 (Beta) 和原型版 (Prototype)。这篇帖子介绍了相关的定义说明

PyTorch 在移动端方面的改进正在通过一系列新的教程进行扩展,以帮助新用户更快地在设备上启动模型,并为现有用户提供一种工具,以使 PyTorch 框架发挥更多作用。其中包括:

新演示应用程序还包括图像分割、目标检测、神经机器翻译、问题解答和视觉转换的示例。它们均支持在 iOS 和 Android 上使用:

除了在 MobileNetV3 和其他型号的 CPU 上进行性能改进之外,PyTorch 还改进了 Android GPU 后端原型,以实现更广泛的型号覆盖和更快的推理:

最后,此版本新特性还包括启动 PyTorch Mobile Lite Interpreter,该解释器可降低运行时二进制文件大小。

详细更新内容查看 发布公告


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

Redis 深度历险:核心原理与应用实践

Redis 深度历险:核心原理与应用实践

钱文品 / 电子工业出版社 / 2019-1 / 79

Redis 是互联网技术架构在存储系统中使用得最为广泛的中间件,也是中高级后端工程师技术面试中面试官最喜欢问的工程技能之一,特别是那些优秀的互联网公司,通常要求面试者不仅仅掌握 Redis 基础用法,还要理解 Redis 内部实现的细节原理。《Redis 深度历险:核心原理与应用实践》作者老钱在使用 Redis 上积累了丰富的实战经验,希望帮助更多后端开发者更快、更深入地掌握 Redis 技能。 ......一起来看看 《Redis 深度历险:核心原理与应用实践》 这本书的介绍吧!

在线进制转换器
在线进制转换器

各进制数互转换器

Base64 编码/解码
Base64 编码/解码

Base64 编码/解码

URL 编码/解码
URL 编码/解码

URL 编码/解码