PyTorch 1.0 首个 RC 版本发布,包含大量重要特性

栏目: Python · 发布时间: 6年前

内容简介:PyTorch 1.0 首个 RC 版本已发布,这是一个预览版本,包含 1.0 即将到来的大量重要特性。这是一套编译器工具,用于弥合 PyTorch 研究与生产之间的差距。 它包含一种名为 Torch Script 的语言(它是 Python 的一个子集,所以编写的仍然是 Python),以及两种可以使现有代码与 JIT.Torch Script 代码兼容的方法。使用 Torch Script 的代码可以实现非常大的优化,并且可以序列化以供在后续的 C++API 中使用。

PyTorch 1.0 首个 RC 版本已发布,这是一个预览版本,包含 1.0 即将到来的大量重要特性。

亮点

JIT

这是一套编译器工具,用于弥合 PyTorch 研究与生产之间的差距。 它包含一种名为 Torch Script 的语言(它是 Python 的一个子集,所以编写的仍然是 Python),以及两种可以使现有代码与 JIT.Torch Script 代码兼容的方法。

使用 Torch Script 的代码可以实现非常大的优化,并且可以序列化以供在后续的 C++API 中使用。

# Write in Python, run anywhere!
@torch.jit.script
def RNN(x, h, W_h, U_h, b_h):
  y = []
  for t in range(x.size(0)):
    h = torch.tanh(x[t] @ W_h + h @ U_h + b_h)
    y += [h]
  return torch.stack(y), h

torch.distributed new "C10D" library

新增全新异步后端库 C10D, 支持  torch.distributed  包和  torch.nn.parallel.DistributedDataParallel  模块。该库的亮点包括:

  • C10D 是由性能驱动,完全异步所有的后端工作: GlooNCCL ,和  MPI

  • 显著的分布式数据并行性能改进,尤其适用于基于以太网的主机等较慢的网络。

  • torch.distributed 包中的所有分布式集合操作添加异步支持。

  • 在 Gloo 后端添加 send 和  recv 支持。

C++ Frontend [API Unstable]

C++前端是连接 PyTorch 后段的纯 C++接口,它遵循已建立的 Python 前端的 API 和体系结构,旨在实现高性能、低延迟的 C ++ 应用。它提供了等价于 Python 前端所采用的 torch.nntorch.optimtorch.data 等组件。

完整更新内容请查阅发行说明:

https://github.com/pytorch/pytorch/releases/tag/v1.0rc0


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

算法概论

算法概论

Sanjoy Dasgupta、Christos Papadimitriou、Umesh Vazirani / 王沛、唐扬斌、刘齐军 / 清华大学出版社 / 2008-7 / 39.99元

《国外经典教材·算法概论》涵盖了绝大多数算法设计中的常用技术。在表达每一种技术时,阐述它的应用背景,强调每个算法运转背后的简洁数学思想,注意运用与其他技术类比的方法来说明它的特征,并提供了大量相应实际问题的例子。《国外经典教材·算法概论》同时也注重了对每一种算法的复杂性分析。全书共10章,从基本的数字算法人手,先后介绍了分治、图的遍历、贪心算法、动态规划、线性规划等技术,对NP完全问题进行厂基本而......一起来看看 《算法概论》 这本书的介绍吧!

在线进制转换器
在线进制转换器

各进制数互转换器

XML、JSON 在线转换
XML、JSON 在线转换

在线XML、JSON转换工具

RGB CMYK 转换工具
RGB CMYK 转换工具

RGB CMYK 互转工具