PyTorch 1.0 首个 RC 版本发布,包含大量重要特性

栏目: Python · 发布时间: 7年前

内容简介:PyTorch 1.0 首个 RC 版本已发布,这是一个预览版本,包含 1.0 即将到来的大量重要特性。这是一套编译器工具,用于弥合 PyTorch 研究与生产之间的差距。 它包含一种名为 Torch Script 的语言(它是 Python 的一个子集,所以编写的仍然是 Python),以及两种可以使现有代码与 JIT.Torch Script 代码兼容的方法。使用 Torch Script 的代码可以实现非常大的优化,并且可以序列化以供在后续的 C++API 中使用。

PyTorch 1.0 首个 RC 版本已发布,这是一个预览版本,包含 1.0 即将到来的大量重要特性。

亮点

JIT

这是一套编译器工具,用于弥合 PyTorch 研究与生产之间的差距。 它包含一种名为 Torch Script 的语言(它是 Python 的一个子集,所以编写的仍然是 Python),以及两种可以使现有代码与 JIT.Torch Script 代码兼容的方法。

使用 Torch Script 的代码可以实现非常大的优化,并且可以序列化以供在后续的 C++API 中使用。

# Write in Python, run anywhere!
@torch.jit.script
def RNN(x, h, W_h, U_h, b_h):
  y = []
  for t in range(x.size(0)):
    h = torch.tanh(x[t] @ W_h + h @ U_h + b_h)
    y += [h]
  return torch.stack(y), h

torch.distributed new "C10D" library

新增全新异步后端库 C10D, 支持  torch.distributed  包和  torch.nn.parallel.DistributedDataParallel  模块。该库的亮点包括:

  • C10D 是由性能驱动,完全异步所有的后端工作: GlooNCCL ,和  MPI

  • 显著的分布式数据并行性能改进,尤其适用于基于以太网的主机等较慢的网络。

  • torch.distributed 包中的所有分布式集合操作添加异步支持。

  • 在 Gloo 后端添加 send 和  recv 支持。

C++ Frontend [API Unstable]

C++前端是连接 PyTorch 后段的纯 C++接口,它遵循已建立的 Python 前端的 API 和体系结构,旨在实现高性能、低延迟的 C ++ 应用。它提供了等价于 Python 前端所采用的 torch.nntorch.optimtorch.data 等组件。

完整更新内容请查阅发行说明:

https://github.com/pytorch/pytorch/releases/tag/v1.0rc0


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

Imperfect C++中文版

Imperfect C++中文版

威尔逊 / 荣耀、刘未鹏 / 人民邮电出版社 / 2006-1 / 75.0

汇集实用的C++编程解决方案,C++虽然是一门非凡的语言,但并不完美。Matthew Wilson使用C++十年有余,其间发现C++存在一些固有的限制,需要一些颇具技术性的工作进行弥补。本书不仅指出了C++的缺失,更为你编写健壮、灵活、高效、可维护的代码提供了实用的技术和工具。Wilson向你展示了如何克服C++的复杂性,穿越C++庞大的范式阵列。夺回对代码的控制权,从而获得更理想的结果。一起来看看 《Imperfect C++中文版》 这本书的介绍吧!

HTML 压缩/解压工具
HTML 压缩/解压工具

在线压缩/解压 HTML 代码

JS 压缩/解压工具
JS 压缩/解压工具

在线压缩/解压 JS 代码

Base64 编码/解码
Base64 编码/解码

Base64 编码/解码