PyTorch 1.0 首个 RC 版本发布,包含大量重要特性

栏目: Python · 发布时间: 7年前

内容简介:PyTorch 1.0 首个 RC 版本已发布,这是一个预览版本,包含 1.0 即将到来的大量重要特性。这是一套编译器工具,用于弥合 PyTorch 研究与生产之间的差距。 它包含一种名为 Torch Script 的语言(它是 Python 的一个子集,所以编写的仍然是 Python),以及两种可以使现有代码与 JIT.Torch Script 代码兼容的方法。使用 Torch Script 的代码可以实现非常大的优化,并且可以序列化以供在后续的 C++API 中使用。

PyTorch 1.0 首个 RC 版本已发布,这是一个预览版本,包含 1.0 即将到来的大量重要特性。

亮点

JIT

这是一套编译器工具,用于弥合 PyTorch 研究与生产之间的差距。 它包含一种名为 Torch Script 的语言(它是 Python 的一个子集,所以编写的仍然是 Python),以及两种可以使现有代码与 JIT.Torch Script 代码兼容的方法。

使用 Torch Script 的代码可以实现非常大的优化,并且可以序列化以供在后续的 C++API 中使用。

# Write in Python, run anywhere!
@torch.jit.script
def RNN(x, h, W_h, U_h, b_h):
  y = []
  for t in range(x.size(0)):
    h = torch.tanh(x[t] @ W_h + h @ U_h + b_h)
    y += [h]
  return torch.stack(y), h

torch.distributed new "C10D" library

新增全新异步后端库 C10D, 支持  torch.distributed  包和  torch.nn.parallel.DistributedDataParallel  模块。该库的亮点包括:

  • C10D 是由性能驱动,完全异步所有的后端工作: GlooNCCL ,和  MPI

  • 显著的分布式数据并行性能改进,尤其适用于基于以太网的主机等较慢的网络。

  • torch.distributed 包中的所有分布式集合操作添加异步支持。

  • 在 Gloo 后端添加 send 和  recv 支持。

C++ Frontend [API Unstable]

C++前端是连接 PyTorch 后段的纯 C++接口,它遵循已建立的 Python 前端的 API 和体系结构,旨在实现高性能、低延迟的 C ++ 应用。它提供了等价于 Python 前端所采用的 torch.nntorch.optimtorch.data 等组件。

完整更新内容请查阅发行说明:

https://github.com/pytorch/pytorch/releases/tag/v1.0rc0


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

架构真经

架构真经

马丁L. 阿伯特(Martin L. Abbott)、迈克尔T.费舍尔(Michael T. Fisher) / 机械工业出版社 / 2017-4 / 79

前言 感谢你对本书第2版感兴趣!作为一本入门、进修和轻量级的参考手册,本书旨在帮助工程师、架构师和管理者研发及维护可扩展的互联网产品。本书给出了一系列规则,每个规则围绕着不同的主题展开讨论。大部分的规则聚焦在技术上,少数规则涉及一些关键的思维或流程问题,每个规则对构建可扩展的产品都是至关重要的。这些规则在深度和焦点上都有所不同。有些规则是高级的,例如定义一个可以应用于几乎任何可扩展性问题的模......一起来看看 《架构真经》 这本书的介绍吧!

随机密码生成器
随机密码生成器

多种字符组合密码

Base64 编码/解码
Base64 编码/解码

Base64 编码/解码

URL 编码/解码
URL 编码/解码

URL 编码/解码