re:Invent 2018:Amazon首次展示Inferentia定制机器学习预测芯片

栏目: 数据库 · 发布时间: 6年前

至顶网软件频道消息: 今天 AWS推出了一款专为机器学习设计的新处理器芯片,这也是Amazon在云计算领域雄心勃勃的另一个标志。

re:Invent 2018:Amazon首次展示Inferentia定制机器学习预测芯片

这款名为Inferentia的芯片将通过AWS EC2计算服务、SageMaker AI服务和 (今天公布的新服务) Amazon Elastic Inference提供,旨在加速由机器学习模型执行的推理或预测过程, Amazon Alexa和自动驾驶汽车等服务提供动力。

Inferentia 芯片是由 Amazon几年前成立的芯片设计公司Annapurna Labs设计,据称它与GPU(主要来自于Nvidia公司,一直是机器学习的首选芯片)相比具有低延迟和低成本等优点。

预计Inferentia芯片 将于明年上市。 AWS首席执行官Andy Jassy在今天上午的re:Invent大会 主题演讲中简要介绍了 Inferentia芯片,但他给出的设计或者规格细节很少,只是说Inferentia芯片支持多种数据类型和所有主流 框架,如 PyTorch和TensorFlow和MXNet。此外它还将提供 数百的 TOPS性能,聚合起来可以实现上千的TOPS性能。

Inferentia 芯片是本周以来 AWS宣布推出第二款芯片。周一晚上,AWS 宣布推出名为 Graviton的处理器,该处理器可通过AWS EC2云计算服务提供给云客户。Graviton是基于智能手机、 网络路由器和各种其他设备中使用的 Arm架构,并将逐渐用于计算机服务器中 ,例如 AWS设计用于海量数据中心的计算机服务器。

Moor Insights&Strategy总裁兼首席分析师Patrick Moorhead表示:“AWS宣布将自开自己的支持多种框架的机器学习推理芯片是一个重大的消息。 Google Cloud不同,这项AWS服务将广泛应用并具有弹性。目前AWS针对推理 提供 CPU、GPU、FPGA、以及现在自己的ASIC。”

在过去几年中我们看到,市场中出现了大量新芯片用于特定应用的优化,特别是机器学习和人工智能。例如,Google提供对自定义Tensor处理单元芯片的云访问。芯片设计兴起的一个原因是,所谓的超大规模数据中心企业需要对他们的硬件进行尽可能多的效率优化。

所有这些都让数据中心领导者英特尔处于了守势。英特尔收购了Altera和Movidius等多家公司,为其核心X86产品线增加了新的芯片设计和专业技术。此外英特尔 还调整了 X86芯片(如目前的至强产品线),以更好地应对机器学习和其他任务。

Amazon还发布了Elastic Inference,这是一项 GPU提供支持的深度学习推理加速服务。Jassy表示,这项服务仅根据需要 提供尽可能多的 AWS计算实例,可以节省高达75%的推理成本。

此外,AWS推出了一系列与人工智能相关的服务和产品,包括自主模型汽车Deep Racer,开发者可用来研究强化学习,预订价为249美元。


以上所述就是小编给大家介绍的《re:Invent 2018:Amazon首次展示Inferentia定制机器学习预测芯片》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

领域特定语言

领域特定语言

Martin Fowler / ThoughtWorks中国 / 机械工业出版社华章公司 / 2013-3 / 89.00元

本书是DSL领域的丰碑之作,由世界级软件开发大师和软件开发“教父”Martin Fowler历时多年写作而成,ThoughtWorks中国翻译。全面详尽地讲解了各种DSL及其构造方式,揭示了与编程语言无关的通用原则和模式,阐释了如何通过DSL有效提高开发人员的生产力以及增进与领域专家的有效沟通,能为开发人员选择和使用DSL提供有效的决策依据和指导方法。 全书共57章,分为六个部分:第一部分介......一起来看看 《领域特定语言》 这本书的介绍吧!

CSS 压缩/解压工具
CSS 压缩/解压工具

在线压缩/解压 CSS 代码

随机密码生成器
随机密码生成器

多种字符组合密码

HTML 编码/解码
HTML 编码/解码

HTML 编码/解码