甲骨文宣布开源 GraphPipe,一种机器学习模型的新标准

栏目: 数据库 · Oracle · 发布时间: 6年前

内容简介:这个高性能标准协议应该能使企业更容易从任何框架部署和查询机器学习模型。机器学习有望改变行业现状。但是,它在企业中的应用速度比大家预期的要慢,因为这些组织很难自己部署和管理机器学习技术。部分挑战是机器学习模型通常使用定制技术进行训练和部署,从而难以跨服务器或不同部门进行模型的部署。

这个高性能标准协议应该能使企业更容易从任何框架部署和查询机器学习模型。

甲骨文宣布开源 GraphPipe,一种机器学习模型的新标准

机器学习有望改变行业现状。但是,它在企业中的应用速度比大家预期的要慢,因为这些组织很难自己部署和管理机器学习技术。部分挑战是机器学习模型通常使用定制技术进行训练和部署,从而难以跨服务器或不同部门进行模型的部署。

为此,甲骨文希望通过开源且高性能的标准网络协议来传输张量数据(tensor data) —— 这样的一种技术手段来解决上述挑战。这项新标准, 甲骨文称之为 GraphPipe ,可使企业更容易从任何框架部署和查询机器学习模型。

官方对 GraphPipe 的解释为,这是一种协议和软件集合,旨在简化机器学习模型部署并将其与特定于框架的模型实现分离。

甲骨文宣布开源 GraphPipe,一种机器学习模型的新标准

GraphPipe 旨在解决三个特殊挑战:

  • 首先,模型服务 API 没有标准,这意味着业务应用程序通常需要定制客户端与已部署的模型进行通信。

  • 接下来,构建模型服务器非常困难,并且几乎没有开箱即用的部署解决方案。

  • 最后,企业现在通常使用的解决方案(如 python-JSON API)无法提供关键业务应用程序所需的性能。

GraphPipe 包括

  • 一组 flatbuffer 定义

  • 根据 flatbuffer 定义一致的模型的指南

  • 来自各种机器学习框架的模型的示例

  • 用于通过 GraphPipe 查询模型的客户端库

GraphPipe 功能特性

  • 基于 flatbuffers 的微型机器学习传输规范

  • 适用于 TensorflowCaffe2 和  ONNX 的 简单高效参考模型服务器(reference model servers)

  • Go,Python 和 Java 的高效客户端实现

使用这些工具,企业应该可跨多个服务器进行模型的部署,或者使用通用协议从不同的框架创建模型集合。GraphPipe 可以帮助为依赖远程运行模型的物联网应用程序部署机器学习。


以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

Redis 深度历险:核心原理与应用实践

Redis 深度历险:核心原理与应用实践

钱文品 / 电子工业出版社 / 2019-1 / 79

Redis 是互联网技术架构在存储系统中使用得最为广泛的中间件,也是中高级后端工程师技术面试中面试官最喜欢问的工程技能之一,特别是那些优秀的互联网公司,通常要求面试者不仅仅掌握 Redis 基础用法,还要理解 Redis 内部实现的细节原理。《Redis 深度历险:核心原理与应用实践》作者老钱在使用 Redis 上积累了丰富的实战经验,希望帮助更多后端开发者更快、更深入地掌握 Redis 技能。 ......一起来看看 《Redis 深度历险:核心原理与应用实践》 这本书的介绍吧!

RGB转16进制工具
RGB转16进制工具

RGB HEX 互转工具

MD5 加密
MD5 加密

MD5 加密工具

RGB HSV 转换
RGB HSV 转换

RGB HSV 互转工具