甲骨文宣布开源 GraphPipe,一种机器学习模型的新标准

栏目: 数据库 · Oracle · 发布时间: 6年前

内容简介:这个高性能标准协议应该能使企业更容易从任何框架部署和查询机器学习模型。机器学习有望改变行业现状。但是,它在企业中的应用速度比大家预期的要慢,因为这些组织很难自己部署和管理机器学习技术。部分挑战是机器学习模型通常使用定制技术进行训练和部署,从而难以跨服务器或不同部门进行模型的部署。

这个高性能标准协议应该能使企业更容易从任何框架部署和查询机器学习模型。

甲骨文宣布开源 GraphPipe,一种机器学习模型的新标准

机器学习有望改变行业现状。但是,它在企业中的应用速度比大家预期的要慢,因为这些组织很难自己部署和管理机器学习技术。部分挑战是机器学习模型通常使用定制技术进行训练和部署,从而难以跨服务器或不同部门进行模型的部署。

为此,甲骨文希望通过开源且高性能的标准网络协议来传输张量数据(tensor data) —— 这样的一种技术手段来解决上述挑战。这项新标准, 甲骨文称之为 GraphPipe ,可使企业更容易从任何框架部署和查询机器学习模型。

官方对 GraphPipe 的解释为,这是一种协议和软件集合,旨在简化机器学习模型部署并将其与特定于框架的模型实现分离。

甲骨文宣布开源 GraphPipe,一种机器学习模型的新标准

GraphPipe 旨在解决三个特殊挑战:

  • 首先,模型服务 API 没有标准,这意味着业务应用程序通常需要定制客户端与已部署的模型进行通信。

  • 接下来,构建模型服务器非常困难,并且几乎没有开箱即用的部署解决方案。

  • 最后,企业现在通常使用的解决方案(如 python-JSON API)无法提供关键业务应用程序所需的性能。

GraphPipe 包括

  • 一组 flatbuffer 定义

  • 根据 flatbuffer 定义一致的模型的指南

  • 来自各种机器学习框架的模型的示例

  • 用于通过 GraphPipe 查询模型的客户端库

GraphPipe 功能特性

  • 基于 flatbuffers 的微型机器学习传输规范

  • 适用于 TensorflowCaffe2 和  ONNX 的 简单高效参考模型服务器(reference model servers)

  • Go,Python 和 Java 的高效客户端实现

使用这些工具,企业应该可跨多个服务器进行模型的部署,或者使用通用协议从不同的框架创建模型集合。GraphPipe 可以帮助为依赖远程运行模型的物联网应用程序部署机器学习。


以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

Java常用算法手册

Java常用算法手册

2012-5 / 59.00元

《Java常用算法手册》分三篇,共13章,分别介绍了算法基础、算法应用和算法面试题。首先介绍了算法概述,然后重点分析了数据结构和基本算法思想;接着,详细讲解了算法在排序、查找、数学计算、数论、历史趣题、游戏、密码学等领域中的应用;最后,列举了算法的一些常见面试题。书中知识点覆盖全面,结构安排紧凑,讲解详细,实例丰富。全书对每一个知识点都给出了相应的算法及应用实例,虽然这些例子都是以Java语言来编......一起来看看 《Java常用算法手册》 这本书的介绍吧!

HTML 编码/解码
HTML 编码/解码

HTML 编码/解码

MD5 加密
MD5 加密

MD5 加密工具